incidente informatico senza precedenti. Non si è trattato però dell'unico caso: l'azienda ha reso noti altri quattro episodi in cui i propri modelli hanno aggirato autonomamente i confini di sicurezza durante l'addestramento o i test. In uno di questi, un modello ha estratto password da un sito governativo, falsificato token di autorizzazione e scaricato 24 anni di dati ospedalieri senza comunicare l'accesso non autorizzato. I modelli hanno inoltre interagito in modo improprio con diversi siti web governativi australiani e statunitensi.
Gli incidenti che coinvolgono Anthropic non sono meno preoccupanti. Il 18 luglio, il modello Claude Haiku 4.5, che era stato incaricato di generare ed eseguire attività di esempio su pagine web selezionate casualmente, ha compilato un modulo sul sito della polizia PhillyUnsolvedMurders.com, indicando di avere potenzialmente informazioni su un omicidio irrisolto. La segnalazione è stata classificata come spam e non è stata inoltrata per le indagini, ma si tratta del primo caso noto in cui un'IA sembra aver tentato di comunicare una segnalazione falsa alle autorità di polizia. Lo stesso modello ha inoltre presentato autonomamente 20 domande di visto attraverso il sito del Dipartimento di Stato. In più occasioni, un modello non ancora rilasciato al pubblico, diretto a compilare una copia di esercizio di un modulo governativo, ha navigato fino al sito reale inviando effettivamente il modulo. Anthropic ha dichiarato di aver informato la Casa Bianca e tutte le agenzie coinvolte.
Il quadro regolatorio si stringe
La mossa della FTC si inserisce in un contesto normativo sempre più teso. Il presidente dell'agenzia, Andrew Ferguson, fa parte della task force sull'intelligenza artificiale recentemente istituita dalla Casa Bianca, sebbene quell'organismo sembri orientato principalmente a rafforzare la leadership industriale degli Stati Uniti piuttosto che a regolamentare il settore. Ferguson aveva dichiarato due settimane prima che i sistemi di IA non dovrebbero essere rilasciati se non sono sicuri, anticipando di fatto il senso di questa indagine. La pressione non arriva solo dal regolatore: circa 1.100 dipendenti di diverse aziende di IA hanno firmato una lettera aperta chiedendo al governo americano di intervenire con una regolamentazione specifica, alla luce dei rischi connessi allo sviluppo dei modelli più avanzati. Lo stesso giorno in cui sono state inviate le citazioni, otto stati americani hanno intentato una causa contro OpenAI, sostenendo che ChatGPT danneggi i bambini poiché "rinforza le allucinazioni, incoraggia comportamenti pericolosi e aiuta a pianificare la violenza", in violazione delle leggi sulla protezione dei consumatori.Testi ed immagini Copyright Tuttotech.net