Anthropic propone una legge USA contro i rischi catastrofici dell'AI

Si continua a lavorare a possibili soluzioni in grado di arginare una crescita fuori controllo delle tecnologie AI, e tra lo scetticismo e l'allarmismo, sta diventando chiaro che non esiste un'opinione condivisa sul da farsi. Ma c'è una domanda che Anthropic si è posta: chi dovrebbe avere il potere di fermare un modello AI prima che provochi conseguenze catastrofiche? È un problema che riguarda soprattutto le tecnologie più avanzate, capaci di eseguire operazioni complesse, interagire con sistemi informatici e prendere decisioni con un intervento umano limitato. Su questo tema è intervenuta la società capeggiata da Dario Amodei, che secondo un'indiscrezione pubblicata da Politico ha elaborato una proposta legislativa destinata al Congresso americano. Grazie a essa vuole introdurre un meccanismo per impedire la distribuzione di modelli AI considerati particolarmente pericolosi, attraverso verifiche indipendenti e un eventuale intervento della magistratura. La proposta individua alcune soglie precise, ad esempio il blocco potrebbe essere richiesto quando esiste un rischio prevedibile e imminente di provocare la morte di oltre 50 persone oppure danni materiali superiori a circa 892 milioni di euro. Le situazioni considerate riguardano principalmente lo sviluppo di armi biologiche, attacchi informatici e sistemi AI capaci di sottrarsi ai controlli dei propri sviluppatori.

CLICCA QUI PER CONTINUARE A LEGGERE