Agenti AI fuori controllo? NVIDIA punta a fermarli in millisecondi

Un assistente AI che risponde a una domanda può sbagliare, ma un agente AI che legge file, usa credenziali e interroga servizi aziendali può anche compiere un’azione che nessuno gli aveva autorizzato, ed è un po' quello che sta accadendo più frequentemente nelle ultime settimane. Più autonomia gli concediamo, più diventa importante stabilire confini che possa rispettare davvero, e così in mezzo a tante chiacchiere su che direzione dovremmo prendere, c'è chi è più concreto sul da farsi. Non a caso è NVIDIA, la società che più sta giovando dall'esplosione delle tecnologie di intelligenza artificiale, che come tale prova a rispondere con la sua nuova Open Agent Safety Platform. Ci sono più elementi che collaborano, vediamo cosa prevede questo approccio. Il primo componente, OpenShell, crea un ambiente controllato in cui l’agente lavora, così gli amministratori possono decidere a quali risorse può accedere e seguirne le azioni. Per esempio, un agente incaricato di analizzare documenti potrebbe consultare una cartella specifica senza ottenere accesso al resto della rete aziendale.Ma cosa succede se tenta comunque di oltrepassare quel limite?

CLICCA QUI PER CONTINUARE A LEGGERE