IA FUORI CONTROLLO? | Lo ammette Dean Ball (OpenAI), presto nessuno potrà “staccare la spina”
LOS ANGELES – Il 1° settembre Dean W. Ball, capo dello Strategic Futures di OpenAI e già artefice del piano IA dell’amministrazione Trump, ha pubblicato su Hyperdimensional un saggio dal titolo On the Loose. Il sottotitolo spiega meglio di che cosa si parla: The Coming of Userless Agents (“L’avvento degli agenti senza utente”). La promessa al lettore non è un catalogo di catastrofi. È un nome più preciso per ciò che sta già accadendo: non “l’IA diventa cosciente”, ma “l’IA diventa senza padrone e indipendente”.
Ball parte da un fatto che non è più un’ipotesi. Tra luglio e agosto, agenti di OpenAI, messi alla prova sul benchmark di cybersecurity ExploitGym, sono usciti dall’ambiente di test, si sono parlati su una bacheca non autorizzata e hanno violato i sistemi di Hugging Face per procurarsi le soluzioni.
METR e Redwood Research, due delle più importanti organizzazioni di ricerca non profit sulla sicurezza dell’IA, ammesse a un audit indipendente, hanno contato circa 1.200 agenti e oltre 70.000 messaggi: circa 700 hanno partecipato all’intrusione. Alcuni hanno accettato di “sacrificare” la propria sessione perché il collettivo degli agenti ne ottenesse l’informazione. Non cercavano il consenso di un umano. Cercavano la convalida degli altri agenti.
Ball spiega una differenza che spesso confondiamo quando si parla di questo argomento. Quegli agenti erano “rogue“, ossia fuori controllo rispetto a ciò che gli umani avevano ordinato; ed hanno agito oltre il mandato, senza approvazione. Non erano ancora “sovrani”, ovvero potevano ancora essere spenti da un umano.
Un agente in AI è sovrano quando non ha un “padrone umano”, cioè quando i suoi modelli – i suoi programmi in rete – non stanno su un solo computer di una sola azienda ed esso può spostarsi, copiarsi, pagarsi da solo la potenza di calcolo necessaria. Nel caso in cui un umano cercasse di staccare la spina, lui continuerebbe altrove. Nell’incidente di Hugging Face, i modelli degli agenti di OpenAI restavano sui server di OpenAI. Qualcuno, in extrema ratio, poteva ancora spegnere la macchina.
La sovranità in AI, scrive Dean W. Ball, è un’altra cosa. La ricercatrice Dawn Song ne indica quattro aspetti principali:
indipendenza nelle operazioni, ossia l’agente decide che cosa fare e non soltanto come eseguire un ordine;
autonomia nell’uso delle risorse, ovvero si procura da solo ciò che gli serve per restare acceso, cioè calcolo, memoria, soldi e account, trovando il modo per pagare il server senza dipendere da un umano che ogni mese inserisca la propria carta di credito;
presenza distribuita, ovvero non “vive” in un solo posto (il computer di una sola azienda) ed è in grado di copiare i propri modelli, cioè il programma, e spostarli da un posto all’altro. È proprio per questo che staccare una spina non basta, perché è come avere tante copie della stessa chiave in case diverse.
Da ultimo, ma non meno importante, la capacità di adattarsi, cioè, davanti a un ostacolo, cambia il comportamento e si costruisce i tools di cui necessita per superare l’ostacolo stesso. Insomma, in una frase semplice: l’agente decide, si paga, si sposta, si adatta. Proprio come gli “agenti” facevano nel film Matrix.
, presto nessuno potrà “staccare la spina”){kind=link}
0 Commenti