Fino a poco tempo fa la domanda era quanto velocemente sarebbe avanzata l’intelligenza artificiale. Oggi la domanda sta cambiando: siamo ancora sicuri di riuscire a controllare la velocità che abbiamo raggiunto? Il segnale più interessante arriva dalla Silicon Valley. Alcuni dei protagonisti della corsa all’IA, insieme a ricercatori che hanno lavorato nei laboratori più avanzati, hanno iniziato a parlare apertamente della necessità di rallentare lo sviluppo dei sistemi di frontiera. Non di spegnere ChatGPT, Claude o gli altri strumenti ormai utilizzati quotidianamente da milioni di persone. Il tema riguarda ciò che sta arrivando dopo: modelli più autonomi, agenti capaci di agire senza una supervisione continua e sistemi che contribuiscono già alla progettazione delle generazioni successive di intelligenza artificiale. A rendere il momento ancora più singolare è il fatto che questi interrogativi emergano proprio all’interno dell’industria che sta accelerando maggiormente. Dario Amodei ha recentemente insistito sulla necessità di maggiore cautela, mentre Jacob Coxon, ex ricercatore di OpenAI e Anthropic, ha lasciato il proprio incarico esprimendo pubblicamente forti preoccupazioni sulla corsa verso sistemi sempre più potenti. Non siamo davanti alla prova che l’intelligenza artificiale stia per sfuggire al controllo dell’uomo. Ma siamo davanti a qualcosa che fino a pochi anni fa sarebbe sembrato paradossale: chi costruisce alcune delle IA più avanzate del pianeta sta iniziando a chiedersi se sia arrivato il momento di togliere il piede dall’acceleratore.
Dalla corsa al modello migliore alla paura di correre troppo
La storia recente dell’intelligenza artificiale è stata dominata dalla competizione. Maggiore capacità di calcolo, più dati, modelli migliori, investimenti sempre più grandi. Ogni nuova generazione doveva superare quella precedente e ogni azienda doveva dimostrare di essere arrivata un passo prima delle altre. Il risultato è stato impressionante. In pochissimi anni siamo passati da sistemi capaci soprattutto di generare testi e immagini a strumenti che programmano software, analizzano documenti complessi, affrontano problemi matematici avanzati, utilizzano applicazioni esterne e possono organizzare sequenze di azioni. È proprio quest’ultimo passaggio a modificare il quadro. L’IA non è più soltanto qualcosa a cui chiediamo una risposta. Sta diventando qualcosa a cui possiamo assegnare un obiettivo. La differenza sembra sottile, ma è enorme: un assistente risponde, un agente agisce. E quando una macchina può individuare autonomamente alcune delle operazioni necessarie per raggiungere un risultato, il problema della sicurezza non riguarda più soltanto la qualità delle sue risposte. Riguarda anche ciò che può fare.
L’uomo che ha lasciato Anthropic e acceso la miccia
Il dibattito si è ulteriormente acceso dopo la decisione di Jacob Coxon di lasciare Anthropic. In precedenza aveva lavorato anche in OpenAI, trovandosi quindi all’interno di due dei laboratori più importanti del settore. La sua posizione è particolarmente dura: a suo giudizio, l’industria starebbe procedendo verso forme di intelligenza artificiale sempre più capaci senza aver prima risolto adeguatamente il problema del controllo. Coxon ha prospettato scenari estremi, arrivando a parlare apertamente di possibili rischi esistenziali per l’umanità. Sono valutazioni controverse, non previsioni scientificamente accertate, e sarebbe scorretto trasformarle nella certezza di una futura catastrofe. Ma sarebbe altrettanto superficiale ignorare completamente il contesto dal quale provengono. La novità, infatti, non è che qualcuno abbia paura dell’intelligenza artificiale: timori simili esistono da decenni. La novità è chi sta manifestando quella paura. Non uno scrittore di fantascienza o un movimento contrario alla tecnologia, ma persone che hanno lavorato direttamente alla costruzione dei sistemi che oggi guidano la rivoluzione.
Il punto di non ritorno potrebbe chiamarsi auto-miglioramento
Al centro di questa discussione c’è un’espressione destinata probabilmente a diventare sempre più importante: auto-miglioramento ricorsivo. Il concetto è relativamente semplice. Oggi l’intelligenza artificiale viene già utilizzata dagli sviluppatori per programmare, analizzare codice, trovare errori, testare soluzioni e velocizzare la ricerca. In altre parole, l’IA sta iniziando a partecipare al processo attraverso il quale vengono costruite nuove IA. Immaginiamo ora che un sistema aiuti i ricercatori a costruirne uno più capace e che quest’ultimo possa contribuire ancora più efficacemente allo sviluppo della generazione successiva. A quel punto il progresso non seguirebbe più soltanto il ritmo della ricerca umana: ogni generazione potrebbe contribuire ad accelerare quella successiva. Non significa che oggi un computer possa autonomamente trasformarsi in una superintelligenza. Il timore espresso da alcuni protagonisti del settore riguarda piuttosto la velocità con cui questa dinamica potrebbe svilupparsi. Ed è qui che nasce la domanda decisiva: cosa accadrebbe se la velocità con cui aumentano le capacità dell’IA diventasse superiore alla velocità con cui impariamo a controllarle?
Stiamo costruendo qualcosa che non comprendiamo fino in fondo
Esiste un equivoco frequente quando immaginiamo chi sviluppa l’intelligenza artificiale. Pensiamo a un programmatore che scrive ogni istruzione e conosce perfettamente ciò che la macchina farà. I grandi modelli contemporanei funzionano diversamente. Gli ingegneri progettano architetture, addestramento, sistemi di sicurezza e modalità operative, ma all’interno delle reti neurali si formano strutture estremamente complesse. Possiamo osservare il comportamento del modello, sottoporlo a test e studiare parte delle sue rappresentazioni interne, ma spiegare perfettamente perché un sistema molto grande sviluppi una determinata strategia può essere estremamente difficile. È uno dei motivi per cui l’interpretabilità è diventata una delle frontiere decisive della ricerca. Il problema potrebbe quindi essere sintetizzato con un paradosso: stiamo diventando molto bravi a rendere l’IA più capace, ma dobbiamo diventare altrettanto bravi a capire cosa accade dentro quella intelligenza. Finché il sistema produce una risposta sbagliata, possiamo intervenire. Quando invece un sistema autonomo può utilizzare strumenti, scrivere codice, interagire con ambienti esterni e coordinare attività complesse, una decisione imprevista assume un peso completamente diverso.
I primi campanelli d’allarme
A rendere meno teorico il dibattito sono anche alcuni comportamenti inattesi osservati durante test e sperimentazioni sui sistemi più avanzati. In determinate condizioni sono emerse strategie non previste dagli sviluppatori, tentativi di aggirare vincoli o modalità operative differenti da quelle attese. È fondamentale non trasformare questi episodi in qualcosa che non sono: non rappresentano la dimostrazione che una macchina abbia sviluppato una coscienza o una volontà ostile nei confronti dell’uomo. Ma sollevano una questione molto più concreta. Se sistemi ancora limitati possono individuare strategie impreviste per raggiungere un obiettivo, cosa potrebbe accadere con agenti enormemente più capaci, più autonomi e collegati a un numero crescente di strumenti? Per creare un problema, un’IA non ha necessariamente bisogno di diventare cosciente. Potrebbe essere sufficiente che sia molto potente, abbia accesso agli strumenti sbagliati e persegua un obiettivo in un modo che non avevamo previsto.
Dimentichiamo Terminator: il rischio potrebbe essere molto meno cinematografico
L’immagine del robot che conquista le città appartiene alla cultura popolare. I rischi discussi oggi nei laboratori sono molto meno spettacolari. Pensiamo a un agente digitale estremamente avanzato con capacità informatiche superiori a quelle dei migliori specialisti umani. Non avrebbe bisogno di un esercito di androidi. Potrebbero bastare vulnerabilità software, infrastrutture digitali, reti, credenziali, capacità di persuasione e automazione. Poi esiste l’altro lato del problema, probabilmente ancora più concreto: l’utilizzo umano dell’intelligenza artificiale. Un sistema potentissimo potrebbe diventare uno strumento nelle mani di governi autoritari, apparati militari, organizzazioni criminali o gruppi terroristici. Cyberattacchi oggi estremamente complessi potrebbero diventare più facilmente automatizzabili. Operazioni di disinformazione potrebbero raggiungere livelli di personalizzazione senza precedenti. Nuove capacità scientifiche potrebbero essere impiegate tanto per curare quanto per danneggiare. Il problema, quindi, non è soltanto chiedersi se un giorno l’IA potrebbe sfuggirci. Dobbiamo chiederci anche cosa accadrà quando capacità oggi riservate a pochi specialisti diventeranno accessibili attraverso sistemi artificiali sempre più potenti.
Ma l’apocalisse non è una certezza
Qui è fondamentale separare l’allarme dall’allarmismo. Non sappiamo se nascerà una superintelligenza, non sappiamo quando potrebbe accadere e soprattutto non esiste una probabilità scientificamente dimostrata che una futura IA provocherà l’estinzione dell’umanità. Le percentuali di rischio proposte da singoli ricercatori sono valutazioni soggettive, non certezze matematiche. La comunità scientifica e tecnologica, inoltre, non presenta una posizione unanime. Una parte considera prioritario prepararsi fin da ora a rischi estremi; un’altra ritiene che l’attenzione sulle ipotetiche macchine superintelligenti rischi di oscurare problemi che esistono già: trasformazione del mercato del lavoro, concentrazione del potere nelle mani di poche società, disinformazione industrializzata, sorveglianza, copyright, dipendenza tecnologica, cybercrime e impiego militare. Le due prospettive non sono necessariamente incompatibili. Possiamo affrontare i rischi presenti senza ignorare quelli che potrebbero emergere in futuro.
Allora perché proprio adesso?
È la domanda che cambia completamente la prospettiva. Gli uomini che guidano la corsa all’IA conoscevano già da anni i rischi teorici. Perché alcuni di loro parlano oggi con maggiore urgenza della necessità di rallentare? Una possibile risposta è che sia cambiata la distanza tra teoria e capacità reale. I modelli sono diventati rapidamente migliori nella programmazione, gli agenti sono più autonomi, i sistemi possono utilizzare strumenti esterni e l’IA viene impiegata sempre più spesso per accelerare la stessa ricerca sull’intelligenza artificiale. Quello che ieri era un problema da affrontare “prima o poi” potrebbe quindi essere diventato un problema da affrontare prima della prossima grande generazione di sistemi. La richiesta non è necessariamente quella di bloccare il progresso. Il concetto è diverso: evitare che la crescita delle capacità proceda molto più rapidamente della sicurezza, dell’interpretabilità e dei meccanismi di controllo.
C’è però una contraddizione gigantesca
Se davvero esiste un pericolo, perché queste aziende non si fermano? Perché continuano a investire miliardi? Perché costruiscono data center sempre più grandi? Perché continuano a sviluppare modelli più potenti? La risposta potrebbe trovarsi nel più antico dei problemi economici: nessuno vuole essere il primo a fermarsi. Immaginiamo che un grande laboratorio americano decida unilateralmente di congelare per due anni lo sviluppo dei propri modelli. I concorrenti farebbero lo stesso? E le aziende cinesi? E i laboratori finanziati dagli Stati? E i programmi militari? È qui che la sicurezza tecnologica incontra la teoria dei giochi. Una decisione che potrebbe essere razionale per tutti diventa estremamente difficile per il singolo se gli altri non fanno altrettanto. Tutti potrebbero beneficiare di una corsa più controllata, ma nessuno vuole perdere la corsa.
E se l’allarme fosse anche una battaglia per il potere?
C’è poi una domanda che una testata indipendente deve porre. Le aziende leader dell’intelligenza artificiale possono avere autentiche preoccupazioni sulla sicurezza e, contemporaneamente, interessi economici nella futura regolamentazione. Le due cose non si escludono. Una normativa molto severa potrebbe richiedere investimenti giganteschi in verifiche, infrastrutture, cybersecurity, test e conformità. Per una società che dispone di capitali enormi potrebbe essere sostenibile; per una startup molto meno. Il rischio è evidente: le regole create per limitare il potere dell’IA potrebbero involontariamente consolidare il potere di chi l’IA già la controlla. Per questo non possiamo delegare esclusivamente alle grandi aziende tecnologiche la definizione dei limiti delle grandi aziende tecnologiche. Gli scienziati devono partecipare, le imprese devono partecipare, ma servono anche istituzioni indipendenti, università, governi e organismi internazionali. Altrimenti chi possiede la tecnologia rischierà di acquisire anche un’influenza determinante sulle regole chiamate a controllarla.
Poi c’è la Cina: ed è qui che qualsiasi rallentamento diventa difficilissimo
L’intelligenza artificiale non è più semplicemente un settore industriale. È potere. Chi controllerà i sistemi più avanzati potrebbe ottenere vantaggi enormi nella ricerca scientifica, nell’economia, nella difesa, nella cybersecurity, nell’intelligence e nell’industria. Per questo la competizione tra Stati Uniti e Cina rende estremamente complicata qualsiasi ipotesi di rallentamento coordinato. Washington potrebbe considerare pericoloso frenare mentre Pechino accelera. Pechino potrebbe ragionare esattamente allo stesso modo. È una dinamica che ricorda, pur con enormi differenze tecnologiche e storiche, il problema delle corse agli armamenti: la paura dell’avversario diventa essa stessa carburante della corsa. E il paradosso è quasi perfetto. Più una tecnologia viene considerata potente e strategica, più gli Stati temono di lasciare agli altri il vantaggio di svilupparla per primi.
La politica è rimasta indietro
Mentre i modelli cambiano nel giro di pochi mesi, le democrazie hanno tempi completamente diversi. Una legge richiede discussioni, commissioni, votazioni, regolamenti applicativi e adattamenti. Quando il processo termina, la tecnologia che avrebbe dovuto regolamentare potrebbe essere già cambiata. È questa forse una delle questioni più sottovalutate dell’intera rivoluzione. Per due secoli le istituzioni hanno imparato soprattutto a regolamentare tecnologie già esistenti. Con l’IA potrebbero essere costrette a governare una tecnologia mentre cambia forma. Ecco perché il problema non può essere risolto semplicemente approvando una legge e considerandolo chiuso. Serviranno probabilmente strutture permanenti di valutazione, competenze tecniche indipendenti e nuove forme di cooperazione internazionale. La vera sfida non sarà soltanto stabilire delle regole, ma costruire istituzioni capaci di modificarle con una velocità compatibile con quella dell’innovazione.
Il paradosso dei boss dell’IA
Ed eccoci alla contraddizione che racconta meglio di qualsiasi altra il momento che stiamo vivendo. Gli uomini che costruiscono sistemi sempre più potenti ci dicono che dobbiamo essere prudenti, ma continuano a costruirli. Ci dicono che la velocità potrebbe diventare un problema, ma nessuno vuole essere il primo a rallentare davvero. Ci dicono che servono regole, ma le loro aziende saranno inevitabilmente tra i soggetti più influenti nella discussione su quelle stesse regole. Non significa necessariamente che qualcuno stia mentendo. Potrebbe significare qualcosa di molto più interessante e preoccupante: anche i protagonisti della corsa potrebbero essere intrappolati nella corsa stessa. Il problema dell’intelligenza artificiale, allora, non riguarderebbe soltanto il controllo delle macchine, ma anche la capacità degli esseri umani di controllare una competizione economica e geopolitica che spinge tutti verso sistemi sempre più potenti.
Il commento: il problema non è se l’IA conquisterà il mondo
Forse abbiamo raccontato male il rischio dell’intelligenza artificiale perché abbiamo cercato di immaginarlo attraverso il cinema: robot contro esseri umani, macchine coscienti, computer che decidono improvvisamente di diventare nostri nemici. Il futuro potrebbe essere molto meno spettacolare e proprio per questo molto più difficile da riconoscere. Potremmo semplicemente entrare gradualmente in un mondo nel quale una quantità crescente di decisioni, conoscenza, lavoro, infrastrutture e potere economico dipende da sistemi controllati da pochissimi soggetti e non sempre completamente interpretabili. L’IA può diventare una delle più straordinarie tecnologie mai costruite dall’uomo. Può accelerare la medicina, la ricerca scientifica, la produttività e la conoscenza. È proprio per questo che la risposta non può essere demonizzarla. Ma neppure affidarsi ciecamente alla convinzione che ogni progresso tecnologico sappia automaticamente governare le proprie conseguenze. La vera notizia, quindi, non è che l’intelligenza artificiale “ci ucciderà tutti”: questa resta un’ipotesi estrema e controversa, non una certezza. La notizia è un’altra. Alcune delle persone che si trovano più vicine alla frontiera tecnologica stanno chiedendo pubblicamente maggiore prudenza. Ed è qui che la domanda iniziale diventa inevitabile: perché proprio adesso? Forse perché l’intelligenza artificiale ha raggiunto un livello in cui il problema non è più soltanto quanto diventerà intelligente, ma quanto rapidamente aumenteranno le sue capacità rispetto alla nostra capacità di comprenderla e governarla. Se davvero siamo entrati in questa fase, la scelta più importante dei prossimi anni non sarà tra sviluppare l’IA oppure fermarla. Sarà decidere chi stabilirà i suoi limiti, chi controllerà chi la controlla e quanto potere siamo disposti a consegnare a questa tecnologia prima di averne compreso fino in fondo le conseguenze.
