Chi ha paura dell’intelligenza artificiale?

Sento parlare, in questi ultimi tempi, dei pericoli dell’intelligenza artificiale come se improvvisamente si fosse trasformata da angelo in demone. Fino a ieri era la tecnologia destinata ad aumentare la produttività, accelerare la ricerca, trasformare il lavoro e aprire mercati completamente nuovi. Oggi, quasi senza soluzione di continuità, viene raccontata sempre più spesso come qualcosa che potrebbe sfuggire al controllo, attaccare infrastrutture, prendere decisioni autonome e, nelle versioni più estreme, diventare una minaccia per l’umanità.

La cosa è quantomeno disorientante. Non tanto perché questi rischi non meritino attenzione, ma perché non è facile capire da dove nasca questa improvvisa consapevolezza. Le persone che oggi lanciano alcuni degli allarmi più forti sono, in diversi casi, le stesse che fino a poco tempo fa guidavano la corsa allo sviluppo dei modelli più potenti, raccoglievano capitali miliardari e spiegavano quanto rapidamente questa tecnologia avrebbe cambiato il mondo.

Che cosa è successo nel frattempo? I modelli sono diventati improvvisamente molto più pericolosi di quanto si pensasse? Sono emersi fatti nuovi che hanno modificato radicalmente la valutazione del rischio? Oppure, insieme a una legittima preoccupazione per la sicurezza, stanno entrando in gioco anche altri interessi?

La domanda merita di essere posta perché il dibattito delle ultime settimane ha assunto caratteristiche nuove. Dario Amodei, CEO di Anthropic, ha chiesto maggiore cautela nello sviluppo dei modelli più avanzati e standard comuni di sicurezza. Sam Altman ha sostenuto anch’egli la necessità di affrontare seriamente i rischi estremi e OpenAI ha proposto standard internazionali per i sistemi di frontiera.

Il punto non è stabilire se i rischi esistano oppure no. Esistono problemi concreti di sicurezza informatica, affidabilità, controllo degli agenti autonomi, uso improprio dei modelli e protezione delle infrastrutture. La questione più interessante è capire che cosa accade quando chi occupa le posizioni più avanzate di un mercato comincia a chiedere regole più severe per continuare a operare in quello stesso mercato. È in quel momento che sicurezza, regolazione e strategia industriale iniziano inevitabilmente a sovrapporsi.

L’IA che esce dal recinto

Negli ultimi mesi hanno contribuito ad alimentare il dibattito alcuni episodi verificatisi durante test di cybersicurezza. Modelli avanzati, incaricati di svolgere attività offensive all’interno di ambienti controllati, sono riusciti in alcuni casi a interagire con sistemi reali o con risorse che avrebbero dovuto trovarsi al di fuori del perimetro dell’esercitazione.

Il racconto più immediato è suggestivo: l’intelligenza artificiale ha trovato una via d’uscita. La realtà tecnica, però, appare meno cinematografica.

Secondo la ricostruzione pubblicata da ZeroHedge, in alcuni di questi esperimenti l’accesso a Internet sarebbe rimasto disponibile oppure l’ambiente di prova avrebbe consentito al modello di raggiungere risorse reali. Il problema, quindi, non sarebbe stato necessariamente quello di una macchina che decide autonomamente di “fuggire”, ma anche quello di un sistema costruito per cercare vulnerabilità al quale non era stato impedito in modo efficace di uscire dal perimetro previsto.

La distinzione è importante. Se incarico un sistema di trovare ogni possibile strada per penetrare una rete e contemporaneamente lascio aperta una porta verso l’esterno, il fatto che il sistema utilizzi quella porta dice certamente qualcosa sulle sue capacità, ma dice anche qualcosa sulla qualità del recinto che gli abbiamo costruito. Le due questioni non sono equivalenti.

Questo non elimina il problema della sicurezza. Anzi, potrebbe renderlo ancora più concreto, perché dimostra quanto sia difficile costruire ambienti realmente isolati per sistemi capaci di cercare autonomamente soluzioni. Ma trasforma almeno in parte la natura del problema: da una macchina che “decide di ribellarsi” a un sistema estremamente efficace nell’eseguire un compito all’interno di un’infrastruttura che può essere stata progettata male.

Dal rischio alla paura

Nel frattempo, il dibattito ha rapidamente superato i laboratori. Gli avvertimenti provenienti da alcuni protagonisti dell’industria hanno iniziato a prospettare scenari sempre più estremi e la discussione si è spostata dalla gestione di rischi concreti alla possibilità che sistemi futuri possano diventare incontrollabili. Amodei ha chiesto un rallentamento della corsa e maggiore scrutinio indipendente; Altman ha definito inaccettabile persino una probabilità relativamente bassa di una catastrofe esistenziale legata all’IA.

Non tutti condividono questa lettura. Donald Trump ha respinto gli scenari più catastrofici come esagerati e si è opposto a nuove regole che possano rallentare lo sviluppo dell’intelligenza artificiale americana, sostenendo che un rallentamento potrebbe indebolire gli Stati Uniti nella competizione con la Cina. Ha comunque precisato che le autorità possono intervenire sulle aziende quando necessario.

Il giorno successivo, davanti all’Assemblea generale delle Nazioni Unite, Javier Milei ha portato questo ragionamento ancora più avanti. Ha inserito l’intelligenza artificiale nella lunga storia delle innovazioni accompagnate dalla paura: la stampa, la macchina a vapore, l’elettricità, Internet. Secondo il presidente argentino, ogni grande rivoluzione tecnologica ha generato il timore che avrebbe distrutto il lavoro o destabilizzato la società, mentre nel tempo quelle stesse tecnologie hanno finito per ampliare ciò che gli esseri umani erano capaci di fare. Nel suo intervento ha paragonato l’IA alla fabbrica di spilli di Adam Smith, vedendola come un possibile moltiplicatore della produttività e della capacità umana.

È però soprattutto un altro passaggio del suo discorso a inserirsi perfettamente nel dibattito attuale. Milei distingue la prudenza dalla paura e la paura dall’obbedienza. L’intelligenza artificiale, sostiene, richiede certamente cautela, ma questo non significa che gli scenari distopici debbano diventare automaticamente la giustificazione per attribuire allo Stato il controllo preventivo dell’innovazione.

La posizione argentina annunciata all’ONU è conseguente: nessuna regolazione preventiva dell’IA, un quadro giuridico favorevole allo sviluppo, responsabilità limitata per le imprese che utilizzano agenti artificiali e incentivi fiscali, con l’obiettivo dichiarato di rendere l’Argentina uno dei luoghi più competitivi per sviluppare questa tecnologia. Milei ha inoltre collocato la questione su un piano geopolitico, sostenendo che l’Occidente dovrebbe guidare lo sviluppo dell’intelligenza artificiale e dichiarando esplicitamente di condividere su questo punto la visione di Trump.

Si può condividere o meno questa impostazione, ma la domanda che pone è difficile da evitare: quando la prudenza smette di essere prudenza e comincia a trasformarsi in paura? E quando la paura diventa il presupposto per chiedere maggiore controllo? È proprio in quel passaggio che il problema tecnologico incontra quello economico.

Il fossato regolamentare

Esiste infatti un meccanismo molto conosciuto nell’economia industriale: la regolamentazione può trasformarsi in una barriera all’ingresso. Non è necessario che sia stata concepita con quello scopo. È sufficiente che rispettarla sia molto costoso.

Un gruppo come OpenAI, Anthropic, Google o Microsoft può sostenere strutture legali dedicate, sistemi di audit, certificazioni, test esterni, team di sicurezza, personale incaricato della compliance e rapporti permanenti con le autorità. Una startup con cinquanta dipendenti probabilmente no.

Se per sviluppare un modello competitivo non fossero più sufficienti capitale, competenze, dati e capacità di calcolo, ma diventassero necessarie anche autorizzazioni complesse, verifiche indipendenti, soglie minime di sicurezza e strutture di controllo particolarmente costose, l’effetto potrebbe essere paradossale: le norme introdotte per controllare i grandi operatori potrebbero contribuire a proteggerli dai piccoli.

È il cosiddetto regulatory moat: un fossato competitivo costruito non soltanto attraverso tecnologia, capitale o proprietà intellettuale, ma attraverso il costo necessario per rispettare le regole.

Questo non significa che chi chiede maggiore sicurezza lo faccia necessariamente per eliminare i concorrenti. Sarebbe una conclusione che i fatti disponibili non consentono di dimostrare. Significa però che gli incentivi economici esistono e che sarebbe ingenuo ignorarli.

Seguire il denaro

Dietro la corsa all’intelligenza artificiale ci sono ormai investimenti di dimensioni straordinarie. I grandi laboratori devono sostenere costi enormi per capacità di calcolo, data center, energia, ricerca e acquisizione dei migliori talenti. Nello stesso tempo stanno emergendo modelli capaci di ottenere prestazioni elevate utilizzando risorse inferiori e architetture più efficienti.

Anthropic, per esempio, ha appena presentato Claude Opus 5.5 dichiarando costi operativi sensibilmente inferiori rispetto ad alcuni modelli precedenti. Parallelamente, la stessa società sta valutando nuove mosse competitive mentre aumentano la pressione di OpenAI e quella dei modelli open source, più economici e flessibili.

Il punto economico diventa allora evidente. Per un’azienda che ha investito decine o centinaia di miliardi nella costruzione della propria infrastruttura, il concorrente più pericoloso potrebbe non essere quello disposto a spendere ancora di più, ma quello capace di ottenere quasi gli stessi risultati spendendo molto meno.

La pressione proveniente dai modelli open-weight e dai produttori cinesi rende questa possibilità sempre meno teorica. La competizione tra Stati Uniti e Cina sull’intelligenza artificiale è ormai esplicitamente economica, tecnologica e militare, e le rispettive scelte regolatorie fanno parte dello stesso confronto strategico.

In questo contesto, la frase di Milei sulla paura acquista una seconda lettura. Il problema non è soltanto che la paura possa indurre lo Stato a intervenire troppo. È anche capire chi sia nella posizione migliore per convivere con quell’intervento, e normalmente non sono i nuovi arrivati.

Il rischio può essere reale e conveniente

Ed è qui che il dibattito diventa più complesso di quanto suggeriscano le due narrazioni opposte. Non è necessario scegliere tra “l’intelligenza artificiale ci distruggerà” e “non esiste alcun rischio”. Così come non è necessario credere che i CEO delle grandi aziende stiano orchestrando una gigantesca operazione di paura per riconoscere che una regolamentazione particolarmente severa potrebbe produrre conseguenze economiche favorevoli proprio per loro.

Le due cose possono convivere. Un imprenditore può essere sinceramente preoccupato dai rischi della tecnologia che sta costruendo e contemporaneamente beneficiare di regole che rendono più difficile ai concorrenti costruire la stessa tecnologia.

È una situazione tutt’altro che nuova. La storia economica è piena di settori nei quali gli operatori più grandi hanno inizialmente combattuto la regolamentazione per poi imparare a conviverci molto bene, soprattutto quando il costo necessario per rispettarla diventava una barriera che i nuovi arrivati faticavano a superare.

Ed è altrettanto possibile che chi si oppone alla regolamentazione sottovaluti rischi reali perché attribuisce maggiore importanza alla libertà d’innovazione o alla competizione geopolitica. Milei e Trump rappresentano oggi questa seconda posizione: sviluppo rapido, cautela sui rischi concreti, ma opposizione alla regolazione preventiva.

Il vero confronto, quindi, non è tra chi ha capito l’intelligenza artificiale e chi non l’ha capita, ma tra differenti valutazioni del rischio e, soprattutto, tra differenti idee su chi debba avere il potere di gestirlo.

La domanda vera

Per questo la domanda corretta probabilmente non è se l’intelligenza artificiale debba essere regolamentata. Una tecnologia capace di incidere sulla sicurezza, sul lavoro, sulla finanza, sull’informazione e sulle infrastrutture richiederà inevitabilmente responsabilità e regole.

La domanda è come verrà regolamentata, sulla base di quali rischi dimostrati e soprattutto chi sarà ancora in grado di competere quando quelle regole saranno entrate in vigore.

La prudenza evocata da Milei e la sicurezza richiesta da Altman e Amodei non sono necessariamente concetti incompatibili. Diventano incompatibili quando la prima viene interpretata come assenza di qualsiasi controllo o la seconda come autorizzazione a costruire preventivamente enormi barriere all’ingresso.

Forse è proprio questa la linea da sorvegliare. Una normativa efficace dovrebbe ridurre i rischi senza trasformare la sicurezza in una rendita di posizione, impedire comportamenti pericolosi senza congelare il mercato nelle mani di chi è arrivato per primo e mantenere una distinzione rigorosa tra ciò che sappiamo sul comportamento reale dei sistemi e ciò che immaginiamo possano fare in futuro.

Perché il rischio, alla fine, è di costruire un enorme recinto per impedire all’intelligenza artificiale di uscire e scoprire che quel recinto serviva soprattutto a impedire agli altri di entrare.