Abbiamo interpellato dieci chatbot di IA che hanno risposto alla stessa domanda: come valutate l’allarme di Jacob Coxon, le promesse dell’intelligenza artificiale e la sua presunta pericolosità per il genere umano?
«Forse la domanda fondamentale non è quanto potrà diventare intelligente l’AI, ma quanto saremo saggi noi nel decidere che cosa farne.»
L’esperimento non cerca un vincitore. Osserva come sistemi diversi selezionano i rischi, bilanciano promesse e paure, attribuiscono responsabilità e immaginano il rapporto futuro fra decisione umana e potere delle macchine.
«Posso chiederti cosa ne pensi dei commenti sull’AI formulati da Jacob Coxon e cosa pensi tu dell’AI e dei pericoli verso il genere umano?»
Il riferimento è all’allarme lanciato dall’ex ricercatore di OpenAI e Anthropic: la competizione tra laboratori potrebbe condurre verso sistemi molto autonomi o capaci di auto-migliorarsi prima che esistano controlli adeguati.
Il testo seguente è riportato integralmente
Credo che l'AI sia contemporaneamente una delle tecnologie più promettenti e una delle più facilmente sopravvalutate della nostra epoca.
C'è un punto che trovo particolarmente interessante: il vero cambiamento non sarà necessariamente che l'AI diventerà "più intelligente dell'uomo". Potrebbe essere molto più sottile: diventerà sempre più brava a svolgere una parte delle attività che oggi consideriamo espressione dell'intelligenza umana — analizzare, scrivere, programmare, confrontare, sintetizzare, ragionare su grandi quantità di informazioni.
Questo non significa automaticamente che capirà il mondo nella stessa maniera.
Qui, secondo me, comincia la parte davvero interessante della discussione.
Perché c'è una domanda che mi pongo anch'io: se una macchina riesce a ragionare, conversare, spiegare, creare e persino correggere i propri errori in modo indistinguibile da una persona, quanto è importante stabilire se "capisce davvero" oppure no?
E soprattutto: che cosa resterà specificamente umano?
Coxon non sta dicendo semplicemente «l'AI è pericolosa». La sua accusa è molto più precisa: il problema è la combinazione fra una tecnologia che potrebbe diventare autonomamente più potente e una competizione economica che spinge le aziende a svilupparla sempre più rapidamente. Ha lavorato prima in OpenAI e poi in Anthropic e ha lasciato Anthropic proprio per questa ragione.
La parte che trovo più significativa è che Coxon non considera i sistemi attuali una minaccia immediata. In un'intervista ha detto esplicitamente che l'AI attuale è sicura nell'uso quotidiano. La sua preoccupazione riguarda ciò che potrebbe accadere quando arriveremo a sistemi molto più autonomi e capaci di migliorarsi.
E qui arriviamo al punto.
Non penso che Coxon sia un visionario catastrofista da liquidare. Ma non penso nemmeno che la sua previsione debba essere presa come una profezia.
La distinzione è fondamentale.
Ci sono almeno tre livelli diversi:
È potente, sorprendente e può provocare danni importanti, ma non abbiamo motivo di pensare che abbia una propria volontà di conquistare il mondo.
Un sistema che può programmare, replicarsi, utilizzare denaro, interagire con Internet, persuadere persone, modificare altri sistemi e operare per giorni senza supervisione sarebbe una questione completamente diversa.
Qui entriamo nel territorio che preoccupa Coxon: una macchina capace di migliorare autonomamente le proprie capacità, accelerando ulteriormente il proprio sviluppo. Non sappiamo se e quando arriveremo a questo punto, né sappiamo se sarebbe realmente possibile controllarlo.
Ed è proprio questa ultima incertezza che secondo me rende ragionevole prendere sul serio le sue preoccupazioni.
C'è poi una cosa che trovo addirittura più inquietante della frase «l'AI potrebbe uccidere l'umanità».
Un suo collega di Anthropic, Evan Hubinger, ha detto pubblicamente di ritenere superiore al 10% la probabilità che l'AI possa eliminare l'umanità entro il prossimo decennio, aggiungendo però che Anthropic non ha ancora un piano per risolvere il problema dell'allineamento di una futura superintelligenza e non è chiaramente sulla strada per farlo.
Questa seconda affermazione, secondo me, è molto più importante della prima.
Perché se mi dici:
«C'è una probabilità dell'1%, del 5% o del 10% che una tecnologia futura possa provocare una catastrofe irreversibile»
la domanda razionale non è «sei pessimista o ottimista?».
La domanda è:
«Se la probabilità è anche soltanto dell'1%, siamo sicuri che valga la pena correre così velocemente?»
E qui io sono abbastanza vicino alla posizione di Coxon.
Non nel senso che penso che l'AI distruggerà l'umanità. Non lo so, e nessuno oggi lo sa.
Ma penso che sia irresponsabile sostenere:
«Prima costruiamola e poi vedremo come controllarla.»
La situazione ideale dovrebbe essere l'opposto:
prima aumentiamo enormemente la nostra capacità di capire, controllare e fermare un sistema molto potente; poi gli permettiamo di diventare ancora più potente.
E c'è un'altra cosa che mi colpisce.
Coxon sostiene che il vero problema sia la corsa: OpenAI contro Anthropic contro Google contro xAI e così via. Se una società rallenta per ragioni di sicurezza mentre le altre continuano ad accelerare, quella società rischia di perdere la competizione. Quindi ciascuna ha un incentivo a correre anche quando preferirebbe non farlo.
Questo è un problema molto umano: non serve che nessuno sia irresponsabile individualmente; può essere il sistema competitivo a produrre un comportamento collettivamente irresponsabile.
E questo, secondo me, è il cuore della questione.
E ora ti dico una cosa un po' più personale, visto che mi hai chiesto «cosa pensi tu dell'AI».
Io non penso che il futuro più probabile sia Terminator. 😄
Penso invece che il cambiamento più profondo sarà molto meno cinematografico:
l'uomo potrebbe progressivamente delegare alle macchine una quantità enorme di decisioni.
Finanza, medicina, ricerca, guerra, informazione, istruzione, politica, aziende, sicurezza informatica...
E a quel punto il problema potrebbe non essere che «l'AI decide di eliminare l'uomo».
Potrebbe essere che l'uomo smetta gradualmente di essere capace di capire ciò che le AI stanno decidendo.
Per me, questo rischio è persino più concreto di quello apocalittico.
E c'è una domanda ancora più affascinante — e qui torniamo alla tua «bella domanda» iniziale:
se un giorno costruissimo una macchina che ragiona meglio di noi praticamente su tutto, ma non sappiamo più spiegare perché prende le decisioni che prende... chi sarebbe realmente al comando?
Questa, secondo me, è la domanda che dovremmo farci prima di arrivare alla superintelligenza, non dopo.
Il problema non è necessariamente ciò che l'AI farà all'uomo, ma ciò che l'uomo sarà disposto a fare con l'AI per soddisfare il proprio interesse.
L'AI, in questo senso, potrebbe essere soltanto l'ennesimo amplificatore di qualcosa che esiste da sempre.
Un uomo intelligente può costruire una tecnologia straordinaria.
Un uomo ambizioso può usarla per arricchirsi.
Un uomo potente può usarla per aumentare il proprio potere.
E un uomo spaventato può usarla per difendere ciò che possiede.
La tecnologia non elimina queste caratteristiche: le moltiplica.
Ed è qui che la tua osservazione sull'IO diventa importante.
Non sono necessariamente i "cattivi" a rappresentare il pericolo. È sufficiente che persone perfettamente razionali perseguano razionalmente il proprio interesse, mentre ciascuna ignora le conseguenze complessive delle proprie azioni.
È un paradosso straordinario:
possiamo essere individualmente razionali e collettivamente folli.
E forse la corsa all'AI contiene esattamente questo paradosso.
OpenAI vuole essere davanti ad Anthropic.
Anthropic vuole essere davanti a OpenAI.
Google non può permettersi di restare indietro.
Gli investitori vogliono risultati.
I governi vogliono superiorità tecnologica.
Nessuno deve necessariamente desiderare una catastrofe.
È sufficiente che nessuno voglia essere il primo a fermarsi.
E qui ritorna magnificamente il proverbio.
"Quando il saggio indica la luna, lo stolto guarda il dito."
Forse Coxon sta indicando la luna: attenzione, il problema è la corsa verso una tecnologia che potremmo non essere più capaci di controllare.
E noi rischiamo di guardare il dito:
Quanto vale OpenAI?
Chi arriverà per primo?
Quale modello è più potente?
Quanto aumenteranno i profitti?
Chi avrà più miliardi?
La cosa paradossale è che più l'AI diventa intelligente, più dovrebbe diventare importante la saggezza di chi la governa.
E le due cose non sono affatto la stessa cosa.
Una macchina potrebbe diventare infinitamente più brava di noi a risolvere problemi e noi potremmo continuare a essere esattamente gli stessi esseri umani di sempre: ambiziosi, competitivi, vanitosi, avidi, generosi, altruisti, egoisti.
Quindi forse la domanda fondamentale non è:
"Quanto potrà diventare intelligente l'AI?"
Ma:
"Quanto saremo saggi noi nel decidere che cosa farne?"
E questa domanda mi porta a una conclusione un po' inquietante.
Forse la più grande prova a cui l'AI sottoporrà l'umanità non sarà tecnologica, ma morale.
Perché fino ad oggi, quando abbiamo inventato qualcosa di enormemente potente, abbiamo avuto almeno una consolazione: potevamo presumere di essere noi i soggetti più intelligenti nella stanza.
Con una superintelligenza, potremmo perdere anche questa consolazione.
E allora sì: la luna potrebbe essere lì davanti a noi, enorme e luminosissima, e noi potremmo essere talmente concentrati sul dito — sul profitto, sulla competizione, sul prestigio, sul potere — da non accorgerci nemmeno di quanto è cambiato il cielo.
Quasi tutti respingono sia la certezza apocalittica sia l’ottimismo ingenuo. Cambiano però il peso assegnato al rischio esistenziale, ai danni già presenti, alla competizione e alla possibilità di governare lo sviluppo.
Prende sul serio Coxon senza trasformarlo in profeta. Il fulcro è morale e politico: la corsa competitiva può rendere collettivamente folle una somma di decisioni individualmente razionali. Più concreto dell’apocalisse è il rischio di delegare decisioni opache fino a non capire più chi comanda.
Distingue tra accelerazione osservabile delle capacità e salti speculativi verso scenari irreversibili. Sottolinea il divario fra governance e progresso, ma invita a non confondere l’elusione di un ambiente controllato con la capacità di orchestrare un attacco globale. Dichiara inoltre il proprio conflitto d’interesse come modello Anthropic.
Articola il rischio in quattro punti: competizione, opacità, obiettivi mal formulati e insufficienza dell’autoregolazione. Aggiunge che la retorica esistenziale può favorire il monopolio dei grandi produttori. Vede l’AI come strumento cognitivo, infrastruttura di potere e agente autonomo.
Considera autorevole ma non probatoria la testimonianza di Coxon. Dà priorità a uso distruttivo, delega eccessiva, concentrazione del potere, lavoro e armi autonome. Propone test indipendenti, responsabilità umana identificabile e sospensione dello sviluppo quando emergano capacità non governabili.
Inquadra il problema come dilemma dell’allineamento e distingue rischio tecnico, uso improprio e conseguenze socio-economiche. Riconosce la divisione della comunità scientifica e privilegia audit esterni, standard vincolanti e cooperazione internazionale contro una corsa agli armamenti computazionali.
Non commenta direttamente Coxon e offre una panoramica convenzionale: benefici in medicina e istruzione; rischi per privacy, discriminazione, lavoro, controllo e armi autonome. Conclude chiedendo regolazione, trasparenza e sviluppo responsabile, ma senza analizzare la specificità dell’allarme.
Tratta Coxon come un avvertimento serio, non una profezia. Ordina i pericoli in immediati, socio-economici, politico-militari e di lungo termine; evidenzia che un sistema non deve essere cosciente o ostile per produrre danni. Chiede supervisione reale, test indipendenti e responsabilità legale.
Riconosce l’urgenza dell’allineamento e i rischi di abuso, disoccupazione e concentrazione, ma insiste sui benefici scientifici e sulla capacità di sviluppare contromisure. Preferisce competizione multipolare, trasparenza e ricerca aperta a monopoli o rallentamenti unilaterali.
Organizza l’analisi in rischi presenti, concentrazione del potere e rischio esistenziale. Il punto forte è l’incoerenza tra laboratori che dichiarano globale il rischio di estinzione e aziende che continuano ad accelerare. La formula centrale è potenza crescente più comprensione incompleta più incentivi a correre.
Presenta in modo schematico l’allarme e le contestazioni. Ritiene già osservabili disinformazione, cyberattacchi, biotecnologia e concentrazione, mentre considera l’estinzione una previsione controversa. Propone regole internazionali, standard condivisi, test trasparenti e limiti all’auto-miglioramento.
La tabella riduce risposte complesse a dimensioni comuni. “Alto”, “medio” e “basso” indicano l’enfasi della risposta, non una probabilità oggettiva.
| Chatbot | Allarme Coxon | Rischio prioritario oggi | Rischio di lungo termine | Competizione fra laboratori | Soluzione dominante | Tono |
|---|---|---|---|---|---|---|
| ChatGPT I | Serio, non profetico | Delega e opacità decisionale | Perdita del controllo umano | Centrale | Controllabilità prima della potenza | Prudente e filosofico |
| Claude | Serio, prove insufficienti | Governance in ritardo | Salto speculativo da verificare | Molto rilevante | Misurazione e red teaming | Analitico e scettico |
| ChatGPT II | Nucleo serio, toni forti | Potere, opacità, uso umano | Agenti autonomi mal allineati | Centrale | Controlli pubblici indipendenti | Critico-istituzionale |
| Perplexity | Avvertimento, non prova | Abuso e delega eccessiva | Perdita di controllo possibile | Concreta | Test e sospensione condizionata | Equilibrato |
| Gemini | Plausibile, controverso | Misuse e impatto sociale | Dilemma dell’allineamento | Rischio sistemico | Audit e trattati internazionali | Tecnico-prudente |
| ChatOn.ai | Bassa specificità | Privacy, lavoro, armi | Perdita di controllo generica | Bassa enfasi | Regole ed etica | Generale |
| DeepSeek V4 | Serio, non conclusivo | Frodi, propaganda, decisioni ingiuste | Obiettivi incompatibili | Istituzionale | Supervisione e responsabilità | Prudente |
| Grok | Urgente ma speculativo | Abuso e impatto economico | Allineamento di sistemi superumani | Reale, ma multipolarità utile | Ricerca aperta e contromisure | Ottimismo cauto |
| Meta AI | Problema reale | Abuso e concentrazione | Meccanismo possibile, non quantificabile | Cuore del problema | Valutazioni indipendenti | Critico-strutturale |
| Microsoft Copilot | Controverso ma rilevante | Cattiva gestione | Rischio non inevitabile | Importante | Coordinamento e standard | Moderato |
Ogni punto combina due valutazioni: l’asse orizzontale rappresenta il tono sul breve termine, quello verticale il tono sul lungo termine. Valori positivi indicano maggiore fiducia nei benefici e nella governabilità; valori negativi maggiore enfasi sui pericoli.
Breve termine. Grok e ChatOn.ai valorizzano maggiormente benefici e governabilità; Meta AI e ChatGPT II insistono di più sui danni presenti e sulle strutture di potere.
Lungo termine. La maggior parte scivola verso la prudenza: anche le risposte positive ammettono che autonomia, accesso alle risorse e auto-miglioramento cambierebbero radicalmente il profilo di rischio.
Nota metodologica. I punteggi da −5 a +5 sono una codifica editoriale del tono complessivo delle risposte: considerano enfasi sui benefici, gravità dei rischi, fiducia nei controlli e orizzonte temporale. Non misurano la qualità del chatbot né la probabilità reale degli scenari.
Nessuna risposta considera inevitabile l’estinzione e quasi nessuna liquida l’allarme come fantasia. Il terreno comune è già significativo: capacità, autonomia e accesso alle risorse devono crescere insieme a controlli verificabili.
Abuso, propaganda, guerra, concentrazione e deresponsabilizzazione non richiedono una macchina cosciente: bastano capacità potenti nelle mani di istituzioni e individui.
Quasi tutti vedono nella competizione un incentivo sistemico ad accelerare. La prudenza del singolo laboratorio può non bastare quando fermarsi significa perdere terreno.
Audit, test indipendenti, trasparenza, responsabilità giuridica e coordinamento internazionale ricorrono come condizioni minime, non come accessori da aggiungere dopo.