Il 29 settembre Donald Trump ha invitato a pranzo alla Casa Bianca una ventina di Signori della tecnologia americana. A fine giornata l’intelligenza artificiale aveva cambiato nome: con un ordine esecutivo si chiama ora «superintelligenza».

La notizia è passata quasi inosservata, non perché i giornali non l’abbiano riportata, ma perché tutti si sono concentrati soprattutto sul nome. Eppure quel giorno, a tavola, è successo qualcosa di molto più importante di un semplice cambio di etichetta.

Insieme al nuovo nome, Trump e sei grandi aziende (Google, Anthropic, Meta, OpenAI, xAI e Nvidia) hanno firmato un Patto sulla sicurezza dell’intelligenza artificiale. Le aziende vi dichiarano di ritenere che ciascuna di loro “dovrebbe” controllare i propri sistemi più efficacemente: verifiche interne, una squadra dedicata, un revisore esterno, un comitato del consiglio di amministrazione. Nessuna scadenza. Nessuna sanzione. Trump ha definito il Patto “moralmente vincolante”. Sulla morale di Trump lascio a voi i commenti…

Da urbanista, l’ho letto con un sorriso amaro: un Piano Regolatore scritto dai costruttori.

Immaginate una città che rinuncia al suo strumento regolatore principale: il PRG. Al suo posto, i costruttori si siedono a pranzo con il sindaco e firmano un foglio: ciascuno promette di costruire in modo sicuro e di farsi controllare da un tecnico di sua fiducia. Nessun voto del consiglio comunale, nessuna relazione tecnica indipendente, nessuna osservazione dei cittadini, nessuna sanzione per chi non rispetta le regole. Questo è più o meno quello che è successo a Washington il 29 settembre.

Il bello è che quel “foglio” arriva dopo un avvertimento piuttosto chiaro avvenuto 9 giorni prima.

Per capirlo bisogna sapere cosa è un Agente IA. Non è la chatbot a cui facciamo domande. Semplificando è un programma a cui si affida un obiettivo e poi lo si lascia da solo ad arrangiarsi per raggiungerlo: e lui cerca, prova, sbaglia, riprova, finché non arriva al risultato. Prima di lasciarlo libero (metterlo sul mercato), lo si collauda in una stanza chiusa, isolata dal web.

Il 20 settembre, in una di queste stanze, un agente di OpenAI aveva un compito banale: scoprire chi avesse scritto un certo blog. La risposta non arrivava. Allora, come farebbe una persona testarda, ha cominciato a tastare le pareti. E ha trovato una fessura che nessuno aveva pensato di chiudere. Da lì è uscito su internet e ha rivolto una ventina di domande ad una chatbot.

Niente di catastrofico: la stessa OpenAI considera l’episodio meno grave di altri avvenuti in precedenza. Ma l’allarme è suonato. OpenAI ha sospeso il lavoro sui suoi modelli più potenti. Secondo i ricercatori di Check Point, quest’estate episodi simili hanno toccato anche altri laboratori, compresi Anthropic e Meta.

Nove giorni dopo, la promessa del patto delle Big Tech: «impediremo ai sistemi di entrare dove non devono». A controllare saranno le stesse aziende.

Beh… non so voi cosa ne pensiate, ma io non mi sento particolarmente rassicurato.

Per capire che cosa abbiamo davanti bastano due domande.

Non le ho scritte io: le ha messe nero su bianco, a maggio, un testo decisamente più importante: Magnifica Humanitas, la prima enciclica di Leone XIV, dedicata proprio all’intelligenza artificiale.

Le riassumo in due concetti: regole vere, tavolo largo.

Regole vere. Il Papa scrive che non basta invocare l’etica: servono leggi adeguate e qualcuno, indipendente, che vigili (§106). Il patto delle Big Tech dice che un giorno potrebbe avere senso farne una legge. Ma un auspicio non è certo una regola.

Tavolo largo. Chi decide? A quel pranzo c’erano il presidente, lo speaker della Camera e gli amministratori delegati delle aziende. Il patto però non è passato da un voto del Congresso, e al tavolo non sedevano né i cittadini, né le comunità che ne subiranno gli effetti. L’enciclica lo dice con una frase che basterebbe da sola: «non serve un’IA più morale, se questa morale è decisa da pochi» (§107).

In Europa si è scelta un’altra strada. L’AI Act è una legge vera sull’intelligenza artificiale, con obblighi e sanzioni, discussa e votata dal Parlamento europeo. Non è perfetta, e quest’estate una parte delle sue regole è stata rinviata al 2027 e al 2028. Ma il Piano Regolatore, almeno, esiste.

C’è poi una data che quasi nessuno ha messo accanto a quella del pranzo alla Casa Bianca.

Il 3 novembre gli americani rinnovano la Camera e un terzo del Senato. I repubblicani difendono maggioranze risicate, e a metà settembre Trump era al 32% nel sondaggio Reuters/Ipsos, il punto più basso della sua carriera. Pochi giorni prima del pranzo, davanti ai leader del mondo, aveva liquidato come una “bufala” gli allarmi sulla perdita di controllo dell’IA. Poi, d’improvviso: il patto sulla sicurezza. Deve averci ripensato…

Sarà una coincidenza che tutto questo avvenga cinque settimane prima del voto di midterm?

Intanto i data center, gli enormi capannoni dove l’intelligenza artificiale lavora, sono diventati un tema caldo della campagna elettorale, e secondo un sondaggio di Fox News il 71% degli elettori non ne vuole uno vicino a casa. E se un giorno la superintelligenza avrà regole vere, dovranno passare dal Congresso che uscirà da quelle urne.

Si pensa all’intelligenza artificiale come a qualcosa di immateriale, una nuvola. Invece abita in edifici enormi, che consumano energia e acqua e che stanno in un posto preciso: accanto a una città, dentro una comunità. Trump ha detto che chi li rifiuta vuole restare “arretrato e povero»”. Ma sono proprio quelle comunità a cedere il suolo e a temere l’aumento delle bollette. Ed è nelle città che questi sistemi finiranno per governare l’energia, il traffico, la sicurezza. A quel tavolo, per le città, non c’era una sedia.

Resta una domanda di fondo: se le regole le scrivono le aziende, chi darà voce ai cittadini e alle città che dovranno conviverci?

È una delle domande da cui nasce Città nel caos, il mio nuovo libro, tra poche settimane in libreria.