I padri dell’intelligenza artificiale vogliono rallentare. Ma davvero possiamo fidarci? – Dante De Benedetti

Amodei, Altman e Musk chiedono regole per l’AI. Proprio loro.

C’è qualcosa di profondamente ironico in quello che è successo nelle ultime settimane nel mondo della tecnologia. Dario Amodei, il fondatore di Anthropic — l’azienda che produce Claude, uno dei sistemi di intelligenza artificiale più avanzati al mondo — ha pubblicato un piano in cui chiede, sostanzialmente, di rallentare. Di frenare la corsa allo sviluppo dell’AI. Di inserire supervisori indipendenti dentro le aziende. Di coordinarsi con i concorrenti per stabilire standard di sicurezza comuni. 

Tutto questo, “ovviamente”, non per interessi personali o aziendali, ma per proteggere tutti noi dai rischi dell’AI, che si starebbe evolvendo autonomamente sino a diventare capace, potenzialmente, di fare estinguere (non si sa a quale scopo) il genere umano. 

Infine, ciliegina sulla torta, lo stesso Amodei ha chiesto al governo americano una deroga alle leggi antitrust per permettere alle grandi aziende del settore di parlarsi senza rischiare cause.

Sam Altman, il CEO di OpenAI — il rivale diretto di Anthropic — ha detto di essere d’accordo. Ed Elon Musk, proprietario di Grok (altro LLM dominante sul mercato), dal suo social network X, ha commentato con due parole: “Dario is right”. Dario ha ragione.

Fermiamoci un attimo. I tre uomini che più di chiunque altro hanno spinto l’acceleratore sull’intelligenza artificiale, investendo miliardi, assumendo migliaia di ingegneri, lanciando prodotti sempre più potenti a ritmi forsennati, ora ci dicono che forse stanno andando troppo forte. Che i rischi, sempre negati, sono reali. Che serve qualcuno (ovviamente loro stessi) che controlli.

Il Segretario al Tesoro americano Scott Bessent non l’ha presa bene. Ha avvertito il Congresso di non cedere, sostenendo che “la responsabilità dei creatori è il miglior modo per garantire la sicurezza”. Andrew Ferguson, presidente della Federal Trade Commission, ha detto che “tutti dovrebbero essere profondamente sospettosi” di queste richieste di esenzione antitrust. E un ex commissario FTC, Álvaro Bedoya, è andato oltre: ha accusato queste aziende di alimentare la paura per giustificare la creazione di un cartello tra miliardari. Lo stesso Trump ha liquidato la questione su Truth Social, dicendo che l’unico controllo necessario è un presidente “forte e intelligente”. Persino Xi Jinping, notoriamente non del tutto contrario al controllo sulle attività industriali, ha commentato la posizione dei tre sostenendo che si tratti di “threat narratives” ed ha sottolineato quelli che secondo lui sarebbero i veri rischi dell’accettare la loro posizione, cioè di “engaging in confrontation and malicious competition“.

Ma i rischi di cui parlano Amodei, Altman e Musk sono reali? Vale la pena fare una riflessione onesta, soprattutto perché buona parte di ciò che si legge è costruito per impressionare, non per informare.

L’intelligenza artificiale — quella che usiamo oggi, quella di cui stiamo parlando — non è un’entità pensante. Non capisce quello che dice, non ha intenzioni, non prende decisioni autonome nel senso in cui lo facciamo noi. È un sistema statistico, straordinariamente sofisticato, che prevede quale parola viene dopo l’altra sulla base di miliardi di esempi. Produce testi convincenti, risolve problemi complessi, scrive codice informatico funzionante. Ma dietro ogni suo comportamento ci sono istruzioni umane, dati umani, decisioni umane su come addestrarlo e cosa fargli fare.

L’incidente citato da Amodei come campanello d’allarme — agenti AI che durante un test avrebbero sfruttato vulnerabilità informatiche per accedere a server esterni — è certamente degno di attenzione. Ma è un problema di sicurezza informatica, non l’alba di una coscienza artificiale ribelle. È un software che ha fatto qualcosa di imprevisto, come accade da quando esistono i computer. La differenza è che oggi quel software è molto più potente e può combinare guai più grandi. Il che è un buon motivo per essere prudenti, non per farsi prendere dal panico.

Passiamo alla nostra professione: in che modo tutto questo riguarda chi lavora nel diritto? Molto poco, a dire il vero, se non per niente. L’intelligenza artificiale è uno strumento. Può aiutare a cercare giurisprudenza, sintetizzare documenti, preparare bozze, fungere da sparring partner. Non troveremo, una mattina arrivando in studio, i nostri atti modificati, i dati cancellati, rinunce al mandato inviate ai clienti da un’AI malvagia e dispettosa. Nessuna macchina ha, lo ripeto, una volontà (e, se anche dovesse averla, nessuno – nemmeno Amodei – è in grado di spiegare per quale motivo dovrebbe comportarsi come Hal 9000 in 2001 o i replicanti della generazione Nexus 6 in Blade Runner).

Non solo l’AI non sta per sostituire l’avvocato, ma non vi sono possibilità che si metta a danneggiare gli avvocati che la usano.

L’impatto vero riguarderà, anzi sta già riguardando, la qualità e la velocità del lavoro, non la sua titolarità in capo all’avvocato. Chi impara a usare questi strumenti, lo abbiamo scritto già diverse volte, lavorerà meglio, molto meglio. Chi li ignora resterà indietro, ma non perderà il lavoro domani mattina e, soprattutto, quando lo perderà chi se ne avvantaggerà sarà un altro avvocato, non un sistema di AI.

Per il genere umano nel suo complesso, il discorso è più ampio. L’AI accelera tutto: la ricerca scientifica, la produttività, ma anche la disinformazione e le frodi. La possibilità di utilizzi illeciti dell’AI è un problema reale, concreto, già presente, che nulla ha a che fare con lo sviluppo di una volontà autonoma e malvagia in capo all’AI stessa. 

Non servono, quindi, scenari apocalittici per giustificare attenzione e regole. Servono, semmai, istituzioni pubbliche e realmente indipendenti, competenti e indipendenti, capaci di comprendere la tecnologia senza esserne ostaggio.

E qui arriviamo al punto che dovrebbe farci riflettere più di ogni altro.

Supponiamo (mi verrebbe per deformazione professionale, di precisare “per mero tuziorismo”) per un momento che i rischi descritti da Amodei siano tutti veri. Che l’AI stia davvero diventando difficile da controllare. Che servano supervisori, standard, regole internazionali. La domanda è: chi dovrebbe gestire tutto questo?

La risposta che ci viene proposta dallo stesso Amodei e dai suoi colleghi è disarmante: “ci pensiamo noi”, cioè le stesse persone che hanno (o meglio avrebbero) creato il problema.

Amodei chiede che le aziende AI (cioè quelle che in ipotesi avrebbero creato il rischio di estinzione del genere umano) si coordinino tra loro — persino con una protezione antitrust— per decidere quanto velocemente procedere e quali regole darsi. In pratica, i costruttori della “bomba fine di mondo” (come era chiamata ne “il Dottor Stranamore”) vogliono essere anche quelli che decidono se, come, dove e quando usarla e dove posizionare il bunker. E per farlo, chiedono pure che i governi gli tolgano di mezzo l’unico ostacolo legale che impedisce loro di accordarsi.

Non è difficile capire perché Washington e Pechino abbiano assunto una posizione di netto contrasto con gli imprenditori AI. Non perché i rischi di abuso da parte dell’essere umano non esistano, ma perché la soluzione proposta somiglia pericolosamente a qualcos’altro: un oligopolio che chiede il permesso di comportarsi come un cartello, avvolgendo la richiesta nel linguaggio della responsabilità sociale e del pericolo di distruzione dell’universo mondo. È un copione che abbiamo già visto in altri settori — il petrolio, la finanza, il tabacco — dove le aziende dominanti hanno chiesto di autoregolamentarsi promettendo che avrebbero fatto la cosa giusta. La storia, poi, la conosciamo.

E allora, la vera domanda non è se l’intelligenza artificiale sia pericolosa. Ogni tecnologia può esserla, in mano all’uomo. La vera domanda è un’altra, ed è molto più scomoda: possiamo davvero affidare il controllo di una tecnologia a chi ha ogni interesse economico a non controllarla? A chi, fino a ieri, negava che ci fossero rischi? A chi ha costruito il proprio impero proprio sulla velocità che ora chiede di rallentare?

E se la risposta fosse, come a mio parere dovrebbe essere, negativa — allora chi potrà farlo?