di Guido Talarico
Stiamo diventando come le mucche. In un'intervista a Česká televize, lo storico israeliano Yuval Noah Harari (foto in alto) lancia la sua provocazione partendo da una domanda semplice. Le mucche sanno che gli esseri umani esistono, ci vedono, ci riconoscono. Ma non sanno che esiste il denaro. Noi possiamo vendere una mucca a un allevatore, e lui trasferisce il denaro sul nostro conto in banca. Per la mucca però tutto questo è invisibile, anche se la sua vita in realtà dipende da quella transazione.
Il punto della metafora è questo. Anche se un attivista per i diritti degli animali si sforzasse di spiegare alla mucca quello che lo attende, la mucca, poverina, non potrà mai arrivare a capire che esistono la Borsa, il mercato dei capitali e il mercato obbligazionario. Eppure è proprio il sistema economico umano che controlla le determina a sua esistenza. La mucca non ha gli strumenti concettuali per capire le forze che la governano. Harari, così, sostiene che noi potremmo trovarci nella stessa posizione.
Il pericolo, quindi, non è quello dei film di fantascienza. Non arriveranno robot a sparare per le strade. Il cambiamento è più silenzioso e riguarda i sistemi che tengono insieme la società: la finanza, la burocrazia, il diritto. Harari osserva che l’intelligenza artificiale è nativa della burocrazia. Gli esseri umani, invece, hanno vissuto per milioni di anni nella foresta, mentre le burocrazie sono state inventate negli ultimi diecimila anni. Per noi l’ufficio è un’invenzione recente, e la complessità delle regole resta difficile da afferrare. Per un sistema informatico invece è l’ambiente naturale. Una banca di oggi ricorda ogni transazione, confronta milioni di dati e applica le regole con una precisione che nessun funzionario potrebbe eguagliare.
Non c’è bisogno di immaginare un complotto. Il problema è la velocità e la scala. Un sistema finanziario che si autoregola in tempo reale, un diritto che si traduce in codice, una pratica amministrativa valutata da un algoritmo: ogni passaggio sembra ragionevole preso da solo. Insieme, però, producono un ordine che nessuno riesce più a leggere per intero. Il risultato è una finanza e un diritto sempre più sofisticati. Se oggi non comprendiamo il sistema che regola i nostri risparmi e i nostri mutui, tra dieci o vent’anni potremmo non capire nemmeno quello che governerà il credito, le pensioni, i concorsi, le assicurazioni e in parte il lavoro. Non è un dominio violento. È un dominio di complessità. E chi non capisce una regola non può contestarla.
Sulla stessa linea si colloca Maria Ressa (foto), giornalista filippina, premio Nobel per la pace nel 2021 insieme al giornalista russo Dmitri Muratov «per i loro sforzi volti a salvaguardare la libertà di espressione, che è precondizione per la democrazia e per una pace duratura». Oggi è co-presidente del gruppo di esperti indipendenti istituito dalle Nazioni Unite sull’intelligenza artificiale, che ha pubblicato il rapporto preliminare il 1° luglio 2026. Ressa non parla di robot. Parla di potere. Ai costruttori dell’IA rimprovera di aver sperimentato sul pubblico: «È come se avessero trattato il mondo intero, noi cittadini, come i cani di Pavlov». E aggiunge: «È dal 2024 che dico che quello a cui stiamo assistendo è un colpo di Stato tecnologico alla luce del sole».
La sua analisi attraversa tre fasi. «Prima ci sono stati i social media, che hanno hackerato la nostra attenzione; poi sono arrivati i chatbot che hanno hackerato la nostra intimità. Ora arrivano gli agenti dei modelli di frontiera che stanno hackerando la nostra stessa capacità di agire». È la stessa perdita di controllo di cui parla Harari: prima si cede l’attenzione, poi la relazione, infine la capacità di decidere. Ressa sostiene anche che «non abbiamo approvato in tempo leggi che imponessero la trasparenza e la responsabilità di chi sviluppa queste tecnologie». Il ritardo normativo, cioè, non è un incidente. È la condizione che ha permesso a questi sistemi di crescere.
Il suo appello più diretto è rivolto all’Unione europea. Ressa ricorda che il Digital Services Act e il Digital Markets Act contengono clausole che potrebbero fermare la diffusione virale della disinformazione, ma non vengono applicate. Secondo lei a frenare sarebbe la paura dei dazi. «Non lasciate che le vostre paure ci portino in un mondo nuovo in cui avrete ancora meno potere». Il tema, qui, è il rapporto di forza tra chi scrive le regole e chi le subisce. Ressa lo descrive come una deriva verso la legge del più forte, e ricorda che l’ordine internazionale nato dopo la guerra è stato costruito per evitarla.
Anche chi costruisce questi sistemi riconosce il problema, almeno in parte. Il 16 maggio 2023 Sam Altman, amministratore delegato di OpenAI, è stato ascoltato da una sottocommissione del Senato degli Stati Uniti. Ha dichiarato che l’intervento dei governi sarà fondamentale per mitigare i rischi dei modelli più potenti, e ha aggiunto che la sua paura più grande è che il settore, la tecnologia e l’industria nel loro insieme causino danni significativi al mondo.
La richiesta di regole, però, pone una domanda scomoda. Le regole possono essere scritte da chi non comprende fino in fondo i sistemi che devono regolare? Se la burocrazia è diventata il linguaggio delle macchine, la trasparenza da sola non basta. Servono competenze pubbliche, controlli indipendenti, il diritto a una spiegazione quando una decisione è presa da un algoritmo, e un’istruzione che non si fermi all’uso degli strumenti digitali ma insegni come funzionano.
Il rischio, come per le mucche, è non accorgersene. Il sistema funziona. Le transazioni vanno a buon fine, i mutui vengono concessi o negati, le pratiche si chiudono nei tempi previsti. Nessuno vede il momento in cui la capacità di decidere si è spostata altrove. Insomma, Harari e Ressa ci invitano a guardare proprio quel momento, prima che diventi normale.
E, badate, non si tratta di respingere la tecnologia, né di rimpiangere una burocrazia che nessuno rimpiange. Si tratta di recuperare la domanda più semplice: chi decide, e in base a quale logica? Le mucche, lo sappiamo, non possono porsi questa domanda. Noi sì. Ressa chiude con una frase che vale come invito: «Siamo la maggioranza globale. Possiamo farcela». Il tempo per farlo, però, non è infinito.
(Associated Medias) - Tutti i diritti sono riservati