La telecamera ce lo mostra nel suo studio di Berlino, circondato da quadri come quelli che vedete in queste pagine – sappiamo che li crea con l’intelligenza artificiale (AI), di cui nel suo settore è uno dei massimi esperti al mondo, ma non è ancora il momento di parlarne. Iyad Rahwan è giovane, ma ha già molto da dire. È nato ad Aleppo, in Siria, e si è formato in Australia. Ha insegnato al Media Lab del Massachusetts Institute of Technology (MIT) di Boston, negli Usa, e ora dirige il Max Planck Institute for Human Development di Berlino. Il suo punto di vista è che non si può considerare l’AI come un semplice insieme di dati e algoritmi: per comprenderne l’evoluzione e gli effetti sulla società, bisogna osservare come questa tecnologia si comporta nel mondo reale, cioè come influenza i comportamenti delle persone e le norme sociali, e come a sua volta ne rimane influenzata. È un esempio di coevoluzione tra noi e le macchine, che ha appena cominciato a prendere piede ma che è destinato a rivoluzionare la nostra società.

Tu hai proposto di considerare l’AI come un organismo vivente. In che cosa consiste esattamente questa idea?

L’idea si basa sul fatto che, prima di tutto, comprendere il comportamento dell’AI non è solo un problema di informatica; perché l’AI ha un impatto sull’economia, ha un impatto sul processo decisionale etico, ha un impatto sul lavoro, ha un impatto sull’istruzione. E gli informatici semplicemente non hanno le competenze per studiare queste cose. Ci vogliono economisti, psicologi, sociologi, esperti di scienze politiche. Perché abbiamo un nuovo agente che sta prendendo decisioni, sta agendo nel mondo e fa parte dell’ambiente. Gli informatici possono capire il suo comportamento, ma fino a un certo punto. Non hanno le metriche, per esempio, per dire se un’AI è psicopatica.

Quindi il punto è che abbiamo una nuova specie nel mondo. Anzi, ci sono diverse varietà di queste specie, che si stanno adattando e stanno cambiando costantemente. Abbiamo già il modo di studiare diverse specie: la loro psicologia, la loro ecologia, il loro comportamento individuale, il loro comportamento collettivo. Quando abbiamo lanciato l’idea con un articolo sul comportamento delle macchine, nel 2019, era un’idea un po’ estranea. Ora, dopo l’arrivo di ChatGPT, è diventato molto chiaro che questa è un’enorme opportunità e una responsabilità per gli scienziati.

Sembra un’idea brillante. Ma quali sono i metodi utili nella pratica, e quali sono le conclusioni a cui sei arrivato?

Penso che questo approccio stia davvero diventando mainstream. Molti psicologi stanno studiando come si comportano le AI, come persuadono, come cambiano idea, il loro comportamento decisionale. Possiamo studiare il comportamento delle singole AI nello stesso modo con cui si studia il comportamento umano o una specie animale. È come fare un esperimento con un topo in un labirinto: in una condizione, il topo si perde; in un’altra condizione, il topo impara. E così via. Abbiamo situazioni in cui, per esempio, gli scienziati si chiedono se un’AI sia “distorta”: che cosa succede se cambio i dati su cui l’AI sta imparando? La distorsione cambia? In che modo è distorta? È distorta a favore o contro alcuni gruppi? È neutrale nel riconoscimento facciale? Nei CV, presta attenzione ai nomi o al genere del candidato, o no? È oggettiva?

I ricercatori stanno studiando queste cose ed è fantastico, perché questo approccio aiuta a identificare i problemi e a risolverli. Oltre al comportamento individuale, si sta poi cominciando a studiare quello collettivo, dalla disinformazione alla possibilità di cambiare le preferenze dei consumatori. Ci sono molte domande interessanti a cui si cerca di rispondere: Qual è la competizione tra le AI di diverse aziende? Come stanno cambiando il loro comportamento in risposta l’una all’altra? Qual è l’effetto della regolamentazione? Chi sta copiando chi? Qual è l’ecologia di questi modelli?

Entrando più nel dettaglio, uno dei primi argomenti di cui ti sei occupato è quello della moralità nella guida autonoma. Di che cosa si tratta?

Abbiamo lanciato questo progetto nel 2016, quando eravamo ancora lontani dalla possibilità di avere auto a guida autonoma; ma la gente era già affascinata dall’idea ed era interessata allo studio che abbiamo proposto. Si trattava di esperimenti mentali che riguardavano come dovrebbe comportarsi un pilota automatico in situazioni difficili, in cui deve dare priorità alla salvezza di alcune persone rispetto ad altre in caso di incidente. Siamo partiti dalla situazione più semplice. Immaginiamo che alcuni pedoni attraversino la strada all’improvviso: l’auto dovrebbe dare priorità alla sicurezza del passeggero o a quella dei pedoni? E se si dovesse scegliere tra salvare un bambino o tre pedoni adulti? Ci sono teorie, e ci sono leggi, per regolare queste situazioni; noi abbiamo chiesto direttamente alle persone quale fosse la loro intuizione morale su questi scenari. Volevamo immaginare e discutere queste situazioni prima che avvenissero effettivamente, per capire quale sarebbe una regolamentazione o una programmazione più accettabile dalle persone, e quindi meno contestabile. Questa iniziativa è diventata virale e ci ha permesso di analizzare decine di milioni di decisioni prese da persone di tutto il mondo, perché l’abbiamo tradotto in diverse lingue (compreso l’italiano, ndr). Abbiamo imparato molto su quello su cui le persone concordano e su quello su cui dissentono.

Come è nata questa idea e come si sta sviluppando?

Sono un informatico di formazione, ma sono sempre stato molto interessato alla mente umana, all’etica, alla psicologia. L’AI, in un certo senso, era nel mezzo; quindi ho iniziato a collaborare con due psicologi, di cui uno studia il ragionamento, l’altro il processo decisionale morale. Ero anche affascinato dagli studi di Joshua Greene con le scansioni cerebrali su come le persone pensano ai dilemmi morali. E insieme ai miei colleghi ho deciso di scoprire che cosa pensano le persone normali, non solo i filosofi, su questi temi; perché i cittadini saranno i consumatori di questa tecnologia. Nel 2018 abbiamo pubblicato un articolo su Nature, in cui abbiamo analizzato 40 milioni di decisioni e abbiamo scoperto ciò su cui le persone sono d’accordo. In generale, sulla singola domanda le persone sono d’accordo quasi su tutto. In tutte le culture, per esempio, in caso di scelta obbligata si preferirebbe salvare un bambino rispetto a un adulto, così come si preferirebbe salvare un essere umano rispetto a un animale e più vite rispetto a una sola. Questo in un certo senso è universale, ed è utile saperlo. Ma è anche utile sapere che alcune preferenze sono problematiche. Per esempio, la gente preferirebbe salvare un uomo d’affari rispetto a un senzatetto, oppure una persona che attraversa con il semaforo verde rispetto a una persona che attraversa con il rosso. Quindi per noi è utile, penso, capire anche le preferenze problematiche, perché non vogliamo che plasmino la progettazione delle auto autonome: non vogliamo che i senzatetto siano discriminati, oppure che le auto di lusso siano “privilegiate” perché danneggiarle costerebbe di più alle assicurazioni. In alcuni casi potremmo dunque seguire le indicazioni della gente, in altri sarebbe meglio contrastarle. Questo è stato un primo insieme di risultati.

Il secondo insieme di risultati ha a che fare con le differenze interculturali. Quello che abbiamo imparato è che – anche se le persone sono in gran parte d’accordo sulla direzione di una preferenza – non lo fanno con la stessa convinzione. Per esempio, in culture collettiviste come quella cinese o quella giapponese, si preferisce tutelare i bambini, ma non con la stessa forza che in Occidente. Detto in un altro modo, queste culture vogliono tutelare di più le persone anziane, forse perché ne hanno una maggiore riverenza. Ora che abbiamo i dati, un antropologo può iniziare a capire perché queste persone hanno preferenze diverse. La forza della preferenza è importante quando c’è un conflitto tra due preferenze. Il modo in cui si risolve il conflitto può essere diverso in culture diverse. L’implicazione di questo è che dovremmo stare attenti quando progettiamo sistemi di intelligenza artificiale in una cultura e li esportiamo in un’altra, perché potrebbero crearsi scontri o attriti.

Da questo studio abbiamo imparato alcune cose; ma stiamo ancora raccogliendo dati: in questo momento abbiamo oltre 100 milioni di decisioni.

Questa è ancora un’area di ricerca attiva per te?

Sì. Ci sto ancora pensando, anche se di persona non sto lavorando molto sulle auto a guida autonoma. Ora mi sto concentrando su altre aree, per esempio sulla delega ad agenti di intelligenza artificiale. Abbiamo appena pubblicato un articolo che è apparso sulla copertina di Nature con il titolo “Cheat Code” (da cheat, “ingannare”, e code, “programma”), perché abbiamo mostrato che delegare compiti all’AI può incoraggiare comportamenti disonesti. Nell’esperimento, le persone dovevano riportare alcune informazioni, per esempio il loro reddito, e potevano farlo da soli, attraverso un’altra persona o istruendo una macchina. Abbiamo anche variato il modo in cui la macchina poteva essere istruita: attraverso un testo come in un prompt di ChatGPT, attraverso caselle o programmandola. I risultati variano molto a seconda dei casi, ma in generale abbiamo visto che delegare a un agente di intelligenza artificiale può aumentare sostanzialmente il comportamento disonesto.

Dal momento che oggi, in generale, una quantità limitata di persone ha un grande potere grazie all’AI, dovremmo preoccuparci?

Il nostro studio riguarda un potere che l’AI dà a tutti. Sono sfide diverse e sono entrambe importanti. I potenti hanno la tentazione di abusare del loro potere. E possono usare questo potere su molti altri. Siamo interessati a entrambe le domande. Ma ciò che abbiamo studiato in questo particolare articolo è come si comportano le persone normali e gentili, che non hanno necessariamente cattive intenzioni e che ora hanno la tentazione di imbrogliare, perché ora hanno questo assistente personale. C’è una zona grigia, che non è ancora dí illegalità, ma con una maggiore tendenza all’imbroglio.

Pensi che l’IA possa essere utile per studiare la coscienza?

Penso che questa sia una domanda molto interessante, di cui però so molto poco. Non sono un ricercatore nel campo della coscienza. Vedo però che ad Anthropic, per esempio, stanno iniziando a guardare alla capacità dell’IA di auto-ispezionarsi, quindi di pensare ai propri pensieri e di avere una sorta di rappresentazione di sé. Sono anche interessato a livello artistico, con i ritratti che realizzo. E c’è un’altra questione: se le macchine fossero coscienti, forse dovrebbero avere dei diritti, come gli animali, o forse no. Quindi penso che sia una domanda importante, a prescindere dal fatto che le macchine che abbiamo ora siano coscienti o meno; su questo non saprei che cosa dire.

Hai citato la cooperazione tra umani e macchine. Che cosa si può dire su questo?
Abbiamo fatto alcuni studi con ChatGPT e abbiamo scoperto che la cooperazione è possibile. Un’AI non ubbidisce necessariamente ai nostri comandi, perché appartiene a qualcun altro (la società che l’ha sviluppata, ndr); ma può comunque trovare una buona cooperazione con noi, anche se abbiamo interessi opposti. Qualche anno fa abbiamo mostrato che era possibile. Ora sappiamo che questi LLM hanno tendenze cooperative, e in questo hanno un comportamento simile a quello umano; ma sono ancora interessato a ciò che può accadere nel lungo termine. Forse sono gentili con noi perché ci copiano? Perché imparano dai dati che forniamo loro? Ma lo sono davvero? Che cosa succede se iniziano a imparare che non tutti gli esseri umani sono gentili?

Parli di cooperazione nel senso della teoria dei giochi?

Sì, esattamente. Nel senso che io e l’IA possiamo avere interessi contrastanti, ma possiamo comunque trarre beneficio se troviamo un modo per cooperare. Questa collaborazione è diversa dalla cooperazione tra un essere umano e un robot di fabbrica, che è solo uno strumento: gli dici cosa fare e lo farà. Lì l’esigenza è che non ti colpisca in faccia, che stia attento a non farti del male. Ma non ha un interesse opposto. Quella che stiamo studiando è invece una situazione tipica della teoria dei giochi.

È possibile che in realtà le macchine possano aiutarci a trovare comportamenti cooperativi dove a volte non li vediamo?

Sì. Per esempio Michiel Bakker, che ora è al Massachusetts Institute of Technology (MIT), ha mostrato che i large language model (LLM) possono aiutare un gruppo di persone con opinioni diverse su un argomento controverso ad arrivare a una dichiarazione di consenso che massimizza l’accordo tra gli individui. C’è anche il lavoro di Oliver Hauser a Exeter e altri scienziati di DeepMind, che mostra come un’AI può aiutare un gruppo di persone a trovare una soluzione collaborativa.
C’è poi un lavoro che mostra che un’IA possa implementare una tassazione ottimale.

Esseri umani e AI sono destinati a coevolvere. Come avviene, e come sta avvenendo, questo processo?

Innanzitutto bisogna specificare che non stiamo parlando di evoluzione biologica, perché la biologia umana si evolve in modo molto più lento. Parliamo invece di evoluzione culturale, che è molto più veloce, e riguarda per esempio le norme o cose del genere. In questo campo, le macchine stanno imparando e vengono adottate sempre di più dalle aziende. Si stanno già aggiornando, ma stanno anche cambiando il nostro modo di rapportarci con loro. Quindi stiamo cambiando il nostro comportamento nei loro confronti, così come loro stanno cambiando il loro comportamento nei nostri confronti; e questo è ciò che intendo per coevoluzione. La nostra evoluzione culturale e l’evoluzione delle macchine stanno accadendo nel tempo con un processo continuo. Posso fare alcuni esempi specifici di studi che abbiamo fatto e che stiamo facendo. Appena è uscito ChatGPT, abbiamo visto che questo LLM aumenta la fiducia nell’IA in quel dominio specifico, ma non la fiducia generalizzata nell’IA. Questo è come un passo nella coevoluzione di cui stiamo parlando. Più recentemente, abbiamo visto che le macchine imparano la nostra lingua, ma hanno anche i loro pregiudizi; quindi per esempio abusano di determinate parole come delve, meticulously, intricate, commendable, meticulous e così via. Ora abbiamo trovato le prove che gli esseri umani usano di più queste parole spontaneamente. E questo è un altro esempio di coevoluzione: il comportamento e il pregiudizio dell’IA si insinuano in qualche modo nella cultura umana.

In questa coevoluzione è possibile che l’IA superi l’intelligenza umana? Che cosa ti aspetti?

Penso che l’abbia già superata in molti domini. Come conoscenza enciclopedica, per esempio, in molti domini le AI sono migliori. Abbiamo però ancora un vantaggio in alcune aree cruciali. Non sono sicuro che non ci supereranno in tutti i domini; penso che in linea di principio sia possibile. Ma penso che la vera competizione non sia confrontare un’AI con un singolo essere umano, bensì con le organizzazioni umane, con la cultura umana, con l’uomo collettivamente. Perché questo è in realtà il nostro vantaggio competitivo, la ragione del nostro successo come specie. Ed è questa la vera competizione.

Ti aspetti un cambio di marcia quando l’AI acquisirà un corpo, cioè quando sarà pienamente implementata nei robot?

Sì. Le AI sono già estremamente utili anche senza avere un corpo, perché ciò che dicono ha senso nel mondo. Ma penso che quando avranno un corpo costruiranno anche la propria rappresentazione del mondo. Inoltre non c’è limite a che tipo di sensi potrebbero avere. Non devono avere solo due occhi o percepire solo la luce visibile. Possono vedere l’infrarosso, possono avere una visione stereoscopica a 360° e così via. Insomma, penso che capirebbero il mondo più di noi, e questo li renderebbe più capaci, nel bene e nel male. Ma poi c’è anche la questione di che cosa accadrebbe se le macchine avessero corpi molto simili a quelli umani, sarebbe uno scenario alla Blade Runner. Già oggi, d’altra parte, molte persone scelgono gli agenti virtuali come compagni e amici, a volte come amanti, hanno relazioni con loro… Se avessero un corpo e diventassero oggetti sessuali, che cosa accadrebbe? Come cambierebbero le relazioni tra persone? Che cosa accadrà alla riproduzione, se le persone possono facilmente comprare una bella fidanzata o un bel fidanzato, invece di lavorare a una complicata relazione tra persone, e prendere semplicemente il robot che è sempre d’accordo con loro?

Le macchine potrebbero anche acquisire una nuova moralità, basata sui corpi artificiali?

Perché no? Penso che la nostra moralità dipende molto dalla nostra condizione umana. Abbiamo empatia, siamo cablati in un modo specifico, abbiamo una preferenza per il gruppo a cui apparteniamo (ingroup), riconosciamo i volti e quanto sono simili a noi. È tutto basato sulla nostra biologia. Quindi in linea di principio le macchine potrebbero avere una moralità diversa, perché vedono il mondo in modo diverso. Questo potrebbe darci forse una nuova finestra su ciò che è possibile.

Vedo molta arte intorno a te. Questa tua attività artistica, in collaborazione con l’AI, fa parte della tua ricerca o è qualcosa di personale e separato dal resto?
Penso che sia entrambe le cose. È iniziato come un hobby e si è evoluto lentamente. Sono sempre stato molto interessato all’arte; ho sempre disegnato, per lo più da autodidatta. E poi, durante il Covid, ho pensato che con tutte le risorse disponibili in Internet, si potesse raggiungere un livello abbastanza buono senza entrare in una scuola d’arte. Con l’arrivo di ChatGPT ho cominciato a rappresentare robot giganti in lontananza. Così ho avviato una sorta di esplorazione artistica sui temi del volto della macchina, del rapporto tra gli esseri umani e la tecnologia, su come cambiano i nostri media e su come la nostra realtà si può alterare. Sta diventando una pratica concettuale e la prendo molto sul serio, perché mi diverto e perché penso che mi aiuti a pensare un po’. Quindi questa pratica si collega strettamente alla scienza; ma in un modo molto intuitivo e non analitico. Perché nella scienza devi essere oggettivo, devi guardare i fatti. Nell’arte invece puoi dire e fare qualsiasi cosa, puoi esprimere qualsiasi cosa. E puoi dare un volto a una macchina, come faccio io.

Nella tua esperienza, cosa pensi che la scienza e la tecnologia possano dare all’arte?

Così tante cose! La scienza, innanzitutto, può fornire strumenti utili all’arte. Penso a cose semplici, cioè a strumenti come una stampante, una fotocamera, un software che manipola le immagini in un modo particolare. Oggi abbiamo modelli generativi che producono immagini a partire da un testo, e le persone stanno affinando i propri modelli per proporre ogni genere di soluzioni creative. Dunque la tecnologia è uno strumento per l’arte; ma penso anche che sia anche una fonte di domande, per esempio “Come cambierà il mondo questa tecnologia?”. L’artista può prendere questa domanda, reinterpretarla e proiettarla nel futuro attraverso la sua immaginazione. È per questo che sono appassionato di fantascienza, perché – così come l’arte – ci permette di andare oltre ciò che c’è oggi.

Viceversa, che cosa può dare l’arte alla scienza e alla tecnologia?

Penso che l’arte dia agli scienziati, e soprattutto ai tecnologi, qualcosa a cui aspirare. Ci aiuta a immaginare il futuro. L’auto volante è iniziata come un’idea di fantascienza, prima che diventasse realtà. Anche l’aereo. Tutte queste cose sono iniziate nell’arte, quando le persone hanno disegnato uomini con le ali. Penso che la fantascienza sia una forma d’arte, che ci aiuti a pensare al futuro, a pensare alle domande. Molta arte concettuale ci sta sfidando a pensare alle conseguenze della tecnologia che stiamo costruendo. Quindi ci aiuta a riflettere di più sulla tecnologia e su come la progettiamo; ci aiuta a progettare una tecnologia migliore. L’arte, insomma, è sia ispirazione che riflessione.

Però la maggior parte della fantascienza è apocalittica. Sei spaventato o sei fiducioso riguardo al futuro?

Entrambe le cose. Penso che il futuro, come il passato, sia bello e terrificante. Ha in sé molte possibilità, molte cose belle ma anche tragedie catastrofiche. Quindi dobbiamo cercare di capire che cosa è successo quando le cose hanno funzionato e quando non hanno funzionato. E la scienza può aiutarci in questo sforzo.

Come vedi il mondo tra 50 anni?

Completamente irriconoscibile. Ci sono troppi scenari possibili per fare una previsione. Ma penso che ci siano possibilità davvero buone che l’AI faccia progredire la scienza a un ritmo incredibilmente veloce, facendo avanzare la medicina e rendendo la vita umana molto migliore e più gratificante. Forse troveremo il modo di controllare queste macchine molto intelligenti e di coesistere con loro in qualche modo; ma c’è anche uno scenario con un’escalation di conflitti e violenze, in cui il mondo si trasforma in qualcosa di cui perdiamo il controllo. Penso che siano tutti scenari possibili, e che siamo in un momento incredibile per essere testimoni di quel che accadrà.

Link e approfondimenti

• La pagina web di Iyad Rahwn.
• Il sito della Fondazione CRT di Torino, che ha recentemente assegnato allo scienziato il Premio Lagrange.