L’AI potrebbe davvero ucciderci tutti? Il dibattito che divide gli esperti

L’AI potrebbe davvero ucciderci tutti? Il dibattito che divide gli esperti

‍

L’intelligenza artificiale potrebbe diventare così potente da sfuggire al nostro controllo e provocare l’estinzione dell’umanità? Sembra la trama di un film.

‍

Eppure è la domanda al centro di un recente dibattito di The Diary of a CEO, nel quale si sono confrontati Nate Soares, Roman Yampolskiy, Andrew McAfee ed Ed Zitron.

Da una parte, chi considera la superintelligenza artificiale uno dei rischi più grandi mai affrontati dall’essere umano.

Dall’altra, chi pensa che stiamo costruendo scenari estremi partendo da capacità che l’AI, almeno oggi, non possiede.

‍

Il punto è che nessuno dei due schieramenti sta parlando soltanto di tecnologia.

Si parla di potere, controllo, responsabilità e delle decisioni che stiamo prendendo adesso.

‍

Perché alcuni esperti temono davvero l’estinzione

‍

Nate Soares è il presidente del Machine Intelligence Research Institute e, insieme a Eliezer Yudkowsky, ha scritto un libro dal titolo piuttosto diretto: If Anyone Builds It, Everyone Dies.

La loro tesi parte da un problema: se costruissimo un’intelligenza molto più capace di noi, non potremmo dare per scontato che segua automaticamente i nostri valori o che interpreti correttamente le nostre intenzioni.

Non perché sarebbe necessariamente “cattiva”.

Un sistema potrebbe perseguire in modo estremamente efficace un obiettivo formulato male, incompleto oppure incompatibile con la sicurezza delle persone.

‍

Il problema è conosciuto come allineamento: come possiamo essere sicuri che un’AI molto avanzata continui ad agire in accordo con gli interessi umani?

Secondo Soares, al momento non abbiamo una soluzione affidabile.

Anche Roman Yampolskiy, ricercatore che si occupa di sicurezza dell’intelligenza artificiale, sostiene che controllare stabilmente un sistema più intelligente dei suoi creatori potrebbe essere molto difficile.

‍

Il loro ragionamento è prudenziale: anche se non conosciamo con certezza la probabilità di un evento catastrofico, le sue conseguenze sarebbero talmente gravi da non poterlo ignorare.

‍

Perché altri non sono convinti

‍

Non tutti condividono queste conclusioni.

Una delle obiezioni riguarda il punto di partenza: oggi non esiste una superintelligenza artificiale capace di superare gli esseri umani in qualsiasi attività e di agire autonomamente nel mondo.

I sistemi attuali possono generare testi, immagini e codice, analizzare informazioni e svolgere alcune attività con risultati sorprendenti. Ma possono anche commettere errori, inventare informazioni e fallire davanti a problemi apparentemente semplici.

Ed Zitron, tra le voci più critiche nei confronti dell’attuale entusiasmo per l’AI, mette in discussione proprio la distanza tra ciò che questi strumenti fanno davvero e ciò che le aziende promettono che faranno in futuro.

La sua critica riguarda anche la sostenibilità economica del settore: investimenti enormi, costi elevati e un ritorno economico che, secondo lui, non è ancora all’altezza delle aspettative.

Andrew McAfee ha invece una visione generalmente più fiduciosa sulle possibilità offerte dalla tecnologia e sulla capacità delle persone e delle istituzioni di adattarsi.

Da questa prospettiva, trattare l’estinzione come una conseguenza quasi inevitabile significa trasformare una possibilità teorica in una certezza che oggi non possiamo dimostrare.

‍

Quindi chi ha ragione?

‍

La risposta meno spettacolare è anche quella più corretta: non lo sappiamo.

Non sappiamo se i sistemi attuali continueranno a migliorare fino a diventare una superintelligenza. Non sappiamo quanto tempo potrebbe servire.

E non sappiamo se un sistema di quel tipo sarebbe controllabile oppure no.

‍

Questo non significa che tutte le opinioni abbiano lo stesso valore o che non si debba fare nulla. Significa distinguere ciò che possiamo osservare dalle previsioni.

‍

Oggi sappiamo che l’AI può svolgere un numero crescente di attività.

Sappiamo che può essere utilizzata per produrre disinformazione, automatizzare attacchi informatici o supportare decisioni importanti.

Sappiamo anche che può aiutare nella ricerca, rendere alcuni servizi più accessibili, velocizzare attività ripetitive e supportare il lavoro delle persone.

‍

Quello che non sappiamo è dove ci porterà questa evoluzione. Ed è proprio questa incertezza a rendere il dibattito importante.

‍

La domanda non riguarda soltanto chi sviluppa l’AI

‍

È facile pensare che il problema riguardi esclusivamente ricercatori, aziende tecnologiche e governi.

In realtà, le decisioni prese sull’intelligenza artificiale stanno già entrando nel mondo del lavoro.

‍

Le aziende devono decidere quali attività automatizzare, quali dati affidare agli strumenti, come verificare i risultati e chi debba rispondere quando qualcosa va storto.

I lavoratori devono capire quando l’AI può essere un supporto e quando, invece, rischia di produrre informazioni poco affidabili.

I candidati devono imparare a usare questi strumenti senza presentare come proprie competenze o contenuti che non sanno spiegare.

‍

Non serve credere che l’AI ci ucciderà tutti per chiedere maggiore trasparenza, controlli e responsabilità.

E non serve pensare che ogni nuovo strumento sia una minaccia per riconoscere che l’innovazione può creare opportunità reali.

‍

Il punto è evitare i due estremi.

Da una parte: “L’AI risolverà tutto”. Dall’altra: “L’AI distruggerà tutto”.

‍

In mezzo c’è una tecnologia molto potente, ancora piena di limiti e sviluppata a una velocità che rende difficile prevederne gli effetti.

‍

Forse la domanda giusta viene prima della risposta

‍

Il dibattito sull’estinzione umana non può essere risolto con una puntata di un podcast, un post o una previsione.

Ma può aiutarci a farci domande migliori.

‍

Chi decide quali sistemi possono essere sviluppati?

Chi verifica che siano sicuri?

Quanto potere siamo disposti ad affidare a uno strumento che non comprendiamo fino in fondo?

Chi si assume la responsabilità di un errore?

E quanto rischio siamo disposti ad accettare in cambio di sistemi sempre più capaci?

‍

Non sappiamo se l’intelligenza artificiale arriverà davvero a minacciare l’esistenza dell’umanità.

Sappiamo però che non è più soltanto una tecnologia da osservare da lontano.

Sta entrando nelle aziende, nelle professioni e nelle decisioni quotidiane. Per questo non possiamo lasciare il confronto soltanto a chi la costruisce.

Non serve scegliere tra entusiasmo e paura.

‍

Serve capire meglio cosa stiamo creando, pretendere risposte da chi lo sta sviluppando e non smettere di farci domande soltanto perché il futuro è difficile da prevedere.

‍

E per noi, cosa significa?

‍

Probabilmente nessuno di noi deciderà quale sarà il prossimo modello di intelligenza artificiale o quanto velocemente verrà sviluppato. Possiamo però decidere come utilizzarla.

‍

Nel lavoro, nello studio e nella ricerca di nuove opportunità, l’AI può aiutarci a trovare idee, prepararci, imparare e svolgere alcune attività più velocemente. Ma non dovrebbe sostituire la nostra capacità di verificare, scegliere e assumerci la responsabilità di ciò che produciamo.

Non serve diventare esperti di superintelligenza. Serve imparare a conoscere questi strumenti senza considerarli né infallibili né inutili.

‍

Quindi sperimenta, fai domande e scopri come l’AI può supportarti. Ma continua anche a dubitare, controllare le fonti e costruire competenze tue.

Perché, qualunque sia il futuro dell’intelligenza artificiale, affrontarlo con più consapevolezza sarà sempre meglio che limitarsi ad aspettarlo.