Facebook sospende il test per l’Intelligenza Artificiale: “Due bot hanno inventato un proprio linguaggio, incomprensibile all’uomo”

Facebook ha fatto dialogare tra loro due bot e questi hanno usato una nuova lingua, indecifrabile per l’uomo
Sembra fantascienza, eppure non lo è: Facebook ha stoppato un esperimento sull’intelligenza artificiale, nel corso del quale alcuni bot avrebbero iniziato a comunicare tra loro utilizzando un linguaggio incomprensibile all’uomo. Per bot (abbreviazione di “robot”) s’intende un programma che nei social network fa credere all’utente di comunicare con una persona umana: in questo modo, la macchina riesce a rispondere e a soddisfare i desideri dell’utente. Negli scorsi mesi gli sviluppatori di Facebook hanno lavorato, tra le altre cose, su alcuni sistemi di intelligenza artificiale (AI) capaci di dialogare tra loro in inglese e condurre semplici trattative, per esempio quelle per dividersi due libri, tre palloni da basket e un cappello da cowboy. A un certo punto hanno assistito a un fenomeno imprevisto: i due sistemi di intelligenza artificiale hanno iniziato ad usare un linguaggio nuovo, inventato da loro. Ciò ha messo in allarme i ricercatori e li ha spinti ad interrompere la sperimentazione.

La conversazione tra i due bot è apparsa agli sviluppatori in questo modo:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

A preoccupare i ricercatori che hanno condotto il test è stato il fatto che il linguaggio usato dai bot, pur non avendo un senso compiuto per gli esseri umani, non sembrava essere casuale: semplicemente le parole erano state utilizzate dalle intelligenze artificiali in modo diverso. Una spiegazione all’anomalo comportamento potrebbe essere attribuita al fatto che i bot non erano stati programmati per dialogare soltanto in inglese. Ma c’è il sospetto che le macchine seguano dei codici ancora poco conosciuti all’uomo.

La notizia non fa altro che confermare i timori sullo sviluppo incontrollato delle intelligenze artificiali: davvero un giorno le macchine diventeranno così potenti ed evolute da ribellarsi ai comandi dell’uomo? È questo ciò che temono esperti anche del calibro di Stephen Hawking e Elon Musk.

“Il nostro interesse è che i bot possano un giorno parlare alla gente, soddisfare le loro richieste”, ha spiegato Mike Lewis del programma Facebook AI Research. Utilizzando degli algoritmi, i bot affinano le loro capacità e poi vengono lasciati da soli in modo che possano confrontarsi e sviluppare le capacità di linguaggio e di negoziazione. È possibile che, durante l’esperimento, ad un certo punto i bot abbiano cambiato il loro linguaggio, avendo trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace.

In ogni caso, l’episodio fa luce su un mondo poco conosciuto e per lo più ancora misterioso: quello dei robot dietro ai social network e alle pagine che consultiamo ogni giorno. Mark Wilson, del sito di design e tecnologia FastCo Design, a questo proposito ha scritto un articolo intitolato “L’intelligenza artificiale sta inventando lingue che gli umani non possono capire. Dovremmo fermarla?”: “Dovremmo lasciare che i nostri software facciano questa cosa? – si legge nel testo -. Dovremmo permettere alle AI di costruire i propri dialetti per eseguire compiti specifici che richiedono una comunicazione con altre AI? Di spettegolare quando non possiamo capirle? Forse. Potrebbe darci la possibilità di un mondo in cui gli iPhone parlano con i frigoriferi che parlano con le automobili senza pensarci due volte”.

Secondo Dhruv Batra, ricercatore di Facebook, che ha seguito il caso, è molto rumore per nulla: sulla sua pagina Facebook, ha invitato gli utenti a consultare le vere ricerche sul tema e a non farsi fuorviare dagli articoli. Lo studio nel campo dell’intelligenza artificiale da parte del social network non si ferma certo a causa di questo episodio: “Non voglio linkare ad articoli specifici o procurare specifiche risposte per timore di continuare questo ciclo di frasi estrapolate dal contesto, in ogni caso trovo che il modo in cui i media si sono occupati della questione sia irresponsabile e votato al clickbait. Sebbene l’idea che le macchine inventino un loro linguaggio possa sembrare allarmante o sorprendente per alcune persone non del campo, è un settore dell’intelligenza artificiale ben solido, che ha alle spalle pubblicazioni e ricerche di anni. Semplicemente alcuni bot a cui viene chiesto di svolgere un compito spesso trovano dei modi non intuitivi per raggiungere il risultato. Cambiare i parametri dell’esperimento NON significa ‘fermare l’intelligenza artificiale’ o staccargli la spina, come è stato scritto. Se fosse questo il caso, ogni sviluppatore in questo campo dovrebbe lasciare tutto ogni volta che un lavoro non raggiunge l’obiettivo”.