Da asporto chiave
- Il sistema di intelligenza artificiale chiamato DALL-E2 sembra aver creato un proprio sistema di comunicazione scritta.
- Alcuni esperti dicono che il linguaggio apparente potrebbe essere solo incomprensibile.
- È un esempio di quanto sia difficile interpretare i risultati dei sistemi di intelligenza artificiale avanzati.
Sembra che l'intelligenza artificiale (AI) abbia sviluppato un proprio linguaggio, ma alcuni esperti sono scettici sull'affermazione.
Il sistema di IA text-to-image di OpenAI chiamato DALL-E2 sembra aver creato un proprio sistema di comunicazione scritta. È un esempio di quanto sia difficile interpretare i risultati di sistemi di intelligenza artificiale avanzati.
"A causa delle dimensioni e della profondità dei modelli di grandi dimensioni, è molto difficile spiegare il comportamento del modello", ha detto a Lifewire in un'intervista via e-mail Teresa O'Neill, direttrice dell'architettura delle soluzioni per la comprensione del linguaggio naturale presso iMerit. "Questa è una delle sfide principali e, in alcuni casi, questioni etiche con modelli sempre più potenti. Se non riusciamo a spiegare perché si comportano come fanno, possiamo prevederne il comportamento o mantenerlo in linea con le nostre norme e aspettative?"
Chat AI
Lo studente di informatica Giannis Daras ha recentemente notato che il sistema DALLE-2, che crea immagini basate sull'input di testo, restituisce parole senza senso come testo in determinate circostanze.
"Una nota limitazione di DALLE-2 è che ha problemi con il testo", ha scritto in un articolo pubblicato sul server di prestampa Arxiv. "Ad esempio, messaggi di testo come: 'Un'immagine della parola aeroplano' spesso portano a immagini generate che raffigurano testo senza senso."
Ma, scrisse Daras, potrebbe esserci un metodo dietro l'apparente incomprensione. "Scopriamo che questo testo prodotto non è casuale, ma rivela un vocabolario nascosto che il modello sembra aver sviluppato internamente", ha proseguito. "Ad esempio, se alimentato con questo testo incomprensibile, il modello produce spesso aeroplani."
Nel suo tweet, Daras ha sottolineato che quando a DALLE-2 è stato chiesto di sottotitolare una conversazione tra due agricoltori, li ha mostrati parlare, ma i fumetti erano pieni di quelle che sembravano parole senza senso. Ma Daras ha scoperto che le parole sembravano avere un loro significato per l'IA: i contadini stavano parlando di verdure e uccelli.
Nicola Davolio, CEO della società tecnologica Hupry, che lavora con AI, ha spiegato a Lifewire in un'intervista via e-mail che il linguaggio è basato su simboli che il sistema DALL-E2 ha imparato ad associare a determinati concetti. Ad esempio, il simbolo per "cane" potrebbe essere correlato all'immagine di un cane, mentre il simbolo per "gatto" potrebbe essere associato all'immagine di un gatto. DALL-E2 ha creato il suo linguaggio perché gli consente di comunicare in modo più efficace con altri sistemi di intelligenza artificiale.
Puzzle come il vocabolario apparentemente nascosto di DALL-E2 sono divertenti da affrontare, ma mettono in evidenza anche domande più pesanti…
"La lingua è composta da simboli che sembrano geroglifici egizi e non sembrano avere alcun significato specifico", ha aggiunto. "I simboli sono probabilmente privi di significato per gli esseri umani, ma hanno perfettamente senso per il sistema di intelligenza artificiale poiché è stato addestrato su milioni di immagini."
I ricercatori ritengono che il sistema di intelligenza artificiale abbia creato il linguaggio per aiutarlo a comprendere meglio le relazioni tra immagini e parole, ha detto Davolio.
"Non sono sicuri del motivo per cui il sistema di intelligenza artificiale ha sviluppato il suo linguaggio, ma sospettano che possa avere qualcosa a che fare con il modo in cui stava imparando a creare immagini", ha aggiunto Davolio. "È possibile che il sistema di intelligenza artificiale abbia sviluppato il proprio linguaggio per rendere più efficiente la comunicazione tra le diverse parti della rete."
Misteri dell'IA
DALL-E2 non è l'unico sistema di intelligenza artificiale che ha sviluppato il proprio linguaggio interno, ha sottolineato Davolio. Nel 2017, il sistema AutoML di Google ha creato una nuova forma di architettura neurale chiamata "rete figlia" dopo essere stata lasciata a decidere come completare al meglio una determinata attività. Questa rete infantile non era in grado di essere interpretata dai suoi creatori umani.
"Questi esempi sono solo alcuni casi in cui i sistemi di intelligenza artificiale hanno sviluppato modi di fare cose che non possiamo spiegare", ha detto Davolio. "È un fenomeno emergente affascinante e allarmante in egual misura. Man mano che i sistemi di intelligenza artificiale diventano più complessi e autonomi, potremmo trovarci sempre più nella posizione di non capire come funzionano."
O'Neill ha detto che non pensa che DALL-E2 stia creando un proprio linguaggio. Invece, ha detto che il motivo dell'apparente invenzione linguistica è probabilmente un po' più prosaico.
"Una spiegazione plausibile è una possibilità casuale: in un modello così ampio, potrebbe essere applicata un po' della legge di Murphy: se può accadere una cosa strana, probabilmente accadrà", ha aggiunto O'Neill. Un' altra possibilità suggerita dall'analista di ricerca Benjamin Hilton in un thread su Twitter in cui si discuteva delle scoperte di Daras è che la forma della frase "apoploe vesrreaitais" imita la forma del nome latino di un animale. Quindi il sistema ha generato un nuovo ordine di Aves, ha aggiunto O'Neill.
"Enigmi come il vocabolario apparentemente nascosto di DALL-E2 sono divertenti da affrontare, ma mettono anche in luce domande più pesanti sul rischio, il pregiudizio e l'etica nel comportamento spesso imperscrutabile dei modelli di grandi dimensioni", ha detto O'Neill.
