Da asporto chiave
- Gli algoritmi di intelligenza artificiale e apprendimento automatico osservano il comportamento umano e possono imparare a manipolarlo, affermano gli esperti.
- I ricercatori hanno recentemente creato un modo per trovare e sfruttare le vulnerabilità nei modi in cui le persone fanno le scelte usando l'IA.
- L'algoritmo di social media più sofisticato in questo momento è TikTok, dice un osservatore.
L'intelligenza artificiale (AI) e gli algoritmi di apprendimento automatico stanno imparando sempre più come influenzare il comportamento degli utenti, affermano gli esperti.
I ricercatori dell'agenzia scientifica nazionale australiana hanno recentemente creato un modo per trovare e sfruttare le vulnerabilità nei modi in cui le persone fanno le scelte usando l'IA. L'ultima ricerca è solo una di un'ondata di sistemi basati sull'intelligenza artificiale progettati per manipolare il processo decisionale umano.
"Non c'è fine ai molti modi in cui l'IA sta già influenzando il comportamento", Kentaro Toyama, professore presso la University of Michigan School of Information e autore di Geek Heresy: Rescuing Social Change from the Cult of Technology, ha detto in un'intervista via e-mail.
"In effetti, se hai mai fatto una ricerca su Google e seguito un link, sei stato colpito da un sistema di intelligenza artificiale che ha intuito i tuoi interessi e restituito risultati che riteneva più rilevanti per te."
IA contro umani
Nella ricerca australiana pubblicata in un recente articolo, i partecipanti umani hanno giocato contro un computer in vari esperimenti. Il primo esperimento ha visto i partecipanti fare clic su caselle di colore rosso o blu per vincere denaro.
L'IA ha avuto successo circa il 70% delle volte, imparando i modelli di scelta dei partecipanti e guidandoli verso una scelta specifica.
In un altro esperimento, i partecipanti hanno guardato uno schermo e premuto un pulsante quando gli veniva mostrato un particolare simbolo, o non lo hanno premuto quando ne veniva offerto un altro. L'IA ha imparato a riorganizzare i simboli, quindi i partecipanti hanno commesso più errori.
Il risultato degli esperimenti, hanno concluso i ricercatori, è stato che l'IA ha imparato dalle risposte dei partecipanti. La macchina ha quindi identificato e preso di mira le vulnerabilità nel processo decisionale delle persone. In effetti, l'IA potrebbe manipolare i partecipanti affinché compiano azioni particolari.
Il fatto che l'IA o l'apprendimento automatico possano manipolare le persone non dovrebbe sorprendere, dicono gli osservatori.
"L'intelligenza artificiale influenza il nostro comportamento ogni giorno", ha affermato Tamara Schwartz, assistente professore di sicurezza informatica e amministrazione aziendale allo York College of Pennsylvania, in un'intervista via e-mail.
"Sentiamo continuamente parlare degli algoritmi nelle applicazioni di social media come Facebook o Twitter. Questi algoritmi indirizzano la nostra attenzione sui contenuti correlati e creano l'effetto 'camera d'eco', che a sua volta influenza il nostro comportamento."
TikTok sta guardando
L'algoritmo di social media più sofisticato in questo momento è TikTok, ha detto Schwartz. L'app analizza ciò che ti interessa, per quanto tempo guardi qualcosa e quanto velocemente s alti qualcosa, quindi perfeziona le sue offerte per continuare a guardare.
"TikTok è molto più avvincente di altre piattaforme grazie a questo algoritmo di intelligenza artificiale, che comprende cosa ti piace, come impari e come scegli le informazioni", ha aggiunto. "Lo sappiamo perché il tempo medio che gli utenti trascorrono su TikTok è di 52 minuti."
La manipolazione del comportamento umano da parte dell'intelligenza artificiale potrebbe avere usi positivi, ha affermato Chris Nicholson, CEO della società di intelligenza artificiale Pathmind, in un'intervista via e-mail. Le agenzie di sanità pubblica, ad esempio, potrebbero utilizzare l'IA per incoraggiare le persone a prendere decisioni migliori.
"Tuttavia, i social media, i produttori di videogiochi, gli inserzionisti e i regimi autoritari stanno cercando modi per incitare le persone a prendere decisioni che non sono nel loro migliore interesse, e questo darà loro nuovi strumenti per farlo, " ha aggiunto.
I problemi etici con l'intelligenza artificiale che influenzano il comportamento sono spesso di grado, ha detto Toyama. L'intelligenza artificiale consente una pubblicità mirata in cui è possibile sfruttare le preferenze e le debolezze individuali.
"È possibile, ad esempio, che un sistema di intelligenza artificiale identifichi le persone che stanno cercando di smettere di fumare e le infarciti con allettanti pubblicità di sigarette", ha aggiunto.
Non tutti concordano sul fatto che la manipolazione dell'intelligenza artificiale del comportamento umano sia problematica. Sia la psicologia classica che l'IA osservano i dati, ha sottolineato Jason J. Corso, direttore dello Stevens Institute for Artificial Intelligence, in un'intervista via e-mail.
"Gli scienziati umani sono probabilmente più bravi a generalizzare le osservazioni e a distillare teorie sul comportamento umano che potrebbero essere applicabili in modo più ampio, mentre i modelli di intelligenza artificiale sarebbero più suscettibili di identificare le sfumature specifiche del problema", ha detto Corso.
"Da un punto di vista etico, non vedo differenze tra questi."
