Da asporto chiave
- Il pregiudizio algoritmico è dannoso per gli adolescenti che trascorrono molto tempo su Internet, dicono gli esperti.
- Gli utenti di Twitter hanno recentemente riscontrato un problema in cui i volti neri sono stati eliminati a favore di quelli bianchi.
- I cervelli in via di sviluppo degli adolescenti possono essere particolarmente suscettibili agli effetti dannosi del pregiudizio algoritmico, affermano i ricercatori.
Il pregiudizio incorporato in alcune tecnologie, noto come bias algoritmico, può essere dannoso per molti gruppi, ma gli esperti affermano che è particolarmente dannoso per gli adolescenti.
Il bias algoritmico, quando i sistemi informatici mostrano risultati prevenuti, è un problema crescente. Gli utenti di Twitter hanno recentemente trovato un esempio di pregiudizio sulla piattaforma quando un algoritmo di rilevamento delle immagini che ritaglia le foto stava ritagliando i volti neri a favore di quelli bianchi. La società si è scusata per il problema, ma non ha ancora rilasciato una soluzione. È un esempio del pregiudizio che gli adolescenti devono affrontare quando vanno online, cosa che fanno più di qualsiasi altra fascia di età, dicono gli esperti.
"La maggior parte degli adolescenti non sa che le società di social media li hanno in atto per promuovere contenuti specifici che pensano che gli utenti apprezzeranno [al fine] di farli rimanere il più a lungo possibile sulla piattaforma", Dr. Mai- Ly Nguyen Steers, assistente professore presso la School of Nursing presso la Duquesne University che studia l'utilizzo dei social media tra adolescenti/studenti universitari, ha detto in un'intervista via e-mail.
"Anche se c'è un certo livello di consapevolezza sull'algoritmo, l'effetto di non ricevere abbastanza Mi piace e commenti è comunque potente e può influenzare l'autostima degli adolescenti", ha aggiunto Steers.
Sviluppo del cervello
Il pregiudizio algoritmico può influenzare gli adolescenti in modi imprevisti poiché la loro corteccia prefrontale è ancora in via di sviluppo, Mikaela Pisani, Chief Data Scientist di Rootstrap, ha spiegato in un'intervista via e-mail.
L'effetto di non ricevere abbastanza Mi piace e commenti è ancora potente e può influenzare l'autostima degli adolescenti.
"Gli adolescenti sono particolarmente vulnerabili al fenomeno della 'Fabbrica sociale', in cui gli algoritmi creano cluster sociali su piattaforme online, provocando ansia e depressione se le esigenze di approvazione sociale degli adolescenti non vengono soddisfatte", ha affermato Pisani. "Gli algoritmi si semplificano sulla base di dati imperfetti precedenti, portando a una sovrarappresentazione degli stereotipi a scapito di approcci più sfumati alla formazione dell'identità.
"Prendendo il punto di vista più ampio, siamo anche lasciati a chiederci, come società, se vogliamo algoritmi che modellino il viaggio dei nostri ragazzi verso l'età adulta, e questo sistema supporta la crescita personale individuale piuttosto che soffocare?"
A causa di questi problemi, c'è una crescente necessità di tenere a mente gli adolescenti quando si progettano algoritmi, affermano gli esperti.
"Sulla base del contributo di specialisti dello sviluppo, data scientist e difensori dei giovani, le politiche del 21° secolo sulla privacy dei dati e la progettazione algoritmica potrebbero essere sviluppate tenendo conto delle esigenze particolari degli adolescenti", Avriel Epps-Darling, un dottorando studente ad Harvard, ha scritto di recente. "Se invece continuiamo a minimizzare o ignorare i modi in cui gli adolescenti sono vulnerabili al razzismo algoritmico, è probabile che i danni si riverbereranno nelle generazioni a venire."
Combattere i pregiudizi
Finché non ci sarà una soluzione, alcuni ricercatori stanno cercando di trovare modi per ridurre il danno causato ai giovani da algoritmi distorti.
"Gli interventi si sono concentrati sul far riconoscere agli adolescenti che i loro modelli sui social media stanno avendo un impatto negativo sulla loro salute mentale e sul tentativo di elaborare strategie per mitigarlo (ad esempio, un uso ridotto dei social media)," ha detto Steers.
"Alcuni degli studenti universitari che abbiamo intervistato hanno indicato di sentirsi obbligati a generare contenuti per rimanere "rilevanti", anche se non vogliono uscire o pubblicare", ha continuato. "Tuttavia, sentono di aver bisogno di generare contenuti per mantenere le loro connessioni con i loro follower o amici."
La risposta definitiva potrebbe essere rimuovere i pregiudizi umani dai computer. Ma poiché i programmatori sono solo esseri umani, questa è una sfida difficile, dicono gli esperti.
Una possibile soluzione è sviluppare computer che siano decentralizzati e programmati per dimenticare le cose che hanno imparato, afferma John Suit, Chief Technology Officer presso l'azienda di robotica KODA.
"Attraverso una rete decentralizzata, i dati e l'analisi di tali dati vengono compilati e analizzati da più punti", ha detto Suit in un'intervista via e-mail. "I dati vengono raccolti ed elaborati non da una singola mente di intelligenza artificiale che elabora entro i limiti del suo algoritmo, ma da centinaia o addirittura migliaia.
"Man mano che i dati vengono raccolti e analizzati, le vecchie "conclusioni" o i dati superflui vengono dimenticati. Attraverso questo sistema, un algoritmo che potrebbe essere iniziato con bias alla fine correggerà e sostituirà tale bias se si rivela sbagliato."
Sebbene il pregiudizio possa essere un problema secolare, potrebbero esserci modi per combatterlo, almeno online. Progettare computer che liberano i nostri pregiudizi è il primo passo.
