Da asporto chiave
- Una serie di nuove app potrebbe essere in grado di rilevare le emozioni degli studenti.
- Secondo quanto riferito, Class, produttore di software per classi e Intel sta sviluppando un software che veglierà sui volti e sul linguaggio del corpo degli studenti digitali.
- Alcuni esperti temono che l'uso dell'IA per monitorare gli studenti possa portare a invasioni della privacy.
Le scuole potrebbero presto utilizzare l'intelligenza artificiale (AI) per monitorare gli stati emotivi degli studenti.
Il produttore di software per classi Intel e Class sta sviluppando un software che veglierà sui volti e sul linguaggio del corpo degli studenti digitali. Secondo quanto riferito, il sistema è in grado di rilevare se gli studenti sono annoiati, distratti o confusi, ma alcuni esperti temono che il software possa portare a invasioni della privacy.
"Tali prodotti di monitoraggio basati sull'intelligenza artificiale dovrebbero essere trasparenti su come vengono utilizzati questi dati", ha detto a Lifewire in un'e-mail Michael Huth, co-fondatore della società Xayn e capo del dipartimento di informatica dell'Imperial College London colloquio. "Se viene utilizzato per tenere traccia del coinvolgimento in una coorte di studenti, in cui il coinvolgimento a livello individuale non è registrato, ciò è in qualche modo meno problematico dal punto di vista della privacy. Se uno qualsiasi di questi dati dovesse essere utilizzato per influenzare la valutazione degli studenti, tuttavia, io può vedere sorgere ogni tipo di problema."
Guardare sugli studenti
Class e Intel hanno collaborato per integrare una tecnologia basata sull'intelligenza artificiale che funziona insieme al software di videoconferenza Zoom, secondo Protocollo. Il software può essere utilizzato per monitorare gli studenti, afferma il rapporto.
"Attraverso la nostra partnership con Intel, saremo in grado di portare al software Class nuove e coinvolgenti funzionalità guidate da funzionalità supportate dalla ricerca", secondo il sito Web dell'azienda. "Lavoreremo anche al fianco di Intel per sfruttare le risorse e fornire a educatori e studenti informazioni preziose, case study congiunti, white paper, webinar e molto altro."
Intel ha detto a Protocol che il software per la classe è nelle prime fasi e non ci sono piani per inviare il prodotto sul mercato.
La partnership con Class non è l'unica potenziale collaborazione tra il software di lettura delle emozioni di Intel e altri produttori. Una brochure online di Intel pubblicizza una nuova lavagna elettronica chiamata Viewboard destinata alle scuole. Il software Intel "consente a myViewboard di valutare e visualizzare gli stati emotivi degli studenti come feedback immediato per gli educatori", secondo la brochure.
Class è uno dei tanti prodotti software che pretendono di tenere traccia delle emozioni degli studenti utilizzando l'IA. C'è anche 4Little Trees, una piattaforma di apprendimento per il rilevamento delle emozioni che è "un assistente didattico virtuale [che] ti aiuterebbe scegliendo le domande più adatte a te o ti sfiderebbe quando necessario", secondo il sito web dell'azienda.
Ashish Fernando, CEO della società di intelligenza artificiale iSchoolConnect, ha dichiarato a Lifewire in un'intervista via e-mail che l'IA può essere addestrata per valutare il comportamento e le caratteristiche umane senza l'impatto dei pregiudizi soggettivi degli individui.
"L'IA può valutare un numero significativamente maggiore di comportamenti umani, comprese le microespressioni facili da perdere, a un ritmo molto più veloce di un essere umano", ha detto Fernando. "Laddove il feedback avrebbe potuto richiedere ore, l'IA ora può fornire lo stesso in pochi minuti."
Preoccupazioni per la privacy
L'uso dell'IA per monitorare gli esseri umani è in crescita. Snapchat ha una tecnologia AI che valuta il livello emotivo di un gruppo di persone durante un evento dal vivo. Mad Street Den utilizza l'intelligenza artificiale per la visione artificiale per aiutare i rivenditori a riconoscere le espressioni facciali e le emozioni dei potenziali acquirenti. BrainQ sfrutta l'IA per capire come i passeggeri interagiscono con i veicoli autonomi che stanno utilizzando. E le aziende utilizzano l'intelligenza artificiale per monitorare la stanchezza del conducente.
"Questo è un ottimo caso d'uso per la sicurezza stradale, ma solleva questioni riguardanti i diritti alla privacy dei conducenti nei loro veicoli personali", ha detto Huth. "Le informazioni sulla fatica saranno condivise con la compagnia di assicurazioni o la casa automobilistica? O avviseranno semplicemente l'autista di accostare e riposare? Questo è un problema minore per le flotte di auto commerciali come camion, furgoni o taxi."
Un problema è che le informazioni dell'IA, come il movimento muscolare per dedurre lo stato emotivo, potrebbero non essere affidabili, ha detto Huth. "Questo crea un dilemma, poiché un'IA più affidabile potrebbe richiedere l'accesso a dati ancora più sensibili come i segnali EEG", ha aggiunto.
Per gli studenti, l'IA può essere utile per monitorare la conformità durante gli esami online quando un supervisore non può essere fisicamente presente. Ma questo uso dell'IA per questo è controverso, ha detto Huth, perché il sistema cerca di determinare se uno studente intende imbrogliare o se lo fa, e c'è un reale potenziale di falsi positivi che si traducono nella penalizzazione ingiustificata degli studenti che non hanno fatto nulla di sbagliato.
"Qualsiasi intelligenza artificiale utilizzata per questo scopo dovrebbe essere sufficientemente robusta per affrontare le pause in bagno, i tic nervosi dei singoli studenti (come i movimenti oculari irregolari) e così via", ha detto Huth.
