Da asporto chiave
- I sistemi di intelligenza artificiale che monitorano i camion delle consegne stanno penalizzando ingiustamente i conducenti di Amazon, afferma un nuovo rapporto.
- Il sistema Amazon fa parte di una tendenza crescente di aziende che utilizzano la tecnologia per monitorare i propri datori di lavoro da remoto.
-
Alcuni software di intelligenza artificiale consentono ai datori di lavoro di monitorare continuamente il comportamento dei dipendenti in background e disegnare schemi nel loro flusso di lavoro.
I datori di lavoro si rivolgono sempre più spesso a software per monitorare i dipendenti da remoto, sollevando preoccupazioni tra alcuni sostenitori della privacy.
Un nuovo rapporto afferma che le telecamere alimentate dall'intelligenza artificiale nei furgoni di consegna di Amazon hanno ingiustamente penalizzato i conducenti. L'articolo ha rilevato che i conducenti soffrivano di avvisi errati, scorecard dei conducenti errati, ipotesi di condizioni del traffico poco pratiche e conducenti che adottavano pratiche per aggirare la tecnologia.
"Mentre l'IA sta migliorando, gli errori verranno comunque commessi", ha detto a Lifewire in un'intervista via e-mail Raymond Ku, direttore del Center for Cyberspace Law & Policy presso la Case Western Reserve University. "Per correttezza, penso che tutti crediamo che qualcuno che viene penalizzato in qualsiasi modo dal processo decisionale dell'IA dovrebbe essere informato del fatto e avere l'opportunità di contestare la decisione."
Telecamere AI di Amazon
Amazon ha affermato di aver installato telecamere alimentate dall'intelligenza artificiale nei suoi veicoli per le consegne come misura di sicurezza. Le telecamere hanno lo scopo di monitorare quando i conducenti delle consegne eseguono manovre pericolose come l'esecuzione di segnali di stop o inversioni a U illegali.
Quando le telecamere individuano possibili "eventi" di guida non sicuri, questi casi influiscono sui punteggi delle prestazioni dei lavoratori. Punteggi più bassi riducono la possibilità che i conducenti ottengano bonus, compensi extra e premi.
Ma i conducenti di Amazon hanno detto a Motherboard di essere puniti per alcune abitudini di guida considerate sicure o al di fuori del loro controllo. Amazon non ha risposto a una richiesta di commento di Lifewire.
Ku ha sottolineato che dal momento che i conducenti hanno accettato di essere registrati, non subiscono un'invasione della privacy ai sensi della legge.
"Tuttavia, ciò non significa che il lavoratore medio sarebbe contento della sorveglianza o non si opporrebbe se potesse", ha aggiunto. "Questo è particolarmente vero quando la sorveglianza inizia a invadere spazi personali più tradizionali."
Il rapporto solleva domande più ampie sul fatto che i dati possano essere consultati e utilizzati in cause legali o dalla polizia e dai funzionari federali, ha detto a Lifewire l'avvocato per la privacy dei dati Bethany A. Corbin in un'intervista via e-mail. Potrebbe anche avere un impatto sulla responsabilità, ha sottolineato.
"Ad esempio, se la tecnologia AI dice al dipendente di non guardare negli specchietti laterali e il dipendente ha un incidente come risultato diretto di quel consiglio, chi è la colpa?" Corbin ha aggiunto.
Sorveglianza in crescita
La sorveglianza non si ferma ad Amazon. Un numero crescente di aziende utilizza la tecnologia per monitorare i propri dipendenti da remoto, ha dichiarato a Lifewire l'esperto di privacy Chris Hauk in un'intervista via e-mail.
Ad esempio, la società di marketing AI Blackbelt utilizza un sistema di tracciamento del tempo Allocate, che consente all'azienda di monitorare e tracciare autonomamente l'attività del computer dei suoi dipendenti. Workplace Analytics di Microsoft consentirà ai datori di lavoro di controllare la durata del tempo di un dipendente sui siti Web, scrivere e-mail e altro durante una giornata lavorativa.
Walmart sta anche lavorando a un sistema che ascolta il fruscio delle borse o i segnali acustici degli scanner di cassa per tenere traccia delle metriche dei dipendenti e garantire che i dipendenti svolgano le proprie attività in modo corretto ed efficiente. I sensori possono persino ascoltare i clienti mentre chattano mentre sono in linea e rilevare se i dipendenti stanno salutando i clienti correttamente o meno.
La sorveglianza sul posto di lavoro sta diventando sempre più diffusa dall'inizio della pandemia, ha detto a Lifewire l'esperto di privacy Pankaj Srivastava in un'intervista via e-mail.
"La maggior parte di questa tecnologia è posizionata come 'miglioramento della produttività', tuttavia, il modo in cui funzionano alcuni di questi strumenti suggerisce una maggiore tolleranza dei datori di lavoro nel monitorare ogni attività della loro forza lavoro", ha aggiunto. "Ad esempio, monitorare quanto tempo i dipendenti dedicano a ciascuna attività, scattare una foto da remoto per assicurarsi che i dipendenti siano alla loro scrivania e persino monitorare i siti Web visitati e registrare i movimenti della tastiera e del mouse di un dipendente."
Mentre l'IA sta migliorando, gli errori verranno comunque commessi.
Alcuni software di intelligenza artificiale consentono ai datori di lavoro di monitorare continuamente il comportamento dei dipendenti in background e disegnare schemi nel loro flusso di lavoro, ha affermato.
"Un dipendente può essere licenziato in base al suo rapporto personalizzato sulle prestazioni, citando che ha impiegato alcuni minuti in più per completare un'attività del solito", ha detto Srivastava.
"Addio, pause per il bagno."
