Facebook ha affermato che sta testando una tecnologia di moderazione dell'intelligenza artificiale nei gruppi per frenare i conflitti nei post e nei commenti.
Il nuovo strumento basato sull'intelligenza artificiale si chiama Avvisi sui conflitti e ha lo scopo di aiutare gli amministratori dei gruppi ad avere un maggiore controllo sulle loro comunità. La tecnologia AI avviserà un amministratore se rileva "conversazioni controverse o malsane" in modo che un amministratore possa intraprendere le azioni necessarie più rapidamente.
Per l'utente medio di Facebook, questo nuovo strumento significa che molto probabilmente vedrai meno litigi e discussioni all'interno dei post dei gruppi che segui, quindi le cose saranno meno negative, nel complesso.
Gli amministratori possono utilizzare lo strumento Avvisi di conflitto per creare avvisi quando gli utenti commentano con parole o frasi specifiche e il machine learning può individuare queste istanze per avvisare un amministratore quando si verificano. Lo strumento consente inoltre agli amministratori di limitare l'attività per persone e post specifici.
Facebook ha detto a The Verge che l'apprendimento automatico utilizzerà "più segnali come il tempo di risposta e il volume dei commenti per determinare se il coinvolgimento tra gli utenti ha o potrebbe portare a interazioni negative".
Facebook utilizza già strumenti di intelligenza artificiale per segnalare altri tipi di contenuti sulla sua piattaforma, incluso l'incitamento all'odio. Secondo un rapporto sull'applicazione degli standard della comunità dell'agosto 2020, lo strumento AI di Facebook per l'incitamento all'odio era accurato al 95%, rispetto all'89% del primo trimestre del 2020. Facebook ha affermato di aver aumentato le sue azioni contro i contenuti dell'incitamento all'odio da 9,6 milioni di istanze nel primo trimestre 2020 a 22,5 milioni nel secondo trimestre.
Per l'utente medio di Facebook, questo nuovo strumento significa che molto probabilmente vedrai meno litigi e discussioni all'interno dei post dei gruppi che segui
Il social network sta anche lavorando su una tecnologia di intelligenza artificiale in grado di "vedere" le foto utilizzando dati grezzi per consentire al modello di allenarsi da solo, in modo indipendente e senza utilizzare un algoritmo, poiché visualizza più immagini. Il progetto AI, noto come SEER, potrebbe aprire la strada a modelli di visione artificiale più versatili, accurati e adattabili, offrendo al contempo migliori strumenti di ricerca e accessibilità agli utenti dei social media.
