Etica dell'IA

L’intervento di Margaret Mitchell al DES2025 (Digital Enterprise Show, Malaga, Spagna) sull’etica tecnologica mi ha ricordato il libro che avevo appena finito di leggere - “The Careless People” di Sarah Wynn-Williams - e il suo racconto del ruolo di Facebook nel genocidio dei Rohingya in Myanmar.

Nel 2015 ho visitato il Myanmar durante la sua fragile transizione democratica, proprio mentre l’accesso a Internet aumentava (fino a circa il 12% della popolazione). Negli anni successivi, in un centro di detenzione australiano, ho incontrato rifugiati Rohingya in fuga dalla pulizia etnica. All’epoca Facebook stava crescendo, ma non era subito evidente come stesse influenzando il mondo - non in modo positivo, come si è visto.

Nel suo intervento, Margaret ci ha ricordato che tutte le decisioni sono guidate dai valori e richiedono una mini-valutazione etica in cui i valori vengono identificati, prioritizzati e resi trasparenti.

Facebook vedeva il Myanmar come un mercato inesplorato. Tuttavia, le sue decisioni hanno provocato violenza etnica poiché l’inazione ha portato alla diffusione di disinformazione e discorsi d’odio. Gli avvertimenti della società civile e i rapporti interni hanno segnalato i rischi, ma non è stata implementata una moderazione efficace dei contenuti. Gli algoritmi, progettati per l’engagement, hanno amplificato i contenuti dannosi, creando una bolla di materiale disumanizzante contro i Rohingya.

Sembra che i valori aziendali della società non dessero priorità alla sicurezza e ai diritti umani.

Su quali valori si sono concentrati?

Crescita ed espansione del mercato

Rapida adozione da parte degli utenti in un nuovo mercato: Facebook è diventato praticamente sinonimo di Internet in Myanmar.
Coinvolgimento e fidelizzazione degli utenti

Mantenere gli utenti sulla piattaforma, aumentando la loro interazione con algoritmi ottimizzati a tale scopo - senza riconoscere che i contenuti emotivamente carichi e i discorsi d’odio spesso portano a un alto coinvolgimento.

Generazione di ricavi

Gli annunci mirati incentivavano la diffusione di contenuti dannosi nonostante le violazioni dei diritti umani.

Tecno-ottimismo

L’azienda affermava di voler migliorare il mondo - ma era davvero possibile senza comprendere le realtà locali del Myanmar, i conflitti etnici e la debolezza dello stato di diritto? Gli impatti negativi non sono stati previsti né gestiti in modo proattivo.

Efficienza

I moderatori di contenuti umani lavoravano in modo centralizzato - senza moderatori locali (con conoscenza della lingua locale) sul posto. I sistemi centralizzati esistenti non potevano rilevare efficacemente i contenuti dannosi in birmano e le minacce non sono state affrontate.

Come avverte Margaret Mitchell: le aziende devono identificare e dare priorità ai valori in modo consapevole - e non si tratta di una dichiarazione di intenti: aggiungere processi trasparenti per incentivare il lavoro etico, una gestione efficace dei rischi e un approccio umano-centrico alle decisioni tecnologiche, e così costruiremo non solo prodotti migliori, ma anche aziende più resilienti e affidabili che sfruttano la tecnologia per il bene collettivo.