SafeAI Pro

AI Ethik

Vum Katya Kamlovskaya
Technologieethik Wäerter Evenementer

Dem Margaret Mitchell seng DES2025 Ried (Digital Enterprise Show, Malaga, Spuenien) iwwer Tech-Ethik huet mech un d’Buch erënnert, dat ech grad fäerdeg gelies hat - “The Careless People” vum Sarah Wynn-Williams - a säi Bericht iwwer d’Roll vu Facebook am Rohingya-Genozid a Myanmar.

Am Joer 2015 hunn ech Myanmar wärend senger fragiler demokratescher Transitioun besicht, grad wéi den Internetzougang staark eropgaang ass (op ~12% vun der Bevëlkerung). An de Joren duerno hunn ech an engem australeschen Haftzentrum Rohingya-Flüchtlingen getraff, déi virun ethnescher Säuberung geflücht sinn. Wärend Facebook deemools am Opstig war, war et net direkt offensichtlech, wéi et d’Welt beaflosst - net op eng positiv Manéier, wéi sech erausgestallt huet.

An hirer Ried huet d’Margaret eis drun erënnert, datt all Entscheedunge vu Wäerter gedriwwe sinn, an eng mini-ethesch Iwwerpréiwung erfuerderen, wou Wäerter identifizéiert, prioritär gesat an transparent gemaach ginn.

Facebook huet Myanmar als en ongenotzte Maart ugesinn. Awer seng Entscheedungen hunn ethnesch Gewalt ugestiwwelt, well seng Inaktioun zu der Verbreedung vu Mëssinformatioun an Haassried gefouert huet. Warnunge vun der Zivilgesellschaft an intern Rapporten hunn op d’Risiken higewisen, awer eng effektiv Inhaltsmoderatioun war net op der Plaz. Algorithmen, déi fir Engagement entworf goufen, hunn schiedlechen Inhalt verstäerkt an en Echoraum vun dehumaniséierendem Material géint d’Rohingya geschaf.

Et huet ausgesinn, wéi wann d’Geschäftswäerter vun der Firma d’Sécherheet an d’Mënscherechter net prioritär gesat hätten.

Op wéi eng Wäerter hu si sech konzentréiert?

Wuesstem a Maartausdehnung

D’Benotzer op der Plattform halen, hir Interaktioun mat Algorithmen erhéijen, déi dofir optimiséiert sinn - ouni unzeerkennen, datt emotional geluedenen Inhalt an Haassried dacks zu héijem Engagement féieren.

Gezielte Reklammen hunn d’Verstäerkung vu schiedlechen Inhalt ugespornt, trotz Mënscherechtsverletzungen.

D’Firma huet behaapt, drun ze gleewen, d’Welt besser ze maachen” - awer war dat iwwerhaapt méiglech ouni d’lokal Realitéite vu Myanmar, ethnesch Konflikter a schwaache Rechtsstaat ze verstoen? Negativ Auswierkunge goufen net virgesinn oder proaktiv geréiert.

Mënschlech Inhaltsmoderatoren hunn op eng zentraliséiert Manéier geschafft - ouni lokal Moderatoren (mat lokaler Sproochkenntnisser) op der Plaz. Déi existent zentraliséiert Systemer konnten schiedlechen Inhalt op Burmesesch net effizient erkennen, an d’Gefore goufen net adresséiert.

Also, wéi d’Margaret Mitchell warnt: Betriber musse bewosst Wäerter identifizéieren a prioritär setzen - an et geet net ëm eng Missiounserklärung: füügt transparent Prozesser bäi fir ethesch Aarbecht ze stimuléieren, effektiv Risikomanagement an eng mënschzentréiert Approche zu tech-relatéierten Entscheedungen, an da baue mir net nëmme besser Produkter, mee och méi elastesch a vertrauenswierdeg Betriber, déi d’Technologie fir de kollektive Wuel notzen.

Liest och d’Buch.