A Facebook bocsánatot kér, amiért a fekete férfiakat főemlősöknek minősítette

A mesterséges intelligenciáknak lehetnek faji elfogultságaik. A kaukázusi arcokat 10-100-szor nagyobb valószínűséggel ismerik fel és azonosítják helyesen, mint az afroamerikai és ázsiai arcokat, ami már vezetett téves vádakhoz, letartóztatásokhoz, sőt bebörtönzésekhez, mert egy mesterséges intelligencia nem tudta helyesen azonosítani a nem fehér arcot.

Sok diák saját bőrén tapasztalta ezt a világjárvány idején. Számos cég, például a Proctorio nagy sikereket ért el az egyetemeken és az iskolákban, ahol a tanárok arra utasítják a diákokat, hogy telepítsenek egy olyan szoftvert, amely ellenőrzi, hogy becsületesen írnak-e tesztet. A szoftver nagyobb valószínűséggel vádolta a színes bőrűeket csalással, mert a szoftver nem tudta felismerni az arcukat. Az ilyen vizsgafelügyelő szoftverek bizonyítottan erősítik a fehér felsőbbrendűséget, a szexizmust, az ableizmust és a transzfóbiát.

A Facebook hibája

A Facebook bocsánatkérése a fehér civilekkel és rendőrökkel összetűzésbe keveredett fekete férfiakra vonatkozott, a The New York Times szerint. Egy képfelismerő AI a klipeket majmokról vagy főemlősökről készült felvételeknek minősítette, holott a videóknak egyikhez sem volt közük.

Hogyan történhetett ez meg? A mesterséges intelligencia elfogultsága általában egy elfogult képzési készlet eredménye. Ahogy Joy Buolamwini elmagyarázza TED-előadásában, ahol elmagyarázza, hogyan nem tudta az arcfelismerő szoftver felismerni az arcát. Ugyanígy egy olyan adathalmaz, ahol az arcok több mint 80 százaléka fehér, nehezebben ismeri fel a különböző bőrszínű embereket, és az adott arcokat valami emberhez közeli dolognak - például majmoknak és más főemlősöknek - minősítheti.

A Facebook legutóbbi hibájához hasonló botrányt láthattunk 2015-ben, amikor a Google tévesen gorillaként azonosította a fekete embereket a Google Fotókon. A mesterséges intelligencia megváltoztatása helyett azonban A Google Photos megszabadult az olyan szavaktól, mint a "gorilla", "csimpánz", "csimpánz" és "majom". Bár ez azt jelenti, hogy az embereket többé nem fogják majomként azonosítani a Google Fotókon, ez arra utal, hogy a mesterséges intelligenciával kapcsolatos alapvető problémákat még nem javították ki.

A Facebook rasszista visszaélései

Bár a Facebook mesterséges intelligenciájának hibája egy társadalmi szinten játszó alapproblémából fakad, a Facebookon már többször előfordultak visszaélések, gyakran faji jellegűek.

• Azoknál az Instagram-felhasználóknál, akiknek tevékenysége arra utalt, hogy feketék, 50%-kal nagyobb valószínűséggel tiltották le automatikusan a fiókjukat. A kutatókat a feletteseik felszólították, hogy hagyják abba a kutatást és hallgassanak róla;
• Mark Zuckerberg, a Facebook vezérigazgatója nyilvánosan megkérte az alkalmazottakat, hogy ne húzzák ki a Black Lives Matter feliratokat;
• A Facebook nem sikerült megfékeznie az angol focisták rasszista gyalázkodását;
• Számos borzalmas történetet jelentettek névtelenül a Facebook alkalmazottai körében tapasztalt rasszizmusról és bigottságról.

Az ehhez hasonló példák bőven hagynak teret arra, hogy elgondolkodjunk azon, hogy a Facebook mennyire veszi őszintén a főemlősök melléigazítását -- és azon, hogy a bocsánatkérés csupán egy PR-akció-e a további viták elkerülése érdekében.

Mit tehetünk ez ellen?

A képfelismerés nagyon hasznos eszköz, amely segíthet javítani mindennapi életünket, de az innováció nem járhat együtt diszkriminációval vagy a bigottság megerősítésével. Az ember majomként való besorolása ilyen megalázó, és ez nem más, mint nyilvánvaló, hogy a Facebookot, mint céget felelősségre kell vonni.

Csak triviális, hogy egy egyszerű algoritmus nagy platformon komoly következményekkel járhat, és ezért az algoritmusokat is így kell kezelni. Egy arcfelismerő algoritmus nem lehet egyszerűen olyasmi, amit csak úgy rá lehet dobni emberek millióira, és emberek ezreinek a gorilla-részlegbe való besorolása ugyanolyan elfogadhatatlan, mint az, hogy nyilvánosan majomnak titulálják ezeket az embereket.

Ne legyen elég a bocsánatkérés, különösen egy olyan vállalat esetében, amelynek ilyen mértékű rasszista visszaélések vannak a múltjában.