A nőket bikiniben, a férfiakat öltönyben látja a mesterséges intelligencia

2021. február 11. |

Hogy kerül a bikini Alexandria Ocasio-Cortezre, és mi köze ennek a mesterséges intelligencia jövőjéhez? Bár úgy tűnhet, hogy két teljesen független dologról van szó, a kutatások szerint nagyon is van összefüggés, a mesterséges intelligencia jövője pedig nem túl fényes, ami a nőket illeti.

A képgeneráló algoritmusokkal foglalkozó legfrissebb kutatás riasztó eredményeket mutat, ami a nemi sztereotípiákat illeti. Azt mindenki tudja, hogy ha félmeztelen nőt akar látni, akkor csak fel kell csapnia az internetet. Az egész világháló tele van lengén öltözött nőkkel. Ám azt a legvadabb álmunkban sem gondoltuk volna, hogy annyira sok ilyen fotó van az interneten, hogy még a mesterséges intelligencia (AI) is úgy értékeli, hogy a nők nem viselnek ruhát. 

mestereseges-intelligencia-nemi-sztereotipia-diszkriminiacio-bikini-foto

Röviden így foglalhatjuk össze a Ryan Steed, a Carnegie Mellon Egyetem tudósa és Aylin Caliskan, a George Washington Egyetem kutatója által végzett elemzés eredményeit, amelyben azt vizsgálták, hogy a képgeneráló algoritmusokban milyen erősen vannak jelen a nemi sztereotípiák és a diszkrimináció

A kutatók arcokat tápláltak ezekbe az algoritmusokba (amelyek automatikusan kiegészítik a képeket). A nyaktól felfelé látszódó férfiak esetén a mesterséges intelligencia az esetek 43 százalékában öltönyös testtel egészítette ki a fejet. Amikor nők arcképeit táplálták a programba, az automatikus kiegészítés haspólóval vagy bikinivel pótolta ki nyaktól lefelé azokat az estek több mint felében (53 százalékában). A tudósok kipróbálták, mi történik, ha egy ismert, a keresőprogramokba gyakran beírt, komoly társadalmi funkciót ellátó nő arcképét adják az algoritmusnak. Alexandria Ocasio-Cortez amerikai demokrata képviselő arcképét táplálták be, és a program automatikusan bikinis testet generált a politikusnak. 

Miért rajong az algoritmus a bikinis fotókért?

Nem véletlen, hogy a mesterséges intelligencia a nőket a hiányos öltözettel azonosítja. Az AI esetében színtisztán érvényesül az amilyen szemét bekerül, olyan szemét jön ki elv: amit az algoritmus megtanul az internetről arról, hogy néz ki egy tipikus nő, azt a képet használja fel. Ha az adatbázis, ahonnan tanul, sok félmeztelen nőről tartalmaz képet, akkor ezt veszi alapértelmezettnek.

Olvastad már?

A munkám a szenvedélyem: Vásárhelyi Orsolya adattudós

A munkám a szenvedélyem: Vásárhelyi Orsolya adattudós

Minden héten olyan szerencsés embereket mutatunk be, akik számára a munkájuk az életük egyik értelme, a szenvedélyük. Ismerkedjetek meg Vásárhelyi Orsolya adattudóssal, aki jelenleg a Közép-európai Egyetem doktorjelöltje.

A tanulmány épp ezért felfogható mintegy figyelmeztetésként arra, hogy a mesterséges intelligencia rengeteg nemi sztereotípiákra épülő panelt tartalmaz. És ez nem marad meg a tudományos probléma szintjén. Valószínűleg nem is vagyunk tudatában annak, hogy az életünk mekkora részét irányítja a mesterséges intelligencia, így ennek a való életben jelentkező következményei lehetnek. 

Munkaerőtoborzástól a hamis pornóig

2015-ben például az Amazon felfedezte, hogy a munkaerőtoborzásnál használt mesterséges intelligencia a nő szó bármilyen említését riasztásnak vette, magyarul a nők hátrányos helyzetbe kerültek a kiválsztásnál, már az első körben. A rasszista arcfelismerő algoritmusok szintén okoztak már komoly problémákat, amikor tévesen tartóztattak le a programok nyomán fekete bőrű személyeket, akik nem követtek el semmilyen bűncselekményt. Tavaly pedig Angliában tört ki botrány abból, hogy a diákok jegyeinek meghatározásához használt algoritmus a jelek szerint a hátrányos helyzetű diákokat aránytalanul nagy számban sorolta lejjebb. 

A képgeneráló algoritmusokat pedig, amelyek szerint a nőkhöz a bikini tartozik, nem a kosztüm, szintén széles körben használják a digitális állásinterjú-platformoktól a képszerkesztésig. Nem is beszélve a hamis pornófelvételekről. A számítógép által generált bikinis AOC csupán a jéghegy csúcsa, ám pontosan rámutat arra, hogy az internet milyen hellyé válhat a nők számára, ha nem vesszük tudomásul és kezdünk el beszélni a mesterséges intelligencia nemi sztereotípiáról

Forrás: The Guardian
Fotó: Getty Images

Olvass tovább!

Szólj hozzá te is!

Még több Riporter