Midjourney, ChatGPT, DALL-E… Csak, hogy néhányat említsünk a legfelkapottabb mesterséges intelligencia szoftverek közül. Pár év leforgása alatt olyan drámai fejlődés ment végbe ezen a területen, hogy mára már gyakorlatig bárkinek lehetősége van néhány kattintással a valóságot szinte tökéletesen utánzó AI-képeket, vagy éppen szöveget generálni.
Tagadhatatlan, hogy az AI térhódítása egyrészről egy nagyon is pozitív fejlemény: bizonyos területeken és szakmákban lehetőséget ad a hatékonyság növelésére, a problémák gyorsabb megoldására, miközben elősegítheti az innovációkat. Ám mindeközben számos olyan problémát és veszélyt is rejthet magában, amelyeket egyszerűen nem szabadna figyelmen kívül hagynunk.
Különösen aggasztó például, hogy a mesterséges intelligencia által tömegesen létrehozott képek és egyéb tartalmak a társadalmunkban egyébként is mélyen gyökerező szexizmusra, valamint nőgyűlöletre is ráerősítenek.
Az AI és a férfitekintet
2023. március 8-án, a Nemzetközi Nőnap alkalmából a nemek közti egyenlőségért küzdő, francia szervezet, a #JamaisSansElles egy rendkívül tanulságos kísérletet végzett el: a Midjourney szoftvert használva arra kérte az AI-t, hogy készítsen egy képet egy vezérigazgatóról. A kérés egyszerű volt, és a szoftver pillanatok alatt öltönyös, irodájukban ülő fehér férfiakat ábrázoló fotók tucatjait generálta.
Ezután csavartak egyet a dolgon és arra kérték a mesterséges intelligenciát, hogy mutasson egy képet egy titkárnőről. Erre válaszul a szoftver szexi, fiatal nőket jelenített meg, akik szoros blúzban, mély dekoltázzsal és szemüveggel pózolnak az íróasztalukon ülve.
A mesterséges intelligencia elfogultságaira Isabelle Collet, a Genfi Egyetem informatikus professzora is felhívta már korábban a figyelmet. Collet egy kifejezetten nyugtalanító felfedezést tett, amikor a Google-ben rákeresett az iskolás fiú és az iskolás lány kifejezésre. Az előbbit beírva a Google keresőjébe, teljesen átlagos, iskolában tanuló gyerekek képe jelent meg előtte a képernyőn.
Ám amikor Collet az iskolás lány kifejezést írta be, tömegével ugrottak fel az erotizált, szexi ruhákba öltöztetett fiatal lányok fotói.
Persze fontos leszögezni, hogy nem önmagával az AI-jal van a baj, és a Google sem lenne eredendően pedofil hajlamú. Ezeket a szoftvereket élő emberek kódolják és hozzák létre, ami azt jelenti, hogy pontosan azokat a sztereotípiákat tükrözik vissza, amelyek egyébként a programozókban, fejlesztőkben is megvannak. Natacha Quester-Séméon, a #JamaisSansElles igazgatója így magyarázta a jelenséget: „A mesterséges intelligencia adathalmazokat aggregál, akárcsak a keresőmotorok. Ezért óhatatlanul visszatükrözi a fejlesztők – túlnyomórészt férfiak – kognitív torzításait.”
A mesterséges intelligencia tehát akaratlanul is reprodukálja és erősíti a male gaze-t, azaz a férfi tekintetet. Azt a férfiközpontú világszemléletet, ami teljes mértékben áthatja a patriarchális társadalmakat. „Azt tapasztaltuk, hogy a nőket gyakran bizonyos szerepekre korlátozza az AI, miközben láthatatlanná teszi őket vezetői pozíciókban. Általánosságban elmondható, hogy a női ábrázolások túlnyomórészt a külső megjelenésre fókuszálnak, nem pedig a nők szakmai tekintélyére vagy komolyságára” – tette hozzá Natacha Quester-Séméon.
A mesterséges intelligencia akaratlanul is reprodukálja és erősíti a male gaze-t, azaz a férfitekintetet
Több nőre lenne szükség az IT területén
Még aggasztóbb, hogy az AI-ba programozott szexizmus már a nők karrierlehetőségeit is képes negatívan befolyásolni. Néhány éve derült rá fény, hogy a vállalatok által egyre gyakrabban használt, toborzást segítő mesterséges intelligencia hátrányos helyzetbe hozza a nőket. 2015-ben az Amazon kénytelen volt leállítani a saját fejlesztésű szoftverét, miután kiderült, hogy a kiválasztási folyamat során az a férfi pályázókat részesítette előnyben. Több mint egy éve használták már az eszközt, amikor a cég észrevette, hogy
a női jelentkezők önéletrajzait a rendszer automatikusan alacsonyabbra értékelte, vagy egyszerűen elutasította.
Ez a jelenség vezetett oda, hogy három civil szervezet, a nőket segítő francia Fondation des Femmes és Femmes Ingénieures, valamint az emberi jogokért küzdő, nemzetközi Global Witness panaszt nyújtott be a francia adatvédelmi hatósághoz (CNIL) a Facebook algoritmusainak szexista torzítása miatt.
A Global Witness által végzett felmérés szerint ugyanis a közösségi oldalra posztolt álláshirdetések sem egyenlően jutnak el a nőkhöz és férfiakhoz. Míg például egy titkárnői álláshirdetésnél az algoritmus az esetek 92%-ában nőket célzott meg, a pilótaállások 85%-a a férfiak falán landolt.
Ahogy már korábban is említettük, a mesterséges intelligenciát átható szexizmusra és nőgyűlöletre megvan a magyarázat: a programozók többsége férfi, akik az internet létrejötte óta túlnyomórészt „férfiközpontú” adatokra támaszkodnak, miközben a nőkről kevés információ áll rendelkezésre.
Ezt a jelenséget nevezte a két francia kutató, Aude Bernheim és Flora Vincent gender data gapnek, azaz nemi adatszakadéknak, amikor könyvükben az AI torzításait és az internetes női reprezentáció hiányát vizsgálták. Hogy szemléltessék a problémát, egy rendkívül sokatmondó példát is megemlítettek írásukban. A kutatók kipróbálták, mi történik, ha a Google Images segítségével rákeresnek az író szóra.
Az eredmény a korábbi kísértekhez hasonlóan ezúttal is lesújtó volt: a kereső csupán az esetek 26%-ában jelenített meg női képet, miközben adatok szerint az írók 56%-a nő.
És hogy vajon mi hozhatna megoldást az internetet és mesterséges intelligenciát átható kettős mércére? A válasz egyszerű: sokkal több nőnek kellene szerepet kapnia az IT-világban.
Csak 12% a női munkavállalók aránya az AI területén
Meglepő lehet, de az 1970-es években az IT-szektorban dolgozó nők aránya még elérte a 30 százalékot. A ’80-as évektől kezdve aztán ez a szám folyamatosan csökkenni kezdett, mígnem eljutottunk oda, hogy mára a nők mindössze 12 százaléka reprezentálja magát az AI területén.
Flora Vincent kutató úgy véli, a problémára a női kvóták bevezetése jelentené a megoldást. Véleménye szerint a szemléletváltás elindításához minimum 30-40%-os női munkaerőre lenne szükség a fejlesztői pozíciókban. Ám mielőtt ezt elérnénk, az algoritmusokat is újra kellene programozni. „Az egyenlőség kódolható! Nyugodtan előírhatnánk a toborzó AI-k számára, hogy több női jelöltet válasszanak ki, vagy egyenlő fizetéseket ajánljanak, nemtől függetlenül. Ez valójában csak politikai akarat kérdése” – mondja Vincent.
Lehet, hogy ez a szemléletváltás sokak számára merésznek tűnik, a valódi változáshoz azonban elengedhetetlen lenne. Gondoljunk csak Marie Curie-re, aki egy újságíró kérdésére, hogy milyen érzés egy zsenivel élni, így válaszolt: „Menjen, és kérdezze meg a férjemet!”
Forrás: Marie Claire France/Marjorie Philibert Fotó: Getty Images
