Az MKE-vándorgyűlés KIT-műhelyében is felmerült link a téma; újabb fejlemény a MI elfogultságáról…
Az év végeztével, az újesztendő kezdetével – az ilyenkor szokásos visszatekintések, összegzések, előrejelzések részeként – mindenki igyekszik csokorba foglalni a legfontosabb eredményeket, újításokat, illetve bemutatni a továbbfejlődés perspektíváit a mesterséges intelligenciák szélesre szabott és sokszínű világában is. Természetesen az eredmények fontosak, de ugyanakkor azt sem szabad elfelejteni, hogy a kudarcok sem éppen tanulság nélküliek. Az új technológiák, és ezen belül is a mesterséges intelligencia tématerület egyik kiemelkedő műhelye, a Massachusetts Institute of Technology, a legendás MIT éppen egy ilyen ritka, de különösen érdekes összeállításban mutatta be a “2024-es év legsúlyosabb technológiai bukásait”. Mindjárt a felsorolás élén a “woke MI”, azaz a “politikailag korrekt” mesterséges intelligencia csúfos kudarcát tárták az olvasók elé.
Az eset, a bemutatott “rossz gyakorlat” egyébként már csak azért is figyelemre érdemes, mert az MI-fejlődés egyik alapvető kérdését, dilemmáját, félelmét érinti, csak éppen inkább rontva, mint javítva a helyzeten. Az algoritmusok, az egyre másra felbukkanó generatív modellek körüli társadalmi polémia egyik vezető témája a “bias”, azaz az MI-technológiák elfogultsága, amely sokak szerint a legfőbb gátja a technológia széles körű társadalmi elfogadásának. A hírhedt “bias” nem kis mértékben a modellek betanítására használt tréning adatok tökéletlenségében keresendő. Az ilyen negatív vonások kigyomlálása (de még inkább kialakulásuk megakadályozása) nehéz feladat elé állítja a fejlesztőket. Mi történik akkor, ha az ilyen elfogultság nem véletlenül épül be a modellekbe, hanem kifejezetten szándékosság vezérli a fejlesztőket? A Google cég Gemini modelljének a fejlesztői, tavaly februárban bemutatott képgenerátorával éppen erre szolgáltattak egy rövid életű példát. A technológiai óriásvállalat sajátosan értelmezett “progresszív” törekvéseit szem előtt tartva, a nevetségességig vitték a “diverzitás”, a “sokszínűség” elveinek érvényre juttatását. A Gemini AI merev, megtanított kvóta alapján rajzolt fehér, fekete, sárga, rézbőrű embereket – a kapott prompttól, és a kívánt társadalmi, földrajzi, vagy éppen történeti kontextustól teljesen függetlenül. A program által generált II. világháborús jelenetekben szereplő, Wehrmacht egyenruhába bújtatott fekete katonák figurái azonban hamar köznevetség tárgyává tették az új modellt. (via MI Újság)
MIT Technology Review