A mesterséges intelligencián alapuló, információhoz való hozzáférés új generációs rendszerei, mint pl. a Microsoft Bing/ChatGPT, a Google/Bard és a Meta/LLaMA, képesek teljes mondatokat, sőt bekezdéseket is bemenetként fogadni, és személyre szabva, természetes nyelven válaszolni. Nagy nyelvi modellekre (LLM-kre) épülnek az olyan MI-rendszerek, mint a ChatGPT és a Bard (gépi tanulási technika, amely nagy mennyiségű szöveg – pl. Wikipedia, PubMed cikkei – felhasználásával tanul mintákat). Ezek a modellek kitalálják egy szóhalmaz vagy egy mondat alapján, hogy melyik szó következik. Így generálnak mondatokat, bekezdéseket, sőt oldalakat.
Hátrányaik:
– Hallucinálásra hajlamosak: gyakran kitalálják a válaszokat link .
A válasz gyakran intelligensnek tűnik, de szinte papagáj módra ismételt kifejezéseket adnak valódi megértés nélkül. Pl. megkérheti a ChatGPT-t, hogy írjon egy technikai jelentést idézetekkel ellátva. De gyakran kitalálja ezeket, tévesen idézve a tudományos cikkek címeit és szerzőit is. A válaszaik pontosságát sem ellenőrzik. Az ellenőrzést a felhasználókra bízzák, akiknek nem biztos, hogy megvan hozzá a motivációjuk, készségük, vagy fel sem ismerik, hogy ellenőrizni kell a MI válaszait. A ChatGPT nem ismeri fel, ha egy kérdésnek nincs értelme, és nem ismer tényeket sem.
– Nem átláthatóak. Nem fedik fel, hogy milyen adatok alapján képezték ki őket, milyen forrásokat használtak fel a válaszok megadásához, vagy hogyan generálták ezeket. A rendszerek ahhoz sem elég okosak, hogy megértsék a kérdés helytelen előfeltevését. Így hibás kérdésekre válaszolnak, pl. Melyik amerikai elnök arca van a 100 dolláros bankjegyen? Még ha ezek a rendszerek csak az esetek 10%-ában tévednek is, nem tudni, hogy melyik 10%-ban.
– Tartalmat és fogalmat lop. Az átlátó képességének hiánya igazságtalan az eredeti tartalmak szerzőivel, művészeivel és alkotóival szemben is. A rendszerek nem fedik fel forrásaikat. A legtöbb esetben az alkotók nem kapnak kompenzációt vagy jóváírást, illetve lehetőséget arra, hogy beleegyezésüket adják. Ennek gazdasági vetülete is van. Egy keresőmotornál a találatok a forrásokra mutató linkekkel együtt jelennek meg. A felhasználó nemcsak ellenőrizheti a válaszokat és hivatkozhat a forrásokra, hanem az adott oldalaknak forgalmat is generál. Sok ilyen forrásnak ez biztosít bevételt.
– Korlátozzák a tanulást és a véletlenszerűséget (megjegyzés: a szerendipitást, azaz a véletlen felfedezéssel tanulást, kreativitást). Ezzel pedig a válaszaik hozzájárulhatnak a hamis bizalom és tekintélyérzethez, ami a tájékozatlan felhasználóknak veszélyes lehet. (Ref.: Szabó Eszter)
Gizmodo