Ha a mesterséges intelligenciához (AI) fordulna orvosi kérdésekkel, érdemes óvatosnak lennie. A Google nemrég törölt néhány AI-összefoglalót azok közül, amelyek egyre gyakrabban jelennek meg legelöl, a keresési eredmények fölött. Az előzmény: a londoni The Guardian napilap szakértők bevonásával olyan tévedéseket mutatott ki az orvosi tárgyú AI-összegzésekben, amelyek bajt okozhattak volna. (A lap nem tér ki arra, hogy valóban történtek-e ilyen esetek.) Az egyik példa, hogy aki májfunkciós laboreredmények értelmezéséhez kért segítséget, az tévesen gondolhatta, hogy nem kell orvoshoz fordulnia. A The Guardian egy egészségügyi tanácsokat adó civil szervezetre hivatkozva azt írja, hogy a törlések után is sok félrevezető AI-összefoglaló maradt a Google keresési eredményeinek élén, rákra és pszichiátriai gondokra vonatkozó információkat is beleértve.
A szakértők azt is aggasztónak tartják, hogy ugyanarra a kérdésre eltérő válaszok érkeztek, amikor néhányszor megismételték a keresést. A Google arra hivatkozik, hogy a továbbra is olvasható összefoglalók megbízható forrásokon alapulnak, és azt is tartalmazzák, hogy mely esetekben kell orvoshoz fordulni. A The Guardian első cikke által idézett Google-szóvivő szerint az AI-összefoglalók “hatalmas többsége pontos információkkal szolgál”. Nyilván nem mindennapos eset, de augusztusban arról számolt be egy amerikai orvosi szaklap, hogy a Chat GPT (amely nem a Google, hanem az OpenAI szolgáltatása) tanácsát követve egy amerikai férfi bromidmérgezést szenvedett, és súlyos állapotban került kórházba. A bajt az okozta, hogy a konyhasó ártalmaitól tartva kért tanácsot, és az AI bromidtartalmú helyettesítőket ajánlott neki.
HVG (5. sz.) / térítéses tartalom