Új foglalkozás: prompt mérnök, avagy a nagy nyelvi modellek pszichiátere

Ma már közismert tény, hogy a ChatGPT-hez és a Microsoft Bing AI-hoz hasonló mesterséges intelligencia chatbotok által generált szövegek gyakran tartalmaznak hallucinációkat, azaz hihetőnek hangzó valótlan állításokat, félinformációkat, tévedéseket vagy akár fenyegetéseket is. A jelenség máris életre keltett egy új foglalkozást, a “prompt engineering”-et. A “prompt engineer” (magyar fordításban: prompt mérnök) – ellentétben a hagyományos informatikusokkal, akik programkódokkal tesztelik a modelleket –
– hétköznapi nyelven beszélget ezekkel a chatbotokkal és
– a beszélgetés során olyan módon teszi fel a kérdéseket a rendszernek, hogy az minél inkább releváns és megbízható válaszokat adjon.

A “súgó” mérnökök megpróbálják azonosítani a problémákat és feltárni, hogy az MI miért generál téves információkat, majd visszaterelni a chatbotot a helyes útra. Arról egyelőre megoszlanak a vélemények, hogy a prompt engineering valóban megbízható, hosszú távú karrierlehetőséget jelent-e vagy csak egy múló hóbort lesz, amely hamarosan el fog tűnni. A szakértők egy része mindemellett megkérdőjelezi a prompt engineering hatékonyságát a mesterséges intelligencia modellek tesztelésében, szerintük ugyanis lehetetlen megjósolni előre, hogy egy chatbot mit fog mondani. (via: MI Hírlevél)