A korábbi rész link folytatása…
4. Hagyj időt a GPT-nek a “gondolkodásra”!
Ha arra kérik, hogy szorozzon meg 17-et 28-cal, akkor lehet, hogy nem tudja azonnal, de idővel megtanulja a számolás menetét. Hasonlóképpen, a GPT-k több érvelési hibát követnek el, amikor azonnal válaszolnak, ahelyett, hogy időt fordítanának a válasz kidolgozására. Ha rákérdezünk az érvelési láncra a kérdezés előtt, az segíthet a GPT-knek megbízhatóbban érvelni a helyes válaszok felé vezető úton. Taktika:
– Utasítsd a modellt, hogy dolgozza ki a saját megoldását, mielőtt a következtetéssel állna elő.
– Írj belső monológot vagy kérdezzél sorozatban a modell érvelési folyamatának elrejtéséhez.
– Kérdezd meg a modellt, hogy kihagyott-e valamit az előző bérletekből.
5. Használj külső eszközöket
Kompenzáld a GPT-k gyengeségeit más eszközök kimeneteinek betáplálásával. Például egy szöveglekérő rendszer képes tájékoztatni a GPT-ket a releváns dokumentumokról. A kódvégrehajtó motor segíthet a GPT-knek matematikai műveletekben és kód futtatásában. Ha egy feladatot megbízhatóbban vagy hatékonyabban lehet elvégezni egy eszközzel, nem pedig a GPT-vel, használd mindkettőt a legjobb eredmény érdekében. Taktika:
– Használj beágyazáson alapuló keresést a hatékony tudás-visszakereséshez.
– Használj kódvégrehajtást a pontosabb számítások elvégzéséhez vagy külső API-k hívásához.
– Adj hozzáférést a modellnek bizonyos funkciókhoz.
6. A teszt lépésről lépésre változik
Könnyebb a teljesítmény javítása, ha méred. Egyes esetekben egy prompt módosítása jobb teljesítményt ér el néhány elszigetelt példán, de rosszabb általános teljesítményt eredményez egy reprezentatívabb példakészleten. Ezért ahhoz, hogy megbizonyosodjunk arról, hogy a változás pozitív hatással van a teljesítményre, szükség lehet egy átfogó tesztkészlet meghatározására (más néven “eval”). Taktika:
– Értékeld a modell kimeneteit az aranystandard válaszok alapján.
OpenAI