A Dubai Zayed Egyetemi Könyvtár (röviden: ZU) AI-asszisztensének, azaz Aishának a funkcióit az előző részben link mutattuk be. Itt a technikai megvalósítás szempontjait és a kihívásokat ismertetjük, mit is integrál.
– LangChain keretrendszer (langchain.com), amely megkönnyíti a nagy nyelvi modellek (LLM) alkalmazásainak fejlesztését.
– Chroma vektorbázis (trychroma.com): a nyílt forráskódú adatbázis vektorformátumban tárolja az egyéni adatokat, lehetővé téve a hatékony visszakeresést és feldolgozást.
– Streamlit platform (streamlit.io): az Aisha felhasználói felületének létrehozására és bevezetésére.
– Stable Diffusion (stability.ai/stable-image): a képek generálására.
– az Aisha tudásbázisa egy gondosan válogatott információgyűjtemény a könyvtári weboldalunkról, a LibGuides és a LibAnswers rendszerekből.
Az eddig tapasztalt kihívások:
– Hallucinációk: gyakran hihető, de helytelen információkat generál, amit Aisha utasításainak finomításával kezeltek. Így jobban támaszkodik a tudásbázisra és a forrásokra.
– Forrásadatok minősége: frissíteni kell a pontatlan és elavult forrásadatokat.
– API korlátok: a költséghatékonyság miatt figyelni kell a hívások darabszámára, korlátokra.
– Memóriakorlátok: a korábban használt Streamlit Community Cloud nem volt elég, privát szerverre váltottak a robusztusabb erőforrások miatt.
– Hallucinált eszközhasználat: ez új jelenség szerint az LLM elképzeli, hogy egy eszközt használ (például a tudásbázist vagy a Wikipédiát), anélkül, hogy ténylegesen használná.
– AI elfogultság kezelése.
Aisha sikere a ZU könyvtárban illusztrálja a beszélgető AI ügynökök lehetőségeit a könyvtárakban világszerte. A dubai könyvtár hisz benne, hogy az AI hozzájárul a könyvtári szolgáltatások modernizálásához. A beszélgető AI ügynökök segíthetnek a felhasználóknak eligazodni a hatalmas mennyiségű információ között, hatékonyan hozzáférni a forrásokhoz és új, innovatív módokon lépni kapcsolatba a könyvtári tartalmakkal. Továbbá az AI-ügynökök felszabadíthatják a könyvtáros idejét azzal, hogy a rutinkérdéseket megválaszolják helyette. (ref.: Habók Lilla)
Info Today