A kínai DeepSeek mesterséges intelligenciával érdemes foglalkozni a Libraries Lead Podcast szerint.
Háttér: a DeepSeek ezek miatt kiemelten nagy dobás:
1. Költséghatékonyság: a nagy nyelvi modellek, például a ChatGPT fejlesztése általában milliárd dolláros költségekkel jár. Ezzel szemben a DeepSeek csupán 6 millió dollárból hozta létre a saját modelljét, amely teljesítményben vetekszik a legújabb csúcstechnológiás modellekkel.
2. Új üzleti modell lehetősége: a DeepSeek sikere megkérdőjelezi azt az elképzelést, hogy csak a legnagyobb tech cégek (Google, OpenAI, Microsoft) képesek hatékony AI modelleket fejleszteni óriási pénzügyi befektetéssel.
3. Kínai fejlesztés és adatkezelés: a DeepSeek működéséhez való regisztrációkor egyértelműen kijelenti, hogy minden adatot a Kínai Népköztársaság tárol, ami adatvédelmi szempontból aggályos lehet. Ugyanakkor a modell helyben is futtatható, akár internetkapcsolat nélkül is.
Működési különbségek más MI modellekhez képest:
– Látható gondolkodási folyamat: A felület teljesen hasonló, de ha kipróbáljunk a parancsadást, akkor többlet funkciót is láthatunk. Pl. “Hogyan járult hozzá Mike Eisenberg a könyvtárossághoz?” A DeepSeek megmutatja, hogyan “gondolkodik”, vagyis lépésről-lépésre leírja azt, hogyan jutott el a válaszig.
Megnézi, milyen információkat talál a keresett személyről, aztán elkezdi keresni, miért lehet fontos és érdekes a könyvtárosság szempontjából. Adott esetben látható, hogy a modell hol téved a következtetésekben, és ez pedig módot ad a korrigálásra is.
– Hatékonyabb modell: a legtöbb modern AI modell több százmilliárd paraméterrel dolgozik, ami óriási számítási kapacitást igényel. A DeepSeek viszont egy nagyobb modell segítségével egy sokkal kisebb, 7 milliárd paraméteres modellt tanított be, amely szinte ugyanolyan pontos eredményeket ad. Ezáltal akár személyi számítógépen vagy mobiltelefonon is futtatható.
– Energiahatékonyság és fenntarthatóság: mivel a kisebb modell sokkal kevesebb számítási teljesítményt igényel, az energiafogyasztás, a hőtermelés és a karbonlábnyom is jelentősen csökken.
A modell nyílt forráskódú, tehát bárki hozzáférhet az algoritmusokhoz, paraméterekhez és működési elvekhez. Ez növeli az átláthatóságot, ugyanakkor felveti a kérdést, hogy egy ennyire hatékony technológia milyen etikai és biztonsági kockázatokat hordoz.
Két további videó a témáról:
a Microsoft korábbi mérnöke beszél a DeepSeekről link ; Egy MI-specialista elemzése link . (ref.: Habók Lilla)
Libraries Lead Podcast