Az Open Assistant egy olyan projekt, amelynek célja, hogy mindenki hozzáférést biztosítson egy nagyszerű csevegés alapú, nagy nyelvi modellhez.
Nemrégiben a LAION közösség (Large-Scale Artificial Intelligence Open Network) egy bejelentésen keresztül mutatták be az «OpenAssistant» projekt első kiadása, amely mesterséges intelligencia chatbotot fejleszt, amely képes megérteni és természetes nyelven válaszolni a kérdésekre, interakcióba lépni harmadik fél rendszereivel és dinamikusan kinyerni a szükséges információkat.
Azok számára, akik nem ismerik a LAION-t, tudniuk kell, hogy eszközöket, modelleket és adatgyűjteményeket fejleszt ingyenes gépi tanulási rendszerek létrehozásához (például a LAION gyűjteményt a Stable Diffusion képszintézis rendszer modelljeinek betanítására használják).
Emellett kód a munka betanításához és megszervezéséhez a botról a számítógépén, javasolt a kész modellek gyűjteményének használata már betanított és egy lelkes közösség részvételével elkészített és átdolgozott, 600 ezer párbeszédpélda alapján kérés-válasz (utasítás-végrehajtás) formájában betanított nyelvi modellt használni.
Elindult egy online szolgáltatás is a chatbot minőségének felmérésére, az OA_SFT_Llama_30B_6 tudásmodell segítségével, amely 30 milliárd paramétert fed le.
Csapatunk az elmúlt hónapok során fáradhatatlanul dolgozott hatalmas mennyiségű információ és szöveges visszajelzés gyűjtésén, hogy egy hihetetlenül változatos és egyedi adatkészletet hozzon létre, amelyet kifejezetten nyelvi modellek vagy más mesterséges intelligencia alkalmazások oktatásához terveztek.
Több mint 600 000 ember által generált adatponttal, amelyek a témák és írási stílusok széles skáláját fedik le, adatkészletünk felbecsülhetetlen értékű eszköznek bizonyul minden olyan fejlesztő számára, aki új generációs oktatási modelleket szeretne létrehozni.
A hatékonyság növelésére és elkerülje annak szükségességét nagy mennyiségű előre beállított paraméter tárolására, a projekt egy dinamikusan frissülő tudásbázis alkalmazásának lehetőségét vetíti előre, amely keresőmotorokon vagy külső szolgáltatásokon keresztül képes lekérni a szükséges információkat.
Például válaszok generálásakor a bot hozzáférhet a külső API-khoz, hogy további adatokat kapjon. A továbbfejlesztett szolgáltatások közül a személyre szabás támogatása is kiemelkedik, vagyis az adott felhasználóhoz való alkalmazkodás képessége korábbi kifejezései alapján.
Az OpenAssistant telepítése iránt érdeklődőknek tudniuk kell, hogy telepítheti helyben, és hogy a jelölt Pythia SFT-modellek a HuggingFace-től szerezhetők be, és a HuggingFace Transformers könyvtáron keresztül tölthetők be. Így lehetséges, hogy elegendő hardverrel használhatók. A HF-en is vannak helyek, amelyek segítségével saját hardver nélkül cseveghet az OA jelölttel. Ezek a modellek azonban nem véglegesek, és gyenge vagy nem kívánt eredményeket produkálhatnak.
A LLaMa SFT modellek közvetlenül a Meta licenc miatt nem adhatók ki, de hamarosan megjelennek az XOR súlyok is.
Fontos megemlíteni, hogy a jelenlegi legkisebb modell (Pythia) 12B paraméterrel rendelkezik, és fogyasztói hardveren nehezen futtatható, de egyetlen professzionális GPU-n is futhat. Lehetnek kisebb modellek a jövőben, és reméljük, hogy olyan módszereket fejlesztünk tovább, mint az egész számok kvantálása, amelyek segíthetnek a modell kisebb hardveren való futtatásában.
A projekt nem áll meg a ChatGPT képességeinek megismétlésével. Az Open-Assistant várhatóan ösztönzi a nyílt fejlesztés fejlődését a természetes nyelveken történő tartalomgenerálás és lekérdezésfeldolgozás területén, ahogyan a nyílt forráskódú Stable Diffusion projekt is ösztönözte a képgeneráló eszközök fejlesztését.
A projekt kódja Pythonban íródott, és az Apache 2.0 licenc alatt kerül terjesztésre. Az OpenAssistant fejlesztések segítségével saját intelligens asszisztenseket és párbeszédrendszereket hozhat létre, amelyek nincsenek külső API-khoz és szolgáltatásokhoz kötve. A hagyományos fogyasztói hardver elegendő a működéshez, például okostelefonon is lehet dolgozni. Az Open Assistant adatait a Creative Commons licenc alatt adják ki, amely sokféle felhasználást tesz lehetővé, beleértve a kereskedelmi felhasználást is.
Végül, ha többet szeretne megtudni róla, valamint a forráskódot nézheti meg, akkor nézze meg a részleteket A következő linken.