Kezdő lépések a Gradient platformon

A DjgjtalOcean Gradiense Platform, amelyet a Deploy 2025-ön mutattak be, a DigitalOcean válasza a gyorsan növekvő igényre az emberi problémák mesterséges intelligencián alapuló megoldásaira, Nagy Nyelvi Modellek segítségével. A valóságban ez a szolgáltatás lehetővé teszi a felhasználók számára, hogy különböző mesterséges intelligenciával működő ügynököket hozzanak létre, amelyek számos különböző alkalmazás teljesítményét növelhetik.

Ebben a bemutatóban részletesen megvizsgáljuk a Gradient Platform képességeit, felfedezzük azokat az egyedi jellemzőit, amelyek annyira hasznossá teszik, mindenki számára a hobbistáktól kezdve az üzleti vezetőkön át a fejlesztőkig, és bemutatjuk az ilyen termék által nyújtott határtalan lehetőségeket. Ezt követően pedig arról beszélünk, hogyan kezdhetjük el használni a platformot saját magunk számára.

A Gradient Platform képességei áttekintése

A Gradient platform sokkal több, mint egyszerűen egy kiszolgáló platform a nagyméretű nyelvi modellekhez, és bár testreszabott chatbotok készítésére használható, nemcsak ilyen feladatokra korlátozódik. A mesterséges intelligencia ügynökök fantasztikusak a bonyolult adat-analízisek, csalás-észlelés, kiberbiztonság, egészségügy és más területek terén is. Csak a megfelelő adatappikáció szükséges a tudásalaphoz.

A gradiens használatának potenciálja

A Gradient platform lehetősége valóban végtelen. Olyan rendszereket képzelünk el, ahol a felhasználók minden lehetséges problémát egy mesterséges intelligencia megoldással közelítenek meg. Néhány példa arra, hogy mire használható az Agentic AI a Gradient platformról:

• Egészségügy: például diagnosztikai rendszerek támogatása mesterséges intelligenciával
• Pénzügy: megalapozott döntések hozatala a személyes pénzügyeid közvetlen adatai alapján
• IT: automatizálja a nehéz munkák jelentős részét az IT szakemberek számára, például a jelszavak visszaállítását.
• Marketing: elemezd a tartalmat az SEO szempontjából, ötletelj az elköteleződési lehetőségekről, és akár generálj tartalmat.
• Kibervédelem: Az ügynöki mesterséges intelligencia használható a fenyegetések azonosítására

A Gradient Platform jellemzői

A Gradient platform főbb jellemzői a meglévő LLM ügynökbe új információk befogásának képességére épülnek, majd ezt az információt felhasználva cselekvéseket hajtanak végre. Ezek a cselekvések alkalmazhatóak a modellhez csatlakoztatott bármilyen funkcióra, és mesterségesen korlátozhatók védőkorlát technológiával, hogy megelőzzék a visszaélést vagy a hallucinációt.

Ebben a szakaszban részletesebben megvizsgáljuk a Gradient Platform funkcióit, és elmagyarázzuk, hogy miért segít mindegyik funkció abban, hogy a Gradient mindenki számára, a vállalati felhasználóktól kezdve a fejlesztőkön át a hobbistákig, olyan erőssé váljon.

Funkcióhívás

Vitathatatlanul a legkritikusabb alkalmazása a LLM-eknek mint agentikus mesterséges intelligencia, a funkcióhívás az a képesség, hogy az LLM-ből származó információt felhasználva generáljunk egy választ, amely másutt egy kód funkciót kiválthat. Ez a képesség sok mesterséges intelligencia modellben natív, de gyakran hiányzik a képessége a közelmúlt információinak kezelésére a tréningkészletben található friss adatok hiánya miatt.

A Gradient platform megoldása erre a problémára a visszanyerési augmentált generáció (RAG) hozzáadása az adott tudásbázisokból, amely lehetővé teszi a modell számára, hogy pontosan használja az új információkat pontos és hasznos funkcióhívások létrehozására.

Tudásalapú Kioltás Fokozott Generálása

A Retrieval Augmented Generation (RAG) növeli egy nagyméretű nyelvi modell (LLM) képességeit azáltal, hogy lehetővé teszi számára, hogy hozzáférjen és beépítse a releváns információkat külső tudásbázisokból, mint például adatbázisok vagy dokumentumok, mielőtt választ generálna, biztosítva ezzel a pontosabb és kontextusának megfelelőbb kimeneteket a standard LLM-hez képest. A gyakorlatban lehetővé teszi a modell számára, hogy információt keressen a megadott adatokkal kapcsolatban. Például a RAG lehetővé teheti egy LLM számára, hogy megvizsgálja a számlaadatokat, hogy tudja, mennyik voltak a tényleges költségek.

A Tudásbázis a RAG másik kulcsfontosságú eleme. A RAG ezekre a tudásbázisokra támaszkodik, amelyek lényegében gazdag szöveges adatok gyűjteménye, hogy információt merítsen belőlük. A Gradient Platformon található tudásbázisok azzal a céllal vannak optimalizálva, hogy a legjobban szolgálják felhasználóinkat feltöltés után.

Védőkorlátok

A LLM védőkorlátok olyan szabályok és gyakorlatok összessége, amelyek biztosítják, hogy az AI rendszerek biztonságosak, etikusak és megbízhatóak legyenek. Segítenek megelőzni a káros, elfogult vagy helytelen kimeneteket, amelyek gyakori halucinációk az AI ügynökök esetében. A Gradient platformon beállított védőkorlátok garantálják, hogy modelljeink soha ne térjenek el túlságosan a témától, ne adjanak rosszindulatú válaszokat, és megakadályozzák a modellből eredő bizonytalanságot.

Ügynök irányítás

A gradiens funkciók egy olyan rendszert képezhetnek, amely mesterséges intelligenciát használ a felhasználói lekérdezések vagy kérések automatikus irányítására a hálózaton belül a legmegfelelőbb MI ügynökhöz, ezt a folyamatot ügynöki irányításnak nevezik. Az ügynöki irányítás lehetővé teszi több ügynöki MI rendszer összekapcsolását, és a legjobb eredményeket nyújtja az optimalizált ügynöktől. Ez jellemzően egy elsődleges ügynök alkalmazásán keresztül működik, amely felügyeli, hogy mely útvonalakra irányítsák a választ az eredményhez. Ez rendkívül erőteljes, mert lehetővé teszi a közvetlen kapcsolatot több ügynök között, eltávolítva a megoldásokhoz egyetlen ügynök használatának korlátait.

Kezdés a Gradient-tel

A Gradient platform használatának megkezdése könnyű! Először is két dolgot kell tennünk: be kell jelentkeznünk a DigitalOcean fiókjainkba, és azonosítanunk kell az adatokat egy ügynök számára. A tudásbázis számos formában képes információkat fogadni, beleértve a dokumentumformátumokat, CSV-ket, JSON-t és másokat, így miután azonosítottuk a korpuszunkat, készen állunk arra, hogy igazán elinduljunk.

Ezután navigálj a Gradient fülre a DigitalOcean weboldalán. Ezt úgy tehetjük meg, hogy rákattintunk a kezelési gombra a képernyő bal oldalán található navigációs sávon, majd kiválasztjuk a második lehetőséget.

A Tudásbázis létrehozása

Innen kattintson a Tudásbázisok fülre. Új tudásbázist fogunk létrehozni az adataink feltöltésével egy DigitalOcean Space-re. Ezek az OpenSearch adatbázis-technológián alapulnak, hogy elősegítsék a RAG-et. Szerencsére, ha még nincs, közvetlenül a Tudásbázis létrehozási oldalon létrehozhatunk egyet.

Először nevezd el a Tudásbázisodat, majd görgess le az adatbázis szakaszhoz. Válaszd a "Új létrehozása" lehetőséget. Válassz ki egy megfelelő régiót, ahonnan a ügynököt szeretnéd üzemeltetni, mi Torontót választottuk. Ezután görgess le a beágyazási modell kijelöléséhez. A beágyazási modellek a szöveget (mint például a felhasználói lekérdezések és a tudásbázis dokumentumok) numerikus vektorokká alakítják, ezért ki kell választanunk a legjobban megfelelőt a szükségleteinkhez. Nagy Tudásbázis korpuszok a drágább modellt igénylik, de egy egyszerű bemutatóhoz elegendő egy kisebb modell, mint például a MiniLM. Végül válaszd ki a projektet, amelyben a tudásbázisnak lennie kell, majd kattints a Létrehozás gombra. Ezután némi időbe telik, hogy a beágyazási modell segítségével beágyazd az adataidat a tudásbázis beállításához, de ha végeztél, készen állunk a következő lépésre.

A Gradient Agent létrehozása

Most itt az ideje, hogy létrehozzuk magát az ügynököt. Navigálj vissza a Gradient platform kezdőlapjára a bal oldali sáv linken. Ezután kattints a „Ügynök létrehozása” gombra a képernyő jobb felső sarkában. Ez elvisz az ügynök létrehozási oldalára.

Először adj meg egy nevet az ügynöködnek. Ezután adj meg releváns utasításokat az ügynök számára, amelyeket követnie kell. Például, a korábbi nyugta példánkat követve, utasíthatnánk az ügynököt, hogy teljesen számokkal válaszoljon, vagy hogy hasznos pénzügyi tanácsadóként viselkedjen.

Ezután kiválaszthatjuk a modellünket. Itt fog nagymértékben változni, hogy az Ügynökünk hogyan fog viselkedni. A modell típusa mindent befolyásol, az általa megfigyelt adatok frissességétől kezdve a válaszai megfogalmazásának módjáig. Javasoljuk, hogy végezzen kutatást az elérhető modellek mindegyikéről, erre itt találhat információkat, de van néhány javaslatunk mindenesetre:

• DeepSeek-R1-Distill-Llama-70B - egy desztillált modell, amely a LLaMA 3.2 70b-ból származik, és 80000 példa alapján felügyeleti finomhangolással készült az eredeti DeepSeek R1-ből. Ez a modell kiváló képességekkel bír, amikor hosszabb válaszokra van szükség, és a modell bonyolult érvelést is tud végezni kódolási és matematikai problémák esetén.
• Anthropic 3.5 Sonnet - az egyik legfejlettebb zárt forrású modell az interneten, a Sonnet egy kivételes LLM mind a funkcióhívások, mind a tiszta információ szempontjából. Ez a modell Anthropic előfizetést igényel.

Figyelj a modellekre, amelyek a közeljövőben elérhetők lesznek!

Miután a modell kiválasztása befejeződött, hozzáadhatjuk a korábban létrehozott tudástárunkat. Ez lehetővé teszi a Gradient Platform számára, hogy RAG-et végezzen a tudástáron az újonnan létrehozott LLM ügynök segítségével.

Végre hozzárendelhetjük az ügynököt egy konkrét projekthez, és létrehozhatjuk! Ez a létrehozás néhány percet is igénybe vehet. Miután minden készen áll, egy részletező oldalt fogunk kapni, ahol interakcióba léphetünk az új ügynökkel.

Kapcsolatba lépni az ügynökkel

Két fő módja van annak, hogy kapcsolatba lépjünk az ügynökünkkel: API-n keresztül vagy a chat játszótéren. Az API teljes funkcionalitása itt található. Ebben a példában nézzük meg a chat játszóteret, hogy bemutassuk, hogyan működik a modell.

Ez a példa a DigitalOcean Tutorial Expertből származik, amely a weboldalon elérhető mindenki számára, hogy kipróbálhassa. Ahogy láthatjuk, az ügynök képes úgy viselkedni, mint egy normál chatbot, ha így konfiguráljuk. De messze nem korlátozódik ilyen cselekvésekre, ahogy azt korábban is felvázoltuk.

Záró gondolatok

Összességében a Gradient platform egy robusztus eszköz a Nagy Nyelvi Modellek alapú ügynökök létrehozására és interakciójára. A RAG alkalmazásának köszönhetően a tudásbázisokkal, amelyek ugyanazon a rendszeren találhatók, megmutattuk, hogy az ügynökök rendkívül könnyen használhatók és beállíthatók bárki számára, a vállalati vezetőktől a gépi tanulás mérnökökig és a hobbistákig. Reméljük, hogy mindannyian lesz lehetőségetek mélyebben felfedezni a Gradient platformot a jövőben.