Hét elején hatalmas felfordulást okozott az amerikai GenAI fejlesztők berkeiben – és a világ felhasználói között -, hogy a 2023-ban alapított DeepSeek cég előrukkolt egy új, kifejezetten költséghatékonyan fejlesztett, ráadásul tudását tekintve – elvileg – a népszerű ChatGPT modelljeivel vetekvő GenAI modellel. A DeepSeek-R1 kiemelkedő a komplex problémák (matematika, kódolás, logika) lépésről-lépésre történő feldolgozásában. Ráadásul látványosan dolgozik: első körben részletes magyarázatot kapunk a feldolgozás folyamatáról (kvázi belelátunk az AI gondolataiba), majd megkapjuk a végleges választ is. Ez a fajta „DeepThink” (mélygondolkodás) üzemmód átlátható, részletes következtetést biztosít, ami tökéletes a tanuláshoz vagy a hibaelhárításhoz. Ha mindehhez még hozzávesszük a nyílt-forráskódot és azt, hogy az API tokénekért a fejlesztőknek jóval kevesebbet kell fizetniük mint az OpenAI API esetében, akkor elég jó az esély rá, hogy utóbbiak tömegével mozduljanak rá és akár váltsanak az OpenAI-ról a DeepSeek API-jára, beépítsék azt saját alkalmazásaikba, s így a felhasználók egy részét is magukkal rántsák a váltásba. Ráadásul a DeepSeek fejlesztése és tanítása – amellett, hogy konkurenseinél jóval kevesebbe, körülbelül 5 millió dollárba került – némileg más módon oldható meg, mint amit eddig megszoktunk. Így új lehetőségeket nyit meg a nagy nyelvi modellek fejlesztésében, s lehetővé teszi a fejlettebb okfejtési képességek kifejlesztését a kisebb modellek esetében is. Mindez pedig – érthetően – nem különösebben szimpatikus az amerikai AI fejlesztőknek, s nem mellesleg a Trump vezette kormányzatnak sem. Az OpenAI részéről az is felmerült, hogy esetleg az ő megoldásaik kimenete alapján képezték a DeepSeeket (ami ugyebár ütközne a cég licenceivel). Ha pedig mindehhez hozzávesszük, hogy jelenleg a DeepSeek V3 és a DeepSeek-R1 modellekre alapozó DeepSeek chat alkalmazás is teljesen ingyen elérhető bárki számára, s még fel is veszi a versenyt a ChatGPT-vel, akkor már érthető, mitől volt égzengés a szakmában – tőzsdei zuhanásokkal kiegészítve – ezen a héten. Mindenesetre a tömeges regisztrációk alapján a felhasználókat kevésbé érdekli, hogy honnan és mit tanult a DeepSeek. Őket inkább az foghatta meg, hogy ingyen kapnak egy olyan megoldást, amely elvileg vetekedhet a ChatGPT tudásával. Így a kérdés számukra főleg az: a gyakorlatban hogyan oldható meg a DeepSeek használata a földi halandók számára? Hiszen ha már ingyenes, miért ne próbálhatná ki bárki, szabadon. Máris megmutatjuk, mit kell ehhez tenni.
DeepSeek használata: ilyen a ChatGPT-t sarokba szorító kínai AI
A DeepSeek három megközelítésben használható a hétköznapi felhasználók számára: első körben biztosan sok alkalmazásba építik majd be az új modellt, így azokon keresztül is lehet használni, ingyen vagy előfizetésért cserébe, ez ugyebár az adott programtól függ.
Ennél sokkal kézenfekvőbb megoldás, ha a cég által üzemeltetett online chat alkalmazásba regisztrálunk a chat.deepseek.com oldalon. Ez a cikk készültének pillanatában nem mindig sikerül, akkora ugyanis az érdeklődés most a DeepSeek iránt, hogy folyamatosan le van terhelve a szerver (és elvileg támadások is érték). De azért jó eséllyel sikerrel regisztrálhatunk – egy e-mail cím és egy jelszó megadása szükséges csak -, s onnantól gond nélkül használhatjuk a DeepSeek webes csevegőjét. Ugyanezzel a DeekSeek fiókunkkal akár mobilon is magunkkal vihetjük az AI csevegőt, hiszen letölthető DeepSeek app iOS-re és Androidra egyaránt.
Ebben az esetben egyébként a DeepSeek V3 és a DeepSeek-R1 modelleket is kipróbálhatjuk, csak be kell jelölnünk a DeepThink (R1) – a magyar változatban Mélygondolkodás (R1) – gombot a csevegő felületen. Ugyanitt van egy Search gomb is, azzal engedélyezhetjük a DeepSeeknek, hogy online is keressen információkat a kérdések megválaszolásához. A webes felület és az app egyaránt lehetőséget ad képek, dokumentumok feldolgozására.
Ha valaki nem éri be az online használattal, offline is munkára foghatja a DeepSeek-R1 modellt. Ehhez egy erős számítógépen – sok RAM, erős CPU/GPU – túl szüksége lesz az Ollama alkalmazásra is, amely Windowson, macOS-en és Linuxot egyaránt lehetővé teszi a nyelvi modellek használatát. Az Ollama letölthető modelleket felsoroló oldalán immár a DeepSeek-R1 is megtalálható, több méretben. Értelemszerűen minél nagyobb modellt töltünk le, annál “okosabb”, de a RAM-unk méretéig nem érdemes elmenni a választásnál, mert onnantól használhatatlan a letöltött modell. Optimálisan fele akkor változatot használjunk, mint amennyi RAM van a gépben. Az Ollama beüzemeléséről, a modellek letöltéséről itt írtunk gyakorlati útmutatót. Abban a cikkben további kényelmi megoldásokkal is szolgáltunk, hiszen az Ollama önmagában csak parancssorban használható.
De még ennél egyszerűbben is beüzemelhetjük az offline változatot, ha az LM Studio nevű alkalmazást töltjük le és azon belül telepítjük a kívánt modelleket. Ez a hagyományos módon telepíthető minden rendszerre, s a program felületén belül nagyon egyszerűen és gyorsan letölthetünk bármilyen nyelvi modellt, amely erre alkalmas.
Azt persze érdemes tudni, hogy egy átlagosabb gépre (8-16-32 GB RAM mérettel számolva) letöltött offline nyelvi modell jóval gyatrább teljesítményre képes, mint a távoli szerverekre telepített hatalmas változatok. De cserébe az offline csevegés teljesen privát maradhat, semmi sem hagyja el a gépünket.
Összegzésül
Tekintsünk most el attól, hogy a kínai kormányzat árnyékában fejlesztett AI szolgáltatás vajon mennyire számít megbízhatónak mondjuk politikai kérdések megválaszolásában. Ettől még a technikai és hétköznapi kérdésekben nagy hasznát veheti bárki, teljesen ingyen. Ennek megfelelően tehát nem teljesen képes kiváltani a Google Geminit, s pláne nem a ChatGPT-t, de ha olyan területeken szeretnénk használni, amelyeknél nem vet gátat a cenzúra, akkor bizony remekül alkalmazhatónak tűnik, feltéve, hogy nincsenek vele szemben adatvédelmi aggályaink, amit persze az offline változat teljesen kiküszöbölhet, lévén ott semmi nem kerül távoli szerverekre.
Mindez természetesen csak személyes tapasztalatokkal dönthető el, vagyis érdemes kipróbálni az ingyenes online DeepSeek csevegőt, amelyben jelenleg nincsenek különösebb korlátozások, s egyelőre nincs fizetős változata sem. De erre is vonatkozik, ami amúgy minden hasonló szolgáltatásra: ne adjunk meg benne feldolgozásra személyes adatokat, pláne ne jelszavakat és hasonló érzékeny információkat.
