Bár igyekszünk mindig objektíven állni a különféle alkalmazásokhoz és szolgáltatásokhoz, azt azért nehezen tudnánk tagadni (már csak a legjobb 2025-ös jegyzetelő alkalmazásokról szóló válogatásunk miatt sem), hogy ha jegyzetelésről van szó, akkor van két nagy kedvencünk: a Bear és a Craft. Előbbi villámgyors, letisztult és teljesen markdown alapú, utóbbi pedig egy szinte tökéletesre csiszolt dokumentum- és jegyzet készítő alkalmazás, temérdek hasznos funkcióval, gyönyörű felülettel és király extrákkal, közük egy praktikus Ai asszisztenssel. Ezt két évvel ezelőtt vezették be, akkor még a felhő alapú OpenAI modellekre építve. Azóta a lehetőségek kibővültek macOS és iOS alatt az Apple Intelligence offline használatával is a Crafton belül, pár napja pedig új offline MI modellel bővült a kínálat. Ma megmutatjuk, miként oldható meg mostantól a DeepSeek R1 használata a Craftban, s hogyan használható ez az új offline AI a jegyzeteléshez.
FRISSÍTÉS 2025.02.06.: Történt, hogy épp cikkünk megjelenése napján újabb frissítést kapott a pár napja megújult Craft, melynek köszönhetően megérkeztek az eredeti cikkünk második felében hiányolt Llama modellek is a kissé butácska alap DeepSeek R1 1.5B mellé. Sőt, több új, offline módon használató GenAI modell is használható immár a Craftban: DeepSeek R1 1.5B, DeepSeek R1 7B (ez egy valamivel ügyesebb megoldás, mint a legkisebb DeepSeek R1 verzió), Llama 3.2 1B, Llama 3.2 3B (ez többnyelvű támogatást is tud). S persze ezen offline modellek mellett ott van még az felhőn keresztül elérhető OpenAI GPT-4.o mini és GPT-4o is.
Mivel a teljes cikk a DeepSeek telepítéséről szólt eredetileg, így is hagytuk. De kihőztuk azt a részt, amelyben épp az Llama offline változatát javasoltuk integrálásra. Ilyen gyorsan még nem teljesült kívánságunk. 🙂 A telepítés és használat szempontjából viszont a cikket nincs értelme átírni, hiszen a többi modellt is ugyanút lehet letölteni és beüzemelni a programban, ahogy a DeepSeek R1 1.5B esetében leírtuk. S a lényeg is ugyanaz: a DeepSeek és a Llama modelleket egyaránt offline használhatjuk AI asszisztensként, ami adatvédelem szempontjából szuper dolog, de mivel ezek kis méretű nyelvi modellek, így a tudásuk még ezeknek sem összehasonlítható a felhőben elérhető változataikkal, s pláne nem a GPT-4o tudásával.
DeepSeek R1 használata a Craftban, avagy offline AI a jegyzeteléshez
A DeepSeek R1 névre keresztelt új kínai nagy nyelvi modell meglehetősen nagy csinnadrattával érkezett meg a múlt héten. A több szempontból is különleges, s hasonlóan sok szempontból megosztó MI megoldásról anno itt írtunk részletesen. Az biztos, hogy a fejlesztők számára egy izgalmas lehetőség, hiszen olcsó megoldást biztosít akár felhő alapú, vagy épp offline MI funkciók beépítésére a saját alkalmazásaikba. Utóbbi pedig igencsak előnyös, ha olyan tartalmakkal dolgozunk, amelyeket nem szeretnénk távoli szerverekre átküldeni feldolgozás céljából, ellenben jól jönne hozzájuk némi AI segítség.
Erre gondolhattak a Craft készítői is, amikor pár nappal ezelőtt fogták és integrálták a DeepSeek R1-et a népszerű jegyzetelő szoftverükbe (egészen pontosan annak legkisebb, DeepSeek R1 1.5B változatát). Ez alapértelmezésben nincs benne a programban, de pár mozdulattal telepíthetjük, s onnantól lehetőségünk van a használatára a felhő alap OpenAI modellek helyett. Természetesen az utóbbiak is megmaradtak a programban, szóval bármikor visszaválthatunk, ha az AI asszisztens alapjaként inkább azokat használnánk.
DeepSeek R1 telepítése a Craftba és a használat
A Telepítés szerencsére rendkívül egyszerű feladat. Csak nyissuk meg a Craft Beállítások felületét és azon belül válasszuk az Asszisztens lehetőséget. Itt a DeeSeek R1 model 1.5 lehetőségnél nyomjunk a Letöltés gombra, majd várjuk meg, amíg a program teljesen letölti a – körülbelül 1 GB méretű – modellt. Ha ez megvan, a Modell opcióban választhatjuk ki a DeepSeek R1 1.5B lehetőséget az alapértelmezett GPT-4o vagy a szintén felhő alapon használható GTP-4o-mini helyett.
Ha bármikor visszacsinálnánk a dolgot, ugyanitt megtehetjük, vagyis egy mozdulattal lecserélhetjük az alapértelmezett MI modellt, illetve ha végleg ráuntunk a DeepSeekre, akkor a neve alatti Törlés gombra rányomva eltakaríthatjuk az eszközünkről. Mindez működik a 3.0.7-es verzió macOS, iOS változatában egyaránt, de sajnos Windows alatt egyelőre nem (cikkünk készültekor legalábbis a windowsos verzióban nem lehetett letölteni és beállítani a DeepSeeket).
Mindenesetre a telepítés után a DeepSeek pontosan ugyanazzal a módszerrel használható, mint az OpenAI GPT modellek: a szöveg gépelése közben a / jel beírásával előugrasztható menüben kell kiválasztani az Asszisztens menüpontot, majd beírni a kérésünket, vagy választani az alap lehetőségek közül. Ugyanígy az Asszisztens megnyitása menüponttal is elérhetjük, attól függően, épp mi van megnyitva vagy kijelölve a Craftban. A használat tehát nem változik emiatt, a különbség csak annyi, hogy most nem a GPT-4o, hanem a DeepSeek R1 válaszol nekünk.
Szerencsére nem kell minden alkalommal visszamenni a Beállításokba ahhoz, hogy leváltsuk z épp használni kívánt AI modellt. Az Asszisztens felületének alsó részén mindig láthatjuk, épp melyik modell az aktív, s erre rányomva akár azonnal leválthatjuk egy másikra.
Mennyire nyerő a DeepSeek R1 1.5B?
Sajnos a nagy nyelvi modellek esetében a “nagy” szó igen fontos jelentéssel bír. Azok a változatok, amelyeket felhőn keresztül használunk (ChatGPT, Microsoft Copilot, vagy akár a DeepSeek webes változata) gigászi méretűek, s a használatukhoz bivalyerős hardver szükséges. Az offline használható nyelvi modellek esetében azok méretét jelentősen redukálják (általában több szinten), így van olyan, amelyik akár egy 8 GB RAM-mal és kicsit erősebb processzorral ellátott gépen is egész gyorsan működhet. Ellenben ezek tudás a méretük csökkenésével párhuzamosan jelentősen csökken.
Mint említettük, a Craft most a legkisebb DeekSeek R1 1.5B modellt kapta meg, ami sajnos a használhatóságán látszik is. Ha valaki megszokta a Craftban a GPT-4o teljesítményét, véletlenül se gondolja, hogy ugyanazt a feladatot hasonló alapossággal oldja majd meg neki ez a modell.
A DeepSeek R1 1.5 egyszerűbb szövegfeldolgozásokra, összefoglalókra használható és elsősorban angol nyelven (magyarul nagyjából használhatatlan ez a változat). Ráadásul az DeepSeek nyelvi modelljének R1 verziója terhelt egy amúgy nagyon jópofa, de ez esetben inkább zavaró funkcióval: a DeepThink opciója miatt előbb végigírja, hogy miként dolgozza fel az információkat, s csak ezután szolgál érdemi mondandóval. Így hiába gyors, sokszor ki kell várnunk, amíg “összegzi a gondolatait”, mielőtt érdem
Az Llama 3.2 is használható offline a Craftban
Cikkünk első változatában épp azt ecseteltük, hogy mi kicsit jobban örültünk volna valamelyik Llama vagy Gemma modell integrációjának a DeepSeek helyett vagy mellett. Nos, kívánságunk teljesült, ugyanit a 3.0.8-as frissítéssel megérkezett az Llama 3.2 1B és 3B változata. Utóbbi értelemszerűen ügyesebb – például tudogat magyarul is -, de valamivel erősebb hardvert igényel. A DeepSeek R1 7B is debütált, ehhez viszont már minimum egy 8 GB RAM-mal ellátott masinára lesz szükségünk, hogy használhassuk.
Telepíteni ezeket is pontosan ugyanúgy lehet, vagy a Beállítások / Asszisztens felületen tudjuk kiválasztani, hogy melyiket töltenénk le és melyik legyen az alapértelmezett. De természetesen menet közben az Asszisztens paneljén bármior kiválaszthatjuk, ha épp egy másikra lenne inkább szükségünk az adott feladat elvégzéséhez. Az Llama 3.2 3B amúgy mérföldekkel használhatóbb angolul és magyarul egyaránt, mint a DeepSeek R 1.5B. Így szerintünk érdemesebb ezt választani munkára, ha feltétlenül offline AI-ra van szükségünk (például adatvédelmi megfontolásból).
Egyelőre azonban a DeepSeek R1-et kaptuk meg, szóval ezt tudjuk ilyen formán használni a népszerű jegyzet alkalmazásban. Ha nagyon nem jön be az általunk kért feladatok elvégzéséhez, akkor természetesen bármikor lecserélhetjük a felhő alapú OpenAI GPT modellekre a programban, amelyek amúgy rendkívül hasznosak egy halom esetben.
Összegzésül
Mindent egybevetve a Craft fejlesztői részéről remek gondolat volt a DeepSeek R1 használata a Craftban. Így akár internet kapcsolat nélkül is igénybe vehetünk AI funkciókat, ráadásul minden adatunk a gépünkön marad, semmi nem kerül feldolgozásra távoli szervereken. Adatvédelmi szempontból ez igencsak csábító lehetőség. A DeepSeek R1 modell választása erre a célra a licencelése miatt ugyan kézenfekvő – és a jelenlegi hype miatt marketing szempontból is érthető – volt, ráadásul angol nyelven praktikus is lehet, de ha magyar nyelvi támogatás szempontjából nézzük, egy Gemma vagy Llama modellt szívesebben látnánk viszont a programban. Talán egyszer majd ezek is bekerülnek. Szóval akinek ez fontos szempont, s cserébe beéri egy kicsit szerényebb tudású AI asszisztenssel, mint az OpenAI GPT modellje, annak viszont itt van a DeepSeek R1 és az Llama 3.2, egyaránt két méretben (a DeepSeek 7B azért már egy több, mint 8 GB RAM-mal felvértezett eszközt igényel).
