Új Open source modellek, lokális AI, RAG és adatintenzív gyakorlatok

A képzés átfogó, de ugyanakkor gyakorlati bevezetést nyújt a modern, vállalati AI-támogatott szoftverfejlesztésbe és támogatásba; ezen belül is a nyílt forrású modelleket, a lokális modellfuttatást, a Python-alapú kísérletezést, a RAG-megoldásokat, az egyszerű modell-benchmarkolást, a multimodális képfeldolgozást és a fejlesztőknek szóló machine learning / data science alapokat tárgyalja.

A képzés célja, hogy a résztvevők ne csak felhős AI-eszközök felhasználói legyenek, hanem tudatosabban tudjanak dönteni lokális és felhős modellek, LLM- és klasszikus ML-megközelítések, valamint költség-, adatvédelmi és teljesítményszempontok között. A képzés a fejlesztőknek szóló tanfolyamok második állomása. A modern, AI támogatott szoftverfejlesztési témákat a kétnapos "Mesterséges intelligencia fejlesztőknek - specifikációvezérelt gyakorlattal" képzésünk tartalmazza. Vegyél rész azon is, és 10% kedvezményt biztosítunk ezen képzés díjából.

A képzést legalább 2 éves fejlesztési gyakorlattal rendelkező fejlesztőknek, szoftvertervezőknek, tech leadeknek, architekteknek, QA-szakembereknek, technikai üzleti elemzőknek valamint IT üzemeltetőknek ajánljuk, akik szeretnék az AI-t nem alkalmi segédeszközként, hanem vállalati fejlesztési workflow-ba integrálható eszközkészletként használni és akik nyitottak a nyílt modellek, a lokális futtatás, a RAG, a Pythonos AI-integrációk és az adatintenzív fejlesztői feladatok irányába, és szeretnék jobban megérteni, mikor érdemes LLM-et, lokális modellt, embeddinget, RAG-et vagy klasszikus machine learning megoldást választani.

A képzés végén a résztvevők:

• képesek lesznek open source modelleket értelmezni model card, licenc, intended use szempontok alapján;
• képesek lesznek lokálisan futtatott modelleket kipróbálni, Pythonból meghívni és egyszerű feladatokon összehasonlítani;
• megértik a RAG alapvető elemeit, beleértve a dokumentumfeldolgozást, chunkolást, embeddingeket, retrievalt és grounded válaszgenerálást;
• képesek lesznek megkülönböztetni, mikor célszerű LLM-et, és mikor klasszikus ML / data science megoldást alkalmazni nagyobb adathalmazon;
• képesek lesznek a megszerzett sablonokat és checklistákat saját fejlesztői csapatuk működésébe beépíteni.

Open source modellek fejlesztői szemmel

• Zárt, nyílt és nyílt súlyú modellek összehasonlítása vállalati felhasználás szempontjából
• Modellméret, kvantálás, hardverigény, kontextusablak és teljesítmény kompromisszumai
• Model card, licenc, intended use, limitations és evaluation results értelmezése
• Mikor érdemes lokális modellt használni, és mikor jobb felhős modellt választani?

Lokális modellfuttatás

• Lokális modellfuttató környezetek áttekintése, például Ollama vagy hasonló runtime-ok
• Modellek letöltése, futtatása és alapvető konfigurálása
• Promptolás lokális modellekkel és válaszminőség vizsgálata
• Egyszerű Python kliens készítése lokális LLM-hez
• Lokális és felhős válaszok összehasonlítása sebesség, minőség és költség alapján
• Gyakorlat: első lokális modellhívás

RAG alapok és szemantikus keresés

• Retrieval-Augmented Generation célja és tipikus felhasználási esetei
• Dokumentumfeldolgozás, tisztítás, chunkolás és metaadatok szerepe
• Embedding modellek és vektortárak alapjai
• Retrieval, rangsorolás, kontextusépítés és válaszgenerálás
• Groundedness, forráshivatkozás és tipikus RAG hibák
• Gyakorlat: mini RAG pipeline építése kis dokumentumhalmazon

Lokális benchmark

• Miért kell modelleket mérni fejlesztői és vállalati környezetben?
• Minőség, késleltetés, tokenhasználat, erőforrásigény és futási költség mérése
• Egyszerű benchmark
• Gyakorlat: két vagy több modell összehasonlítása azonos feladatokon

Képfeldolgozó modellek

• Képfelismerés alapjai
• Multimodális modellek fejlesztői felhasználási lehetőségei
• Eredmények értelmezése, hibák és kockázatok felismerése
• Gyakorlat: képfelismerő vagy képleíró modell kipróbálása

Machine learning és data science alapok fejlesztőknek

• Miben különbözik a klasszikus ML, az adatelemzés és az LLM-alapú megközelítés?
• Adatfeltárás, adattisztítás, feature-ök és célváltozó fogalma
• Tanító- és tesztadat, validáció, metrikák és overfitting alapjai
• Egyszerű klasszifikációs vagy regressziós feladat Pythonban
• Mikor használjunk notebookos elemzést, mikor RAG-et, mikor LLM-et és mikor klasszikus ML-t?

Zárás, összefoglalás

A képzés során elkészülő artifaktok

• Modell- és eszközválasztási döntési mátrix
• Open source modellválasztási döntési lap: licenc, intended use, evaluation results és lokális futtatási szempontok
• Mini RAG notebook: dokumentumfeldolgozás, embedding, retrieval és válaszgenerálás
• Lokális benchmark összefoglaló: minőség, késleltetés, erőforrásigény és költség összevetése
• LLM vs. klasszikus ML döntési lap: mikor melyik megközelítés indokolt

Legalább 2 éves korábbi fejlesztési ismeret és gyakorlat valamilyen programnyelvben (Java, C#, Python, JavaScript, Kotlin stb.). Alapvető Git- és pull request workflow-ismeret szükséges. A Python-alapú gyakorlataihoz alapszintű Python-ismeret erősen ajánlott, Jupyter / notebook szemlélet előnyt jelent. Javasolt a "Mesterséges intelligencia fejlesztőknek - specifikációvezérelt gyakorlattal" képzés elvégzése és/vagy ismeretanyaga. Mivel egyes forrásanyagok és alkalmazott környezetek angol nyelvűek, ezért az angol nyelv legalább alapfokú, dokumentumolvasás-szintű ismerete javasolt. AI-előismeret nem szükséges. A képzés magyar nyelven zajlik.

Laborkörnyezetet biztosítunk, de lehetőség van saját számítógép használatára is:

• Modern notebook, legalább 16 GB RAM szükséges, 32 GB RAM ajánlott
• Stabil internetkapcsolat
• VS Code vagy JetBrains fejlesztőkörnyezet
• Git, NodeJS, Python 3.11+, böngésző és terminal
• Docker
• Jupyter Notebook / Jupyter Lab vagy VS Code notebook támogatás
• Lokális modellfuttató környezet, például Ollama vagy alternatív runtime
• GitHub-account; Copilot license javasolt, de szükség esetén tudunk biztosítani
• GPU nem kötelező, de a harmadik napi lokális és képfeldolgozási gyakorlatoknál előnyt jelent