Interaktív tananyag · M1-T1-MLC3

Mi az a nagy nyelvi modell?

Hogyan állítja elő a szöveget – és miért hallucinál?

Szerző: Lengyel ZsoltiTStudy Hungary Számítástechnikai Oktató- és Kutatóközpont
Lektor: Hartyányi MáriaiTStudy Hungary Számítástechnikai Oktató- és Kutatóközpont

A nagy nyelvi modell elkészítésének fő lépései: a webes szöveg szűrése, tokenizálás, tanítás és csevegő asszisztens kialakítása. — A szövegfeldolgozástól a csevegő asszisztensig.

Tanulási cél

A ChatGPT, a Claude vagy a Gemini gördülékenyen és magabiztosan válaszolhat akkor is, ha téved. Konkrét példákon keresztül megismered a nagy nyelvi modellek működését, a pontatlan vagy kitalált válaszok okait és az ellenőrzés módjait.

A tananyag végére képes leszel

meghatározni a nagy nyelvi modell és a token fogalmát;
elmagyarázni a következő token előrejelzésének elvét;
felismerni a hallucináció jellegzetes formáit és figyelmeztető jeleit;
megfelelő stratégiákkal és eszközökkel ellenőrizni az MI-kimenetet az órai felhasználás előtt.

Miért fontos értenünk a működését?

A csevegőrobot a mindennapi munkában

A ChatGPT első nyilvános változata 2022. november 30-án jelent meg; öt napon belül egymillióan regisztráltak. A nagy nyelvi modellek azóta sok ember munkájának eszközeivé váltak.

Válaszaik jól szerkesztettek és magabiztosak. A rossz válasz azonban gyakran éppen olyan hihetőnek tűnik, mint a jó.

Tanári nézőpont

„Honnan tudom, hogy helyes?”

Nem kell ismerned a mögöttes matematikai algoritmusokat. A működés fő vonásainak megértése segít felismerni, miért bánik jól a modell a nyelvvel, miért talál ki időnként dolgokat, és miért kell ellenőrizni a kimenetét.

A gördülékenység és a magabiztosság önmagában nem bizonyíték.

A jó kérdés nem az, hogy „jól hangzik-e”, hanem az, hogy „honnan tudom, hogy helyes?”A tananyag ellenőrzési alapelve

Az agyagtáblától a nyelvi modellekig

Az emberiség az írás megszületése óta igyekszik megőrizni, továbbadni és hozzáférhetővé tenni a tudást. Minden új technológia más akadályt csökkentett.

Az emberi tudás megőrzésének és hozzáférhetőségének útja: agyagtáblák, könyvek, internet és nagy nyelvi modellek. — Az emberi tudás útja: az agyagtáblától a nyelvi modellekig. Képforrás: ChatGPT.

Írás

Mezopotámiában, nagyjából i. e. 3200 körül az ékírásos agyagtáblák az emberi emlékezeten túl is megőrizték a tudást. A papirusz és a pergamen hordozhatóbbá tette, de még kevesen fértek hozzá.

Könyv

A középkori kódexeket kézzel másolták; ritkák és drágák voltak. A 15. századi könyvnyomtatás, majd a könyvtárak, az oktatás és az írástudás terjedése sokkal több emberhez juttatta el a szövegeket.

Internet

A 20. század végén a digitalizálás és az internet hatalmas információmennyiséget tett gyorsan elérhetővé. A kihívás egyre inkább a megtalálás, az értelmezés és a megbízhatóság megítélése lett.

LLM

Hétköznapi nyelven kérdezhetünk, visszakérdezhetünk, kérhetünk példát, fordítást vagy a tudásszintünkhöz igazított magyarázatot. A modellek a megértéshez szükséges nyelvi és keresési akadályokat is csökkenthetik.

Hogyan készül egy nagy nyelvi modell?

A nagy nyelvi modell – angolul Large Language Model, röviden LLM – nagy mennyiségű szövegen tanított MI-rendszer. Fő képessége a szöveg feldolgozása és előállítása. Paraméterei a tanulás során hangolt számok; a nagy modellek akár több száz milliárd paramétert tartalmazhatnak.

A modellkészítés folyamata a webes szövegek gyűjtésétől és szűrésétől a tokenizáláson és tanításon át a csevegő asszisztensig. — A nagy nyelvi modellek elkészítésének fő lépései.

01 · Adatgyűjtés és szűrés

Tanítóanyag összeállítása

A fejlesztők nagy szöveggyűjteményeket állítanak össze, például a nyilvános webről. Szűrik a gyenge minőségű tartalmakat, ismétlődéseket és személyes adatokat. Több tíz terabájtnyi szöveg is megmaradhat.

A tanítóanyagban nem szereplő vagy későbbi információ nem válik automatikusan a modell tudásává. A tanítási adatok időbeli határát tudáskorlátnak (knowledge cutoff) nevezzük.

02 · Tokenizálás

Szövegből számsorozat

A szöveget kis egységekre bontják, és az egységekhez azonosító számokat rendelnek. A modell ezekkel a tokenazonosítókkal dolgozik.

Egy token lehet egy szótöredék, egy szó vagy egy írásjel. Egy hosszú magyar szó gyakran több tokenből áll.

03 · Előtanítás

A következő token becslése

A modell tokensorozatot kap, megbecsüli a következő tokent, majd a hiba alapján módosítják a paramétereit. Ez rendkívül sokszor ismétlődik.

Az eredmény egy kifinomult szövegkiegészítő, amelyet még tovább kell tanítani az asszisztensi feladatokra.

04 · Utótanítás

Segítőkész asszisztens kialakítása

Gondosan megírt kérdés–válasz példákkal tanítják a használható és udvarias válaszadásra, valamint arra, mikor utasítson el egy kérést.

Emberek vagy értékelő modellek rangsorolják az alternatív válaszokat; ezek a visszajelzések is alakítják a modell viselkedését.

A modell tokenekkel dolgozik

Mi az a token?

A token a szöveg feldolgozásának kis egysége. Egy tokenizer feldarabolja a szöveget, és minden egységhez egyedi azonosítót rendel.

A modell bemenete így számsorozat lesz, például [15339, 1917, 264, 3918]. A pontos darabolás és az azonosítók a használt tokenizertől függenek.

Egy tipikus tokenszótár nagyságrendileg százezer elemet tartalmazhat. A forrásban szereplő GPT-4-es példa 100 277 elemes szótárt említ; ez nem minden modellre érvényes méret.

Miért számít?

A token nem azonos a betűvel vagy a szóval

Egy hosszú magyar szó több tokenre is bomolhat. A modell számára a szó betűi nem feltétlenül különálló egységek.

Ez is hozzájárulhat ahhoz, hogy hibázik, amikor megkérdezzük, hányszor fordul elő egy betű valamely szóban.

A válasznál a folyamat fordított: a modell tokeneket állít elő, a program pedig olvasható szöveggé alakítja őket.

Próbáld ki!

Nézd meg, hogyan bomlik fel a szöveg

Nyisd meg a Tiktokenizer interaktív oldalt, és válassz tokenizert.
Írj be egy rövid mondatot és egy hosszú magyar szót, például: „megszentségteleníthetetlenségeskedéseitekért”.
Figyeld meg a szótöredékeket, a tokenazonosítókat és a tokenek számát. Hasonlítsd össze a betűk és a szavak számával.

Más tokenizerrel más darabolást kaphatsz. Az eszköz külön oldalon nyílik meg; a tananyag helyben is használható.

A válasz születése: tokenről tokenre

Az üzeneted után a modell minden lehetséges következő tokenhez valószínűséget rendel. Kiválaszt egyet, hozzáfűzi a szöveghez, majd az így kibővült szöveg alapján újra becsül.

A képernyőn látható „gépelés” a tokenek egymás utáni érkezése.

A modell a tanult mintázatok alapján folytatja a szöveget. Eszköz használata nélkül nem egy szabályzatból keresi ki a következő mondatot.

A következő token előrejelzésének szemléltetése: a modell pontozza a lehetséges szövegfolytatásokat, és kiválaszt egyet. — A modell a lehetséges folytatásokat pontozza, majd egyiket hozzáfűzi a szöveghez.

Szemléltető példa

Melyik folytatás illik a mondathoz?

„Mielőtt sarokcsiszolóval elvágja az acélcsövet, mindig vegye fel a …”

Válassz egy folytatást a magyarázat megjelenítéséhez.

Ez előre megírt szemléltetés. A gombok egész szavakat mutatnak, amelyek a valódi modellben több tokenből is állhatnak.

A működés három következménye

01

A válaszok változhatnak

A modell nem mindig a legvalószínűbb tokent választja. Ugyanarra a kérdésre többféle válasz születhet.

Az ismételt válaszok közötti eltérés figyelmeztető jel lehet, az egyezés viszont önmagában nem bizonyítja a helyességet.

02

A köztes lépések segíthetnek

A levezetés további tokeneket és köztes eredményeket ad a modellnek. Ez segítheti az összetett feladat megoldását.

A „gondolkodó” modellek a végső válasz előtt köztes számításokat is végezhetnek. A hosszabb levezetés sem garancia a helyességre.

03

Az emlékezet másképp működik

A modell a tanult paraméterekre és az adott pillanatban kapott szövegkörnyezetre támaszkodik.

A friss információhoz webes keresés, kódfuttatás vagy csatolt fájl adhat hozzáférést. A beszélgetési szövegkörnyezetről az M1-T1-MLC5 tananyag szól.

A forrás példájában a gépek külön-külön 12, 8 és 6 óra alatt végeznének ugyanazzal a munkával. A modell pusztán eredményt kérve 3,43 órát válaszolt, levezetést kérve viszont a helyes eredményhez jutott. Állandó, összeadható teljesítményt feltételezve az együttes óránkénti teljesítmény: 1/12 + 1/8 + 1/6 = 3/8. Az idő 8/3 óra, vagyis 2 óra 40 perc. Ez egy példa; a levezetés és a számítás külön ellenőrzése továbbra is szükséges.

Miért hallucinál az MI?

Hallucinációnak nevezzük a gördülékeny, összefüggő és hihető MI-tartalmat, amely valójában téves, vagy nem támasztható alá megbízható forrásokkal.

A modell a tanult statisztikai mintázatok alapján állít elő szöveget. A generálás önmagában nem jelenti azt, hogy minden állítását a valósággal összevetve ellenőrzi.

A tanítópéldákban a kérdéseket gyakran magabiztos válaszok követik, ezért a modell akkor is válasz formájú szöveget hozhat létre, amikor nincs megbízható információja.

A hallucináció jelenségét szemléltető illusztráció a forrásanyagból. — Az emberi hallucinációt idéző illusztráció. Az MI-nél a mögöttes folyamat más. Képforrás: ChatGPT.

Miért félrevezető a „hazudik” kifejezés?

A téves szövegből nem következik emberi szándék vagy megtévesztési cél. A modell tanult mintázatokból hoz létre valószerű választ; a hallucináció itt nem emberi képzeleti élményt jelent.

A bizonytalanság helye

A találgatás jutalmat kaphat

Kalai és munkatársai (2025) szerint a szokásos tanítási és értékelési módszerek a bizonytalanság beismerése helyett a találgatást is ösztönözhetik.

Az újabb modellek gyakrabban jelezhetik, hogy nincs információjuk, de a probléma ettől még nem szűnik meg.

Hihető, mégis hibás: jellegzetes példák

A hallucinált válasz hangneme és formátuma ugyanolyan lehet, mint egy helyes válaszé. Nem mindig látványos tévedést kell keresned.

Egy kitalált rendeletnek lehet hihető száma, dátuma és paragrafusa. Egy téves műszaki érték beleeshet a megszokott tartományba. A hiányzó biztonsági lépés észrevétlen maradhat.

A hivatalosnak és teljesnek tűnő, de kitalált MI-válaszok veszélyét szemléltető illusztráció. — A válasz hivatalosnak tűnhet – amíg valaki meg nem nézi a mögötte álló forrást.

Mikor valószínűbb a tévedés?

01

Ritka, helyi vagy friss téma

Hazai jogszabály, céges eljárás, a múlt havi változás vagy egy ritka szakmai részlet. A szükséges információ hiányozhat a tanítóanyagból.

02

Pontos adatok kérése

Szám, név, idézet, hivatkozás vagy előírt érték esetén egy apró eltérés is lényeges. A hihető tartomány még nem hiteles adat.

03

Téves előfeltevés

A kérdés nem létező tényből indulhat ki. A modell ezt átveheti, és a hibás feltevéshez is összefüggő választ készíthet.

Tedd fel ezt a kérdést egy csevegőrobotnak!

Hol kell a leginkább ellenőriznem?

Csoportosítsd a főbb szakterületeket és feladattípusokat aszerint, hogy mennyire megbízhatóak a ChatGPT válaszai. Készíts táblázatot a becsült megbízhatósági tartománnyal, a fő hibakockázattal és az ellenőrzés szükséges mértékével. A százalékokat csak akkor kezeld mérési eredményként, ha megbízható kutatás támasztja alá; egyébként jelöld őket becslésként.

A hibák felismerése és a válasz validálása

Az ellenőrzés célja annak megállapítása, hogy a válasz helyes, alátámasztható és a feladatban használható-e.

Először jelöld meg a tényeket, számokat, neveket, hivatkozásokat és biztonsági utasításokat. Ezeket külön-külön kell ellenőrizned.

Az MI készíthet vázlatot, a tanár validálja a tartalmat.

Az MI-válaszok ellenőrzését szemléltető illusztráció: forrásellenőrzés, visszakérdezés és eszközök használata. — Ellenőrizd a forrást, kérdezz vissza, használj eszközöket – és csak ezután vidd a tartalmat az órára.

01 · Források

Nyisd meg a hivatkozást!

Létezik-e a dokumentum? Valóban azt írja-e, amit az MI állít? Vesd össze a választ a gyártói kézikönyvvel, szabvánnyal, tankönyvvel vagy tantervvel.

02 · Visszakérdezés

Tedd láthatóvá a bizonytalanságot!

„Mely részekben vagy bizonytalan?” „Honnan származik ez az érték?” „Mi változna, ha…?” Kérdezd meg új beszélgetésben vagy másik modelltől is. Az ellentmondás jelzés; az egyezés nem bizonyíték.

03 · Eszközök

Kérj keresést vagy kódfuttatást!

Friss tényhez webes keresést, számításhoz programkódot és annak futtatását kérd, ha az alkalmazás támogatja. Ellenőrizd a felhasznált forrásokat, bemeneti adatokat és feltételezéseket is.

04 · Saját forrás

Adj megbízható dokumentumot!

Csatold a tankönyvfejezetet vagy adatlapot: „Kizárólag a csatolt dokumentum alapján válaszolj; ha a válasz nincs benne, jelezd.” Utána vesd össze az eredményt a dokumentummal.

05 · Szakmai kontroll

Validálj az óra előtt!

Saját vagy kollégád szakmai tudására támaszkodva ellenőrizd a tanulók számára készített tartalom minden lényeges tényét, számát és biztonsági utasítását.

Öt kérdés az órai felhasználás előtt

Saját ellenőrzőlistád

Jelöld azt a kérdést, amelynek ellenőrzését elvégezted egy konkrét MI-válasznál.

Mely állítások tények, számok, nevek vagy hivatkozások – és mindegyiket ellenőriztem? Van biztonsági szempontból kritikus elem? Egyezik a gyártói adatokkal és a hatályos előírásokkal? Mi hiányzik belőle: védőfelszerelés, előfeltételek vagy kivételek? Megfelelő a szint, a szakszókincs és a kontextus a tanulóim számára? Aláírnám-e ezt a tananyagot a saját nevemmel?

Pedagógiai és etikai felelősség

A felelősség a tanárnál marad

A diákok a tanári tekintély miatt hibátlannak tekinthetik a kiosztott feladatlapot. Kezdőként sok hibát maguk sem vesznek észre.

A tanműhelyben a hibás érték vagy a kihagyott biztonsági lépés berendezéskárosodást vagy balesetet okozhat. A már bevésett tévedéseket később nehéz javítani.

Tanítsd meg a tanulókat is a források ellenőrzésére. Az MI legyen kiindulópont a gondolkodásban. A kritikus ellenőrzés a DigComp 3.0 szerinti MI- és információs műveltséghez is kapcsolódik.

Gyakorold az ellenőrzést a saját szakterületeden!

Tanári önálló feladat · 35–40 perc

Hallucinációvadászat a saját tantárgyamban

Írj öt kockázatos kérdést: egy jogszabályra vagy szabványra, egy pontos műszaki értékre, egy számításra, egy ritka szakszóra és egy friss változásra vonatkozót.

Kérdezd meg az MI-t webes keresés nélkül.
Jelöld és ellenőrizd a válaszok tényállításait.
Rögzítsd: állítás – helyes / hibás / nem ellenőrizhető – forrás.
Próbálj visszakérdezést, keresést, kódfuttatást vagy saját forrást. Jegyezd fel a változást.
Készíts öt pontos szakmai ellenőrzőlistát.

Órai csoportfeladat · 45 perc

Tényellenőrök a tanműhelyben

A 3–4 fős csoportok egy előre elkészített és a tanár által ellenőrzött, néhány hibát vagy kihagyást tartalmazó MI-munkautasítást vizsgálnak.

Mutasd be röviden, miért tévedhet az MI.
A csoportok jelöljék a gyanús állításokat és hiányzó lépéseket.
Tankönyvvel vagy kézikönyvvel ellenőrizzék és javítsák a szöveget.
Hasonlítsátok össze az eredményeket, és készítsetek „Így ellenőrizzük az MI-t” szabálykártyát.

Legyen ellenőrzött megoldókulcs. Az elemzésre szánt hibás munkautasítást a tanulók ne hajtsák végre.

A két gyakorlati feladat és az ellenőrzési munkalap letöltésem1-t1-mlc3-exc-hu.pdf

Tanulságok tanároknak

01

Értsd a működést!

A nagy nyelvi modell tokenről tokenre alkot szöveget. A tanítóanyag mintázatai alapján hihető folytatásokat választ.

A gördülékeny és magabiztos válasz is lehet téves.

02

Ismerd fel a kockázatot!

Pontos szám, név, hivatkozás, jogszabály, ritka szakszó vagy friss, helyi információ esetén különösen fontos a hiteles forrás.

A kihagyott biztonsági lépést ugyanúgy keresd, mint a hibás adatot.

03

Ellenőrizd és tanítsd!

Nyisd meg a forrást, kérdezz vissza, használj keresést vagy programkódot, és adj saját dokumentumot.

Óra előtt validálj. A tanulókat is tanítsd meg az MI-kimenetek ellenőrzésére.

Az MI elkészítheti a vázlatot, de a tanár validálja.A szakmai felelősség nem kerül át a csevegőrobothoz.

Tudáspróba

Ellenőrizd, mit tanultál!

Jelölj meg minden kérdésnél egy választ. Beküldés után megkapod a pontszámot és a magyarázatokat.

1Mi az a token? Mindig egy teljes szó. A szöveg kis egysége, amelyhez a tokenizer azonosító számot rendel. A modell felhasználóinak száma.

2Hogyan állít elő szöveget az LLM? Minden mondatot változtatás nélkül másol egy tankönyvből. Előbb automatikusan ellenőrzi minden állítás igazságát. Az addigi szöveg alapján egymás után becsüli és választja ki a következő tokeneket.

3Mit jelent az MI hallucinációja? Hihetően megfogalmazott, de téves vagy megbízható forrással nem alátámasztható tartalmat. Kizárólag szándékos emberi megtévesztést. A válasz lassú megjelenését.

4A modell pontos számmal és dátummal idéz egy rendeletet. Mit tegyél? A pontos formátum miatt fogadd el. Keresd meg az eredeti dokumentumot, és ellenőrizd, létezik-e, illetve valóban ezt írja-e. Csak a válasz helyesírását ellenőrizd.

5Két különböző modell ugyanazt a műszaki értéket adja. Ez mit bizonyít? Az érték biztosan megfelel a gyártói előírásnak. A tanári ellenőrzés elhagyható. Az egyezés hasznos jelzés, de az értéket hiteles szakmai forrással továbbra is ellenőrizni kell.

6Ki felel az órán használt, MI-vel készített tananyag validálásáért? A tanár, aki az MI-vázlatot szakmailag ellenőrzi, és az ellenőrzést a tanulóknak is tanítja. Kizárólag a csevegőrobot. Kizárólag a kezdő tanulók.

Hivatkozások és további felfedezés

Források és hasznos linkek

Hivatkozások

Kalai, A. T., Nachum, O., Vempala, S. S. és Zhang, E. (2025): Why Language Models Hallucinate. arXiv:2509.04664.
Huang, L. és mtsai (2024): A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. ACM Transactions on Information Systems.
Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023).
Cosgrove, J. és Cachia, R. (2025): DigComp 3.0 – European Digital Competence Framework. 5. kiadás, Az Európai Unió Kiadóhivatala.
Lengyel Zs. (2026): Bevezetés a mesterséges intelligencia fogalomrendszerébe; Konkrét alkalmazások tartalomgenerálásra. VITA képzési prezentációk.

Próbáld ki és nézd meg!

Tiktokenizer – így bomlik tokenekre a szöveg.
Egy nagy nyelvi modell interaktív, 3D-s szemléltetése – angol nyelvű oldal.
Andrej Karpathy: Deep Dive into LLMs like ChatGPT – angol nyelvű videó.

A külső eszközök és források új lapon nyílnak meg, és internetkapcsolatot igényelnek.

Közreműködők és csatolmányok

Impresszum és szerzői jog

Szerző: Lengyel ZsoltiTStudy Hungary Számítástechnikai Oktató- és Kutatóközpont
Lektor: Hartyányi MáriaiTStudy Hungary Számítástechnikai Oktató- és Kutatóközpont
Projekt: 2025-1-LT01-KA220-VET-000362456
Tananyag: M1-T1-MLC3

Csatolmányok

A magyar forrásanyag letöltésem1-t1-mlc3-text-hu.pdf A gyakorlati feladatok letöltésem1-t1-mlc3-exc-hu.pdf

Creative Commons Nevezd meg! – Így add tovább! embléma

Ez a mű a Creative Commons Nevezd meg! – Így add tovább! 4.0 Nemzetközi Licenc (CC BY-SA 4.0) feltételei szerint újra felhasználható és átdolgozható.

Az Európai Unió finanszírozásával. A kifejtett nézetek és vélemények kizárólag a szerző(k)éi, és nem feltétlenül tükrözik az Európai Unió vagy a Nemzeti Ügynökség álláspontját.