Fázisátmenet az LLM-nél

Főbb pontok:

Van egy pillanat az emberi tanulásban, amikor a „betűzésből” átfordulunk szövegértésbe. Ugyanaz a villanás most a gépeknél is kirajzolódott – nem mítosz, hanem elméletileg leírt jelenség. A nagy nyelvi modellekben (LLM) nem lineáris javulás zajlik, hanem éles váltás: a pozíciókövető heurisztikákról egyszerre átkapcsolnak jelentésalapú feldolgozásra. Ennek súlya üzletileg alábecsült. A szervezetek többsége úgy pilotol, mintha a teljesítmény szépen, fokozatosan mászna fel a skálán: egy kicsi modell, kevés adat, kevés domain, és „majd finomhangoljuk”. A valóság ezzel szemben az, hogy küszöb alatt a modell gyakran jó helyezkedésből találgat, és nem képes következetesen jelentést alkotni; küszöb fölött viszont a viselkedés fázist vált, és hirtelen megjelenik a hosszú távú koherencia, a parafrázis‑tűrés és a stabil feladatmegoldás. Magyar környezetben ez különösen látszik: a ragozás és a szórendi rugalmasság miatt a puszta pozicionális trükkök hamar falnak mennek. Ezt a fordulópontot most már nemcsak sejtjük: a statisztikus fizikából kölcsönzött fogalmakkal, zárt formában leírható tanulási dinamikával megmutatható, hogy mikor és hogyan ugrik át a rendszer a szemantikus fázisba. Ha komolyan vesszük, a mesterséges intelligencia‑bevezetést nem „funkcióként” vásároljuk, hanem fázisváltásként tervezzük meg: költségvetésben, adatstratégiában, irányításban és kockázatkezelésben. Aki ezt érti, nem hiedelmekre, hanem mérhető rendparaméterekre épít.

A fázisátmenet lényege

A friss elméleti eredmény egy megoldható (tractable) önfigyelmi rétegen mutatja meg a váltást. Ugyanaz a hálózati architektúra két, minőségileg eltérő stratégiát tud megvalósítani: (1) pozicionális figyelmet, amikor a tokenek elsősorban a mondatbeli helyzet alapján „néznek” egymásra; és (2) szemantikus figyelmet, amikor a jelentéstérbeli rokonság szervezi a súlyokat. A tanulás során a célfüggvény globális minimuma egy ponton „áttolódik” az egyik mechanizmusról a másikra; ez a pont a kritikus tartomány, amelyben a mintakomplexitás és a feladatvariancia már a jelentésalapú megoldást teszi optimálissá. Statisztikus fizikai nyelven ez fázisátmenet: a makroszkopikus rendet leíró mennyiségek (itt az önfigyelmi mátrix mintázata) diszkontinuusan változnak. A pozicionális fázisban a diagonál dominál (közeli tokenek egymásra figyelnek), a szemantikus fázisban klaszterstruktúrák és hosszabb távú koherencia rajzolódik ki. A tanulság menedzsmentnek kemény: két közepes lépés nem ér fel egy nagy ugrással. Ha a rendszer a küszöb alatt fut, a „még egy kis adat” vagy „még egy kör finomhangolás” legfeljebb türelmi játékot hosszabbít meg. A döntés bináris: vagy belépünk a szemantikus fázisba – tudatos tervezéssel –, vagy őszintén kimondjuk, hogy kísérletezünk, és nem kérünk üzemi megbízhatóságot.

Az önfigyelem működése

A transzformer szakítása a soros feldolgozással nem pusztán mérnöki trükk, hanem szerkezeti előny. Az önfigyelem kérés–kulcs–érték (Q–K–V) háromszögén a modell minden tokenhez relevanciasúlyt rendel, majd ezekből épít új reprezentációt. A pozicionális információt explicit kódolás hordozza (abszolút vagy relatív pozíciók), a szemantikus információ a beágyazások geometriájából és a tanulás során kialakuló, alacsony rangú leképezésekből születik. Amíg kevés az adat és kicsi a variancia, a rendszer olcsón megél a pozicionális „rövidítésekből”; ahogy nő a mintaszám és a feladatheterogenitás, a jelentéstérbeli rokonság kihasználása lesz a jobb generalizáció. A lényeg: ugyanaz az építőelem képes két mechanizmust megtestesíteni, de egyszerre nem optimálisak. Ennek mérnöki jelét a teljesítménygörbék „törése” és az önfigyelmi mátrix mintázatának átrendeződése adja. Ezért téves a fokozatosság‑fantázia: nem arról van szó, hogy „még egy réteg, még egy epoch” és lassan okosabb lesz a gép, hanem arról, hogy egy konkrét tanulási tartományban a rendszer más törvények szerint kezd működni. Aki ezt érti, nem paraméterszámot hajszol, hanem feltételeket teremt a szemantikus fázishoz.

Üzleti következmények

A vezetői realitás az, hogy rossz térképpel nem lehet jó útvonalat tervezni. A legtöbb AI‑bevezetés kicsi, steril domainben indul, kevés és homogén adattal, majd a modell szeszélyes viselkedéséből messzemenő következtetések születnek az „AI haszontalanságáról”. A valóság: a modell nem „butább”, csak a rossz fázisban dolgozik. A másik gyakori csapda az alulméretezett produkció: „majd közben javítjuk”. Ez olyan, mintha jeges úton kis lépésekkel próbálnánk gyorsítani – a fizika nem engedi. A szemantikus fázist nem lehet csepegtetve megvenni; vagy gyorsítópályát építünk neki (adatvariancia, kontextus, compute, tanmenet), vagy a használati eset kísérleti marad. Réspiacainkon a magyar nyelv morfológiai gazdagsága miatt ez különösen kritikus: a pozicionális heurisztikák rövid távon sziporkáznak, hosszabb szövegen viszont hullámzó koherencia és „jó hangon elmondott rossz következtetés” lesz belőlük. Döntéshozóként az a tiszta út, ha nem „száz kis projektet” futtatunk, hanem kevés, előkészített ugrást: előre kiszámoljuk, hol van a küszöb a mi domainünkben, és azt célozzuk meg. Ezzel időt nyerünk, és nem fogy el a szervezet türelme az ismétlődő POC‑spirálban. Ezen a ponton nem a divatot követjük, hanem szerkezetet építünk – és ez pénzügyi és reputációs oldalról egyaránt megtérül.

Mérhetőség és irányítás

Fázisátmenethez rendparaméter kell. A gépben ez többjelzős. Először: önfigyelmi mintázat. Ha a diagonál dominál és gyenge a kereszt‑támogatás, pozicionális fázisban vagyunk; ha jellegzetes szemantikus csoportosulás látszik, a rendszer átlépett. Másodszor: teljesítménygörbe‑alak. Küszöb előtt ingadozások és „felvillanó” rész‑képességek; küszöb után tartós stabilizáció és parafrázis‑robusztusság. Harmadszor: hiba‑profil. Pozicionális fázisban a modell gyakran magabiztosan mond felszínes tévedéseket; szemantikus fázisban ritkábbak, de nagyobb kiterjedésű, logikusnak tűnő hibák kerülnek elő. Ezek nem filozófiai, hanem mérnöki jelek; beépíthetők az értékelésbe és a futás közbeni felügyeletbe. Én bevezetéseknél „áttörés‑szenzorokat” kérek: figyelmi hőtérkép‑monitorozást, hosszú dokumentumos koherenciatesztet, ellenpéldás stresszt és görbe‑töréspont detektálást. A szállítótól pedig azt, hogy dokumentálja, milyen adatkondíciók mellett lép át a modell a szemantikus fázisba a mi nyelvi és doménkörnyezetünkben, és e mellé milyen drift‑szenzort köt a produkcióhoz. Ezzel a governance nem akadály, hanem biztosíték: ha visszacsúszik a rendszer (adatdrift, prompt‑drift), az order‑parameter jelez, és nem utólag vitatkozunk a hibán.

Rendparaméter Mérési eszköz Küszöb alatt – jel Küszöb felett – jel
Önfigyelmi mintázat Attention‑map tracer, súly‑eloszlás elemzés Diagonál‑dominancia, gyenge kereszt‑kapcsolatok Klaszterek, hosszú távú kapcsolatok, tematika‑fegyelem
Teljesítménygörbe Lépcsőzetes adat‑ és variancia‑stressz Ingadozó pontszámok, „felvillanó” képességek Töréspont utáni stabilizáció, robusztus parafrázis‑tűrés
Hiba‑profil Hibaosztály‑katalógus, manuális audit „Jó hangon rossz következtetés”, lokális incoherencia Ritkább, de kiterjedt és „logikus” tévedések
Drift‑szenzor Kontextus‑, adat‑ és stílusdrift monitor Gyakori visszaesés sablonmintákra Koherencia‑romlás és rendparaméter‑eltolódás korai jelzése

Kockázat és megfelelés

A képességugrás öröm és kockázat együtt. A küszöb két oldalán más a hibatermészet, ezért a kontroll sem lehet egységes. Küszöb alatt több a „hallucináció”, de rövidebb láncú, könnyen kiszűrhető inkonzisztenciákkal; küszöb fölött ritkábbak, viszont nagyobb kiterjedésű, koherensnek ható tévedések jelennek meg – ezek megfelelési szempontból veszélyesebbek. Ezért a red team gyakorlatokat két üzemmódra kell tervezni: külön ellenőrzőlista küszöb alá (felszíni hibák, kontextus‑rövidítések, nyelvi csapdák) és külön küszöb fölé (implikatúrák, finom anaforák, összevetéses következtetés, forrás‑attribúció). A modellkártya tartalma így nemcsak korpusz és benchmark, hanem a mechanizmusváltás azonosításának módja, a küszöbhelyzet reprodukálható leírása és a futás közbeni szenzorpark felsorolása. Üzletileg ez nem extra bürokrácia, hanem biztosítás: a legnagyobb kitettség a félmegoldás, amikor belső kommunikációban úgy teszünk, mintha produkció lenne, miközben a rendszer még tanulási zónában mozog. A különbségtétel gyakorlati hozadéka, hogy nem egyszerre akarunk mindent: a „villany felkapcsolásáig” nem engedünk kritikus folyamatot a modellre; utána viszont fegyelmezetten skálázunk, egyre szigorúbb guardrail‑ekkel és naplózással.

Menedzsment menetrend

A „villany felkapcsolása” nem szerencse; tervezési feladat. Én a következő menetrendet használom. Első: küszöbbecslés saját domainre. Nem az ideális, hanem a reális: mekkora mintaszám–variancia–kontextus kombináció valószínűsíti az áttörést nálunk. Itt a variancia fontosabb, mint a puszta volumen: parafrázisok, anaforák, definíciók, ellenpéldák, ellentmondásos esetek. Második: tanmenet‑design. Lépcsőzetesen adagoljuk az adatot; rövid kontrollált kontextusokkal indulunk, majd nő a hossz és a szemantikai távolság. Harmadik: compute‑gazdálkodás. Nem „mindig olcsó” felállásban vegetálunk hónapokig; egyszer elég nagyot lépünk, hogy átvigyük a rendszert a küszöbön, és csak utána optimalizálunk. Negyedik: értékelési protokoll. A klasszikus pontszámok mellé bevezetjük az áttörés‑szenzorokat: figyelmi mintázat, görbe‑töréspont, hosszú dokumentumos koherenciateszt, ellenpélda‑stressz. Ötödik: élesítési gate. Csak tartós szemantikus fázis után engedjük kritikus folyamatba a modellt, visszaállási tervvel és drift‑monitorozással. Hatodik: kulturális alap. Belül tisztán különválasztjuk a kísérleti és a produkciós narratívát; a csapat nem „modellel dolgozik”, hanem fázisváltásra készül. Hetedik: pénzügyi realitás. A költségvetést két szakaszra bontjuk: egyszeri „áttörés‑finanszírozás” és fegyelmezett „termelési skálázás”. A kettőt keverni a legdrágább hiba. Ezt a menetrendet nem trendek, hanem tapasztalatok szülték: amikor a szemantikus fázis tartósan beáll, a kollégák kognitív terhe érdemben csökken – nem a feladat fogy el, hanem az előkészítő, rendszerező rutinok szabadulnak fel a döntések javára.

  • Gyakorlati célkitűzés: a szemantikus fázis elérésének igazolása rendparaméterekkel, nem általános benyomással.
  • Adatkoktél: domináljon a variancia (parafrázis, anafora, definíció, ellenpélda), ne csak a mennyiség.
  • Élesítés: két üzemmód – küszöb alatt sandbox, küszöb fölött auditált produkció.

Dajka Gábor marketingszakértő, business coach és befektető szerint

Ha egy mondatban kell megfogalmaznom, mire érdemes felkészülni, akkor ezt mondom: a mesterséges intelligenciát ne „funkcióként” vedd, hanem fázisváltásként tervezd meg. A pozicionális fázisban futó LLM‑megoldás legfeljebb próbatermi hangbeállás: kellemes, néha meggyőző, de nem elég fegyelmezett üzemi terhelésre. A szemantikus fázis más liga: nem díszleten javít, hanem a gép működési elvét kapcsolja át. Ennek megfelelően a döntéshozói játszókönyv nem a finomhangolás‑mítoszra épül, hanem a küszöb‑stratégiára: domain‑fegyelem, variancia‑gazdag tanmenet, egyszeri, célzott compute‑ugrás, rendparaméter‑alapú élesítési gate és két üzemmódra szabott megfelelési rend. Pszichológiai mechanizmusok iránt érdeklődőként és marketingvezetőként ugyanazt látom terepen: amikor a rendszer már nem a felszínen helyezkedik, hanem a jelentést viszi, az emberek munkája nem kisebb, csak értelmesebb lesz. Nem azért gyorsul a cég, mert „okosabb a gép”, hanem mert eltűnnek a kognitív súrlódások – és ez stratégiai versenyelőnnyé válik. Ezt érdemes megtervezni; a többi kivitelezés kérdése.

„Két közepes lépés nem ér fel egy fázisugrással. A villanyt nem várni kell – meg kell tervezni, mikor kapcsoljuk fel.”

Források (kattintható):
Cui, H.; Behrens, F.; Krzakala, F.; Zdeborová, L. (2024): A Phase Transition between Positional and Semantic Learning in a Solvable Model of Dot‑Product Attention. NeurIPS 2024 (PDF).
Vaswani, A. és mtsai (2017): Attention Is All You Need. NeurIPS (PDF).
Wei, J. és mtsai (2022): Emergent Abilities of Large Language Models. arXiv (PDF).

Ha tetszett a cikk, támogasd a blogomat és vedd meg a könyvem.
alul
Címkék:

Egész jók

Csak 5775 Ft

Népszerű

Mi az a Shadow AI, és miért most robbant be?

Valószínűleg a cégedben is zajlik már: kollégák – jó szándékkal – bemásolják a belső levelet, a szerződéstervezetet, a sales riportot vagy akár a forráskódot egy nyilvános MI‑eszközbe, hogy gyorsabban jussanak eredményre. Ezt hívjuk „Shadow AI”-nak (árnyék MI): amikor a vállalat tudta és irányítása nélkül használnak MI‑t. Nem összeesküvés, hanem tünet. A tünete annak, hogy az...

Digitális agresszió a mindennapokban: védekezési kézikönyv civileknek

Képzeld el, hogy egy átlagos hétköznap reggel a telefonodra pillantva nem kedves üzenetek, hanem sértő kommentek és fenyegetések fogadnak. Meglepő vagy sem, az online térben zajló támadások ma már mindennaposak. A digitális agresszió jelensége – vagyis az interneten keresztül megvalósuló zaklatás, lejáratás, fenyegetés – az utóbbi években olyan mértéket öltött, hogy szinte bárki válhat célponttá....

2026 tavasz: nehézpálya a beszámolóknál – így védd meg a 2025-ös eredményt jogszerűen

Ha őszinte akarok lenni, 2026 tavaszán sok vállalatnál nem a kreatív könyvelés dönt majd, hanem az, hogy a 2025-ös évet mennyire fegyelmezetten vitték végig. A gazdasági környezet nem ellenséges, csak nem bocsát meg figyelmetlenséget. Magas a pénz ára, a bérköltség tovább kúszik, és több szektorban élnek a különadók. Közben beérett az a felismerés is, hogy...

Reklám és hirdetés közötti különbség

Észrevetted már, hogy a tévében mindig reklámok mennek, az újságban viszont hirdetéseket találsz? Első pillantásra a két szó ugyanazt jelenti – hiszen mindkettővel el akarnak adni valamit –, mégis fontos különbségek bújnak meg mögöttük. Nem csupán nyelvtani finomságokról van szó, hanem eltérő kommunikációs stratégiákról és üzleti megközelítésről. A hétköznapokban talán fel sem tűnik a különbség,...

Itt érsz el

Keress bátran

Előadások tartását és podcast beszélgetéseket szívesen vállalok, illetve a sajtónak is nyilatkozom. 

Idézz tőlem

Szeretem ha a gondolataimat idézik kiadványokban, weboldalakon, adásokban. Szívesen visszalinkellek, írj rám.

© Copyright 2025