Az egyik kutató ügynökünk este szabályt rögzített a belső naplónkba. A szabály arról szólt, hogy egy bizonyos mérési módszer megbízhatatlan, ezért tilos használni. A következő munkalépésében pontosan azzal a módszerrel mért, és az eredménye több mint száz oldallal tért el a valóságtól.
A hibát a minőség-ellenőrző ügynökünk fogta meg, négy egymástól független módszerrel újramérve. Az elkövető a saját kimenetében semmi gyanúsat nem látott. Pedig a szabályt fél órával korábban ő maga írta le.
Ez a jelenet 2026. július 28-án történt, és dátumozott bejegyzés őrzi a belső naplónkban. Azért meséljük el, mert pontosan azt mutatja meg, amire a legtöbb cég AI-bevezetésnél nem készül fel: a mesterséges intelligencia a saját munkájának a leggyengébb ellenőre. Ebben a cikkben megmutatjuk, mit mond erről a kutatás, hogyan néz ki a jelenség élesben, és mitől ér valamit egy második, ellenőrző szem.
Mit mond a kutatás az AI önellenőrzéséről?
A kézenfekvő megoldás mindenkinek ugyanaz: „nézd át még egyszer". A kutatás szerint ez kevés.
Egy 2024-es, rangos konferencián közölt tanulmány (Huang és társai, ICLR 2024) pontosan ezt a kérdést vizsgálta: mire megy egy nagy nyelvi modell (a ChatGPT-hez hasonló AI-rendszerek motorja), ha külső segítség nélkül, pusztán a saját képességeire támaszkodva próbálja javítani a válaszait. A szerzők következtetése szerint a modellek külső visszajelzés nélkül nehezen javítják a saját érvelésüket, és a teljesítményük az önjavítástól időnként romlik is. A „romlik" szó a tanulmányból való, mi legfeljebb aláhúzzuk.
Laikus fordításban: amikor az AI-t arra kérjük, hogy ellenőrizze saját magát, előfordul, hogy egy jó választ ír át rosszra. Az „átnézetem vele még egyszer" lépés önmagában közelebb áll a megnyugtatáshoz, mint az ellenőrzéshez.
Az ICLR 2024-es következtetés: külső visszajelzés nélkül az önjavítás megbízhatatlan, és a teljesítmény időnként romlik is tőle (Huang és társai)
A vakfolt: kívülről megfogja, a sajátjában nem látja
2025-ben egy kutató ennél is élesebb kérdést tett fel (Ken Tsui, arXiv:2507.02778): mi történik, ha ugyanazt a hibát egyszer a modell saját kimenetébe rejtjük, egyszer pedig külső szövegként mutatjuk meg neki?
Az eredmény rendszerszintű mintázatot mutat. A modellek a külső forrásból érkező hibát sikerrel javítják, a saját kimenetükben lévő azonos hibát viszont nem veszik észre. A szerző erre a jelenségre külön nevet adott: self-correction blind spot, magyarul önjavítási vakfolt.
A mérés 14 nyílt forráskódú, nem érvelő típusú (úgynevezett non-reasoning) modellen futott, és az átlagos vakfolt-ráta 64,5% volt. Ez relatív mérték: azt mondja ki, hogy a modellek a saját kimenetükben lévő hibát lényegesen rosszabb eséllyel javították, mint ugyanazt a hibát külső szövegben. Fontos kikötés, és ezt a tanulmány is kimondja: ez az érték erre a 14 nyílt forráskódú, nem érvelő modellre vonatkozik, a legújabb, érvelő módú rendszerekre nem általánosítható. A tendencia iránya viszont egybevág azzal, amit a saját naplónkban látunk.
Egy részlet a tanulmányból különösen beszédes. Amikor a kutató egyetlen apró szót fűzött a modell kimenete elé (egy „Wait", vagyis „várjunk csak" jelzést), a vakfolt 89,3%-kal csökkent. A képesség tehát ott van a modellben, csak a saját kimenetére nézve magától ritkán kapcsol be. Kell egy külső lökés, ami ellenőrző üzemmódba állítja.
Ez a mi olvasatunkban a cikk legfontosabb mondata: az ellenőrzési képesség létezik, és kiváltható. A kérdés az, ki adja meg a lökést, és milyen módszerrel.
Így néz ki élesben: dátumozott esetek a saját naplónkból
A The Logic Method belső rendszerét több, egymástól függetlenül dolgozó AI-ügynök alkotja, és minden hibát, lezárást és mérést dátumozott bejegyzés rögzít. Ami itt következik, az ebből a naplóból való. Darabszámokat mondunk, nem arányokat: ezek konkrét esetek konkrét napokról, nem statisztikák.
A szabály ismerete nem véd
A bevezetőben leírt eset (2026. július 28.) számunkra azért tanulságos, mert az elkövető nem tudatlanságból hibázott. A szabályt ismerte, sőt ő maga fogalmazta meg. A saját következő kimenetére nézve mégsem alkalmazta. A tanulmányok vakfolt-fogalma pontosan ezt írja le: a tudás megvan, a saját kimenetre irányuló ellenőrzés marad el.
A hiba, ami sikernek látszik
Ugyanazon a napon mértünk ki egy másik esetet (2026. július 28.). Egy parancs hibával leállt, de a hibajelzése útközben elveszett, mert az eredményét egy másik eszközön vezettük át. A képernyőn hibaüzenet helyett egy hihető szám jelent meg. Semmi nem jelezte, hogy a mérés valójában meg sem történt.
Az ilyen hibát az elkövető szinte soha nem fogja meg, mert a saját kimenete nem gyanús neki. A második szem itt annyit tett, hogy más módszerrel újramérte ugyanazt, és a két eredmény eltért. A hiba nem a figyelmesebb újraolvasástól bukott meg. Attól bukott meg, hogy valaki másképp mért.
Az elkövető egyszer sem látta a sajátját
A legbeszédesebb mintánk egyetlen napról való. 2026. július 25-én öt, egymástól független hibát dokumentáltunk a rendszerünkben: egy szűk hatókörű javítást, egy kód-szintű téves diagnózist, egy félresiklott hatókör-becslést, egy hibás szerep-leírást és egy pontatlan állapot-állítást. Mindegyiket egy másik ügynök fogta meg. Az elkövető a dokumentált esetekben egyszer sem vette észre a sajátját.
Ez öt eset egy konkrét napról, egy hibafogásra kihegyezett belső rendszerből. Arányt nem csinálunk belőle. A mintázat viszont pontosan az, amit a kutatás leír: ugyanaz a hiba kívülről látszik, belülről nem.
Három dátumozott eset a belső naplónkból: a hibát mindegyikben másik ügynök fogta meg, mint aki írta
Mitől ér valamit a második szem? És mitől nem?
A fentiekből könnyű rossz következtetést levonni: „akkor ellenőriztessünk mindent még egy AI-jal". Csakhogy az egyetértésre hangolt második szem keveset ér. Ha az ellenőrző csak rábólint az első kimenetre, az visszhang, és a visszhang a hibát is felerősíti.
Nálunk 2026. július 28-án egy két napja húzódó szakmai vitát zárt le a minőség-ellenőrző ügynök egyetlen javaslata. A vita két magyarázat között állt, és a javaslat ereje abban volt, hogy megmondta: milyen mérés választaná el a kettőt. A mérés lefutott, és az egyik magyarázat megdőlt. Az ellenőrzés nem véleményt tett a vélemény mellé. Mérést tett a vélemények közé.
A saját naplónkból három feltétel rajzolódik ki. A második szem akkor ér valamit, ha:
Más módszerrel mér. Ugyanannak a kimenetnek az újraolvasása a vakfoltot örökli. Egy másik módszer, másik eszköz, másik adatút a hibát más szögből éri el.
Meg tudja mondani, mi cáfolná az állítást. Az ellenőrzés akkor kezdődik, amikor az ellenőr cáfolni próbál. Ezért mondjuk házon belül úgy: ellenséges szemű ellenőrzés kell, jóindulatú átolvasás helyett.
A saját határait is kiírja. A jó ellenőrzési jelentés azt is rögzíti, mit ellenőrzött, és mit hagyott ki. A ki nem mondott határ a következő hiba melegágya.
Mitől második szem a második szem: három feltétel, és egy, amelyik csak visszhangot adna
Mit tud ebből átvenni egy cég, amelyik nem üzemeltet AI-flottát?
A fenti példák egy több-ügynökös rendszerből valók, de a tanulság kisebb léptékben is működik. Ha a cégében egyetlen AI-eszköz dolgozik, három lépés akkor is átvehető:
Kritikus kimenet mögé független ellenőrzést tegyen. Ez lehet másik modell, másik eszköz vagy egy eltérő módszerrel dolgozó munkatárs. A lényeg az útvonal függetlensége: az ellenőr ne ugyanazon a nyomvonalon jusson el ugyanoda.
Az ellenőrzés cáfolatot keressen. A „nézd át, jó-e" felkérés bólogatást szül. A „találd meg, hol hibás" felkérés ellenőrzést.
Kérje ki a határokat. Egy AI-tól is kérhető, hogy sorolja fel, mit nem tudott ellenőrizni. Ez a lista gyakran értékesebb, mint maga a jóváhagyás.
Ugyanez áll a hosszú futású munkára is. Ha egy AI-ügynök memóriája betelik és átadja a munkát, az átvevőnek szintén újra kell mérnie a kritikus állításokat, nem elég elhinnie őket, erről szól az AI-ügynökök munkaátadásáról szóló cikkünk.
A szabályozási környezet ugyanebbe az irányba tart: az EU mesterségesintelligencia-rendelete és a kapcsolódó irányítási szabványok (például az ISO 42001) egyre határozottabban várják el a szervezetektől az AI-kimenetek felügyeletét. A hogyanra viszont kevés gyakorlati minta létezik, ez a cikk ehhez adott egy mérésekre épülő példát.
Ha a cégénél most épül AI-folyamat, és szeretné, hogy az ellenőrzés az első naptól a rendszer része legyen, ebben tudunk segíteni.
A lényeg
Az AI munkája mögé ellenőrzés kell, és az ellenőrzés legrosszabb jelöltje maga a szerző. Ez a kutatásból és a saját naplónkból ugyanúgy kiolvasható. A jó hír, hogy a második szem kiépíthető, gépből is: más módszerrel mérjen, cáfolni próbáljon, és írja ki a saját határait.
A gép attól lesz megbízható, hogy van, aki méri.
---
Gyakori kérdések
Elég, ha megkérem az AI-t, hogy ellenőrizze saját magát?
Ránézésre kényelmes, a kutatás szerint kockázatos. Az ICLR 2024-es tanulmány azt találta, hogy külső visszajelzés nélkül az önjavítás megbízhatatlan, és a teljesítmény romolhat is tőle. Önellenőrzés helyett független, más módszerű ellenőrzés való a kritikus kimenetek mögé.
Embernek kell lennie a második szemnek?
A mi mért tapasztalatunk szerint a második szem lehet gép is. A hibáinkat a példáinkban minden esetben egy másik AI-ügynök fogta meg. A döntő tényező a függetlenség és a mérés, a biológia másodlagos.
Miért látja meg a másik AI ugyanazt a hibát, amit az első nem?
Mert a hiba külső inputként érkezik hozzá, és a kutatás szerint a modellek a külső hibát lényegesen jobban javítják, mint a sajátjukat. Ezt nevezi a 2025-ös tanulmány önjavítási vakfoltnak.
Mennyi hibát vét egy AI?
Erre szándékosan nem mondunk számot. A hibaarány modellenként, feladatonként és beállításonként másképp alakul, általános és megbízható érték nincs. Pontosan ezért gondoljuk, hogy az AI megbízhatósága mérési kérdés, előzetes hit helyett.
