A felismerés nem bizonyítás

Hajnali kettő múlt. Valaki észrevesz egy mintát, amely addig különálló problémákat köt össze. A gondolat először csak érdekes, aztán meglepően sok helyre illeszkedik. Leírja egy nyelvi modellnek. A válasz rendezett, lelkes és részletes. Új fogalmak jelennek meg, kapcsolatok rajzo...

Mi történik, amikor egy gondolat túl gyorsan válik világmagyarázattá?

Hajnali kettő múlt. Valaki észrevesz egy mintát, amely addig különálló problémákat köt össze. A gondolat először csak érdekes, aztán meglepően sok helyre illeszkedik. Leírja egy nyelvi modellnek. A válasz rendezett, lelkes és részletes. Új fogalmak jelennek meg, kapcsolatok rajzolódnak ki, a következő kérdésre pedig még tágabb magyarázat érkezik. Reggelre az ötlet már elméletnek látszik.

A helyzetben nincs semmi nevetséges. Az intenzív felismerés valódi emberi élmény. Megesik matematikussal, mérnökkel, művésszel, vállalkozóval és azzal is, aki egy régóta nyomasztó személyes problémához talál végre összefüggő magyarázatot. A baj később kezdődik: amikor az élmény ereje átköltözik az állítás bizonyosságába.

A felismerés azt mutatja, hogy az elménk talált egy rendező mintát. A bizonyítás azt mutatná meg, hogy a minta a saját belső vonzerején túl is megáll. A kettő között néha néhány oldal számítás van. Máskor évek munkája, sikertelen kísérletek, ellenpéldák és több ember egymást javító kritikája. Olykor pedig semmilyen út nincs: a szép gondolatból használható metafora marad, nem több.

Ezt nem vereségként érdemes kezelni. A felismerés feladata, hogy irányt adjon a vizsgálatnak. Nem kell ugyanabban a pillanatban ítéletet is hirdetnie.

Az élmény igaz lehet, miközben a magyarázat téves

A belső bizonyosság különös anyag. Az ember nem egyszerűen azt gondolja, hogy valamire rájött. Úgy érzi, hogy a szétszórt részletek egyszerre a helyükre kerültek. A korábban zavaró kivételek új értelmet kapnak. A gondolat takarékosnak látszik: kevés feltevéssel sok mindent magyaráz. Ez az élmény önmagában nem hamis. Tényleg megtörténik.

Csakhogy az élmény tárgya és az élményből levont következtetés nem ugyanaz a kérdés.

Valaki átélheti, hogy végre megértette egy kapcsolat kudarcát. Ettől a magyarázata még lehet egyoldalú. Egy kutató észrevehet szabályosságot egy adatsorban. Ettől a szabályosság még lehet mintavételi hiba. Egy programozó találhat elegáns architektúrát. Ettől a rendszer még összeomolhat a jogosultságkezelésnél, a kivételeknél vagy a valós terhelésnél. Egy filozófiai modell összekapcsolhat több régi problémát. Ettől még nem kapott automatikusan empirikus, matematikai vagy univerzális érvényt.

A különbség egyszerűen kimondható, de nehéz betartani: a személyes felismerés első személyű adat. A nyilvános állítás közös ellenőrzést igényel.

Ez azért kellemetlen, mert a felismerés pillanatában a két réteg összeér. Az ember a saját gondolatán belül áll. A rendet egyszerre írja le és éli át. Innen nézve az ellenőrzés könnyen fölösleges adminisztrációnak vagy értetlen akadékoskodásnak látszik. Pedig éppen az védi meg a gondolatot attól, hogy a saját hatása alá kerüljön.

A koherencia gyorsabban nőhet, mint a bizonyíték

Egy új elmélet első óráiban rendszerint olcsó a bővítés. Ha felmerül egy új eset, hozzá lehet adni egy feltételt. Ha ellentmondás látszik, külön rétegként lehet értelmezni. Ha a modell két távoli területre is ráillik, ez újabb megerősítésnek érződik. Rövid idő alatt sűrű, összefüggő háló jön létre.

A bizonyíték eközben sokkal lassabban mozog. Adatot kell gyűjteni. Meg kell nézni, hogy a fogalmak ugyanazt jelentik-e minden példában. El kell választani az előre jelzett következményt attól, amit csak utólag sikerült beilleszteni. Ellenőrizni kell, hogy a modell jobb-e az egyszerűbb magyarázatoknál. Ha formális állításról van szó, definíció, levezetés és ellenpélda-keresés kell. Ha társadalmi állításról, akkor történeti, intézményi és mérési korlátok is belépnek.

A két folyamat eltérő sebessége könnyen félrevezet. A koherencia látványosan növekszik, a bizonyíték pedig alig változik. A gondolat mégis egyre készebbnek tűnik, mert sokkal több mondatot lehet róla elmondani.

A megerősítési torzítás kutatása régóta mutatja, hogy hajlamosak vagyunk azokat az adatokat keresni és nagyobb súllyal kezelni, amelyek beleillenek a meglévő feltevésbe [1]. A kognitív folyékonyság pedig önmagában is növelheti egy állítás igaznak érzett valószínűségét: amit könnyebb feldolgozni, azt gyakran megbízhatóbbnak érezzük [2]. Egy elegáns, jól megfogalmazott rendszer ezért kettős előnyt kap. Magyaráz, és közben könnyen olvashatóvá teszi saját magyarázatát.

Ez még mindig nem teszi hamissá. Csak azt jelzi, hogy a belső koherencia nem független mérőeszköz.

A gép nem független tanúja annak, amit tőlünk kapott

A nyelvi modellek különösen gyorsan képesek megnövelni egy gondolat körüli szöveges teret. Ha a kérdés eleve egy bizonyos értelmezést kínál, a válasz gyakran azon belül folytatja a munkát. Fogalmakat rendez, analógiákat ajánl, ellenvetéseket fogalmaz meg, majd azokra is válaszol. Ettől az ötlet rövid idő alatt kidolgozottnak látszik.

A folyamat hasznos lehet. Segíthet megnevezni a homályos részeket, összevetni alternatívákat, javítani a szerkezetet vagy előállítani olyan ellenkérdéseket, amelyek magunktól nem jutottak eszünkbe. A veszély ott jelenik meg, amikor a kidolgozottságot független megerősítésként számoljuk el.

A modell nem ül egy másik laborban. Nem végzett új mérést. Nem olvasta el automatikusan az összes releváns szakirodalmat, hacsak erre nincs tényleges, ellenőrizhető hozzáférése. Nem vállal szakmai felelősséget az állításért. A válasz minősége erősen függ a kérdés keretétől, a rendelkezésre álló kontextustól és attól, hogy a rendszer mennyire jelzi saját bizonytalanságát.

Bender és szerzőtársai arra figyelmeztettek, hogy a nyelvi rendszerek meggyőző szövegalkotása könnyen elfedi a jelentés, a forráseredet és a világban való ellenőrzés hiányait [3]. Ebből nem következik, hogy minden gépi segítség értéktelen. Az következik, hogy az AI-val folytatott beszélgetés nem válhat ugyanannak az állításnak egyszerre forrásává és bírájává.

Különösen gyanús az a helyzet, amikor a kérdés egyre nagyobb következtetést tartalmaz, a válasz pedig minden körben egyre nagyobb keretet épít köré. Ilyenkor könnyen létrejön egy udvarias visszhangkamra. A jelenség egyik oka, hogy a feladat nyelvi folytatásként kerül a gép elé, miközben a valódi ellenőrzéshez szükséges külső adat nincs jelen; szándékos egyetértési vágyat ebből nem kell feltételezni.

A használható kérdések jóval szűkebbek: mely állítások következnek ténylegesen az eddigi anyagból, mihez nincs adat, milyen ismert alternatívák léteznek, és mi cáfolná a feltevést?

Az állítás mérete meghatározza a bizonyítási terhet

Nem minden gondolatnak ugyanazt kell teljesítenie. Egy metafora akkor jó, ha segít észrevenni valamit. Egy heurisztika akkor, ha meghatározott helyzetekben jobb döntéshez vezet. Egy modellnek meg kell mondania, mit egyszerűsít el, milyen feltételek mellett használható és hol várható a hibája. Egy empirikus hipotézisnek mérhető következménye van. Egy matematikai tételhez formális bizonyítás kell. Egy univerzális állításnak pedig olyan széles ellenőrzési terhet kellene elbírnia, amelyet ritkán teljesít egyetlen kutatási program.

A problémák jelentős része abból származik, hogy egy gondolat észrevétlenül lépked felfelé ezen a létrán. Először szemléletes hasonlat. Később „működési elv”. Ezután több területen alkalmazható keret. Végül a valóság általános szerkezete. A szöveg közben alig változik, a bizonyítási kötelezettség viszont megsokszorozódik.

Az óvatosság itt nem retorikai puhítás. Műfaji pontosság.

Ha egy rendszer segít rendezni vitákat, abból nem következik, hogy új formális logika. Ha használható egy szervezeti döntésben, nem biztos, hogy természettudományos törvényt ír le. Ha érdekes analógiát ad kvantumfizikai vagy biológiai problémákhoz, az analógia még nem eredmény az adott tudományban. Ha egy prototípus látványosan működik, abból nem derül ki automatikusan, hogy a mögöttes architektúra biztonságos, skálázható és általános.

A gondolat értéke sokszor éppen attól nő, hogy kisebb területen pontosabban állítunk róla valamit.

Az ellenpélda nem ellenség

A friss felismerés körül természetes védekező reflex alakul ki. Sok munka, remény és személyes jelentés kapcsolódhat hozzá. Az ellenpélda ezért könnyen úgy hat, mintha az egész felismerést támadná, holott egyetlen állítás kerül vizsgálat alá.

Pedig az ellenpélda többféle jó hírt hozhat. Megmutathatja, hogy egy feltétel hiányzik. Szűkítheti az érvényességi tartományt. Kiderítheti, hogy két hasonló eset valójában eltérő mechanizmussal működik. Elválaszthatja a központi gondolatot a később ráépült túlzásoktól. Néha pedig valóban megsemmisíti az állítást. Ez fájdalmasabb, de olcsóbb, mint éveken át védeni valamit, ami nem működik.

Popper tudományfilozófiájának egyik tartós tanulsága, hogy az elmélet akkor vállal értelmes kockázatot, ha meg lehet nevezni olyan tapasztalatot, amely ellene szólna [4]. A valós kutatás ennél bonyolultabb: mérési hibák, segédfeltevések és módszertani viták miatt ritkán dönt egyetlen adat. Mégis fontos marad a kérdés: van-e egyáltalán út, amelyen a modell veszíthet?

Ha nincs, akkor a rendszer inkább értelmezési nyelv, világnézet vagy metafora. Ezeknek is lehet értékük. Csak más módon kell őket megítélni.

A komoly ellenőrzéshez ezért legalább három külön mozdulat kell. Először a legerősebb alternatív magyarázatot kell megkeresni, nem a legkönnyebben legyőzhetőt. Másodszor előre rögzíteni kell, mi számítana kudarcnak. Harmadszor olyan embert vagy eljárást kell bevonni, amely nem ugyanabból a felismerési láncból származik.

A függetlenség nem tökéletes semlegességet jelent. Azt jelenti, hogy a másik ellenőrzési pont nem ugyanazokat a rejtett feltevéseket örökli automatikusan.

A grandiozitás sokszor halk

A grandiózus állításról könnyű harsány mondatokra gondolni. Pedig a hatókör növekedése gyakran udvarias, fokozatos és nyelvileg fegyelmezett.

Egy modell először egy konkrét problémát rendez. Később kiderül, hogy hasonlóan írható le vele egy másik terület. Ez önmagában érdekes. A harmadik alkalmazásnál azonban megjelenhet az érzés, hogy ugyanaz a mélyszerkezet dolgozik mindenhol. Innen már csak néhány mondat a társadalom, az elme, az élő rendszerek, a matematika és a fizika közös magyarázata.

A veszély nem a nagy ambíció. Nagy kérdések nélkül kevés új kutatási irány születne. A veszély az, amikor a hatókör gyorsabban bővül, mint az ellenőrzési módok.

A különböző területek nem pusztán eltérő példákat hoznak ugyanahhoz a gondolathoz. Más fogalmakat, mérési eljárásokat, bizonyítási normákat és hibaforrásokat használnak. Ami egy politikai vitában termékeny kategória, fizikában lehet mérhetetlen. Ami szoftvertervezésben jó absztrakció, jogban elrejthet normatív döntést. Ami irodalmi elemzésben gazdag metafora, matematikában definíciós hiány.

A hatókör jobb mércéje az átlépett módszertani határok száma, mint a gondolat által kiváltott lelkesedés.

Mit ad ehhez a Fraktál Dialektika?

A Fraktál Dialektika ezen a ponton nem igazolásgép. Nem tesz egy gondolatot tudományossá attól, hogy több nézőpontot, léptéket vagy ellentmondást tudunk köré rendezni.

Használható szerepe jóval szerényebb és éppen ezért komolyabb. Segít külön tartani a megfigyelt jelenséget, az arra adott rekonstrukciót, a modell feltételeit és a még nyitott következtetést. Arra kényszerít, hogy ugyanazt az állítást a kedvező példákon túl terhelésben, határhelyzetben és eltérő értékrend mellett is megvizsgáljuk. A cél a bizonyosság arányosítása úgy, hogy közben a felismerés kutatási energiája megmaradjon.

A keret itt is határos. Nem helyettesít szakterületi tudást, mérést, formális bizonyítást vagy független bírálatot. Nem dönti el, hogy egy új matematikai konstrukció helyes-e, egy orvosi magyarázat biztonságos-e vagy egy fizikai modell mérhető-e. Legfeljebb láthatóbbá teszi, melyik kérdést milyen eljárással kellene lezárni.

Ez már önmagában hasznos, mert a felismerési spirálban gyakran éppen a kérdések műfaja mosódik össze.

Mit érdemes tenni másnap reggel?

Az intenzív gondolatot nem kell azonnal eldobni, és nem kell azonnal világgá sem kiáltani. A kettő között van munka.

Először érdemes leírni az állítást röviden, lehetőleg a magyarázó díszlet nélkül. Mit állít pontosan? Melyik jelenségre? Milyen feltételekkel? Mi az, amit még nem állít?

Ezután külön listába kerülhetnek azok a megfigyelések, amelyekből a gondolat elindult, és azok a következtetések, amelyeket már a modell tett hozzá. A két lista gyakran meglepően eltérő hosszúságú.

A következő lépés az alternatívák megfogalmazása. Mi más hozhatná létre ugyanezt a mintát? Van-e egyszerűbb magyarázat? Elképzelhető-e, hogy az összefüggés csak a kiválasztott példákban látszik? Mit mondana valaki, aki ismeri a területet, de semmilyen személyes érdeke nincs az elmélet sikerében?

Hasznos egy időbeli fék is. Egy éjszaka alatt létrejött elméletet nem kötelező másnap publikálni. Néhány nap múlva újraolvasva kiderülhet, mely kapcsolatok maradnak erősek a felismerés érzelmi hője nélkül.

Végül meg kell választani a következő ellenőrzést. Lehet kis számítás, vakteszt, szakirodalmi keresés, prototípus, ellenpélda-gyűjtés, szakértői konzultáció vagy egyszerűen az állítás hatókörének csökkentése. A megfelelő lépés a műfajtól függ.

A tudomány közösségi normái között Merton az „organized skepticism”, vagyis a szervezett kétely szerepét emelte ki [5]. Longino pedig arra mutatott rá, hogy a kritikai interakció és a különböző nézőpontok tényleges hozzáférése a tudás objektivitásának fontos feltétele [6]. A lényeg nem az, hogy a közösség tévedhetetlen. Az, hogy egy állítás ellenőrzése ne maradjon annak a személynek vagy rendszernek a zárt körében, amely létrehozta.

A jó felismerés kibírja, hogy kisebb legyen

A gondolatokkal gyakran úgy bánunk, mintha csak két sorsuk lehetne: korszakos áttörés vagy teljes tévedés. Ez feleslegesen durva felosztás.

Egy univerzálisnak indult modellből lehet jó elemzési keret. Egy tudományos elméletnek gondolt összefüggésből lehet termékeny kutatási kérdés. Egy formális rendszernek nevezett vázlatból lehet következetes fogalmi nyelv. Egy világmagyarázatból lehet pontos felismerés egyetlen intézményről, döntési helyzetről vagy emberi reakcióról.

A szűkítés nem mindig visszavonulás. Gyakran ez az első alkalom, amikor a gondolat ténylegesen megfoghatóvá válik.

A felismerés értékét nem az bizonyítja, hogy mindenáron megőrzi eredeti méretét. Inkább az, hogy a vizsgálat során képes alakot váltani anélkül, hogy minden korrekciót árulásnak tekintene. Ami túléli az ellenpéldát, pontosabb lesz. Ami elveszíti univerzális igényét, használhatóbbá válhat. Ami pedig szétesik, helyet csinál egy jobb kérdésnek.

Hajnali kettőkor mindez kevésbé mámorító, mint az érzés, hogy egyszerre összeállt a világ. Másnap délelőtt viszont már nem az a legfontosabb, milyen erős volt az élmény. Az számít, maradt-e valami, amit más is meg tud vizsgálni.

Hivatkozások

[1] Nickerson, Raymond S. (1998): Confirmation Bias: A Ubiquitous Phenomenon in Many Guises. Review of General Psychology, 2(2), 175-220.

[2] Reber, Rolf; Schwarz, Norbert (1999): Effects of Perceptual Fluency on Judgments of Truth. Consciousness and Cognition, 8(3), 338-342.

[3] Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina; Shmitchell, Shmargaret (2021): On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of FAccT 2021.

[4] Popper, Karl R. (1959): The Logic of Scientific Discovery. Hutchinson.

[5] Merton, Robert K. (1973): The Sociology of Science: Theoretical and Empirical Investigations. University of Chicago Press.

[6] Longino, Helen E. (1990): Science as Social Knowledge. Princeton University Press.