„To think, or not to think” – Kognitív megadás az AI árnyékában
- Limdauer Andras
- 2 hours ago
- 4 min read
A mesterséges intelligencia korában nem az a legnagyobb kockázat, hogy a gép rosszul válaszol – hanem hogy gépiesen elfogadjuk minden válaszát. A Pennsylvaniai Egyetemen működő Wharton School nevű üzleti iskola két kutatója nevet is adott a jelenségnek – és számokkal igazolták, hogy mindez milyen veszélyekkel járhat.
Több mint tehermentesítés: „hatalomátadás”
A kognitív megadás (cognitive surrender) fogalmának megalkotása Steven Shaw és Gideon Nave nevéhez fűződik, akik Thinking – Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender [Kb: Lassú, gyors és mesterséges gondolkodás: Hogyan formálja át az MI az emberi gondolkodást, és a kognitív megadás felemelkedése] című tanulmányukban nevezték nevén a jelenséget. A kifejezés röviden és tömören arra utal, ha valaki
kritika nélkül elfogadja az AI válaszait, és nem a saját ítélőképességére és gondolkodására támaszkodik.
Nave szerint ez más, mint a jól ismert kognitív tehermentesítés. „A számológép egy konkrét matematikai feladatot vesz le a vállunkról, miközben az emberi gondolkodás marad az irányító”, fogalmaz a kutató. A kognitív megadás esetében azonban az AI nemcsak elvégez egy feladatot. De meghoz egy döntést, amit a felhasználó már a sajátjaként fogad el – közben persze nem veszi észre, hogy ez a döntés már nem tőle, hanem a géptől származik.
Szakértői véleményt persze eddig is kértünk. De van itt egy lényeges különbség, amit fontos kiemelni: a hagyományos szakértői tanácsadás mindig magán hordozza az emberi elme bizonytalanság jeleit: a fenntartásokat, az „ezt nem tudom”, „ebben nem vagyok biztos” beismerését. Ezek folyamatos mérlegelésre, finomhangolásra késztetnek bennünket. Az AI viszont minden témában rendelkezésünkre áll, rendkívül magabiztosan állít dolgokat. És szinte sosem jelzi, ha valami kívül esik a kompetenciáján.
Shaw és Nave három kísérletet végzett: több mint 1300 résztvevővel, közel tízezer egyedi próbával. A feladatok ún. kognitív reflexiós teszt kérdései voltak: olyan fejtörők, amelyeknél az első, intuitív válasz általában téves; a helyes eredményhez csak a lassabb, elemző gondolkodás vezet el. Az egyik csoport tagjai önállóan oldották meg a feladatot; a másik csoport tagjai konzultálhattak egy chatbottal – amiről viszont nem tudták, hogy a masina felváltva ad helyes, magabiztosnak tűnő, ám hibás válaszokat.
A számok magukért beszélnek. Amikor az AI helyesen válaszolt, a csoport tagjai 25%-kal jobban teljesítettek, mint az egyedül dolgozók. Amikor tévedett, 15%-kal rosszabbul. A helyes válaszolkat 93, a hibásakat 80%-ban fogadták el – noha semmi nem kényszerítette őket a gép használatára. A kockázatot tehát nem az AI használata jelentette, hanem a hozzá való alkalmazkodás.
A legnyugtalanítóbb megfigyelés a magabiztossághoz kötődik: az AI-hoz hozzáférők akkor is sokkal biztosabbak voltak a válaszaikban, amikor a gép – az esetek felében – tévedett.
Maga a tény, hogy a résztvevők hozzáfértek az AI-hoz, megnövelte a magabiztosságukat.
Shaw és Nave ezért döntöttek úgy, hogy Daniel Kahneman modelljét egy új elemmel egészítik ki: a gyors, intuitív 1. rendszer (System 1), és a lassú, elemző 2. rendszer (System 2) mellé beépítették az AI-jal kiterjesztett gondolkodás képviselő 3. rendszert (System 3), amely visszahat a másik kettőre, de felülírhatja azok működését. A kritikus gondolkodás alapja az a bizonytalan érzés, hogy „itt valami nem stimmel”. A kísérlet szerint épp ez tűnik el először: a kétség, a dolgok megkérdőjelezésének ösztöne. Ha ezt elnyomjuk vagy nem nem veszünk róla tudomást, nem egyszerűen rossz döntéseket hozunk; azt a képességet veszítjük el, hogy egyáltalán észrevegyük a rossz döntést.
Aki rendszeresen, kritika nélkül támaszkodik az AI-ra, annál a önálló érvelés képessége a használat hiányában sorvadni kezd.
Mi több, ennek elvesztése addig láthatatlan is marad, amíg nincs olyan helyzet, amikor szükség lenne rá.
A kreatív munka során a kognitív megadás folyamata különösen csendben zajlik. Guy Levi oktatási szakértő szerint „ez nem az értelem kudarca, hanem a figyelem kudarca”. Nem egyetlen pillanatban adjuk fel. A szokásainkon keresztül, alattomosan szivárog be a gondolkozás és a döntéshozás folyamatába. A gép nyelve gördülékeny; a szöveg szerkezete jól fésült, rendezett – ez a formai „csiszoltság” pedig könnyen a hozzáértést, a magabiztos tudást sugallhatja.
Azt is fontos látnunk, hogy nem mindenki egyformán érintett. Mert aki alapból jobban bízik az AI-ban, nagyobb eséllyel veszi készpénznek a hibás javaslatot. Aki viszont elemzőbb hajlamú, kritikusabb – jóval védettebb, hiszen ő nagyobb eséllyel veszi észre a hibát és a logikai bökkenőket. Ebből következik a kényelmetlen felismerés: a kockázat éppen leglelkesebb – és egyben a legkevésbé kritikus – felhasználók körében a legnagyobb.
Ami viszont biztató: a viselkedésen lehet változtatni. Amikor a résztvevők azonnali visszajelzést és jutalmat kaptak válaszaik pontosságért, sokkal gyakrabban írták felül a gép hibás tanácsát.
Ez tervezési és szervezeti feladat is: a rendszerekbe beépíthetők ellenőrzésre késztető elemek és a bizonytalanságot jelző visszajelzések. Egyéni szinten ezt azt jelenti, hogy ha az AI-t nem válaszautomataként, hanem tükörként használjuk – élesíti a gondolkodásunkat. Persze csak akkor, ha nálunk marad a döntés/irányítás.
És azt se feledjük, hogy a kognitív megadás nem minden esetben káros!
Bizonyos jól strukturált feladatokban, ahol az AI valóban pontosabb az emberi ítéletnél, ott ésszerű dolog rábízni magunkat. A valódi kérdés tehát nem az, hogy használjuk-e az AI-t vagy sem. Az a kérdés: vajon fel tudjuk-e ismerni, mikor kell átadni a döntést – és mikor igényel a helyzet olyan emberi ítéletet, amelyet egyetlen algoritmus sem pótolhat. Gideon Nave summázatát érdemes megjegyeznünk:
„Az a jó AI-rendszer, amelyik segít, amikor igaza van, és nem okoz kárt, amikor téved”.
Források:
