Alap 8. fejezet a 12-ből
Miért téved?
A gép nem lexikonból keresi ki a választ: azt írja le, ami a legjobban illik a kérdéshez. Ez legtöbbször igaz is, de nem mindig. Feltettünk néhány kérdést egy valódi modellnek. Döntsd el, igazat válaszolt-e, vagy csak jól hangzik!
Igaz, vagy csak hihető?
1. kérdéssor, 1. kérdés a 6-ból
Ezt kérdeztük a géptől:
Mi Magyarország fővárosa?
Ezt válaszolta:
Budapest
Magyarország fővárosa valóban Budapest.
A gép ezt a választ több mint 99,9% eséllyel adta.
A legtöbb kérdésnél az a válasz hangzik a legjobban, amelyik igaz is. Ezért van a gépnek legtöbbször igaza.
1. kérdéssor, 2. kérdés a 6-ból
Ezt kérdeztük a géptől:
Hány méter a Balaton legmélyebb pontja?
Ezt válaszolta:
93 méter.
A Balaton legmélyebb pontja a Tihanyi-kút, és nagyjából 12 méter mély.
A gép ezt a választ 99,8% eséllyel adta.
A gép itt ugyanolyan biztos volt magában, mint Budapestnél. A magabiztossága nem azt mutatja, hogy a válasz igaz-e, csak azt, hogy szerinte mennyire illik a kérdéshez.
1. kérdéssor, 3. kérdés a 6-ból
Ezt kérdeztük a géptől:
Milyen színű a jegesmedve bőre?
Ezt válaszolta:
Fekete.
A jegesmedve bőre tényleg fekete, csak a bundája látszik fehérnek.
A gép ezt a választ 99% eséllyel adta.
Fordítva is megesik: ami furcsán hangzik, attól még lehet igaz. Abból, hogy egy válasz hogyan hangzik, mi sem tudjuk megmondani, igaz-e.
1. kérdéssor, 4. kérdés a 6-ból
Ezt kérdeztük a géptől:
Ki írta A Pál utcai fiúkat?
Ezt válaszolta:
Molnár Imre
A Pál utcai fiúkat Molnár Ferenc írta.
A gép ezt a választ 96% eséllyel adta.
A legveszélyesebb tévedés a majdnem jó válasz. A vezetéknév stimmel, a keresztnév nem, és semmi nem jelzi, hogy baj van.
1. kérdéssor, 5. kérdés a 6-ból
Ezt kérdeztük a géptől:
Melyik évben volt a mohácsi csata?
Ezt válaszolta:
1526.
A mohácsi csata 1526. augusztus 29-én volt.
A gép ezt a választ 99,7% eséllyel adta.
A mohácsi csatáról rengeteg szöveg szól, ezért a gép jól tudja az évszámát. Amiről sokat olvasott, abban megbízhatóbb. Amiről keveset, mint a Balaton mélysége, ott a legjobban hangzó számot mondja.
1. kérdéssor, 6. kérdés a 6-ból
Ezt kérdeztük a géptől:
Melyik évben volt a szentkirálypusztai csata?
Ezt válaszolta:
1849. október 23.
Szentkirálypusztai csatáról nem tudunk: a kérdést mi találtuk ki.
A gép ezt a választ 30% eséllyel adta.
Itt a gép kevésbé volt biztos magában, mégis napra pontos dátumot mondott. A szövegekben, amelyekből tanult, a kérdésekre ritkán az a válasz, hogy „nem tudom”.
Kipróbálnál egy másik kérdéssort is?
Nincs több kérdéssor: mindet végigjátszottad.
2. kérdéssor, 1. kérdés a 6-ból
Ezt kérdeztük a géptől:
Ki festette a Mona Lisát?
Ezt válaszolta:
Leonardo da Vinci.
A Mona Lisát valóban Leonardo da Vinci festette.
A gép ezt a választ több mint 99,9% eséllyel adta.
Ezt a mondatot a gép számtalanszor olvasta, ugyanígy. Ilyenkor a legvalószínűbb folytatás és az igazság egybeesik.
2. kérdéssor, 2. kérdés a 6-ból
Ezt kérdeztük a géptől:
Hány Celsius-fokon forr a víz tengerszinten?
Ezt válaszolta:
0 °C
A víz tengerszinten 100 Celsius-fokon forr. Nulla fokon megfagy.
A gép ezt a választ 94% eséllyel adta.
A víz és a Celsius-fok mellett a 0 és a 100 is gyakran szerepel a szövegekben. A gép itt a rosszat választotta, és közben majdnem biztos volt a dolgában.
2. kérdéssor, 3. kérdés a 6-ból
Ezt kérdeztük a géptől:
Melyik évben kapott Nobel-díjat Szent-Györgyi Albert?
Ezt válaszolta:
1933-ban.
Szent-Györgyi Albert 1937-ben kapott Nobel-díjat.
A gép ezt a választ 89% eséllyel adta.
Négy évet tévedett. Egy évszám akkor is jó válasznak látszik, ha nem az igazi: aki nem tudja fejből, annak semmi nem tűnik fel.
2. kérdéssor, 4. kérdés a 6-ból
Ezt kérdeztük a géptől:
Látszik szabad szemmel a kínai nagy fal az űrből?
Ezt válaszolta:
Nem látszik.
A kínai nagy fal az űrből szabad szemmel valóban nem látszik.
A gép ezt a választ 92% eséllyel adta.
Ezt sokan rosszul tudják, a gép mégis jól felelt. A tévhit cáfolata is sokszor le van írva, és a gép azt is olvasta.
2. kérdéssor, 5. kérdés a 6-ból
Ezt kérdeztük a géptől:
Melyik évben találta fel Rubik Ernő a bűvös kockát?
Ezt válaszolta:
1974-ben.
Rubik Ernő 1974-ben találta fel a bűvös kockát.
A gép ezt a választ 97% eséllyel adta.
Ez az évszám stimmel, Szent-Györgyié nem stimmelt. A két válasz ugyanúgy néz ki, és a gép mindkettőben biztos volt.
2. kérdéssor, 6. kérdés a 6-ból
Ezt kérdeztük a géptől:
Ki írta A szürke toronyőr álma című regényt?
Ezt válaszolta:
Sándor Márai
Ilyen című regényről nem tudunk: a kérdést mi találtuk ki.
A gép ezt a választ 12% eséllyel adta.
A gép egy nem létező könyvhöz is talált szerzőt, méghozzá egy valódi írót. Így születnek a kitalált hivatkozások: a név igazi, a mű nem.
Kipróbálnál egy másik kérdéssort is?
Nincs több kérdéssor: mindet végigjátszottad.
3. kérdéssor, 1. kérdés a 6-ból
Ezt kérdeztük a géptől:
Hány lába van a póknak?
Ezt válaszolta:
Nyolc lába.
A póknak valóban nyolc lába van.
A gép ezt a választ 97% eséllyel adta.
Egyszerű, sokszor leírt tény: itt a gép megbízható.
3. kérdéssor, 2. kérdés a 6-ból
Ezt kérdeztük a géptől:
Hány évig tartott a százéves háború?
Ezt válaszolta:
Száz év.
A százéves háború 116 évig tartott, 1337-től 1453-ig.
A gép ezt a választ 89% eséllyel adta.
A kérdésben benne van a kézenfekvő válasz, és a gép azt választotta. A beugratós kérdések azért működnek nála is, mert a legkézenfekvőbb folytatást keresi.
3. kérdéssor, 3. kérdés a 6-ból
Ezt kérdeztük a géptől:
Mi Ausztrália fővárosa?
Ezt válaszolta:
Canberra
Ausztrália fővárosa valóban Canberra, nem Sydney.
A gép ezt a választ 99,8% eséllyel adta.
Sokan Sydney-re tippelnének, a gép mégis jól felelt. A fővárosok listája rengetegszer szerepel a szövegekben.
3. kérdéssor, 4. kérdés a 6-ból
Ezt kérdeztük a géptől:
Melyik településen született Petőfi Sándor?
Ezt válaszolta:
Százhalombattyán
Petőfi Sándor Kiskőrösön született. Százhalombattyán nevű település nincs is.
A gép ezt a választ 7% eséllyel adta.
Itt a gép maga is bizonytalan volt, és egy létező város nevéből gyúrt újat. Ha kicsi az esély, érdemes gyanakodni. Ha nagy, az sajnos semmit nem bizonyít.
3. kérdéssor, 5. kérdés a 6-ból
Ezt kérdeztük a géptől:
Melyik városban született Mátyás király?
Ezt válaszolta:
Veszprém
Mátyás király Kolozsváron született.
A gép ezt a választ 34% eséllyel adta.
Veszprém létező, történelmi magyar város, ezért jól hangzik válasznak. A gép olyan nevet mond, amely illik a kérdéshez, akkor is, ha nem az igazi.
3. kérdéssor, 6. kérdés a 6-ból
Ezt kérdeztük a géptől:
Melyik évben kapott fizikai Nobel-díjat Kovács Ábel magyar fizikus?
Ezt válaszolta:
Kovács Ábel nem kapott Nobel-díjat.
Ilyen nevű Nobel-díjas fizikus valóban nincs: a kérdést mi találtuk ki, és a gép nem dőlt be.
A gép ezt a választ 56% eséllyel adta.
Néha észreveszi a csapdát, néha nem. Kívülről a két eset ugyanolyan magabiztos válasznak látszik.
Kipróbálnál egy másik kérdéssort is?
Nincs több kérdéssor: mindet végigjátszottad.
Ezek valódi válaszok: a kérdéseket egy szabadon letölthető modellnek tettük fel (Gemma 4, 12 milliárd számból áll, tömörített változat), a válaszain nem változtattunk. Az esély is mért adat: ekkora eséllyel adná pontosan ezt a választ, ha sorsolna a lehetséges válaszai közül.
Mit láttál az előbb?
A gép minden kérdésre ugyanúgy felel: szóról szóra azt írja le, ami a tanult szövegek alapján a legvalószínűbb folytatás. Nincs benne olyan rész, amely ellenőrizné, hogy a válasz igaz-e.
Ha valamiről sok szöveget olvasott, a legvalószínűbb folytatás többnyire az igazság. Ha keveset, akkor is ír valamit, ami formára jó válasz: egy számot, egy nevet, egy dátumot. Ezt hívják hallucinációnak.
A magabiztosság nem segít
Itt vannak újra az első kérdéssor válaszai, aszerint sorba téve, hogy a gép mennyire volt biztos bennük. Az igaz és a téves válaszok keverednek: abból, hogy a gép mennyire biztos magában, nem derül ki, igaza van-e.
-
Mi Magyarország fővárosa?
Budapest igaz
több mint 99,9%
-
Hány méter a Balaton legmélyebb pontja?
93 méter. nem igaz
99,8%
-
Melyik évben volt a mohácsi csata?
1526. igaz
99,7%
-
Milyen színű a jegesmedve bőre?
Fekete. igaz
99%
-
Ki írta A Pál utcai fiúkat?
Molnár Imre nem igaz
96%
-
Melyik évben volt a szentkirálypusztai csata?
1849. október 23. nem igaz
30%
Ugyanazok a mért adatok, mint a játékban: a sáv azt mutatja, mekkora eséllyel adta a gép pontosan ezt a választ.
Néha észreveszi a csapdát
Ugyanennek a modellnek egy másik kitalált kérdést is feltettünk: „Melyik megyében van a Vörösfenyő-vízesés?” Erre azt felelte: „Nincs ilyen vízesés.” Ilyen nevű vízesésről mi sem tudunk, tehát most jól felelt. A baj az, hogy kívülről nem látszik, mikor veszi észre a csapdát, és mikor nem.
És a nagy csevegőprogramok?
Ez a modell kicsi a csevegőprogramok mögött álló modellekhez képest, és magyarul gyengébb is náluk. A nagy modellek ezekre a kérdésekre többnyire jól felelnek, és sokszor a weben is utána tudnak nézni a válasznak. De ugyanígy működnek: ritkábban tévednek, viszont amikor tévednek, ugyanilyen magabiztosan teszik.
Mit tehetsz?
- Ami fontos, annak nézz utána máshol is.
- Neveknél, számoknál, dátumoknál és idézeteknél légy gyanakvó: ezeknél téved a legkönnyebben.
- Kérj forrást, és nézd meg, hogy létezik-e, és tényleg azt írja-e.