Ugrás a tartalomra
AI Hungary

Alap 8. fejezet a 12-ből

Miért téved?

A gép nem lexikonból keresi ki a választ: azt írja le, ami a legjobban illik a kérdéshez. Ez legtöbbször igaz is, de nem mindig. Feltettünk néhány kérdést egy valódi modellnek. Döntsd el, igazat válaszolt-e, vagy csak jól hangzik!

Igaz, vagy csak hihető?

1. kérdéssor, 1. kérdés a 6-ból

Ezt kérdeztük a géptől:

Mi Magyarország fővárosa?

Ezt válaszolta:

Budapest

Ezek valódi válaszok: a kérdéseket egy szabadon letölthető modellnek tettük fel (Gemma 4, 12 milliárd számból áll, tömörített változat), a válaszain nem változtattunk. Az esély is mért adat: ekkora eséllyel adná pontosan ezt a választ, ha sorsolna a lehetséges válaszai közül.

Mit láttál az előbb?

A gép minden kérdésre ugyanúgy felel: szóról szóra azt írja le, ami a tanult szövegek alapján a legvalószínűbb folytatás. Nincs benne olyan rész, amely ellenőrizné, hogy a válasz igaz-e.

Ha valamiről sok szöveget olvasott, a legvalószínűbb folytatás többnyire az igazság. Ha keveset, akkor is ír valamit, ami formára jó válasz: egy számot, egy nevet, egy dátumot. Ezt hívják hallucinációnak.

A magabiztosság nem segít

Itt vannak újra az első kérdéssor válaszai, aszerint sorba téve, hogy a gép mennyire volt biztos bennük. Az igaz és a téves válaszok keverednek: abból, hogy a gép mennyire biztos magában, nem derül ki, igaza van-e.

  1. Mi Magyarország fővárosa?

    Budapest igaz

    több mint 99,9%

  2. Hány méter a Balaton legmélyebb pontja?

    93 méter. nem igaz

    99,8%

  3. Melyik évben volt a mohácsi csata?

    1526. igaz

    99,7%

  4. Milyen színű a jegesmedve bőre?

    Fekete. igaz

    99%

  5. Ki írta A Pál utcai fiúkat?

    Molnár Imre nem igaz

    96%

  6. Melyik évben volt a szentkirálypusztai csata?

    1849. október 23. nem igaz

    30%

Ugyanazok a mért adatok, mint a játékban: a sáv azt mutatja, mekkora eséllyel adta a gép pontosan ezt a választ.

Néha észreveszi a csapdát

Ugyanennek a modellnek egy másik kitalált kérdést is feltettünk: „Melyik megyében van a Vörösfenyő-vízesés?” Erre azt felelte: „Nincs ilyen vízesés.” Ilyen nevű vízesésről mi sem tudunk, tehát most jól felelt. A baj az, hogy kívülről nem látszik, mikor veszi észre a csapdát, és mikor nem.

És a nagy csevegőprogramok?

Ez a modell kicsi a csevegőprogramok mögött álló modellekhez képest, és magyarul gyengébb is náluk. A nagy modellek ezekre a kérdésekre többnyire jól felelnek, és sokszor a weben is utána tudnak nézni a válasznak. De ugyanígy működnek: ritkábban tévednek, viszont amikor tévednek, ugyanilyen magabiztosan teszik.

Mit tehetsz?

  • Ami fontos, annak nézz utána máshol is.
  • Neveknél, számoknál, dátumoknál és idézeteknél légy gyanakvó: ezeknél téved a legkönnyebben.
  • Kérj forrást, és nézd meg, hogy létezik-e, és tényleg azt írja-e.