Ugrás a tartalomra
AI Hungary

Alap 9. fejezet a 12-ből

Szótippelőből beszélgetőtárs

Eddig azt láttad, hogyan ír a gép szöveget szóról szóra. De hogyan lesz ebből beszélgetés? Miért tudja, amit két üzenettel korábban írtál, ha a tegnapi beszélgetésből semmire sem emlékszik? Nézz meg néhány beszélgetést, és tippeld meg, mit válaszol a gép! A keret azt mutatja, mit kap meg a gép a beszélgetésből.

Mit lát a gép?

1. sorozat, 1. beszélgetés a 4-ből

  1. Kontextusablak Te

    Szia! Annának hívnak, és Szegeden élek.

  2. A gép

    Szia, Anna! Miben segíthetek?

  3. Te

    Ajánlj egy könnyű vacsorát!

  4. A gép

    Egy görög saláta pirítóssal könnyű, és gyorsan elkészül.

  5. Te

    Hogy hívnak engem?

Mit válaszol erre a gép?

Ezek példabeszélgetések: mi írtuk őket, hogy rövidek és jól követhetők legyenek. Azt, hogy a gép így viselkedik, egy valódi, szabadon letölthető modellen próbáltuk ki (Gemma 4, 12 milliárd számból áll, tömörített változat). A harmadik beszélgetésben a gép ablakát mi vettük kicsire, hogy látsszon a hatás: csak az utolsó öt üzenet fér bele.

Mit láttál az előbb?

A gép számára a beszélgetés egyetlen hosszú szöveg. Amikor elküldesz egy üzenetet, a program az egész eddigi beszélgetést újra odaadja a modellnek: a te üzeneteidet és a modell korábbi válaszait is. A modell ezt a szöveget folytatja szóról szóra, ahogy a 6. fejezetben láttad, és így megírja a következő választ.

Ezért „emlékszik” arra, amit ugyanabban a beszélgetésben írtál. És ezért nem tud semmit a tegnapi beszélgetésedről vagy arról, amit más írt neki: az nincs benne a szövegben, amelyet megkap.

Mekkora az ablak?

A modell egyszerre nem tud akármennyi szöveget elolvasni. Ezt a korlátot hívják kontextusablaknak. A játékban a keret mutatta, mi van benne. A harmadik beszélgetésben mi vettük kicsire: öt üzenetre. A mai nagy csevegőprogramok ablakába több száz oldalnyi szöveg is belefér, de egy nagyon hosszú beszélgetés vagy néhány vaskos dokumentum ezt is megtölti.

Ilyenkor a program a beszélgetés elejét elhagyja, vagy rövid összefoglalóra cseréli. A gép ettől kezdve nem kapja meg, amit ott írtál: ezt éled meg úgy, hogy elfelejtette.

A rejtett utasítás

A legtöbb csevegőprogram a beszélgetés elé odaír egy szöveget, amelyet te nem látsz. Ebben áll, hogyan viselkedjen a gép, minek hívja magát, és miről beszélhet. A modellnek ez is csak szöveg, amelyet a te üzeneteiddel együtt megkap.

Ugyanabból a modellből így lesz az egyik oldalon egy bolt segítője, a másikon nyelvtanár vagy programozó. A modell számai közben ugyanazok maradnak, csak a szöveg más, amelyet folytatnia kell.

És amikor mégis tudja, mit írtam múlt héten?

Néhány program jegyzeteket készít rólad, és ezeket odateszi az új beszélgetés elé, ugyanoda, ahová a rejtett utasítást. A modell ettől még nem emlékszik: megint csak szöveget kap, amelyben ott van, amit rólad feljegyeztek.