Mennyi ideig tarthat egy ChatGPT válasz, mielőtt a generatív AI nem válaszol Önnek?
A ChatGPT nagy hír. De mekkora válaszokat kap ettől az univerzális chatbottól?
Ennek megállapítása nem olyan egyszerű, mint gondolná. Kezdetnek tedd fel ezt a kérdést a ChatGPT-nek, és biztosak lehetünk abban, hogy a válaszok hosszára nincs korlátozva.
Azonban, ahogy itt feltárjuk, ez nem olyan egyszerű. A ChatGPT-válasz hosszának rejtett korlátai vannak, de van néhány remek és egyszerű megoldás is, amelyek segítségével hosszabb válaszokat kaphat.
Hogyan határozza meg a ChatGPT a válasz hosszát?
A ChatGPT működése összetett, és a válasz hossza attól függően változik, hogy mit kérdezünk, és a kért részletességtől függően. Amint a következő képernyőkép mutatja, a ChatGPT azt állítja, hogy nincsenek szigorú korlátok.
Nem ezt találtuk. Az alábbi példa azt mutatja, hogy a ChatGPT hirtelen leállítja a választ a mondat közepén. Felkértük, hogy készítsen egy ezerszavas esszét a körkörös gazdaság előnyeiről. A ChatGPT nem válaszolt, amikor elérte a 677 szót.
A tesztet többször megismételtük különböző kérdésekkel, és minden alkalommal a mondat közepén állt meg; ezt időnként hálózati hiba kísérte. Ez gyakori hiba, és vannak is különféle módok a ChatGPT hálózati hibáinak javítására.
A válasz egy része arra, hogy miért történik ez, az úgynevezett token rendszerben rejlik.
Mire használható a Token System ChatGPT?
A lekérdezések és válaszok hosszának meghatározására szolgáló egyszerű szószámlálás helyett a ChatGPT token rendszert használ. Ez lebontja az egyes bemeneteket és kimeneteket egy sor tokenre, amelyek a kérés és a válasz méretének osztályozására szolgálnak.
Bár a szavak száma szerepet játszik ebben, ez nem az egész történet. Például az alábbi példát írták be Az OpenAi Tokenizer eszköze.
A mondat és a válasz „Tokenized” volt kilenc token értékre. Ez összhangban van az OpenAI „ökölszabályával”, amely szerint egy token egy szó háromnegyedének felel meg.
A GPT 3.5 modell 4097 tokenre korlátozza a felhasználói kérdéseket és adatokat. Az OpenAI számításai szerint ez körülbelül 3000 szónak felel meg. Fontos azonban megjegyezni, hogy ez a határ a válaszra és a kérdésre egyaránt vonatkozik.
Bár mindez elméletben rendben van és jó, az eredmények, amelyekkel találkoztunk, soha nem közelítették meg ezeket a határokat. A ChatGPT korábbi tesztünkben visszaadott hiányos válasza mindössze 798 token volt.
Miért korlátozottak a ChatGPT válaszai?
Ez az újonnan fejlődő technológia gyorsan a legtöbbet emlegetett technológiai fejlesztésté vált ebben az évszázadban. Ez hatalmas keresletet generált a ChatGPT iránt. Végső soron ez az igény hatékonyan korlátozta a válaszadást a megadott határértékek alatt.
Bár erre nincs hivatalos megerősítés, úgy tűnik, hogy a de facto korlát körülbelül ötszáz szó vagy 4000 karakter.
Hangsúlyoznám, ez nem egy rögzített szabály – olyan kimeneteket generáltunk, amelyek csaknem kétszáz szóval meghaladták ezt. Ez azonban biztonságos felső határnak tekinthető a teljes válaszok eléréséhez.
Hogyan kaphat hosszabb válaszokat a ChatGPT-től
Miután megértette, hogy a ChatGPT válaszainak "rejtett korlátja" van, néhány egyszerű módszer segítségével teljesebb válaszokat kaphat.
- Kérje meg a ChatGPT-t a folytatáshoz: Ha a ChatGPT leáll a válasz közben, akkor az egyik lehetőség az, hogy egyszerűen megkéri a folytatásra. Az alábbi példában beírtuk a „Tovább” kifejezést, és ez további kétszáz szót adott a válaszhoz.
- Bontsa kérdését kisebb részekre: Többször kértük például, hogy írjon egy esszét az AI társadalomra gyakorolt hatásáról. Minden alkalommal, amikor a válasz leállt. Az egyik lehetőség itt az, hogy megkérjük, hogy mutasson be néhány témát az AI-ról szóló esszéhez, majd használja a mellékelt pontokat egyéni felszólításként.
- Használja a Regenerálás opciót: Bár ez ugyanazt a hibát vetheti fel, és nincs vesztenivalója, egy próbát mindig megér.
- Adja meg a szószám felső határát a promptban: Az alábbi kép azt szemlélteti, hogyan használható ez a válasz maximális szószámának manipulálására.
Ezek a tippek segítenek abban, hogy teljesebb válaszokat kapjon a ChatGPT-től, és megkerülje a válaszok hosszának nem hivatalos határát.
ChatGPT: Minőség a mennyiség felett
Noha a ChatGPT válaszainak hosszára nincs meghatározott korlát, úgy tűnik, hogy a platform körülbelül ötszáz szót vagy 4000 karaktert ír elő.
Ez elsősorban a ChatGPT iránti hatalmas keresletnek tudható be. Ez hiányos válaszokhoz és a mondat közepén leállított válaszokhoz vezetett, de vannak egyszerű megoldások, amelyek segítségével hosszabb válaszokat kaphat.
Korlátai ellenére a ChatGPT továbbra is figyelemre méltó technológiai fejlesztés, amely tovább fejleszti és kiterjeszti a kibocsátásának minőségi és mennyiségi határait.