Manapság milliók támaszkodnak a ChatGPT-re, mint hasznos forrásra, legyen szó munkáról, szórakozásról vagy oktatásról. De támaszkodhat-e erre a mesterséges intelligencia chatbotra, hogy mindig közölje a tényekkel? A ChatGPT hazudik valaha, vagy csak tényszerű információkat ad?

Honnan szerzi a ChatGPT az információkat?

A képzési időszakban a ChatGPT az interneten található forrásokból, például kormányzati és ügynökségi webhelyekről kapott adatokat, tudományos folyóiratok, tanulmányok, hírcikkek, podcastok, online fórumok, könyvek, adatbázisok, filmek, dokumentumfilmek és közösségi oldalak média.

Pontosabban, a ChatGPT-3 képzése egy kiterjedt információs adatbázis segítségével történt, amely 570 GB adatot tett ki. Amint az egy cikkben olvasható Science Focus, 300 milliárd szónyi információ került a GPT-3 rendszerbe a fejlesztés során.

Itt érdemes megjegyezni, hogy a ChatGPT csak olyan adatokat kapott, amelyek 2021 előtt léteztek. Ez azt jelenti, hogy a chatbot nem tud válaszolni a közelmúlt eseményeivel kapcsolatos kérdésekre. A ChatGPT szintén nem fér hozzá az internethez. A képzés során betáplált adatok az egyetlen fajta, amelyet a felhasználói kérések teljesítésére használ.

De vajon a ChatGPT csak a tényeket közli, vagy több félreérthető információ keveredik a válaszaival? Ezenkívül a ChatGPT hazudhat Önnek?

A ChatGPT hazudik?

Míg a ChatGPT gyakran valós információkat ad a felhasználóknak, képes "hazudni". Természetesen a ChatGPT nem dönt úgy, hogy rosszindulatúan hazudjon a felhasználóknak, mivel erre egyszerűen nem képes. Végül is a ChatGPT egy nyelvfeldolgozó eszköz, nem pedig egy valódi, érző személy utánzata.

A ChatGPT azonban technikailag továbbra is áthatolhat az AI-hallucinációként ismert jelenségen.

AI hallucináció olyan mesterséges intelligenciarendszert foglal magában, amely ésszerűnek vagy elfogadhatónak tűnik, de a valóságban egyáltalán nem igaz. Valójában a mesterséges intelligencia hallucinációja olyan információval szolgálhat, hogy soha nem táplálták a képzési időszak alatt. Alternatív megoldásként ez akkor fordulhat elő, amikor egy mesterséges intelligencia rendszer a prompthoz vagy kéréshez nem kapcsolódó információkat szolgáltat. Egy AI-rendszer akár embernek is mondhatja magát egy hallucinációs eseményben.

A mesterséges intelligencia rendszerek, például a chatbotok több okból is beleesnek a hallucinációk csapdájába: a valós világ megértésének hiánya, szoftverhibák és a szolgáltatott adatok korlátai miatt.

Amint azt korábban jeleztük, a ChatGPT csak 2021-ig közzétett adatok felhasználásával tud információt szolgáltatni, ami természetesen korlátozza, hogy milyen felszólításokat tud teljesíteni.

Az egyik A ChatGPT nagy problémái az is, hogy a felhasználók információinak megadásakor elfogultság áldozatává válhat. Még a ChatGPT készítői is kijelentették, hogy a mesterséges intelligencia rendszer "politikailag elfogult, sértő" és "egyébként kifogásolható" volt a múltban. Amint arról beszámolt A független, a ChatGPT fejlesztői elkötelezettek a probléma megoldása mellett, de ez nem jelenti azt, hogy már nem jelent kockázatot.

A ChatGPT kérdésére a következőket közölte:

  • Kétértelműség a kérdésben (homályos, nem egyértelmű felszólítások);
  • Hiányos tájékoztatás;
  • Elfogult vagy helytelen információ; vagy,
  • Technikai korlátok (főleg az aktuális adatokhoz való hozzáférés hiánya miatt).

Tehát maga a ChatGPT kijelentette, hogy vannak olyan forgatókönyvek, amelyekben nem ad pontos információkat a felhasználóknak.

Ugyanebben a beszélgetésben a ChatGPT egy másik válaszában kijelentette, hogy "mindig jó ötlet az [átadott] információkat más forrásokkal ellenőrizni."

Megbízhat a ChatGPT-ben?

Mert hamis információkat szolgáltathat, egyértelműen nem bízhat a ChatGPT-ben 100%-ban.

Csökkentheti annak kockázatát, hogy egy mesterséges intelligencia chatbot hallucináljon, ha konkrét paramétereket állít be arra vonatkozóan, hogyan tud válaszolni. Azonban még mindig nincs garancia arra, hogy néhány hamis információ nem csúszik át a réseken.

Emiatt a legjobb, ha ellenőriz minden olyan információt, amelyet a ChatGPT nyújt Önnek, különösen, ha a közelmúltbeli eseményekről kér információkat. Az adatok más forrásokra való hivatkozással történő kétszeri ellenőrzése segíthet megállapítani, hogy a ChatGPT-nek igaza van-e abban, amit mond, és megakadályozhatja, hogy meggondolatlan döntéseket hozzon.

A ChatGPT hasznos, de nem mindig igaz

Sajnos nem támaszkodhat arra, hogy a ChatGPT az esetek 100%-ában valós, elfogulatlan információkkal szolgáljon. Ez a mesterséges intelligencia által vezérelt chatbot tagadhatatlanul hasznos, és többféleképpen is segíthet, de mindig érdemes ellenőrizni, hogy az általa közölt információk tényszerűek-e.