4 példa, amely azt mutatja, hogy nem bízhat a ZeroGPT-ben és más mesterséges intelligencia-észlelő eszközökben

Az AI chatbotok kétségtelenül hatékony és hasznos eszközök. Az ember által generált és a mesterséges intelligencia által generált tartalom megkülönböztetésének képessége azonban egyre fontosabb kérdéssé válik.

A probléma megoldására olyan eszközök jelentek meg, mint a ZeroGPT. Ezeket úgy tervezték, hogy különbséget tegyenek az AI és az ember által generált tartalmak között. De működnek?

Nézzük meg közelebbről az AI-észlelő eszközöket, és nézzük meg, hogy képesek-e különbséget tenni az emberi és a mesterséges intelligencia által generált szöveg között.

Azt mondják, hogy a puding bizonyítéka az evés. Tehát próbáljunk ki néhány tesztet, és nézzük meg, mennyire hatékonyak ezek az eszközök. Lehetetlen minden eszközt tesztelni, ezért az egyik legnépszerűbb eszközt – a ZeroGPT-t – teszteljük.

Anyagok tekintetében úgy gondoltuk, hogy jó móka lenne a ChatGPT-nek egy bevezetőt írni ehhez a cikkhez, majd összehasonlítani az „ember által generált” bevezetővel:

Első teszt: Az ember és a mesterséges intelligencia által generált cikk összehasonlítása

Az első dolgunk az volt, hogy rávettük a ChatGPT-t, hogy generáljon egy bevezetést. Beírtuk a címet, és nem adtunk további információt. A jegyzőkönyv kedvéért a teszthez GPT-3.5-öt használtunk.

Ezután kimásoltuk a szöveget, és beillesztettük a ZeroGPT-be. Amint láthatja, az eredmények nem voltak zseniálisak.

Nem feltűnő kezdet, de jól mutatja, mennyire hatékonyak az AI chatbotok. A teszt befejezéséhez hagyjuk, hogy a ZeroGPT elemezzen egy ember által készített bevezető vázlatot.

Legalább ez a rész helyes lett. Összességében a ZeroGPT elbukott ebben a körben. Megállapította, hogy a mesterséges intelligencia által generált bevezetés legalább egy része gyanús volt, de nem emelt ki konkrét problémákat.

Második teszt: A hamis pozitív probléma

Ahogy a ChatGPT és más mesterséges intelligencia eszközök használata növekszik, növekszik annak a valószínűsége, hogy valakinek tudomása vagy hallása olyan állításokkal szembesül, amelyek szerint a munkáját mesterséges intelligencia generálta. Ezek a vádak az egyik súlyosabb probléma a ChatGPT-vel és az AI-észlelő eszközökkel, például a ZeroGPT-vel kapcsolatban, mivel az ilyen jellegű hibák ronthatják a hírnevet és befolyásolhatják a megélhetést.

Hamis pozitív eredmények akkor fordulnak elő, ha az ember által létrehozott tartalmat helytelenül jelölik meg mesterséges intelligencia munkájaként. Amint az alábbi példa mutatja, a probléma könnyen megismételhető. Szenvedélyes horgász vagyok, ezért úgy döntöttem, hogy bevezetőt írok egy képzeletbeli cikkhez a floridai horgászatról. Ezután hagytam, hogy a ZeroGPT elemezze a szöveget – jelezte, hogy a szöveg 100%-ban mesterséges intelligencia által generált.

Az igazat megvallva erre az eredményre törekedtem. A szöveget általánosnak tartottam, és „eladó” nyelvet használtam. De a lényeg, hogy ezt egy ember írta, ugyanúgy érvényes marad. Ez nem kellemetlenség, vagy olyasmi, amit csak vállat vonni lehet. Az ehhez hasonló hibák komoly következményekkel járhatnak az írókra, a diákokra és más, írott műveket készítő szakemberekre.

Harmadik teszt: ZeroGPT tesztelése szépirodalomban

A harmadik teszthez a ChatGPT-t fogjuk használni, és megkérjük, hogy írjon néhány fikciót. Ehhez létrehoztunk egy forgatókönyvet, és arra kértük a ChatGPT-t, hogy írjon egy rövid bevezetőt egy kitalált történethez.

Leegyszerűsítettük, és csak arra kértünk, hogy írjunk bevezetőt egy történethez, amely két idegenről szól, akik egy vasúti peronon találkoznak:

És itt volt a válasz a ZeroGPT-től:

Amint az az eredményből kitűnik, a ZeroGPT nem képes megkülönböztetni a tényt a fikciótól, amikor fikcióval foglalkozik!

Negyedik teszt: Hírek

Van valami nyugtalanító abban, hogy a mesterséges intelligencia tájékoztat bennünket arról, hogy mi történik a minket körülvevő világban. Ez nem feltétlenül „álhír”, mivel releváns és informatív lehet, de vannak határozott etikai aggályok az AI-val kapcsolatban.

Hogy igazságosak legyünk a ZeroGPT-vel szemben, jól teljesített ebben a tesztben. Megkértük a ChatGPT-t és a Bing Chatet, hogy írjanak hírcikkeket több témában, és a ZeroGPT minden alkalommal leszögezte. Az alábbi példa azt mutatja, hogy helyesen deklarálja a Bing Chat által generált cikket 100%-ban mesterséges intelligencia által generáltnak.

Az eszköz olyan következetesen minden hírcikket mesterséges intelligencia által generáltként jelölt meg, hogy úgy döntöttünk, teszteljük egy álhírcikken, amelyet erre a célra írtunk.

A cikkek egy részét legalábbis ember által generáltként azonosította, de több mint 70%-át mesterséges intelligencia által generáltnak jelölte meg. Itt is igazságosnak kell lennünk; ez a Bing-cikk meglehetősen egyszerű újrakivonata volt, és aligha volt Pulitzer-díjas minőség.

De a lényeg továbbra is érvényes. Ezt egy ember írta az interneten talált kutatások segítségével.

Nincs egyetlen ok az olyan eszközök hibái mögött, mint a ZeroGPT. Az egyik alapvető probléma azonban a generatív AI chatbotok hatékonysága. Ezek egy hihetetlenül erős és gyorsan fejlődő technológiát képviselnek, amely hatékonyan mozgó célponttá teszi őket az AI-felderítő eszközök számára.

Az AI chatbotok folyamatosan javítják kimeneteik minőségét és „emberiségét”, és ez rendkívül nagy kihívást jelent a feladat elvégzésében. Azonban a nehézségektől függetlenül az egyenlet mesterséges intelligencia oldalának emberi felügyelet nélkül kell ítéletet mondania.

Az olyan eszközök, mint a ZeroGPT, mesterséges intelligencia segítségével határozzák meg döntéseiket. De az AI nem csak úgy ébred fel reggel, hogy tudja, mit kell tennie. Képezni kell, és itt válik relevánssá az egyenlet technikai oldala.

Az algoritmikus és a képzési adatok torzítása elkerülhetetlen, tekintve az adatok puszta méretét nagy nyelvi modellek, amelyekre ezeket az eszközöket képezik. Ez nem az AI-észlelő eszközökre korlátozódó probléma, ugyanazok a torzítások okozhatják az AI chatbotok létrehozását. helytelen válaszok és mesterséges intelligencia hallucinációk.

Ezek a hibák azonban helytelen „AI zászlóként” jelennek meg az észlelőeszközökben. Ez aligha ideális, de az AI technológia jelenlegi állapotát tükrözi. A képzési adatokban rejlő torzítások téves pozitív vagy hamis negatív eredményekhez vezethetnek.

Egy másik szempont, amelyet figyelembe kell venni, hogy mi minősül mesterséges intelligencia által generált tartalomnak. Ha a mesterséges intelligencia által generált tartalmat egyszerűen átfogalmazzuk, akkor emberi vagy mesterséges intelligencia által generált tartalomról van szó? Ez egy másik nagy kihívást jelent – ​​a kettő közötti határvonalak elmosódása szinte lehetetlenné teszi a gépi tartalom meghatározását.

Az AI-felderítés jövője felé tekintve

Ez úgy tűnhet, mintha olyan eszközöket használnánk, mint a ZeroGPT. Ez nem így van; hatalmas kihívásokkal néznek szembe, és a technológia alig fogy ki a pelenkákból. Az olyan eszközök gyors elterjedése, mint a ChatGPT, igényt teremtett a mesterséges intelligencia észlelésére, és lehetőséget kell adni a technológiának a fejlődésre és a tanulásra.

Nem várható el, hogy ezek az eszközök önmagukban szembesüljenek a chatbotok jelentette kihívásokkal. De értékes szerepet játszhatnak a mesterséges intelligencia kihívásainak kezelésére irányuló összehangolt és sokrétű erőfeszítésekben. Egy nagyobb kirakós darabot képviselnek, amely magában foglalja az etikus mesterséges intelligencia gyakorlatokat, az emberi felügyeletet, valamint a folyamatos kutatást és fejlesztést.

Azok a kihívások, amelyekkel ezek az eszközök szembesülnek, tükörképei azoknak a kihívásoknak, amelyekkel a társadalom szembesül, miközben az új technológiai korszak dilemmáival küzdünk.

AI vagy nem AI? Ez a kérdés

Az olyan eszközök, mint a ZeroGPT, hibásak, ehhez nem fér kétség. De nem értéktelenek, és fontos lépést jelentenek az AI kezelésében és szabályozásában. Pontosságuk javulni fog, de az észlelésre kiképzett mesterséges intelligencia kifinomultsága is. Valahol ennek a fegyverkezési versenynek a kellős közepén kell megtalálnunk azt az egyensúlyt, amelyben a társadalom kényelmes.

A kérdés – AI vagy nem AI? Több, mint annak megvitatása, hogy valami mesterséges intelligencia által generált-e vagy sem. Ez jelzi azokat a nagyobb kérdéseket, amelyekkel a társadalom szembesül, amikor alkalmazkodunk az AI bátor új világához.

Nyilvánvaló, hogy a ZeroGPT szerint ennek a következtetésnek a 27,21%-át mesterséges intelligencia generálta. Hmm.