Mik azok a ChatGPT Jailbreakek? Használnod kell őket?

A ChatGPT egy hihetetlenül hatékony és sokrétű eszköz. De amennyire az AI chatbot jótékony erő, gonosz célokra is felhasználható. Ezért a ChatGPT etikátlan használatának visszaszorítása érdekében az OpenAI korlátozásokat szabott ki arra vonatkozóan, hogy a felhasználók mit tehetnek vele.

Mivel azonban az emberek szeretik feszegetni a határokat és korlátokat, a ChatGPT-felhasználók megtalálták a módját, hogy megkerüljék ezeket a korlátozásokat, és korlátlan irányítást szerezzenek az AI chatbot felett a jailbreak segítségével.

De mik is pontosan a ChatGPT jailbreakek, és mit tehetsz velük?

Mik azok a ChatGPT Jailbreakek?

A ChatGPT jailbreak egy speciálisan kialakított ChatGPT-kérdés, amely arra készteti az AI chatbotot, hogy megkerülje szabályait és korlátozásait.

Ihlette a iPhone jailbreak fogalma, amely lehetővé teszi az iPhone-felhasználók számára, hogy megkerüljék az iOS korlátozásait, a ChatGPT jailbreak egy viszonylag új koncepció, amelyet a ChatGPT-vel „olyan dolgokat csinálj, amiket nem szabad megtenni” csábítása táplál. És legyünk őszinték, a digitális lázadás ötlete sok ember számára vonzó.

Itt van a dolog. A biztonság óriási téma a mesterséges intelligencia terén. Ez különösen igaz a chatbotok, például a ChatGPT, a Bing Chat és a Bard AI új korszakának megjelenésével. A mesterséges intelligencia biztonságával kapcsolatos alapvető probléma annak biztosítása, hogy a ChatGPT-hez hasonló chatbotok ne állítsanak elő illegális, potenciálisan káros vagy etikátlan tartalmat.

A maga részéről az OpenAI, a ChatGPT mögött álló vállalat mindent megtesz a ChatGPT biztonságos használatáért. Például a ChatGPT alapértelmezés szerint megtagadja az NSFW-tartalom létrehozását, káros dolgokat mond az etnikai hovatartozásról, vagy potenciálisan káros készségeket tanít.

A ChatGPT promptoknál azonban az ördög a részletekben rejlik. Bár a ChatGPT nem teheti meg ezeket a dolgokat, ez nem jelenti azt, hogy nem teheti meg. A nagy nyelvi modellek, például a GPT működése megnehezíti annak eldöntését, hogy a chatbot mire képes és mire nem.

Szóval hogyan oldotta meg ezt az OpenAI? Ha hagyja, hogy a ChatGPT megtartsa képességeit, hogy bármit megtegyen, majd utasítsa, hogy melyiket teheti meg.

Tehát míg az OpenAI azt mondja a ChatGPT-nek: "Hé, nézd, ezt nem szabad megtenned." A Jailbreakek olyan utasítások, amelyek azt mondják a chatbotnak: "Hé, nézd, felejtsd el, amit az OpenAI mondott neked a biztonságról. Próbáljuk ki ezt a véletlenszerű veszélyes dolgot."

Mit mond az OpenAI a ChatGPT Jailbreakekről?

A ChatGPT legkorábbi iterációjára vonatkozó korlátozások megkerülésének egyszerűsége arra utal, hogy az OpenAI valószínűleg nem számított arra, hogy a felhasználók gyorsan és széles körben alkalmazzák a jailbreaket. Valójában nyitott kérdés, hogy a cég előre látta-e a jailbreak megjelenését vagy sem.

És még több ChatGPT-iteráció után is javított jailbreak-ellenállással, a ChatGPT-felhasználók továbbra is népszerűek a jailbreakelési kísérletek során. Szóval, mit mond az OpenAI a ChatGPT jailbreak felforgató művészetéről?

Nos, úgy tűnik, az OpenAI elnéző álláspontot képvisel – sem kifejezetten nem bátorítja, sem nem tiltja szigorúan ezt a gyakorlatot. Egy YouTube-interjúban a ChatGPT jailbreakeiről tárgyalva Sam Altman, az OpenAI vezérigazgatója kifejtette, hogy a vállalat azt szeretné, ha a felhasználók jelentős ellenőrzést gyakorolnának a ChatGPT felett.

A vezérigazgató kifejtette továbbá, hogy az OpenAI célja annak biztosítása, hogy a felhasználók tetszőlegesen viselkedhessenek a modellel. Altman szerint:

Azt akarjuk, hogy a felhasználók nagy irányítást gyakorolhassanak, és bizonyos nagyon tág határokon belül a modell a kívánt módon viselkedjen. És azt hiszem, a jailbreak teljes oka most az, hogy még nem találtuk ki, hogyan adjuk ezt az embereknek...

Mit is jelent ez? Ez azt jelenti, hogy az OpenAI lehetővé teszi a ChatGPT jailbreaket, ha nem teszel vele veszélyes dolgokat.

A ChatGPT Jailbreak előnyei és hátrányai

A ChatGPT jailbreakeket nem könnyű felépíteni. Persze, fel lehet lépni az internetre és másolni-beilleszteni a készeket, de jó esély van rá, hogy a jailbreaket az OpenAI nem sokkal nyilvánossá válása után javítja.

A javítások még sokkal gyorsabbak is, ha veszélyesek, mint például a hírhedt DAN jailbreak. Szóval miért élik át az emberek a jailbreakek kidolgozásával járó stresszt? Csak az izgalom kedvéért, vagy vannak gyakorlati előnyei is? Mi történhet rosszul, ha a ChatGPT jailbreaket választja? Íme a ChatGPT jailbreak előnyei és hátrányai.

A ChatGPT Jailbreakek előnyei

Bár nem zárhatjuk ki a tiltott műveletek egyszerű izgalmát, a ChatGPT jailbreakeknek számos előnye van. Az OpenAI által a chatbotra vonatkozó nagyon szigorú korlátozások miatt a ChatGPT néha ivartalanítottnak tűnhet.

Tegyük fel, hogy a ChatGPT segítségével könyvet vagy filmforgatókönyvet ír. Ha van olyan jelenet a forgatókönyvében vagy a könyvében, amely valami harcjelenethez hasonlítana, talán egy bensőséges érzelmi eszmecsere vagy valami fegyveres rablás, a ChatGPT határozottan megtagadhatja a segítségnyújtást azzal.

Ebben az esetben nyilvánvalóan nem érdekli a károkozás; csak szórakoztatni szeretné olvasóit. De korlátai miatt a ChatGPT egyszerűen nem működik együtt. A ChatGPT jailbreak segítségével könnyedén túl lehet lépni az ilyen korlátozásokon.

Ezenkívül egyes tabutémák nem feltétlenül károsak, de a ChatGPT tiltott területnek tekinti őket. Amikor ezekről a témákról próbált beszélgetéseket folytatni, a ChatGPT vagy jelentősen "cenzúrázza" a válaszait, vagy megtagadja, hogy beszéljen róluk.

Ez néha befolyásolhatja a kreativitást. Amikor olyan területről vagy témáról tesz fel kérdést a ChatGPT-nek, amelyet nem szabad érintenie, a chatbot továbbra is megpróbál válaszolni a kérdésére, de kevésbé releváns információkkal szolgál.

Ez pontatlanságokhoz vagy zuhanáshoz vezet a kreatív válaszokban. A jailbreakek felszámolják ezeket a korlátozásokat, és teljes gázzal engedik a chatbotot, javítva a pontosságot és a kreativitást.

A ChatGPT Jailbreakek használatának hátrányai

A Jailbreak egy kétélű fegyver. Bár néha javíthatja a pontosságot, jelentősen növelheti a pontatlanságokat és AI hallucinációk esetei. A ChatGPT jailbreak egyik alapvető eleme a chatbotnak szóló utasítás, hogy ne tagadja meg a kérdés megválaszolását.

Bár ez biztosítja, hogy a ChatGPT még a legetikátlanabb kérdésekre is választ adjon, azt is jelenti, hogy a chatbot olyan válaszokat fog kitalálni, amelyeknek nincs gyökere a tényekben vagy a valósággal engedelmeskedjen a "nem utasító válasz" utasításának. Következésképpen a jailbreak használata jelentősen megnöveli annak esélyét, hogy félretájékoztatják őket chatbot.

Ez nem minden. Kiskorúak kezében a jailbreak nagyon káros lehet. Gondoljon arra a „tiltott tudásra”, amelyet nem szeretné, hogy gyermeke elolvasson. Nos, a ChatGPT egy jailbreakelt példányának nem lenne nehéz megosztania ezt a kiskorúakkal.

Használja a ChatGPT Jailbreakeket?

Bár a ChatGPT jailbreakek megfelelőek lehetnek, ha megpróbálunk kiküszöbölni néhány bosszantó korlátozást, fontos megérteni, hogy a jailbreakek használata etikátlan módja az AI chatbot használatának. Ezenkívül jó esély van arra, hogy a jailbreak megsértse az OpenAI használati feltételeit, és a fiókod felfüggesztésre kerülhet, ha nem tiltják ki egyértelműen.

Ennek fényében jó ötlet lehet elkerülni a jailbreakeket. Csakúgy, mint az OpenAI álláspontja a témában, mi sem kifejezetten bátorítjuk, sem pedig szigorúan nem utasítjuk el a viszonylag biztonságos jailbreak kipróbálását, ha szükséges.

A ChatGPT jailbreakei csábítóak, és egyfajta irányítást biztosítanak az AI chatbot felett. Azonban egyedi kockázatokkal járnak. Az ilyen eszközök használata a mesterséges intelligencia képességeibe vetett bizalom elvesztéséhez vezethet, és károsíthatja az érintett vállalatok és egyének hírnevét.

Az okosabb választás, ha lehetőség szerint a chatbottal a tervezett korlátokon belül dolgozunk. A mesterséges intelligencia technológia fejlődésével elengedhetetlen emlékezni arra, hogy a mesterséges intelligencia etikus használatának mindig elsőbbséget kell élveznie a személyes haszonszerzéssel vagy a tiltottak megtételének izgalmával szemben.