A ChatGPT egy nagy teljesítményű új mesterséges intelligencia chatbot, amely gyorsan lenyűgöz, de sokan rámutattak arra, hogy komoly buktatói vannak. Kérdezz bármit, amit akarsz, és olyan választ kapsz, mintha ember írta volna, tudását és íráskészségét az interneten található tömeges információból tanulta meg.
Csakúgy, mint az internet, az igazság és a tények nem mindig adottak, és a ChatGPT hibás, ha téved. Mivel a ChatGPT megváltoztatja a jövőnket, íme néhány a legnagyobb aggályok közül.
Mi az a ChatGPT?
A ChatGPT egy nagyméretű nyelvtanulási modell, amelyet az emberi beszélgetések utánzására terveztek. Emlékezhet olyan dolgokra, amelyeket a múltban mondtál neki, és képes kijavítani magát, ha téved.
Emberszerű módon ír, és rengeteg tudással rendelkezik, mert az internetről származó mindenféle szövegre képezték, például a Wikipédiáról, blogbejegyzésekről, könyvekről és tudományos cikkekről.
Könnyű megtanulni hogyan kell használni a ChatGPT-t, de ami még nagyobb kihívás, az az, hogy kiderítsük, melyek a legnagyobb problémái. Íme néhány, amit érdemes tudni.
1. A ChatGPT nem mindig jó
Megbukik az alapvető matematikában, nem tud egyszerű logikai kérdésekre válaszolni, sőt odáig megy, hogy teljesen helytelen tényeket vitat. Amint azt a közösségi média felhasználói tanúsítják, a ChatGPT többször is tévedhet.
OpenAI tud erről a korlátozásról, és ezt írja: "A ChatGPT néha hihetőnek tűnő, de helytelen vagy értelmetlen válaszokat ír." Ez A tények és fikciók „hallucinációi”, ahogy egyes tudósok nevezik, különösen veszélyes, ha olyan dolgokról van szó, mint az orvosi tanács.
Más AI-asszisztensekkel, például Sirivel vagy Alexával ellentétben a Chat GPT nem használja az internetet a válaszok megkeresésére. Ehelyett szóról szóra összeállít egy mondatot, és a képzése alapján kiválasztja a legvalószínűbb "token"-t, amelynek ezután következnie kell.
Más szavakkal, a ChatGPT egy sor találgatással választ ad, ami részben annak köszönhető, hogy a rossz válaszokat úgy érvelheti, mintha azok teljesen igazak lennének.
Bár nagyszerűen magyarázza meg az összetett fogalmakat, és hatékony eszközévé teszi a tanuláshoz, fontos, hogy ne higgy el mindent, amit mond. A ChatGPT nem mindig helyes – legalábbis még nem.
2. Az elfogultság a rendszerbe van beépítve
A ChatGPT-t az emberek kollektív írására képezték ki világszerte, a múltban és a jelenben. Ez azt jelenti, hogy ugyanazok a torzítások, amelyek az adatokban vannak, megjelenhetnek a modellben is.
Valójában a felhasználók megmutatták, hogy a ChatGPT hogyan tud szörnyű válaszokat adni, néhányat például, amelyek diszkriminálják a nőket. De ez csak a jéghegy csúcsa; olyan válaszokat adhat, amelyek rendkívül károsak egy sor kisebbségi csoport számára.
A hibás nem egyszerűen az adatokban rejlik. Az OpenAI kutatói és fejlesztői választják ki a ChatGPT képzéséhez használt adatokat. Az OpenAI „elfogult viselkedésnek” nevezett jelenségek megoldása érdekében arra kéri a felhasználókat, hogy adjanak visszajelzést a rossz kimenetekről.
Mivel potenciálisan kárt okozhat az embereknek, érvelhet azzal, hogy a ChatGPT-t nem kellett volna nyilvánosságra hozni, mielőtt ezeket a problémákat megvizsgálták és megoldották.
2022 szeptemberében megjelent egy hasonló mesterséges intelligencia chatbot, a Sparrow (a Google anyavállalata, az Alphabet tulajdona). Azonban zárt ajtók mögött tartották, mert hasonló aggályok miatt kárt okozhat.
Talán Metának is kellett volna a figyelmeztetés élén állnia. Amikor kiadta a Galactica-t, egy tudományos dolgozatokon kiképzett mesterséges intelligencia nyelvi modellt, gyorsan visszahívták, miután sokan kritizálták, mert rossz és elfogult eredményeket ad.
3. Kihívás a középiskolai angol számára
Megkérheti a ChatGPT-t, hogy olvassa le az írását, vagy mutasson rá, hogyan javíthat egy bekezdést. Alternatív megoldásként teljesen eltávolíthatja magát az egyenletből, és megkérheti a ChatGPT-t, hogy írjon valamit.
A tanárok kísérleteztek az angol nyelvű feladatok ChatGPT-vel való betáplálásával, és olyan válaszokat kaptak, amelyek jobbak, mint amit sok diákjuk meg tudna tenni. A motivációs levelek írásától a híres irodalmi mű főbb témáinak leírásáig a ChatGPT habozás nélkül meg tudja csinálni.
Ez felveti a kérdést: ha a ChatGPT írhat helyettünk, akkor a diákoknak meg kell tanulniuk írni a jövőben? Egzisztenciális kérdésnek tűnhet, de amikor a diákok elkezdik a ChatGPT-t használni esszéik megírásához, az iskoláknak gyorsan meg kell találniuk a választ. A mesterséges intelligencia elmúlt évek gyors elterjedése sok iparágat sokkolt, és az oktatás csak egy ezek közül.
4. Valós károkat okozhat
Korábban már említettük, hogy a ChatGPT helytelen információi valós károkat okozhatnak, erre a legnyilvánvalóbb példa a helytelen orvosi tanács.
Vannak más gondok is. A hamis közösségimédia-fiókok óriási problémát jelentenek az interneten, és az AI chatbotok bevezetésével az internetes csalások könnyebben végrehajthatók. A hamis információk terjedése is aggodalomra ad okot, különösen akkor, ha a ChatGPT még a rossz válaszokat is meggyőzően helyesnek hangoztatja.
Az a sebesség, amellyel a ChatGPT nem mindig helyes válaszokat tud produkálni, már problémákat okozott a Stack Exchange számára, egy olyan webhelyen, ahol a felhasználók kérdéseket tehetnek fel, és válaszokat kaphatnak.
Nem sokkal megjelenése után a ChatGPT válaszait kitiltották az oldalról, mivel nagy részük hibás volt. Elegendő önkéntes önkéntes hiányában lehetetlen lenne a magas szintű válaszokat fenntartani, ami kárt okozna a webhelyen.
5. Az OpenAI-nak minden ereje van
A nagy hatalom nagy felelősséggel jár, az OpenAI pedig hatalmas erővel rendelkezik. Ez az egyik első mesterséges intelligencia-vállalat, amely valóban felrázta a világot nem egy, hanem több mesterségesintelligencia-modellel, beleértve a Dall-E 2-t, a GPT-3-at és most a ChatGPT-t.
Az OpenAI kiválasztja, hogy milyen adatokat használjon a ChatGPT betanításához, és hogyan kezeli a negatív következményeket. Akár egyetértünk a módszerekkel, akár nem, ezt a technológiát saját céljainak megfelelően továbbfejleszti.
Míg az OpenAI kiemelten fontosnak tartja a biztonságot, sok mindent nem tudunk a modellek létrehozásáról. Akár úgy gondolja, hogy a kódot nyílt forráskódúvá kell tenni, vagy egyetért azzal, hogy egyes részeit titokban kell tartani, nem sokat tehetünk ellene.
A nap végén nem tehetünk mást, mint abban, hogy bízunk abban, hogy az OpenAI felelősségteljesen kutatja, fejleszti és használja a ChatGPT-t. Alternatív megoldásként támogathatjuk, hogy több embernek legyen beleszólása abba, hogy a mesterséges intelligencia melyik irányba haladjon, megosztva az AI erejét azokkal, akik használni fogják.
Ha érdekli, hogy az OpenAI mit fejlesztett még, tekintse meg a témával kapcsolatos cikkeinket hogyan kell használni a Dall-E 2-t és hogyan kell használni a GPT-3-at.
Az AI legnagyobb problémáinak kezelése
Az OpenAI legújabb fejlesztésével, a ChatGPT-vel sok mindenben lehet izgulni. De az azonnali felhasználáson túl van néhány komoly probléma, amelyeket érdemes megérteni.
Az OpenAI elismeri, hogy a ChatGPT káros és elfogult válaszokat tud produkálni, nem is beszélve arról, hogy képes összekeverni a tényeket a fikcióval. Egy ilyen új technológiával nehéz megjósolni, milyen további problémák merülnek fel. Addig tehát élvezze a ChatGPT felfedezését, és ügyeljen arra, hogy ne higgy el mindent, amit mond.
