Ahogy a mesterséges intelligencia területe továbbra is szédítő ütemben fejlődik, új versenyző léphet a játéktérre. A TruthGPT, egy mesterséges intelligencia chatbot, amelyet Elon Musk technológiai milliárdos javasolt, nagy felhajtást kelt az interneten.
De mi is az a TruthGPT? Miért akarja Elon Musk létrehozni? És miben különbözik majd a már meglévő AI-eszközöktől?
Mi az a TruthGPT?
A TruthGPT egy javasolt mesterséges intelligencia-modell, amelynek célja a meglévő modellek hibáinak kezelése, amelyek olyan modelleket hoznak létre, mint a ChatGPT és a Bard, különös tekintettel az igazságra és a biztonságra. Elon Musk szerint a TruthGPT egy "maximálisan igazságkereső" mesterséges intelligencia lesz, amely megérti a az univerzumban, és nem valószínű, hogy elpusztítaná az emberiséget, mert az embert az emberiség kritikus alkotóelemének tekinti világegyetem.
Maximális igazságkereső AI? Megérted az univerzum természetét?
Megbocsátják, ha Musk leírása nem ad tiszta képet arról, hogy pontosan mit is akar felépíteni. Azonban jobban megértheti, miről beszél, ha megnézi, hogy miért próbálja meg építeni.
Miért építi Elon Musk a TruthGPT-t?
Egy interjúban Fox hírekElon Musk aggodalmának adott hangot azzal kapcsolatban, hogy a nagy mesterségesintelligencia-cégek hogyan képesek fenntartani az elfogultságot és a félretájékoztatást a mesterséges intelligencia chatbotjai révén – ez egy olyan feltörekvő eszköz, amelyre az emberek egyre inkább támaszkodnak az információkért. Elon Musk az MI által az emberiségre jelentett fenyegetést is kommentálta, hangsúlyozva egy mesterséges intelligencia apokalipszis lehetőségét, egy olyan forgatókönyvet, amelyben a mesterséges intelligencia rendszerek átvehetik az irányítást mindennapi életünk felett.
Elon Musk, kiemelve az olyan cégeket, mint az OpenAI és a Google, akik véleménye szerint nem tesznek eleget az AI biztonsága és a dezinformáció elleni védekezés terén, egy harmadik erőt javasolt, a TruthGPT-t. A SpaceX és a Tesla vezérigazgatója a TruthGPT-t akarja létrehozni a Google Bard és az OpenAI ChatGPT ellensúlyaként. Az ötlet egy olyan mesterséges intelligencia modell létrehozása, amely a lehető legnagyobb mértékben igyekszik igazat adni az általa szolgáltatott információkban.
Elon Musk, aki nemrégiben nyílt levelet írt, amelyben felszólított a moratóriumot az erőteljes mesterséges intelligencia fejlesztésére modellek (különösen a GPT-4-nél erősebbek) úgy véli, hogy az AI túl gyorsan halad. Úgy véli, le kell lassítanunk és újra kell értékelnünk a mesterséges intelligencia biztonságával kapcsolatos megközelítésünket, mielőtt a mesterséges intelligencia „átvenné az irányítást”. A TruthGPT egy nagy nyelvi modell (LLM), amely azt ígéri, hogy megoldja ezt a két alapvető problémát a mai mesterséges intelligenciával. rendszerek.
Hogyan nézne ki a TruthGPT?
Az első utalás arra, hogyan nézne ki a TruthGPT, a névben található. Figyelembe véve a "GPT" függeléket, a TruthGPT valószínűleg hasonló architektúrával rendelkezik, mint a ChatGPT. Ne feledje, Elon Musk segített az OpenAI és a ChatGPT GPT modelljét felépítő csapat összeállításában.
Ezenkívül, figyelembe véve, hogy a GPT architektúrája mind műszaki, mind kereskedelmi sikernek bizonyult, egy másik út követése valószínűleg túlságosan időigényes és költséges lesz. Az idő egy olyan dolog, amivel Elon Musk nem rendelkezik, ha a lehető leghamarabb olyat akar építeni, ami valóban lábujjhegyen áll a legkorszerűbb mesterséges intelligencia segítségével. Tehát ne legyünk túlzottan felvillanyozva – a TruthGPT nem feltétlenül különbözik gyökeresen a már meglévő AI-eszközöktől.
Egy mesterséges intelligencia modell pontossága vagy Elon Musk szóhasználatában "igazságosság" nagymértékben függ a betanítási adatoktól és a betanítási algoritmustól. Nem vagyunk pontosan biztosak abban, hogy a TruthGPT képzési adatai honnan származnának, de azért, hogy a lehető legjobb esélyt kapjuk egy olyan LLM felépítésére, A lehető legvalószínűbbnek, Elon Musk TruthGPT-jének az "igaz forrásokból" származó adatokat kell előnyben részesítenie. De pontosan ez az probléma. Az igazság nagyon szubjektív fogalom. Ami igaz rám, lehet, hogy nem igaz rád.
Tehát gyakorlatias ez a maximális igazságkereső mesterséges intelligencia gondolata?
Miért jelent hatalmas kihívást a TruthGPT felépítése?
Ha egyszer megérteni, hogyan működnek a nagy nyelvi modellek, például a GPT, világossá válik, hogy nem praktikus mindig helyesnek lenni. Általában nagy mennyiségű internetes adathalmazra tanítják őket, és ezek nagy része előreláthatólag hamis információ lesz, és az LLM-eknek nincs inert módja a tények és a fikció közötti különbségtételre.
A legjobb beavatkozás jellemzően az emberi trénerektől származik, akik megpróbálják megtanítani a nyelvi modellnek, hogy mi a jó és mi a rossz. De az emberi trénerek elfogultak. A torzítás átkerül az AI modellekre, legyőzve a "maximális igazságkereső AI" teljes célját. Ne feledje, nem beszélünk nyílt elfogultságról vagy előítéletekről egy néppel vagy mással szemben. Ez a finomabb torzítás a nyelv, a helyzetek, a kihívások és egyebek értelmezésével kapcsolatban, ami beszivárog a folyamatba. Az ember végül is ember.
Természetesen a pontosság az algoritmus oldaláról is kezelhető. Az algoritmustól függetlenül azonban a nyelvi kétértelműség továbbra is nagy problémát jelent az AI modellek pontossága szempontjából. Még az emberek is gyakran küzdenek egy mondat vagy kifejezés jelentésének pontos értelmezésével, ami félretájékoztatáshoz vezet. Az AI modellek esetében a kétértelműség félreértelmezésekhez vezethet, ami pontatlanságokhoz vezethet.
Musk számára úgy tűnik, hogy a TruthGPT egy esély arra, hogy olyan AI-modellt faragjon, amelyet jónak lát az igazság bemutatására. Az, hogy ez hogyan valósulhatna meg saját elfogultságainak bevezetése nélkül, egy másik kérdés, és gyakorlatilag visszavezet minket a beszélgetés elejéhez. Miben különbözik Musk véleménye arról, hogy mi az elfogult vagy nem, a ChatGPT-t kiképző és irányítókétól?
Izgalmas lehetőség a TruthGPT?
Elon Musk tervei a TruthGPT-vel kapcsolatban nemesnek és dicséretesnek tűnnek. Azonban egy olyan mesterséges intelligencia modell felépítése, amely elhanyagolható számú pontatlanságot tartalmaz, nehéz feladat.
Bár azt várnánk, hogy egy technológiai milliárdos, aki demisztifikálta a rakétatudományt, képes lesz valami ilyesmit kihozni, néhány dolgot könnyebb mondani, mint megtenni.
