Az AI-alapú technológiával kapcsolatos legújabb innovációk feszegetik azt a határt, amit valaha lehetségesnek tartottunk az AI-val. Mivel azonban az olyan chatbotok, mint a ChatGPT és a Bing Chat, több dologban majdnem olyan jók, mint az emberek, ideje lenyomni egy időre a féket?
Elon Musk és több mesterséges intelligenciakutató is azon 1188 ember között van (a cikk írásakor), akik így gondolják. A Future of Life non-profit intézet által közzétett levél hat hónapos szünetet kér a GPT 4-nél jobb mesterséges intelligencia-technológiák képzésében, de valóban szükség van egy szünetre?
Miről szól az élet jövője a nyílt levélben?
A a Future of Life intézet által közzétett levelet rámutat arra, hogy az AI-laboratóriumok „ellenőrzés nélküli versenyfutásba zártak” a további fejlesztés és telepítés érdekében erősebb mesterségesintelligencia-modellek, amelyeket senki, beleértve az alkotóikat sem "megértheti, megjósolhatja vagy megbízhatóan". ellenőrzés".
Arra is rámutat, hogy a kortárs mesterséges intelligencia rendszerek ma már az emberek számára versenyképessé válnak az általános feladatokban, és kérdez ki kell-e fejlesztenünk „nem emberi elméket, amelyek idővel túlléphetnek, túljárhatnak az eszén, elavulhatnak és helyettesíthetik minket".
A levél végül felszólítja az összes mesterségesintelligencia-labort, hogy azonnal legalább hat hónapra szüneteltesse a GPT-4-nél erősebb mesterségesintelligencia-rendszerek képzését. A szünetnek nyilvánosnak és ellenőrizhetőnek kell lennie az összes kulcsszereplő számára is. Azt is kimondja, hogy ha egy ilyen szünetet nem lehet gyorsan végrehajtani, a kormányoknak be kell lépniük az AI-modellképzés ideiglenes betiltása érdekében.
Ha a szünet aktív, az AI-laboratóriumokat és a független szakértőket arra kérik, hogy használják fel a közös fejlesztésre és megvalósításra a „megosztott biztonsági protokollkészlet” annak biztosítására, hogy a szabályokat betartó rendszerek „az ésszerű határokon túl biztonságosak legyenek” kétség".
Ezt a levelet jónéhány megnevezett személyiség írta alá, köztük Elon Musk, Steve Wozniak, valamint mesterséges intelligenciakutatók és szerzők. Valójában az aláírók listája jelenleg szünetel a nagy kereslet miatt.
Mik Musk aggodalmai az Advanced AI Tech és az OpenAI kapcsán?
Bár a Future of Life levelének aláírása azt jelezheti, hogy Musk aggódik az ilyen fejlett AI-rendszerek biztonsági kockázatai miatt, a valódi ok valami más lehet.
Musk még 2015-ben nonprofit szervezetként alapította meg az OpenAI-t Sam Altmannel, a jelenlegi vezérigazgatóval. Később azonban 2018-ban fejet ütött Altmannel, miután rájött, hogy nem elégedett a cég előrehaladásával. Musk állítólag a fejlesztés felgyorsítása érdekében akarta átvenni az irányítást, de Altman és az OpenAI igazgatótanácsa leütötte az ötletet.
Musk nem sokkal ezután távozott az OpenAI-tól, és magával vitte a pénzét, megszegve azt az ígéretét, hogy 1 milliárddal járul hozzá, és csak 100 milliót ad a távozás előtt. Ez arra kényszerítette az OpenAI-t, hogy 2019 márciusában nem sokkal később magáncéggé váljon, hogy finanszírozást szerezzen a kutatás folytatásához.
A másik ok, amiért Musk távozott, az volt, hogy a Tesla mesterséges intelligencia fejlesztése a jövőben összeférhetetlenséget okoz. Nyilvánvaló, hogy a Teslának fejlett mesterséges intelligenciarendszerekre van szüksége a működéséhez Teljes önvezető funkciók. Mióta Musk elhagyta az OpenAI-t, a cég megszökött mesterségesintelligencia-modelljeivel, és elindult GPT3.5-alapú ChatGPT 2022-ben, majd a GPT-4 nyomán 2023 márciusában.
Azt a tényt, hogy Musk mesterséges intelligencia csapata közel sem áll az OpenAI-hoz, minden alkalommal figyelembe kell venni, amikor azt mondja, hogy a modern AI-modellek kockázatokat jelenthetnek. Szintén nem volt problémája a Tesla Full Self-Driving béta bevezetése a közutakon, lényegében a szokásos Tesla-illesztőprogramokat bétatesztelőkké alakítva.
Ennek itt sincs vége. Musk a Twitteren is meglehetősen kritikus volt az OpenAI-val kapcsolatban, Altman pedig odáig ment, hogy megtámadja őket, miközben nemrég megjelent az On with Kara Swisher podcastban.
Jelenleg úgy tűnik, hogy Musk csak arra használja a Future of Life levelet, hogy leállítsa az OpenAI fejlesztését és minden más cég felzárkózását. a GPT-4-nek, hogy lehetőséget adjon cégeinek a felzárkózásra, ahelyett, hogy aggódnának az AI-modellek lehetséges veszélyei miatt póz. Vegyük észre, hogy a levél azt is kéri, hogy fél évre szüneteltesse az AI-rendszerek "kiképzését", ami viszonylag könnyen megkerülhető, hogy közben tovább fejleszthesse őket.
Valóban szükség van szünetre?
A szünet szükségessége az AI modellek jövőbeli állapotától függ. A levél határozottan kissé drámai hangvételű, és nem kockáztatjuk, hogy elveszítjük civilizációnk feletti uralmunkat a mesterséges intelligencia miatt, amint azt olyan nyíltan kijelenti. Hogy az említett, Az AI-technológiák bizonyos fenyegetéseket jelentenek.
Tekintettel arra, hogy az OpenAI és más mesterségesintelligencia-laboratóriumok jobb biztonsági ellenőrzéseket tudnak megvalósítani, a szüneteltetés több kárt okozna, mint használ. Jó ötletnek tűnik azonban a levélben található javaslat egy sor megosztott biztonsági protokollra, amelyeket „szigorúan auditálnak és független külső szakértők felügyelnek”.
Mivel az olyan technológiai óriáscégek, mint a Google és a Microsoft milliárdokat fordítanak a mesterséges intelligencia fejlesztésére és termékeik integrációjára, nem valószínű, hogy a levél befolyásolja az AI fejlesztésének jelenlegi ütemét.
A mesterséges intelligencia itt marad
Mivel a technológiai óriáscégek tovább erősítik a mesterséges intelligencia integrációját termékeikben, és dollármilliárdokat fordítanak kutatásra és fejlesztésre, az AI itt marad, függetlenül attól, hogy mit mond az ellenzék.
De nem rossz ötlet olyan biztonsági intézkedéseket bevezetni, amelyek megakadályozzák, hogy ezek a technológiák letérjenek a sínekről, és esetleg kárt okozó eszközökké váljanak.
