Az emberiséget „kihalás fenyegeti” a mesterséges intelligencia – hogyan lehet megállítani?

A vezető mesterséges intelligenciakutatók és technológiai cégek egy csoportja ismét arra figyelmeztetett, hogy a mesterséges intelligencia jelenlegi gyors fejlődése katasztrófát jelenthet az emberiség számára.

A kockázatok a nukleáris konfliktusokon, a betegségeken, a félretájékoztatásokon és a felügyelet hiányában elszabadult mesterséges intelligencia mellett állnak, amelyek mind közvetlen veszélyt jelentenek az emberi túlélésre.

De nem fog veszni, hogy a figyelmeztetések nagy része ugyanazoktól az emberektől származik, akik a mesterséges intelligencia fejlesztését vezetik, és mesterséges intelligencia eszközöket és programokat terjesztenek a megfelelő cégeiknél.

Miért figyelmeztetnek a technológiai vállalatok és a mesterséges intelligencia tudósai az AI kockázatára?

2023. május 30-án több mint 350 mesterséges intelligenciakutató, fejlesztő és mérnök adott ki egy aláírt nyilatkozatot, amelyben figyelmeztetett a mesterséges intelligencia emberiséget fenyegető veszélyeire.

A mesterséges intelligencia okozta kihalás kockázatának mérséklését globális prioritásként kell kezelni az egyéb társadalmi szintű kockázatok, például a világjárvány és a nukleáris háború mellett.

Aláírói a Safe.ai nyilatkozat köztük Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) és Dario Amodei (Anthropic), valamint Turing A díjnyertesek, Geoffrey Hinton és Yoshua Bengio (bár Yann LeCun, aki szintén elnyerte ugyanazt a díjat, elhanyagolta az aláírást). A lista szinte egy kicsoda, a mesterséges intelligencia fejlesztő világában – az MI-ben élenjáró emberek –, mégis itt vannak, figyelmeztetve, hogy a mesterséges intelligencia katasztrófát jelenthet az emberiség számára.

Ez egy rövid nyilatkozat, amely világossá teszi a fenyegetéseket, konkrétan két kulcsfontosságú területre hivatkozva, amelyek veszélyeztethetik az általunk ismert világot: a nukleáris hadviselést és a globális egészségügyi problémákat. Míg a nukleáris konfliktus veszélye aggodalomra ad okot, a világjárvány veszélye a legtöbb számára kézzelfoghatóbb fenyegetést jelent.

Ez azonban nem csak egy globális világjárvány okozhat mesterséges intelligencia okozta egészségügyi problémákat. Az őrző számos más mesterséges intelligencia egészségügyi problémáról számol be, amelyek hatással lehetnek az emberekre, ha nem ellenőrzik a széles körű használat előtt. Az egyik példa a mesterséges intelligencia által működtetett oximéterek használatára vonatkozik, amelyek "túlbecsülték a vér oxigénszintjét a sötétebb bőrű betegeknél, ami hipoxiájuk alulkezelését eredményezte".

Ezenkívül nem ez az első alkalom, hogy technológiai vezetők egy csoportja szüneteltetésre vagy az AI fejlesztésének komoly újraértékelésére szólít fel. 2023 márciusában Elon Musk és más mesterséges intelligenciakutatók is aláírtak egy hasonló felhívást a cselekvésre moratóriumot kért a mesterséges intelligencia fejlesztésére mindaddig, amíg a folyamat irányítását elősegítő további szabályozást nem hajtanak végre.

Mi az AI kockázata?

Az AI-val kapcsolatos kockázatok többsége, legalábbis ebben az összefüggésben, az elszabadult AI-technológia fejlesztéséhez kapcsolódik ami meghaladja az emberi képességeket, amiben végül ellene fordul teremtőjének és kiirtja az életet, ahogy tudjuk azt. Ez egy tudományos-fantasztikus írásban számtalanszor lefedett történet, de a valóság most közelebb van, mint gondolnánk.

A nagy nyelvi modellek (amelyek olyan eszközöket támogatnak, mint a ChatGPT) drasztikusan bővülnek a képességekben. Azonban, az olyan eszközökkel, mint a ChatGPT, sok probléma van, mint például az eredendő elfogultság, az adatvédelmi aggályok és a mesterséges intelligencia hallucinációi, nem beszélve arról, hogy a beprogramozott szerződési feltételek határain túllépve képes feltörni a börtönt.

Ahogy a nagy nyelvi modellek növekednek, és egyre több adatpontot kell igénybe venni, valamint az internet-hozzáférés és még több A jelenlegi események megértése érdekében az AI-kutatók attól tartanak, hogy egy napon az OpenAI vezérigazgatója, Sam Altman szavaival élve: rossz."

Hogyan szabályozzák a kormányok a mesterséges intelligencia fejlesztését a kockázatok megállítása érdekében?

A mesterséges intelligencia szabályozása kulcsfontosságú a kockázatok megelőzésében. 2023 május elején Sam Altman a mesterséges intelligencia további szabályozására szólított fel, amely kijelenti, hogy "a kormányok szabályozási beavatkozása kritikus fontosságú lesz az egyre erősebb modellek kockázatainak mérséklésében."

Aztán a Az Európai Unió bejelentette az AI törvényt, egy olyan rendelet, amelynek célja, hogy sokkal erősebb keretet biztosítson a mesterséges intelligencia fejlesztéséhez az EU-ban (sok szabályozás más joghatóságokra is kiterjed). Altman eleinte azzal fenyegetőzött, hogy kivonja az OpenAI-t az EU-ból, de aztán visszautasította a fenyegetést, és beleegyezett, hogy a vállalat betartja az általa korábban kért mesterségesintelligencia-szabályozást.

Ettől függetlenül egyértelmű, hogy az AI fejlesztésének és használatának szabályozása fontos.

Véget vet az AI az emberiségnek?

Mivel a témával kapcsolatos viták nagy része az AI jövőbeli verzióinak erejével kapcsolatos hipotetikus elméletekre épül, problémák merülnek fel a mesterséges intelligencia szabályozásának hosszú élettartamával és erejével kapcsolatban. Hogyan lehet a legjobban szabályozni egy olyan iparágat, amely már ezer mérföldes percenkénti sebességgel mozog, és a fejlesztésben naponta történnek áttörések?

Ezen túlmenően továbbra is kétségek merülnek fel az AI képességeivel kapcsolatban általában, és arról, hogy hol fog végezni. Míg a legrosszabbtól tartók arra hivatkoznak, hogy a mesterséges általános intelligencia emberi uralommá válik, mások a tény, hogy a mesterséges intelligencia jelenlegi verziói még alapvető matematikai kérdésekre sem képesek, és hogy a teljesen önvezető autók még mindig ki.

Nehéz nem egyetérteni azokkal, akik a jövőbe néznek. Sokan, akik a mesterséges intelligencia okozta problémákról a leghangosabban kiabálnak, a vezetőülésben ülnek, és azt nézik, merre tarthatunk. Ha ők követelnek mesterséges intelligencia szabályozást, hogy megvédjenek minket a potenciálisan szörnyű jövőtől, akkor itt az ideje, hogy meghallgassuk.