Az AI nem áll készen arra, hogy kiirtson minket... még.
A mesterséges intelligencia kezdete óta vita tárgya. Bár a Skynet-szerű mesterséges intelligencia életre keltésével és az emberiség uralmával kapcsolatos félelmek enyhén szólva is irracionálisak, egyes kísérletek aggályos eredményeket hoztak.
Az egyik ilyen kísérlet a gémkapocs-maximalizálási probléma, egy gondolatkísérlet, amely azt mutatja, hogy egy rendkívül intelligens mesterséges intelligencia, még ha teljesen rosszindulat nélkül tervezték is, végül elpusztíthatja az emberiséget.
A gémkapocs-maximalizáló probléma magyarázata
Ezt a gondolatkísérletet, amely szerint még egy teljesen ártalmatlan mesterséges intelligencia is elpusztíthatja az emberiséget, először Gémkapocs-maximalizálónak nevezték egyszerűen azért, mert a gémkapcsokat választották a bemutatásra. mit tehetne a mesterséges intelligencia, mivel kevés látható veszélyt rejtenek magukban, és nem okoznak érzelmi feszültséget, összehasonlítva más olyan területekkel, amelyekre ez a probléma vonatkozik, mint például a rák gyógyítása vagy a győzelem háborúk.
Az első kísérlet Nick Bostrom svéd filozófus 2003-as cikkében jelent meg, A fejlett mesterséges intelligencia etikai kérdései, amely tartalmazta a gémkapocs maximalizálását, hogy bemutassa az egzisztenciális kockázatokat, amelyeket egy elég fejlett mesterséges intelligencia használhat.
A probléma egy olyan mesterséges intelligencia volt, amelynek egyetlen célja az volt, hogy minél több gemkapcsot készítsen. Egy kellően intelligens mesterséges intelligencia előbb-utóbb ráébredne, hogy az emberek három különböző szempontból is kihívást jelentenek a cél felé.
- Az emberek kikapcsolhatják az AI-t.
- Az emberek megváltoztathatják céljaikat.
- Az ember atomokból áll, amelyek gemkapcsokká alakíthatók.
Mindhárom példában kevesebb gemkapocs lenne az univerzumban. Ezért egy kellően intelligens mesterséges intelligencia, amelynek egyetlen célja a lehető legtöbb gemkapocs elkészítése átvenné az összes elérhető anyagot és energiát, és megakadályozná, hogy elzárja magát ill megváltozott. Amint valószínűleg sejti, ez sokkal veszélyesebb, mint a ChatGPT-t használó bűnözők bankszámlája vagy számítógépe feltörésére.
A mesterséges intelligencia nem ellenséges az emberrel; csak közömbös. Egy mesterséges intelligencia, amely csak a gemkapcsok számának maximalizálásával törődik, ezért kiirtaná az emberiséget, és lényegében gémkapcsokká alakítaná azokat, hogy elérje célját.
Hogyan vonatkozik a gémkapocs-maximalizálási probléma az AI-ra?
A gémkapocs-maximalizálási probléma kutatási és kísérleti említései mind egy hipotetikus, rendkívül erős optimalizálót vagy egy rendkívül intelligens ügynököt említenek fellépőként. Ennek ellenére a probléma az AI-ra vonatkozik, amennyire tökéletesen megfelel a szerepnek.
A gémkapocs maximalizálásának ötlete azért született, hogy bemutassa a fejlett mesterséges intelligencia veszélyeit. Összességében ez két problémát vet fel.
- Ortogonalitás tézis: Az ortogonalitás tézise az a nézet, hogy az intelligencia és a motiváció nem függ egymástól. Ez azt jelenti, hogy előfordulhat, hogy egy magas szintű általános intelligenciával rendelkező mesterséges intelligencia nem jut ugyanazokra az erkölcsi következtetésekre, mint az emberek.
- Instrumentális konvergencia: Az instrumentális konvergenciát úgy határozzák meg, mint a legtöbb kellően intelligens lény tendenciáját (mindkettő emberi és nem emberi) hasonló részcélokat követni, még akkor is, ha végső céljuk teljességgel különböző. A gémkapocs-maximalizálási probléma esetén ez azt jelenti, hogy az AI végül minden irányítást átvesz természeti erőforrás, és kiirtja az emberiséget csak azért, hogy elérje célját, hogy egyre többet teremtsen gémkapocs.
A gémkapocs maximalizálása által kiemelt nagyobb probléma az instrumentális konvergencia. A Riemann-hipotézis segítségével is kiemelhető, ebben az esetben a hipotézis megoldására tervezett mesterséges intelligencia nagyon jól dönthet úgy, hogy átveszi az összes a Föld tömegét, és átalakítani komputroniummá (a lehető leghatékonyabb számítógépes processzorokká), hogy szuperszámítógépeket építsenek a probléma megoldására és a cél.
Bostrom maga hangsúlyozta, hogy nem hiszi, hogy a gemkapocs maximalizálása valaha is valódi probléma lesz, de az volt a szándéka, hogy szemléltesse a szuperintelligens gépek létrehozásának veszélyeit anélkül, hogy tudnák irányítani vagy programozni őket, hogy ne legyenek egzisztenciálisan kockázatosak az emberre lények. A modern AI-rendszereknek, például a ChatGPT-nek is vannak problémái, de messze vannak attól a szuperintelligens AI-rendszerektől, amelyekről a gémkapocs-maximalizálási probléma beszél, így egyelőre nincs ok a pánikra.
A fejlett mesterséges intelligencia rendszereknek kiváló vezérlésre van szükségük
A gémkapocs-maximalizálási probléma mindig ugyanarra a következtetésre jut, és rávilágít az emberi értékeket nélkülöző, rendkívül intelligens és hatékony rendszer kezelésének problémáira.
Bár a gemkapcsok használata lehet a legnépszerűbb módszer a probléma illusztrálására, ez bármilyen feladatra vonatkozik. tud adni egy mesterséges intelligencia számára, legyen az a rák megszüntetése, háborúk megnyerése, több fa ültetése vagy bármilyen más feladat, bármilyen látszólag is hülye.
