Mivel a modern mesterséges intelligencia nyelvi modellek, például a ChatGPT és a Microsoft Bing Chat hullámokat keltenek világszerte, sok ember aggódik amiatt, hogy a mesterséges intelligencia elfoglalja a világot.
Bár a belátható jövőben nem fogunk a SkyNettel találkozni, a mesterséges intelligencia több dologban is jobb az embereknél. Itt jön képbe az AI-vezérlési probléma.
Az AI-vezérlési probléma magyarázata
A mesterséges intelligencia szabályozásának problémája az az elképzelés, hogy az AI előbb-utóbb jobb döntéseket hoz, mint az emberek. Ennek az elméletnek megfelelően, ha az emberek nem állítják be megfelelően a dolgokat korábban, akkor később nem lesz lehetőségünk kijavítani a dolgokat, vagyis a mesterséges intelligencia hatékonyan irányítja majd.
A mesterséges intelligencia és a gépi tanulás (ML) modelljeivel kapcsolatos jelenlegi kutatások legalább évekkel túlszárnyalják az emberi képességeket. Mindazonáltal ésszerű azt gondolni, hogy a jelenlegi fejlődést figyelembe véve a mesterséges intelligencia felülmúlja az embereket mind intelligencia, mind hatékonyság tekintetében.
Ez nem jelenti azt, hogy az AI és az ML modelleknek ne lennének korlátai. Végül is kötik őket a fizika törvényei és a számítási bonyolultság, valamint az ezeket a rendszereket támogató eszközök feldolgozási teljesítménye. Azonban nyugodtan feltételezhető, hogy ezek a korlátok messze meghaladják az emberi képességeket.
Ez azt jelenti, hogy szuperintelligens Az AI-rendszerek komoly veszélyt jelenthetnek ha nincs megfelelően megtervezve olyan biztosítékokkal, amelyek ellenőrzik a potenciálisan tisztességtelen viselkedést. Az ilyen rendszereket az alapoktól kezdve fel kell építeni az emberi értékek tiszteletben tartása és hatalmuk kordában tartása érdekében. Ezt jelenti a vezérlési probléma, amikor azt mondja, hogy a dolgokat helyesen kell beállítani.
Ha egy AI-rendszer megfelelő biztosítékok nélkül felülmúlná az emberi intelligenciát, az eredmény katasztrofális lehet. Az ilyen rendszerek átvehetik a fizikai erőforrások irányítását, mivel sok feladatot jobban vagy hatékonyabban lehet végrehajtani. Mivel az AI-rendszereket a maximális hatékonyság elérésére tervezték, az irányítás elvesztése súlyos következményekkel járhat.
Mikor jelentkezik az AI-vezérlési probléma?
A fő probléma az, hogy minél jobb egy mesterséges intelligencia rendszer, annál nehezebb az emberi felügyelőnek felügyelnie a technológiát, hogy a kézi vezérlés könnyen átvehető legyen, ha a rendszer meghibásodik. Ezenkívül az emberek hajlamosabbak egy automatizált rendszerre támaszkodni, ha a rendszer az idő nagy részében megbízhatóan működik.
Remek példa erre a Tesla Full-Self Driving (FSD) csomag. Míg az autó képes önmagát vezetni, egy embernek a kormányon kell lennie, és készen kell állnia arra, hogy átvegye az irányítást az autó felett, ha a rendszer meghibásodik. Azonban ahogy ezek a mesterséges intelligencia rendszerek egyre megbízhatóbbakká válnak, még a legéberebb ember figyelme is megváltozik, és az autonóm rendszertől való függés fokozódik.
Mi történik tehát, ha az autók olyan sebességgel kezdenek haladni, amellyel az emberek nem tudnak lépést tartani? A végén átadjuk az irányítást az autó autonóm rendszereinek, ami azt jelenti, hogy egy mesterséges intelligencia rendszer fogja irányítani az életét, legalábbis addig, amíg el nem éri célját.
Megoldható az AI-vezérlési probléma?
Két válasz létezik arra, hogy az AI-vezérlési probléma megoldható-e vagy sem. Először is, ha szó szerint értelmezzük a kérdést, akkor az irányítási probléma nem oldható meg. Semmit nem tehetünk, ami közvetlenül az emberi hajlamot célozza meg, hogy egy automatizált rendszerre hagyatkozzon, amikor az legtöbbször megbízhatóan és hatékonyabban működik.
Ha azonban ezt a tendenciát az ilyen rendszerek jellemzőjeként vesszük figyelembe, kidolgozhatunk módszereket a szabályozási probléma megkerülésére. Például a Algoritmikus döntéshozatal és az ellenőrzési probléma Egy kutatási tanulmány három különböző módszert javasol a szorult helyzet kezelésére:
- A kevésbé megbízható rendszerek használata megköveteli, hogy az ember aktívan részt vegyen a rendszerben, mivel a kevésbé megbízható rendszerek nem jelentenek vezérlési problémát.
- Megvárni, hogy egy rendszer meghaladja az emberi hatékonyságot és megbízhatóságot, mielőtt a valós üzembe helyezné.
- Csak részleges automatizálás megvalósítása feladatbontással. Ez azt jelenti, hogy a rendszernek csak azok a részei automatizáltak, amelyekhez nem szükséges emberi kezelő egy fontos feladat elvégzéséhez. Ezt dinamikus/komplementer funkciókiosztási (DCAF) megközelítésnek hívják.
A DCAF megközelítés mindig egy emberi kezelőt helyez az automatizált rendszer élére, biztosítva, hogy az ő bemenetük irányítsa a rendszer döntéshozatali folyamatának legfontosabb részeit. Ha egy rendszer eléggé leköt ahhoz, hogy az emberi kezelő folyamatosan figyeljen, a vezérlési probléma megoldható.
Valaha valóban irányíthatjuk az AI-t?
Ahogy a mesterséges intelligencia rendszerek egyre fejlettebbé, képességesebbé és megbízhatóbbá válnak, továbbra is több feladatot hárítunk rájuk. A mesterséges intelligencia szabályozási problémája azonban megoldható a megfelelő óvintézkedésekkel és biztosítékokkal.
A mesterséges intelligencia már most megváltoztatja a világot számunkra, főleg jobbra. Amíg a technológia emberi felügyelet alatt áll, nincs miért aggódnunk.
