Az AI hanggenerátorok jelentik a következő nagy biztonsági fenyegetést?

A mesterséges intelligencia (AI) egy hatékony technológia, amely azt ígéri, hogy megváltoztatja életünket. Ez még soha nem volt olyan egyértelmű, mint manapság, amikor a hatékony eszközök bárki számára elérhetőek, aki rendelkezik internetkapcsolattal.

Ide tartoznak az AI hanggenerátorok, a fejlett szoftverek, amelyek képesek az emberi beszédet olyan kompetens módon utánozni, hogy lehetetlen megkülönböztetni a kettőt. Mit jelent ez a kiberbiztonság szempontjából?

Hogyan működnek az AI hanggenerátorok?

A beszédszintézis, az emberi beszéd mesterséges előállításának folyamata évtizedek óta létezik. És mint minden technológia, ez is mélyreható változásokon ment keresztül az évek során.

A Windows 2000 és XP operációs rendszert használók emlékezhetnek a Microsoft Samre, az operációs rendszer alapértelmezett szövegfelolvasó férfihangjára. A Microsoft Sam elvégezte a munkát, de a hangok robotikusak, merevek és természetellenesek voltak. A ma rendelkezésünkre álló eszközök lényegesen fejlettebbek, nagyrészt a mély tanulásnak köszönhetően.

A mély tanulás a gépi tanulás módszere amely mesterséges neurális hálózatokon alapul. Ezeknek a neurális hálózatoknak köszönhetően a modern mesterséges intelligencia szinte úgy képes feldolgozni az adatokat, ahogy az emberi agy neuronjai értelmezik az információkat. Ez azt jelenti, hogy minél inkább emberszerű a mesterséges intelligencia, annál jobban utánozza az emberi viselkedést.

Dióhéjban így működnek a modern AI hanggenerátorok. Minél több beszédadatnak vannak kitéve, annál ügyesebbek lesznek az emberi beszéd utánzásában. Ennek a technológiának a viszonylag közelmúltbeli fejlesztéseinek köszönhetően a legkorszerűbb szövegfelolvasó szoftver lényegében képes reprodukálni az általa betáplált hangokat.

Hogyan használják a fenyegető szereplők az AI hanggenerátorokat

Nem meglepő módon a fenyegetés szereplői visszaélnek ezzel a technológiával. És nem csak a szó tipikus értelmében vett kiberbűnözők, hanem dezinformációs ügynökök, csalók, feketekalapos marketingesek és trollok is.

Abban a pillanatban, amikor 2023 januárjában az ElevenLabs kiadta a szövegfelolvasó szoftverének béta verzióját, a 4chan üzenőfal szélsőjobboldali trolljai visszaélni kezdtek vele. A fejlett mesterséges intelligencia segítségével olyan személyek hangját reprodukálták, mint David Attenborough és Emma Watson, és úgy tűnt, mintha a hírességek aljas, gyűlölködő tirádokat folytatnának.

Mint Helyettes Az akkori beszámolók szerint az ElevenLabs elismerte, hogy az emberek visszaélnek a szoftverével, különösen a hangklónozással. Ezzel a funkcióval bárki „klónozhatja” egy másik személy hangját; nincs más dolga, mint feltölteni egy egyperces felvételt, a többit pedig az AI elvégzi. Feltételezhető, hogy minél hosszabb a felvétel, annál jobb a kimenet.

2023 márciusában egy vírusos TikTok-videó keltette fel a figyelmet A New York Times. A videóban a híres podcaster, Joe Rogan és Dr. Andrew Huberman, a The Joe Rogan Experience gyakori vendége egy "libido-növelő" koffeines italról beszélgettek. A videóból úgy tűnt, mintha Rogan és Huberman is egyértelműen támogatná a terméket. A valóságban a hangjukat mesterséges intelligencia segítségével klónozták.

Körülbelül ugyanebben az időben a kaliforniai székhelyű Santa Clara-i Szilícium-völgy Bank kockázatkezelési hibák és egyéb problémák miatt összeomlott, és az állam kormánya vette át. Ez volt a legnagyobb bankcsőd az Egyesült Államokban a 2008-as pénzügyi válság óta, ezért sokkhullámokat küldött a globális piacokon.

A pánikhoz Joe Biden amerikai elnök hamis hangfelvétele járult hozzá. A felvételen láthatóan hallatszott, hogy Biden figyelmeztetett egy küszöbön álló "összeomlásra", és arra utasította adminisztrációját, hogy "a média teljes erejét használja a nyilvánosság megnyugtatására". A tényellenőrzőknek tetszik PolitiFact gyorsan leleplezték a klipet, de valószínűleg milliók hallották addigra.

Ha a mesterséges intelligencia hanggenerátorai használhatók hírességek megszemélyesítésére, akkor hétköznapi emberek megszemélyesítésére is, és pontosan ezt teszik a kiberbűnözők. Alapján ZDNet, amerikaiak ezrei esnek bele a csalásokba, amelyek ún vishing vagy hangalapú adathalászat minden évben. Egy idős házaspár 2023-ban országos híradásokra került, amikor felhívta őket "unokája", aki azt állította, hogy börtönben van, és pénzt kért.

Ha valaha feltöltöttél YouTube-videót (vagy szerepeltél egyben), részt vett egy nagy csoportos beszélgetésben olyanokkal, akikkel nem ismeri, vagy valamilyen minőségben feltöltötte hangját az internetre, Ön vagy szerettei elméletileg veszélyben lehetnek. Mi akadályozna meg egy csalót abban, hogy feltöltse a hangját egy mesterséges intelligencia-generátorba, klónozza azt, és kapcsolatba lépjen a családjával?

Az AI hanggenerátorok megzavarják a kiberbiztonsági tájat

Nincs szükség kiberbiztonsági szakértőre ahhoz, hogy felismerje, mennyire veszélyes lehet az AI rossz kezekben. És bár igaz, hogy ugyanez elmondható minden technológiáról, az AI több okból is egyedülálló fenyegetést jelent.

Egyrészt viszonylag új, ami azt jelenti, hogy nem igazán tudjuk, mit várjunk tőle. A modern mesterséges intelligencia eszközök lehetővé teszik a kiberbűnözők számára, hogy soha nem látott módon méretezzék és automatizálják műveleteiket, miközben kihasználják a nyilvánosság relatív tudatlanságát az ügyben. Ezenkívül a generatív AI lehetővé teszi a csekély tudással és jártassággal rendelkező fenyegetés szereplői számára rosszindulatú kódot hozzon létre, átverő oldalakat építeni, spamet terjeszteni, adathalász e-maileket írni, valósághű képeket generál, és végtelen órányi hamis audio- és videotartalmat készít.

Lényeges, hogy ez mindkét irányban működik: az AI-t a rendszerek védelmére is használják, és valószínűleg még évtizedekig. Nem lenne ésszerűtlen azt feltételezni, hogy ami vár ránk, az egyfajta mesterséges intelligencia fegyverkezési verseny a kiberbűnözők között és a kiberbiztonsági ipar, mivel ezeknek az eszközöknek a védekező és támadó képessége eredendően egyenlő.

Az átlagember számára a széles körben elterjedt generatív mesterséges intelligencia megjelenése radikálist igényel a biztonsági gyakorlatok újragondolása. Bármilyen izgalmas és hasznos is a mesterséges intelligencia, legalább elmoshatja a határvonalat a valóság és a mi között nem, és a legrosszabb esetben súlyosbítja a meglévő biztonsági problémákat, és új mozgásteret biztosít a fenyegetés szereplői számára ban ben.

A hanggenerátorok megmutatják az AI pusztító potenciálját

Amint a ChatGPT megjelent a piacon, felpörögtek az AI szabályozásáról szóló tárgyalások. A technológia korlátozására irányuló minden kísérlet valószínűleg olyan nemzetközi együttműködést igényel, amilyenre évtizedek óta nem volt példa, ami valószínűtlenné teszi.

A dzsinn kikerült a palackból, és a legjobb, amit tehetünk, hogy megszokjuk. Ez, és reméljük, hogy a kiberbiztonsági szektor ennek megfelelően alkalmazkodik.