Hogyan használják a hackerek a generatív AI-t támadásaikban, és mit tehetünk ellene

A generatív mesterséges intelligencia (AI) az utóbbi időben a reflektorfénybe került. A mesterséges intelligencia által működtetett chatbot A ChatGPT és más természetes nyelvi feldolgozást támogató rendszerek, mint például a VALL-E, elhozták a generatív mesterséges intelligenciát a nagyközönség számára, és felszabadították előnyeit és káros hatásait.

A generatív AI-val kapcsolatos egyik alapvető aggodalom az, hogy felhasználható rosszindulatú kizsákmányolások frissítésére és kifinomultabb kibertámadásokra. Tehát hogyan használják a hackerek a generatív mesterséges intelligenciát támadásaikban, és mit jelent ez a kiberbiztonság jövője szempontjából?

Mi az a generatív AI és hogyan működik?

Ahogy a neve is sugallja, a generatív mesterséges intelligencia a mesterséges intelligencia egy olyan típusa, amely képes új tartalmat – képeket, szöveget, hangot és szintetikus adatokat – generálni.

Az egyik híres példa a ChatGPT, egy mesterséges intelligencia-alapú chatbot, amellyel emberszerű beszélgetéseket folytathat, és kap néhány kiváló filmajánlatot – vagyis ha nem tud értelmesebb küldetést találni a ChatGPT küldésére tovább.

Adjunk egy-két ötletet – megteheti kérje meg a ChatGPT-t, hogy írja meg azokat a nehéz e-maileket, hasznosítani A ChatGPT mint fordítóeszköz, sőt még alakítsa a ChatGPT-t egészséges étkezéstervező asszisztensévé. Összességében elmondható, hogy ez a chatbot pillanatok alatt újnak tűnő, meggyőző tartalommal tud előrukkolni és politikailag meglehetősen korrekt módon bemutatni.

Egy generatív mesterséges intelligencia azonban még nem lehet olyan kreatív, mint az ember. Ennek az az oka, hogy felügyelt és félig felügyelt gépi tanulási algoritmusokat használ rettenetesen sok adat feldolgozásához és egyedi kimenetek generálásához.

Ha például egy Picasso-szerű festményt szeretne megrendelni egy generatív mesterséges intelligenciáról, például a DALL-E 2-ről, akkor be kell írnia a leírását egy kijelölt mezőben – mondjuk „Picasso's Guernica, de kiscicákkal” –, és maradjon itt néhány másodpercig. Ezalatt az idő alatt a mesterséges intelligencia alkalmazza a művész stílusának minden olyan sajátos vonását, amelyet korábban megtanult kiscicák jó mércéig, és találjunk ki valami eredetit – ezt a képet kaptuk, amit kicsit láthatunk felett.

Hogyan használják a hackerek a generatív mesterséges intelligenciát támadásaikban?

A rosszfiúkat mindig is vonzották a jó algoritmusok. Így nem meglepő, hogy a generatív AI-t használják ki támadásaik fellendítésére. Az ML módszerek, például a megerősítési tanulás és a generatív ellenséges hálózatok felhasználásával, a kiberbűnözők új, kifinomultabb kibertámadásokkal állhatnak elő, amelyek áttörhetik a szabványt kibervédelem.

Ennek a perverziónak egyik példája az OpenAI „cutting edge” chatbotja, as A ChatGPT-t a kiberbűnözők kihasználják rosszindulatú programok írásához. Eleinte a ChatGPT szórakoztatónak és játéknak tűnt, de mostanra az egyik legnagyobb biztonsági és adatvédelmi fenyegetésnek tűnik. Ha szeret csevegni a ChatGPT-vel, okos, ha figyel a amit a kiberbűnözők megtehetnek a ChatGPT-vel.

Röviden: a ChatGPT és más generatív AI-eszközök megkönnyítették a kiberbűnözők életét, és megnehezítették a biztonsági csapatok életét. A számítógépes fenyegetések szereplői a mesterséges intelligencia támadásai során a következők:

• Jobb, kifinomultabb rosszindulatú programok készítése: A hackerek kezében a generatív mesterséges intelligencia nehezen észlelhető rosszindulatú programtörzsek generálására és támadások végrehajtására használható. A mesterséges intelligencia modellekkel kombinálva a rosszindulatú programok elfedhetik szándékukat, amíg el nem érik rossz célját.
• AI-alapú, személyre szabott adathalász e-mailek írása: A generatív mesterséges intelligencia segítségével az adathalász e-mailek már nem rendelkeznek az átverés árulkodó jeleivel – például rossz helyesírással, rossz nyelvtannal és szövegkörnyezet hiányával. Ráadásul a ChatGPT-hez hasonló mesterséges intelligencia segítségével a fenyegetés szereplői soha nem látott sebességgel és léptékű adathalász támadásokat indíthatnak.
• Mély hamis adatok generálása: Mivel képes meggyőző utánzatokat készíteni az emberi tevékenységekről – például írásról, beszédről és képek – a generatív mesterséges intelligencia felhasználható olyan csalárd tevékenységekre, mint a személyazonosság-lopás, a pénzügyi csalás és dezinformáció.
• CAPTCHA-k feltörése és jelszókitalálás: A webhelyek és hálózatok a jogosulatlan hozzáférést kereső robotok kifésülésére használják, a CAPTCHA-t most már megkerülhetik a hackerek. Az ML használatával más ismétlődő feladatokat is végrehajthatnak, például jelszókitalálást és brute-force támadásokat.
• Az ML szabotálása a kiberfenyegetések észlelésében: Ha egy biztonsági rendszert túl sok téves pozitív érték áraszt el, egy hacker meglepheti egy valódi kibertámadással.

Hogyan küzdhetünk le a generatív mesterséges intelligencia veszélye ellen?

Ahogy a kibertámadások egyre kifinomultabbak, következményeik pedig súlyosabbak lesznek, a hagyományos biztonsági rendszerek a letűnt kor dolgaivá válnak. A korábbi támadásokból tanulni és alkalmazkodni képes mesterséges intelligencia felbecsülhetetlen érték mind a kiberbűnözők, mind pedig ellenfeleik számára.

A mesterséges intelligencia kiberbiztonsági felhasználása komoly előnyökkel jár, mint például a gyorsabb fenyegetésészlelés, fenyegetés-azonosítás és fenyegetés-reakció – tehát a tűz tűzzel oltása tűnik a megfelelő válasznak. Mielőtt a kiberbűnözők megtanulnák, hogyan kell megsemmisíteni az egyéneket és a vállalatokat szerte a világon A világban a kiberbiztonsági szakembereknek meg kell tanítaniuk mesterségesintelligencia-alapú rendszereiket, hogy megvédjék magukat ezektől támadások.

Ez azonban nem az AI-n múlik. Hiszen saját biztonságunkat és magánéletünket is erősíthetjük olyan jól bevált módszerekkel, mint a többtényezős hitelesítés (MFA), biometrikus technológia, jelszókezelő használata, legjobban titkosított együttműködési eszközök, és egy jó, régi józan ész.

Harc az AI-val az AI-val

Tehát tanúi leszünk a mesterséges intelligencia kiberbiztonsági háborúinak a közeljövőben? Nos, reméljük nem. Ahogy azonban a mesterséges intelligencia folyamatosan fejlődik, és mindenki számára elérhetővé válik – a kiberbűnözők és a kiberbiztonsági szakemberek számára egyaránt –, az AI és az ML szerepe az elkövetkező években egyre nagyobb lesz.