A Microsoft Turns Counterfit AI Security Assessment Tool nyílt forráskódú

A Microsoft megfordította az AI biztonsági kockázatértékelő eszközét, a Counterfit-t, nyílt forráskódú, lehetővé téve bárki számára, hogy ingyen kezdje el használni az eszközt. Jelenleg a szervezetek használhatják a Counterfit-et a biztonsági kockázatok felmérésének automatizálásához, biztosítva, hogy az általuk használt védelem naprakész legyen.

A Microsoft eredetileg a Counterfit belső eszközként fejlesztette ki, amely gyorsan fel tudta mérni az AI és a gépi tanulási rendszerek biztonságát. Szkriptek gyűjteményeként kezdte az életét, mielőtt gyorsan átalakult egy általános AI-automatikává, amelyet az operátor egyszerre "több AI-rendszer megtámadására" használhat.

A Microsoft mostantól rendszeresen használja a Counterfit alapvető eszközként az AI piros csapatának működésében. Mivel a Counterfit környezet, modell és adat agnosztikus, az eszköz impedancia nélkül képes pontos értékelést készíteni.

Maga az eszköz biztonsági szakemberek számára készült. A Counterfit hasonló munkafolyamatokat használ, mint más népszerű vörös csapat eszközök, például a Metasploit vagy a PowerShell Empyre, kiterjedt támogatással parancsfájlokhoz, előre betöltött támadási algoritmusokhoz, sebezhetőségi vizsgálatokhoz, fejlett naplózásokhoz és egyebekhez, a parancssoron keresztül érhető el.

A Microsoft széleskörűen együttműködött biztonsági szakemberekkel és nagy szervezetekkel a Counterfit jobb fejlesztése érdekében is. A Microsoft Security blog, Matilda Rhode, az Airbus vezető kiberbiztonsági kutatója elmondta:

Az AI-t egyre inkább használják az iparban; létfontosságú előre tekinteni ennek a technológiának a biztosítására, különösen annak megértése érdekében, hol valósíthatók meg a funkciótér-támadások a problémás térben. Nyílt forráskódú eszközök kiadása egy olyan szervezettől, mint a Microsoft, a biztonsági szakemberek értékelésére az AI rendszerek biztonsága üdvözlendő és egyértelmű jelzés arra, hogy az ipar vállalja ezt a problémát Komolyan.

Megtalálhatja a nyílt forráskódot Microsoft Counterfit hivatalos GitHub-on.

Összefüggő: Olyan munkákat, amelyeket soha nem tudtál elvégezni az AI által

Miért hasznos a hamisítvány?

Még a Microsoft méretű társaság számára sem könnyű elvégezni a hatékony biztonsági értékeléseket, különösen akkor, ha ezek a vállalatok óriási Fortune 500 vezetők, kormányok, nonprofit szervezetek és még sok más. Egy korábbi Microsoft-tanulmány szerint nagyszámú vállalkozás nem tudta pontosan tesztelni mesterséges intelligencia-rendszerét.

Megállapítottuk, hogy 28 vállalkozásból 25 jelezte, hogy nincs megfelelő eszköze a mesterséges intelligencia rendszereinek biztosításához, és hogy a biztonsági szakemberek konkrét útmutatást keresnek ezen a téren.

A Counterfit megkönnyíti az értékelések elvégzését, automatizálja az elemzés és a tesztelés folyamatát.

Összefüggő: Milyen módszerekkel használhatja az AI technológiát vállalkozásának fejlesztésére?

Továbbá egy nemrég megjelent Gartner-tanulmány A mesterséges intelligencia-biztonság bevezetését az egyik legfontosabb biztonsági intézkedésként sorolta fel, amelyet a vállalat megtehet a védelem javítása érdekében. Ugyanez a tanulmány megállapította, hogy "2024-re azok a szervezetek, amelyek dedikált mesterséges intelligencia-kockázatkezelési ellenőrzéseket hajtanak végre, kétszer olyan gyakran sikerül elkerülni a mesterséges intelligencia-eredményeket, mint azok, amelyek nem."

Röviden, a Counterfit nyílt forráskódú mesterséges intelligencia-biztonsági eszközzé válása elősegítheti a világ kissé biztonságosabbá tételét.

Ez a 4 víruskereső eszköz mesterséges intelligenciát használ a rendszer védelme érdekében

A következő víruskereső előfizetésének tartalmaznia kell mesterséges intelligenciát, vagy ez csak egy újabb biztonsági szó?

Olvassa el a következőt

A szerzőről