Klasszhírek

Az Anthropic Mythos modellje órák alatt többszáz kritikus hibát talált az amerikai kormányzati rendszerekben

Az Anthropic Claude Mythos nevű mesterségesintelligencia-modellje egy szűk körű amerikai kormányzati tesztprogram keretében néhány óra alatt több száz súlyos biztonsági rést tárt fel szövetségi kormányzati informatikai rendszerekben. A fejlemény rávilágít, milyen sérülékeny az amerikai állami szoftverállomány, és újabb jele a mesterséges intelligencia, valamint a szövetségi hatóságok között feszülő kapcsolatnak.

Megjelent:

Röviden

  • A Project Glasswing teszt során a Mythos modell néhány óra alatt több száz kritikus sebezhetőséget talált.
  • A program célja a hibák feltárása volt, mielőtt valódi támadók kihasználhatnák azokat.
  • Az NSA hozzáférése az Anthropic csúcstechnológiájához megszűnt a felek közötti feszültség miatt.

A teszt célja az volt, hogy még a valódi támadók előtt feltárják a biztonsági hiányosságokat, így a hatóságok időben kijavíthassák azokat.

A program részletei szűk körben ismertek, a kormányzati szoftverek sérülékenysége ugyanakkor a korábbi várakozásoknál is nagyobbnak bizonyult. A teszt rámutatott, hogy a mesterséges intelligencia a kiberbiztonsági auditokban a hagyományos eszközöknél jóval gyorsabban és szélesebb körben képes feltárni a rejtett hibákat.

A fejlesztőcég és a washingtoni adminisztráció közötti viszony az utóbbi időben feszültté vált. Ennek egyik jeleként a Nemzetbiztonsági Ügynökség (NSA) elveszítette a hozzáférését a vállalat csúcstechnológiájához. A mostani eredmények várhatóan újabb vitát indítanak arról, hogyan és milyen feltételekkel vehetik igénybe az amerikai szövetségi szervek a kereskedelmi mesterségesintelligencia-rendszereket.

Hírháttér

Az Anthropic egyik vezető amerikai mesterségesintelligencia-fejlesztő, amelynek Claude nevű nyelvi modellcsaládját széles körben használják vállalati és kormányzati környezetben. A Project Glasswing a kormányzati szoftverek feltérképezésére indított szűk hozzáférésű program, amelyben mesterséges intelligenciát vetnek be a rejtett sebezhetőségek felkutatására. A washingtoni szövetségi kormányzat és a legnagyobb MI-fejlesztők kapcsolata az utóbbi hónapokban több ügyben – szabályozási viták, nemzetbiztonsági korlátozások és közbeszerzési döntések – is feszültté vált.

Források