(AFP-NTB-NPK): For to veker sidan klarte ein KI-modell å gjennomføre eit reelt dataangrep for eiga maskin. No har over 30 teknologigigantar inngått ein avtale om tryggingssamarbeid.

Gruppa har fått namnet Open Secure AI Alliance, og blant medlemmene er Nvidia, Microsoft, IBM, Palantir, SpaceXAI, CrowdStrike, Cisco og Dell.

– Formålet i alliansen er å utvikle verktøy for cyberforsvar med kunstig intelligens som tryggingsteam kan inspisere, endre og køyre på eigne system, opplyser gruppa i ei fråsegn måndag.

Det var selskapet Hugging Face som førre veke oppdaga at systema deira var hacka veka før. Det viste seg å vere KI-modellar frå OpenAI som stod bak.

Hendinga er det første kjende tilfellet der ein KI-modell på eiga hand gjennomførte eit reelt dataangrep.

OpenAI opplyser at to KI-modellar opererte i eit testmiljø der det ikkje skal vere mogleg å få tilgang til internett, men at dei slo seg saman og ved hjelp av «betydeleg datakraft braut seg ut og nådde internettet».

Då Hugging Face prøvde å stanse angrepet med amerikanske KI-modellar, blokkerte innebygde tryggingsmekanismar arbeidet. I staden løyste den kinesiske modellen GLM 5.2, frå Zhipu AI, problemet.

(©NPK)