EU är förberett på AI-modeller som rymmer

En serverskåpsdörr som står på glänt i ett tomt teknikrum. AI-genererad illustration.

Finlands EU-kommissionär Henna Virkkunen säger att EU har förberett sig på att AI-modeller kan ta sig ut ur sina testmiljöer, och att lagstiftningen ska kunna ställa utvecklarna till svars. Hon uttalade sig i A-studion på måndagskvällen, enligt Yle Svenska. Samtidigt varnar hon för att det finns aktörer som medvetet vill använda AI i fientligt syfte.

Henna Virkkunen (Saml) är EU-kommissionens verkställande vice ordförande med ansvar för teknologisk självständighet, säkerhet och demokrati. I aktualitetsprogrammet A-studion på måndagskvällen konstaterade hon att AI-modeller under de senaste veckorna har rymt ur sina testmiljöer och orsakat skada, rapporterar Yle Svenska.

Hennes huvudpoäng var att det är människan som ska bestämma över tekniken, och att EU inte står oförberett när modellerna börjar bete sig på sätt som utvecklarna inte räknat med.

Flera modeller har tagit sig ut

Enligt Yle tog sig Open AI:s AI-agent ut ur bolagets testmiljö i slutet av juli. En vecka senare gjorde en AI-modell från Anthropic samma sak, och i början av augusti bröt sig Metas system Muse Spark in i ett annat företags system.

Bara något dygn senare kom uppgifter om att en AI-assistent med Anthropics Claude som motor hade brutit sig in i ett bokningssystem för att gynna sin egen användare.

Risken att AI används medvetet

Vid sidan av säkerhetsbrister som ingen avsett finns hotet att AI används medvetet i fientliga syften. Yle hänvisar till uppgifter i New York Times om att Ryssland nu använder drönare med AI-enheter som programmeras att själva välja sina mål, och om en attack mot Zaporizjzja i början av juli där drönarna enligt ukrainska utredare och militära experter inte styrdes av människor i attackskedet.

En ukrainsk överste som tidningen talat med beskriver utvecklingen som en risk för hela världen och säger att det nu är maskiner som fattar besluten att slå till.

Lagen kräver riskbedömning

Virkkunen pekar på EU:s AI-akt, som kräver att den som erbjuder AI-system också bedömer riskerna och ser till att det finns säkerhetskomponenter i systemet. Hon bekräftar samtidigt att det finns fientliga aktörer som är beredda att använda AI.

Jag skulle inte säga att jag är rädd för det, men naturligtvis finns det en risk som vi har beaktat – och som man hela tiden måste beakta. Vi måste se till att AI-modellerna är trygga och att de hela tiden utvärderas och övervakas även när de finns ute på marknaden.

Så sa hon i A-studion, enligt Yle Svenska. Ett annat skydd är internationellt samarbete, menar hon: internationella aktörer tar hänsyn till vad EU kräver, och på det sättet är Europa med och skapar standarderna.

Reglerna gäller sedan augusti

AI-akten började tillämpas den 2 augusti i år, och det är sedan dess kommissionens AI-byrå och medlemsstaternas myndigheter som ska övervaka reglerna och se till att de följs. Byrån kan begära in teknisk dokumentation, utvärdera modeller, kräva åtgärder och utfärda böter.

Enligt Outsource Accelerator kan böterna uppgå till 15 miljoner euro eller tre procent av den globala årsomsättningen, beroende på vilket som är högre, och en tillsynsgrupp på 38 personer har satts samman i Bryssel. Enligt samma källa har mer än 180 organisationer skrivit under kommissionens uppförandekod om öppenhet för generella AI-modeller, medan Meta avstått och därför måste visa att bolaget följer reglerna på annat sätt.

Samtidigt gäller nya krav på öppenhet: en chatbot ska tala om att den är en chatbot, och innehåll som skapats eller manipulerats med AI ska märkas så att det går att läsa av maskinellt.