Microsofts säkerhetsagenter kan gå från larm till åtgärd

Microsoft har presenterat Project Perception, ett system där flera AI-agenter samarbetar i företagets säkerhetsprodukter. Agenterna kan söka efter möjliga angreppsvägar, bedöma vilka risker som är viktiga och föreslå eller genomföra åtgärder.

Microsoft delar upp arbetet i tre färger. Röda agenter försöker hitta vägar som en angripare skulle kunna använda. Blå agenter undersöker signalerna och bedömer risken. Gröna agenter kan sedan rätta brister och stärka skyddet.

Det sista steget gör behörigheterna avgörande. En agent som bara får läsa en rapport kan orsaka mindre skada än en agent som får ändra konton, program eller nätverksregler. Samma automatisering som kan korta svarstiden kan också förstora ett fel om uppdraget eller underlaget blir fel.

Project Perception går in i offentlig preview den 3 augusti. Preview betyder att kunder får prova en tidig version som fortfarande kan ändras. Microsoft skriver att systemet kopplas till företagets säkerhetsprodukter, men publicerar ingen fullständig prislista eller detaljerad land- och planlista i lanseringsinlägget.

Microsoft uppger att en egen säkerhetsmodell når 96 procent i testet CyberGym och kostar nästan hälften så mycket som den nuvarande konfigurationen. En tidig kund säger också att fyra veckors analys kunde göras på fyra timmar. Det är Microsofts test och ett kundexempel, inte oberoende bevis för samma resultat i andra verksamheter.

Brittiska cybersäkerhetsmyndigheten NCSC rekommenderar att organisationer börjar med tydligt avgränsade uppgifter med låg risk. Myndigheten betonar också löpande övervakning, mänsklig kontroll och en plan för vad som ska hända när en agent gör fel eller går utanför sitt uppdrag.

En säkerhetsagent tar inte över ansvaret för ett beslut. Verksamheten behöver fortfarande bestämma vem som godkänner åtkomsten, vem som följer agentens beteende, vem som granskar incidenter och vem som kan stoppa systemet.

Varför det spelar roll

Säkerhetsarbete innehåller många återkommande kontroller där snabbare analys kan vara värdefull. Men när en AI-agent får gå från analys till förändring blir dess behörigheter en del av säkerhetsrisken. Svenska verksamheter behöver därför granska åtkomst, loggning och ansvar innan en preview får arbeta i skarpa system.

Gör så här

1. Börja med en avgränsad uppgift och testdata i en miljö där agentens åtgärder kan återställas.
2. Ge agenten minsta möjliga behörighet och skilj på att föreslå en åtgärd och att genomföra den.
3. Kräv mänskligt godkännande för ändringar som kan påverka konton, data, program eller nätverk.
4. Logga agentens underlag, beslut och åtgärder och bestäm i förväg vem som kan stoppa den.