Microsoft lancia Guardian Agents: una nuova frontiera nella sicurezza degli agenti AI

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una nuova serie di strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha sottolineato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori o essere manipolati, rendendo necessaria una supervisione continua.

Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle misure di sicurezza già avviate, come il Project Perception e la cyber stack di Microsoft. Questi strumenti coordinano agenti specializzati per analizzare i dati di sicurezza, identificare vulnerabilità e gestire eventuali rimedi. In particolare, il Project Perception utilizza tre categorie di agenti (red, blue e green) per testare, investigare e correggere le minacce. Con l’introduzione dei Guardian Agents, Microsoft mira a proteggere gli “agentic insiders” attraverso un sistema di monitoraggio che condivide segnali e contesto con Microsoft Agent 365, offrendo una visione integrata dei rischi e delle operazioni degli agenti.

I controlli proposti dai Guardian Agents si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti chiave: identità, permessi, dati, endpoint, rete, cloud e runtime. Le quattro responsabilità principali includono: conoscere l’esistenza e il comportamento degli agenti; contenere l’accesso e le azioni prima che si verifichino; proteggere i dati e le risorse utilizzate dagli agenti; e adattare continuamente le protezioni in base al comportamento e al contesto.

Tra le funzionalità innovative annunciate, spicca la scoperta estesa di 35 nuovi tipi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft ha ampliato il Microsoft Entra Agent ID per includere nuovi tipi di identità, facilitando il riconoscimento di agenti locali e sconosciuti attraverso sensori di sicurezza. Per garantire un controllo operativo efficace, sono state introdotte Dynamic Permissions, che limitano l’accesso degli agenti alle risorse necessarie per specifici compiti; Dynamic Agent Risk, che valuta le potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti limitando i permessi o richiedendo l’intervento umano. In situazioni estreme, è possibile fermare e isolare un agente.

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e veloce, integrando sensori, contesto e attuatori su tutta la pila di sicurezza. Questo approccio mira a comprendere i rischi emergenti associati agli agenti AI e ad adattare le contromisure in tempo reale, garantendo una protezione robusta e reattiva.