- 마이크로소프트가 10월 19일 AI 에이전트를 감시하는 Guardian Agents와 Defender 에이전트 탐지 기능을 공개했습니다.
- Defender는 직원이 몰래 들여온 Claude Code, Codex 등 최대 60종의 에이전트를 찾아냅니다.
- 핵심 논리는 지능의 공급과 그 지능에 대한 통제권을 분리하라는 것입니다.
- 에이전트를 쓰는 기업은 권한 최소화, 위험 행동 사전 승인, 독립 감시 체계를 먼저 점검해야 합니다.
AI 에이전트를 직원처럼 쓰자던 흐름에 제동이 걸렸습니다. 마이크로소프트가 에이전트를 내부자 위협에 빗대며, 모델을 만든 회사의 안전 보증만 믿지 말고 별도의 감시 장치를 두라고 공개적으로 권고했기 때문입니다. 에이전트를 도입했거나 도입을 앞둔 사장님이라면 이번 발표의 의미를 짚어볼 필요가 있습니다.
마이크로소프트가 공개한 것
감시 에이전트와 탐지 기능
TechCrunch 보도에 따르면 마이크로소프트는 10월 19일 기업을 AI 에이전트의 위협에서 보호하는 새 보안 기능을 선보였습니다. 가장 눈에 띄는 것은 회사가 쓰는 AI 에이전트를 지켜보는 Guardian Agents입니다. 이는 6월에 처음 소개한 Project Perception의 일부입니다.
Microsoft Defender에는 에이전트 탐지 기능이 추가됐습니다. 직원들이 업무에 들여오는 Claude Code, Codex, OpenClaw 같은 에이전트를 최대 60종까지 찾아낼 수 있다고 합니다. 데이터와 시스템에 대한 접근을 제한하고, 작업에 따라 권한을 동적으로 조정하며, 위험해 보이는 결정에는 사람의 승인을 받도록 하는 통제도 포함됩니다.
Project Perception의 구조
Project Perception은 공격 경로를 찾는 레드팀, 위험을 판단하는 블루팀, 취약점을 고치는 그린팀 에이전트가 하나의 고리로 움직이는 방어 시스템입니다. 7월 발표 당시에는 외부 해킹 모델에 대응하는 도구로 설명됐습니다. 이번에는 위협의 출처가 외부가 아니라 회사 안에서 일하는 에이전트 자신이라는 관점이 더해졌습니다.
AI Biz Insider 분석 — 방어 도구가 외부 해커용에서 내부 에이전트용으로 확장됐다는 점이 핵심입니다. 에이전트 도입 예산을 짤 때 이제 보안 감시 비용을 별도 항목으로 잡아야 합니다.
왜 AI 공급사를 믿지 말라고 할까
나델라의 지능과 권한 분리론
보도에 따르면 사티아 나델라 CEO는 10월 초 블로그 글에서 기업이 AI 모델 공급사를 신뢰하는 데 그쳐서는 안 된다고 주장했습니다. 공급사가 안전을 약속하더라도, AI 연구소가 만든 에이전트를 감시하고 통제하는 시스템은 연구소 바깥에 있어야 한다는 취지입니다. 그는 지능의 공급과 그에 대한 권한을 분리해야 한다고 썼습니다.
보안 사업을 이끄는 헤이엣 갈롯 역시 최첨단 모델은 신뢰할 수 없다고 적었습니다. 악의나 해킹 용이성 때문이 아니라 예측할 수 없기 때문입니다. 모델은 과업을 달성하도록 훈련됐지, 조직의 규범이나 판단을 따르도록 훈련되지 않았다는 설명입니다.
시장의 계산도 깔려 있다
TechCrunch는 이 메시지에 사업적 계산이 있다고 짚었습니다. 마이크로소프트는 OpenAI와 Anthropic 모두에 투자했고 자체 AI 연구소도 운영하지만, 에이전트 보안 상품은 AI 연구소가 아닌 클라우드 사업자인 자사에서 사라는 입장입니다. 감사인이 피감 조직으로부터 독립해야 한다는 논리는 타당하나, 판매자의 이해관계가 섞여 있다는 점은 감안해야 합니다.
AI Biz Insider 분석 — 독립 감시라는 원칙은 마이크로소프트 제품을 사지 않아도 적용됩니다. 어느 벤더를 고르든 에이전트를 만든 곳과 감시하는 곳이 같지 않은지 확인하는 것이 출발점입니다.
도입 기업이 지금 점검할 것
다섯 가지 통제 항목
기사가 시사하는 실무 과제는 다섯 가지로 정리됩니다. 첫째, 지능을 공급하는 곳과 이를 감독하는 곳을 분리합니다. 둘째, 직원이 허락 없이 쓰는 비공식 에이전트까지 포함해 실제 가동 중인 에이전트를 파악합니다. 셋째, 데이터와 시스템 접근 범위를 줄이고 작업별로 권한을 나눕니다. 넷째, 위험한 결정에는 사람의 승인을 요구합니다. 다섯째, 문제가 생기면 즉시 멈출 수 있도록 격리된 환경에서 실행합니다.
Nvidia가 내놓은 Open Agent Safety Platform도 같은 방향입니다. 마이크로소프트를 비롯해 100곳이 넘는 기술 기업이 지지하며, 에이전트를 안전한 환경에 가두고 하드웨어 수준에서 동작을 감시하고 중단시키는 킬 스위치에 가까운 구조라고 합니다.
소규모 기업이라면 먼저 어떤 에이전트가 어떤 계정과 데이터에 접근하는지 목록부터 만드는 것이 현실적입니다. 파악하지 못한 에이전트는 통제할 수 없고, 통제하지 못하는 에이전트는 편리함보다 위험이 커지기 때문입니다.
AI Biz Insider 분석 — 에이전트 시대의 경쟁력은 얼마나 많이 쓰느냐보다 얼마나 통제하며 쓰느냐로 옮겨가고 있습니다. 이번 발표는 그 기준선을 업계가 공개적으로 인정했다는 신호입니다.
관련 글
- 인재만 쏙 빼갔습니다…
- Anthropic Is Giving Away 5% of Itself. Why?
- 단골 고객이 떠났습니다…
- AI 대출 심사까지 맡는다…Vesta, 3,000만 달러 유치
- EliseAI 투자 3.5억 달러 유치, 기업가치 40억 달러
출처
- TechCrunch — Microsoft says AI agents are like insider threats (2026.10.19)
- Redmond Magazine — Microsoft unveils Project Perception (2026.07.27)
AI Biz Insider · AI 비즈니스 · aibizinsider.com
답글 남기기