에이전틱 SOC란? 보안 운영에서 AI 에이전트의 역할

에이전틱 SOC란?

2025년 11월, AI 개발사 Anthropic이 공개한 내용에 따르면 자사가 최초로 보고된 AI 주도 사이버 스파이 캠페인이라고 지칭한 사건을. Anthropic은 중국 정부의 지원을 받는 그룹이 자사의 Claude Code 도구를 조작해 약 30개 표적을 겨냥한 작전의 80~90%를 수행하게 했다고 높은 확신을 가지고 평가했습니다. 활동이 정점에 달했을 때 AI는 수천 건의 요청을 보냈고, 초당 여러 건씩 요청하는 경우도 많았습니다. Anthropic은 인간 해커가 따라올 수 없는 속도라고 설명했습니다. Anthropic은 보안 팀에 보안 운영 센터(SOC) 자동화, 위협 탐지, 사고 대응 등의 방어 영역에서 AI를 실험해 보라고 조언했습니다.

이 조언은 에이전틱 SOC를 정확히 가리킵니다. 에이전틱 SOC는 보안 운영 센터로, AI 에이전트가 정해진 가드레일 안에서 여러 단계의 경보 및 인시던트 대응 업무를 계획하고 실행합니다. 인간 분석가는 결정을 감독하고 판단이 필요한 사안을 처리합니다. 에이전트는 현재 수작업으로 수행하는 연결 작업을 맡습니다. 호스트 이력을 가져오고, ID 로그와 엔드포인트 텔레메트리를 연관 분석하며, 가설을 검증합니다. 그런 다음 인간이 사례를 열어보기 전에 증거를 모아 판단 결과를 도출합니다.

여기서 “에이전틱”이라는 단어에는 구체적인 의미가 있습니다. ISACA 블로그에서 QA의 Richard Beck은 오픈 소스 플랫폼 OpenClaw를 사례로 듭니다. 이 플랫폼의 에이전트는 AI 모델을 호출하고, 복잡한 작업을 나누어 하위 에이전트에 맡기며, 내부 및 외부 도구에 연결합니다. 밤새 감독 없이 실행할 수도 있습니다. 이미 사용 중인 두 기술과 비교하면 에이전트가 SOC 운영 모델에 더하는 역할이 분명해집니다.

• 생성형 AI 코파일럿은 사용자의 프롬프트를 기다리고 결정권을 사용자에게 돌려줍니다: 에이전트는 가드레일 안에서 스스로 작업을 시작하고 완료합니다.
• 보안 오케스트레이션, 자동화 및 대응(SOAR) 플레이북은 미리 정의한 스크립트의 단계를 실행합니다: 에이전트는 플레이북이 예상하지 못한 경보를 분석하고, 상황에 맞게 대응하며, 확신할 수 없을 때 분석가에게 판단을 넘깁니다.

코파일럿은 분석가의 업무를, 플레이북은 대응을 가속합니다. 에이전트는 그사이의 조사 업무를 맡아 스스로 단계를 계획하고, 상황에 맞게 조정하며, 인간이 감사할 수 있는 판단 결과를 도출합니다.

Gartner는 엔터프라이즈 애플리케이션의 40%에 2026년 말까지 작업별 AI 에이전트가 포함될 것으로 전망합니다. 2025년에는 그 비율이 5% 미만이었습니다. 보안 도구도 같은 흐름을 따르므로, 계획 여부와 관계없이 에이전트는 SOC에 도입될 것입니다. 이 가이드에서는 에이전틱 SOC의 작동 방식, 효과와 한계, 에이전트의 책임을 보장하는 거버넌스를 살펴봅니다.

에이전틱 SOC와 사이버 보안의 관계

SANS Cloud Security Exchange Summit 2026에서 Microsoft의 Wesley Kuzma와 SANS의 Chris Cochran은 이러한 변화를 직설적으로 설명했습니다. 수십 년 동안 보안 프레임워크는 “인간이 결정하고 기계가 실행한다”는 전제를 따랐지만, 에이전틱 시스템은 이 모델을 뒤집습니다. 에이전틱 SOC에서 분석가는 Tier-1 대기열을 반복 처리하는 대신 감독자와 오케스트레이터 역할을 맡습니다. 에이전트의 판단 결과를 검증하고, 비즈니스 맥락을 적용하며, 위협 헌팅을 수행하고, 에이전트 자체를 관리합니다.

에이전틱 SOC는 운영 모델입니다. SentinelOne의 Autonomous SOC 페이지는 이 모델이 나아갈 방향을 설명합니다. 하나의 플랫폼에서 탐지, 에이전틱 조사, 대응을 수행하되 중요한 결정은 분석가가 책임집니다. 이 에이전틱 SOC 전략 게시물은 조사 역량이 SOC의 핵심 제약 요인이 되었다고 설명합니다.

에이전틱 SOC의 핵심 구성 요소

2026년 연구 논문에서 제안한 AgentSOC 프레임워크는 에이전틱 SOC를 폐쇄 루프로 연결된 세 계층, 즉 인식, 에이전틱 추론, 실행 및 플레이북으로 구성합니다. 영향이 큰 대응은 분석가에게 전달해 승인을 받습니다. 다음 섹션에서는 이 모델을 바탕으로 에이전트가 무엇을 인식하고 어떻게 추론하며 누가 통제권을 유지하는지 살펴봅니다.

데이터 및 추론 계층

기반 계층은 에이전트가 볼 수 있는 정보와 이를 행동으로 전환하는 방식을 정의합니다. 각 계층은 구조화된 결과를 상위 계층에 전달합니다.

• 인식 계층: 보안 도구, 클라우드 제어 기능, 운영 체제의 경보와 로그를 정규화합니다. 자산 및 ID 맥락을 추가해 구조화된 인시던트 객체를 만듭니다.
• 에이전틱 추론 계층: 대규모 언어 모델(LLM)을 사용해 공격 가설을 제시합니다. 그런 다음 환경의 토폴로지와 권한 경로를 대조해 검증하고, 가능한 대응의 우선순위를 위험도에 따라 정합니다.
• 실행 및 플레이북 계층: 대응 플레이북을 구축하고, 영향이 큰 조치는 분석가의 승인을 받도록 전달하며, 위험도가 낮은 조치는 자동 실행으로 전환합니다.

이 계층들이 함께 원시 텔레메트리를 설명 가능한 보안 업무로 전환하는 운영 루프를 만듭니다: 구조화된 입력, 검증된 가설, 근거가 함께 제공되는 대응 단계입니다.

오케스트레이션 및 제어 계층

에이전트의 협업 방식, 유지할 컨텍스트, 사람에게 결정을 맡길 시점을 정의하여 멀티 에이전트 시스템의 운영을 제어하세요:

1. 전문 에이전트는 각각 명확히 구분된 역할을 맡습니다: 개별 에이전트는 엔드포인트 텔레메트리, ID 분석, 및 클라우드 로그 상관관계 분석을 담당하고, 총괄 오케스트레이터가 업무를 조율합니다.
2. 공유 컨텍스트와 메모리: 에이전트는 메모리 계층이나 지식 그래프를 통해 구조화된 조사 결과를 교환하여 업무 인계 후에도 조사 상태를 유지합니다.
3. 사람이 참여하는 제어 체계: 승인 점검 지점을 통해 분석가가 중대한 결정을 통제합니다. 그 예로 LanG는 SOC 파이프라인이 두 번의 필수 분석가 승인 단계에서 멈추도록 설계된 2026년 연구 플랫폼입니다.
4. 상호 운용성 패턴: 에이전트가 업무를 위임할 때 도구에 연결하고 컨텍스트를 공유하는 방식을 규정합니다.

이렇게 공유된 상태 덕분에 멀티 에이전트 보안 워크플로를 감사할 수 있습니다. SOC의 AI 에이전트를 통제 체계에 따라 운영되는 주체로 다루어야 합니다. 이러한 구성 요소가 함께 작동하는 방식에 따라 신뢰가 쌓이거나 무너지기 때문입니다.

에이전틱 SOC의 작동 방식

에이전틱 AI는 보안 운영에서 알림 접수부터 대응까지 이어지는 의사결정 루프를 따릅니다. 분류 에이전트는 모든 알림을 수집하고, 오탐을 걸러내고, 컨텍스트를 보강하며, 우선순위를 동적으로 지정합니다. 야간 근무 분석가를 기다리며 대기열에 남는 알림은 없습니다.

이어서 도구에 접근할 수 있는 조사 에이전트가 알림 컨텍스트 검색, 호스트 및 사용자 이력 조회, 아티팩트 실행 분석, 위협 인텔리전스 상관관계 분석을 병렬로 수행합니다. Forrester 분석가 Allie Mellen은 이러한 연속 작업의 작동 방식을 설명합니다. 피싱 분류 에이전트가 실제 위협임을 확인하면, 엔드포인트 분류 및 조사 에이전트가 공격의 성공 여부와 권한 상승 여부를 확인하고, 엔드포인트 대응 에이전트가 분석가에게 결정에 필요한 컨텍스트를 전달합니다.

이후 대응 에이전트는 조치 권고에서 나아가 정책 범위 내에서 승인된 조치를 모니터링하에 실행하고, 불확실성이나 정책 예외가 발생하면 사람에게 판단을 맡깁니다. 사람이 참여하는 보안 운영은 분석가가 에이전트의 중대한 결정을 검토하고 승인하는 SOC 워크플로입니다. 이를 통해 자율성이 정책 범위를 벗어나지 않도록 합니다.

사람의 감독은 아키텍처에 포함되어야 합니다. 다음 기관의 구현 가이드 초안은 Cloud Security Alliance (CSA) 권한 있는 계정 및 중요 인프라 관련 알림, 해당 환경에서 새로운 상관관계 패턴, 신뢰도가 높은 악성 판정, 정의된 임계값 미만의 신뢰도 점수를 즉시 사람이 검토할 것을 권고합니다. 이 모델에서는 에이전트가 조사하고 조치를 권고하며, 분석가는 근거를 검토하고 외부에 영향을 미치는 모든 조치를 승인합니다.

보안 운영의 에이전틱 AI는 각 단계에서 다음 단계가 루프 전반에 걸쳐 재사용할 수 있는 근거를 생성할 때 가치를 발휘합니다.

에이전틱 SOC의 주요 이점

에이전틱 SOC의 이점은 두 가지로 나뉩니다: 알림 대기열 내 탐지 범위와 일관성 향상, 그리고 보고서에 나타나는 분석가 및 비즈니스 성과입니다.

탐지 범위 및 일관성 향상

에이전틱 SOC는 모든 알림을 조사하므로, 기존 워크플로가 놓치는 알림까지 탐지 범위를 넓힙니다. 기존 SOAR는 플레이북으로 스크립트를 작성한 알림 유형만 처리합니다. 에이전트는 플레이북이 다루지 않는 알림도 분석합니다. 바로 이 영역에 놓친 침입이 숨어 있습니다.

머신 스피드에서도 일관성을 유지합니다: 에이전트는 오후 2시와 오전 2시 모두 동일한 기준에 따라 근거를 수집하며, 야간 근무 중 피로로 인한 절차 생략도 없습니다.

분석가 및 비즈니스 성과

탐지 범위와 일관성의 향상은 경영진이 추적하는 성과로 직결됩니다: 분석가의 시간 확보, 경력 이상의 성과를 내는 주니어 직원, 측정 가능한 침해 비용 변화입니다.

• 분석가의 시간 확보: 에이전트가 컨텍스트 보강과 상관관계 분석을 담당하면, 시니어 인력은 중요한 의사결정과 위협 헌팅에 시간을 집중할 수 있습니다.
• 경력 이상의 성과를 내는 주니어 직원: AI가 생성한 컨텍스트와 근거에 기반한 권고를 활용하면 Tier-1 직원도 과거에는 수년간의 패턴 인식 경험이 필요했던 결정을 내릴 수 있습니다. ISC2의 2025년 사이버 보안 인력 연구에서 증가하는 사이버 보안 역량 수요가 확인된 시장에서 이는 실질적인 이점입니다.
• 침해 비용: IBM의 2026년 데이터 침해 비용 보고서에 따르면 보안 AI와 자동화를 광범위하게 사용하는 조직은 전혀 사용하지 않는 조직보다 침해 사고당 평균 193만 달러를 절감했습니다.

핵심은 시간입니다: 에이전트는 경보부터 판단까지 걸리는 시간을 단축하고, 조직은 확보한 시간을 판단, 위협 헌팅, 더 중요한 의사결정에 투입합니다.

에이전틱 SOC의 위험

에이전트의 자율성은 새로운 위험을 수반합니다: 신뢰성과 설명 가능성 위험은 조사 과정에 존재하고, 에이전트 보안과 인력 관련 위험은 그 주변에 존재합니다.

신뢰성과 설명 가능성 위험

한 에이전트의 오류가 다른 에이전트의 입력으로 이어지면 신뢰성 위험이 커집니다. SANS Cloud Security Exchange Summit 2026에서 Graphistry CEO Leo Meyerovich는 작업별 오류가 얼마나 빠르게 누적되는지 보여주었습니다. 10개 작업으로 이루어진 조사에서 AI가 각 단계마다 70%의 정확도를 보인다면 사례의 97%가 완료되지 않습니다. 따라서 전체 조사 결과를 신뢰하려면 먼저 작업별 정확도가 높아야 합니다.

판단 근거를 제시하지 못하는 에이전트는 규정 준수 위험을 초래하고 잘못된 동작을 바로잡기 어렵게 만듭니다. NIST AI 위험 관리 프레임워크(AI RMF)는 AI 시스템 수명 주기 전반에서 거버넌스, 책임성, 투명성을 강조합니다. 근거 없는 판단은 이 세 가지를 모두 저해합니다.

데이터 인프라와 품질 문제는 에이전틱 AI 프로그램의 진행을 막습니다: 불완전하거나 정규화되지 않은 텔레메트리를 분석하는 에이전트는 확신에 찬 오답을 내놓습니다.

에이전트 보안과 인력 관련 위험

에이전트의 자율성은 유용하지만, 공격자나 운영상의 실수로 피해가 발생할 새로운 경로도 만듭니다. 그 시작점은 에이전트 자체입니다:

1. 에이전트 대상 공격: OWASP Top 10 for Agentic Applications 2026은 Open Worldwide Application Security Project(OWASP)가 동료 검토를 거쳐 작성한 목록으로, 자율형 및 에이전틱 AI 시스템에서 가장 중요한 보안 위험을 선정합니다. 여기에는 Agent Goal Hijack(ASI01), Tool Misuse(ASI02), Identity & Privilege Abuse(ASI03)처럼 AI가 행동을 실행할 수 있게 되면서 나타나는 위협이 포함됩니다. 에이전틱 AI 보안은 적대적 조작으로부터 에이전트 자체를 보호하는 것입니다.
2. 운영 및 거버넌스 위험: CISA, NSA 및 Five Eyes 협력 기관은 2026년 공동 지침에서 에이전틱 시스템이 “공격 표면 확대, 권한의 점진적 증가, 의도와 다른 동작, 불분명한 이벤트 기록”을 초래할 수 있다고 경고합니다. Gartner도 별도로 모든 AI 에이전트에 동일한 거버넌스를 적용하면 실패한다고 경고하며, 각 에이전트의 자율성 수준에 맞춰 통제 수단을 적용할 것을 권고합니다.
3. 역량 약화: 에이전트가 모든 Tier-1 및 Tier-2 업무를 맡으면 주니어 분석가는 시니어 분석가로 성장하는 데 필요한 직관을 기르지 못합니다.

에이전틱 AI 보안은 사용자, 워크로드, 엔드포인트를 감시할 때와 동일한 엄격함으로 에이전트의 동작도 감시해야 합니다. 공격자에게 장악된 에이전트는 부여받은 모든 권한을 그대로 사용하기 때문입니다. 이러한 위험은 각각 에이전트를 프로덕션 환경에 투입하기 전에 마련할 수 있는 통제 수단과 연결됩니다.

에이전틱 SOC 도입 시 흔히 저지르는 실수

도입 실패에는 공통된 패턴이 있습니다: 아래의 거버넌스 실수는 경계 없는 자율성에서, 데이터 및 위협 모델링 실수는 에이전트를 뒷받침하는 취약한 기반에서 비롯됩니다.

거버넌스 실수

가장 큰 비용을 초래하는 거버넌스 실수는 에스컬레이션 경계 없이 배포하는 것입니다. 그러면 에이전트가 경계가 모호한 영역에서 행동하거나, 나중에 경위를 재구성할 감사 추적 기록 없이 되돌릴 수 없는 결정을 내릴 수 있습니다. 운영 첫날부터 신뢰 영역과 에스컬레이션 기준을 정의하세요. 또 다른 실수는 무분별하게 자율성을 극대화하는 것입니다: 반복 빈도가 높은 업무에는 에이전트를 사용하고, 판단이 필요한 결정은 사람이 맡아야 합니다.

데이터 및 위협 모델링 실수

모든 실수의 영향을 키우는 것은 취약한 텔레메트리를 기반으로 구축하는 것입니다: 품질이 낮은 데이터에 배포된 에이전트는 환각과 오류를 누적하므로 정규화부터 바로잡아야 합니다. 위협 모델링을 건너뛰면 프로덕션 에이전트의 위협을 파악하지 못합니다. CSA의 MAESTRO(Multi-Agent Environment, Security, Threat, Risk, and Outcome) 프레임워크는 기반 모델부터 더 넓은 에이전트 생태계까지 7개 계층에 걸쳐 에이전틱 AI 위협을 파악해 이 공백을 메웁니다. 사람의 검토를 선택 사항으로 취급하면 주요 프레임워크의 공통된 지침을 무시하게 됩니다. NIST AI RMF는 사람의 감독 절차를 정의, 평가, 문서화하도록 요구합니다. 에이전틱 AI 서비스의 신중한 도입 지침은 사람의 승인이 필요한 시점을 시스템 설계자와 운영자가 결정하도록 합니다. OWASP의 에이전틱 AI 위협 및 완화 가이드는 영향이 큰 에이전트 행동에 사람의 감독을 권장합니다. 프로덕션 서버를 오프라인으로 전환하는 등 되돌릴 수 없는 행동에는 여전히 사람의 승인이 필요합니다. 마지막으로 분석가의 변화 관리를 소홀히 하면 도입이 정체됩니다: 에이전트에는 온보딩이 필요하고, 분석가에게는 새로운 감독 역량이 필요합니다.

에이전틱 SOC 모범 사례

올바른 운영 방식은 단계별 승인 절차를 갖춘 배포와 증거 기반 거버넌스를 결합합니다: 전자는 에이전트가 수행할 수 있는 행동을 통제하고, 후자는 에이전트의 판단을 신뢰할 수 있는지 입증합니다.

배포 및 승인 통제

체계적인 배포는 에이전트가 분석가의 신뢰를 얻을 수 있는지 결정합니다: 좁은 범위에서 시작하고, 영향이 큰 행동에는 승인 절차를 두고, 각 경보 유형에 검증된 자율성 수준을 적용하세요.

• 단계별로 배포하세요: Five Eyes 기관의 단계적 접근 방식. 명확하게 정의된 저위험·비민감 사용 사례부터 시작하고, 범위를 확대하기 전에 각 단계의 통제 조치를 검증하세요.
• 영향력이 큰 조치에 승인 절차 적용: 되돌릴 수 없거나 규제를 받거나 고객에게 중대한 영향을 미치는 조치는 정해진 의사결정 지점에서 사람의 승인을 받도록 하세요.
• 경보 유형별 자율성 조정: 일반적인 피싱 경보와 특권 계정 이상 징후에는 서로 다른 수준의 사람 개입이 필요합니다. 감사 기록 형식은 일관되게 유지하세요.

단계적 범위 확대, 사람의 승인 절차, 유형별 자율성 조정은 초기 배포에서 문제를 바로잡을 여지를 남깁니다. 에이전트가 잘못 판단하더라도 영향 범위를 작게 유지하고 수정 경로를 명확히 할 수 있습니다.

증거 기반 거버넌스와 성과 측정

성과 측정과 위협 모델링은 시간이 지나도 거버넌스가 실효성을 유지하도록 뒷받침합니다. 감사인, 이사회, 조직의 분석가가 요구할 증거 기록도 확보할 수 있습니다.

• 근거를 명시한 판단 요구: 모든 에이전트 판단에는 증거와 출처를 포함해야 합니다. SOC에서 설명할 수 없는 결론은 용납할 수 없습니다.
• 에이전트 위협 모델링: 에이전트 아키텍처를 MAESTRO에 대조해 분석하고, 운영 환경에 배포하기 전에 레드팀 테스트를 수행하세요. 이때 NIST의 AI 에이전트 레드팀 테스트 지침에 관한 CSA 연구 노트와 다음 문서의 레드팀 테스트 조치를 활용하세요. NIST의 생성형 AI 프로필(NIST AI 600-1).
• 거버넌스 우선 수립: 배포 전에 NIST AI RMF의 GOVERN 기능에 따라 에이전트 접근 권한, 자율적 운영 조건, 지속적인 모니터링에 관한 정책을 수립하세요.
• 활동량이 아닌 성과 측정: 성공 지표를 경보 건수에서 평균 탐지 시간(MTTD)과 평균 대응 시간(MTTR)로 전환하세요. 신입 직원을 지도하듯 에이전트의 결정을 지속적으로 검토하세요.

SOC에 AI 에이전트를 도입할 때 이러한 관행은 사람의 개입을 보안 운영의 초기 설계 원칙으로 정착시킵니다. 이를 위해서는 관리·통제되는 에이전틱 운영을 지원하는 플랫폼이 필요합니다. SentinelOne은 바로 이 요구 사항을 중심으로 아키텍처를 설계했습니다.

SentinelOne으로 에이전틱 SOC 구축

The Singularity™ Platform은 엔드포인트, ID, 클라우드, AI 보안 도구의 텔레메트리를 공유 데이터 계층과 Behavioral AI 엔진을 갖춘 하나의 콘솔로 통합합니다. 에이전트는 Open Cybersecurity Schema Framework(OCSF)에 따라 표준화된 텔레메트리를 분석합니다. 이를 통해 에이전틱 프로젝트가 흔히 정체되는 원인인 데이터 품질 문제를 해결합니다.

Purple AI™는 SentinelOne의 에이전틱 AI 보안 분석가입니다. Agentic Investigation 기능은 수동 조사 없이 경보 접수부터 판단까지 처리합니다. 보안 환경 전반에서 증거를 수집하고 위협 데이터를 종합하며 공격 타임라인을 실시간으로 구성합니다. 분석가가 감독하는 체계 아래 설명 가능한 판단을 내립니다. 이 과정에서 경보의 맥락, 요약, 다음 단계를 Investigation Notebooks에 기록하므로 모든 판단에 증거 기록이 따릅니다. IDC의 2025년 4월 SentinelOne Purple AI의 비즈니스 가치 보고서에 따르면 Purple AI 고객은 위협 식별 시간을 63%, 문제 해결 시간을 55% 단축했습니다.

Singularity Hyperautomation은 Singularity 환경을 위한 SentinelOne의 노코드 대응 워크플로 도구입니다. 영향력이 큰 의사결정에 사람의 개입 단계를 기본으로 포함합니다. Hyperautomation은 Singularity AI SIEM에 포함되며 다른 SentinelOne 제품에는 추가 기능으로 제공됩니다. Purple AI가 조사 결과를 판단하면 Hyperautomation이 사전 승인된 정책에 따라 대응을 실행합니다. 두 기능 모두 보안 팀이 이미 활용하는 경보와 맥락 정보를 기반으로 작동합니다.

보안 운영 전문 독립 연구·자문 회사인 Latio는 2026년 보안 운영 시장 보고서에서 SentinelOne을 SOC 플랫폼 Leader로 선정했습니다.

쏟아지는 경보를 처리하는 SOC를 관리하거나 보안 운영에서 AI 활용에 관한 이사회 논의를 담당하고 계신가요? SentinelOne 데모를 요청해 조직의 경보량을 대상으로 관리·통제되는 에이전틱 조사가 어떻게 작동하는지 확인하세요.

업계 최고의 AI SIEM

세계에서 가장 진보된 SentinelOne의 AI SIEM으로 실시간으로 위협을 타겟팅하고 일상적인 작업을 간소화하세요.

결론

에이전틱 SOC에서는 AI 에이전트가 경보 분류부터 대응까지 처리하고, 사람이 전체 과정을 감독합니다. 에이전트는 플레이북에 없는 상황도 판단하지만, 오류 누적과 판단 근거를 알 수 없는 결과에 대비해 에스컬레이션 기준, 감사 추적, 단계적 도입이 필요합니다.

관리 체계를 갖춘 자율 운영과 탄탄한 데이터 기반을 결합한 팀은 조사와 문제 해결 시간을 눈에 띄게 줄입니다. 분석가는 판단, 위협 헌팅, 중요한 의사결정처럼 사람만 할 수 있는 업무에 다시 집중합니다.