AI 엔드포인트 보안: 현대 SOC 팀을 위한 SentinelOne 가이드

AI 엔드포인트 보안이란?

2024년 CISA, NSA, FBI는 중화인민공화국(PRC)의 지원을 받는 Volt Typhoon이 미국의 핵심 인프라 네트워크를 침해했으며, 일부에서는 최소 5년간 접근 권한을 유지했다고 경고했습니다. 이들이 주로 사용한 도구는 피해 조직 자체의 도구였습니다. CISA 권고문 AA24-038A에 따르면, 이 그룹은 활동을 정상적인 시스템 및 네트워크 동작에 섞어 숨기는 정상 도구 악용(LOTL) 기법을 사용합니다. CISA는 이 기법이 단순한 엔드포인트 보안을 우회할 수 있다고 설명합니다. 대조할 악성코드가 없으므로 시그니처로는 탐지할 수 없습니다.

AI 엔드포인트 보안은 파일과 프로세스의 실제 동작을 분석하는 머신러닝 및 행동 기반 AI 모델로 사용자 기기와 서버의 엔드포인트를 보호하는 방식입니다. 실행 전 파일 분석, 실행 중 프로세스 모니터링, 엔드포인트 텔레메트리, 자동화된 대응을 결합해 시그니처 기반 도구가 놓치는 위협을 탐지하고 차단합니다.

이 용어는 직원 기기에서 실행되는 AI 에이전트와 어시스턴트를 보호하는 다른 과제에도 사용됩니다. 이 가이드는 엔드포인트를 보호하는 AI를 다룹니다. 엔드포인트에서 실행되는 AI를 보호하는 방법은 SentinelOne의 AI 에이전트 보안 가이드를 참조하세요.

동작을 볼 수 없으면 차단할 수도 없습니다. 아래의 모든 기능은 이 사실을 바탕으로 합니다.

AI 엔드포인트 보안과 사이버 보안의 관계

AI 엔드포인트 보안은 공격자가 흔히 발판으로 삼는 기기 자체를 보호합니다. 엔드포인트에서 발생하는 프로세스, 파일, 네트워크 활동은 진행 중인 침입을 드러냅니다. 이 텔레메트리를 다른 데이터 소스와 연관 분석하면 방어자가 파악할 수 있는 위험 맥락이 넓어집니다. 엔드포인트 데이터는 ID 모니터링, 위협 헌팅, 사고 대응에 활용되므로 사이버 보안에서의 AI 활용에 필수적입니다. 이후 단계의 모든 모델은 기반이 되는 엔드포인트 증거만큼만 신뢰할 수 있습니다.

AI 엔드포인트 보안의 핵심 구성 요소

현대의 엔드포인트 보호는 정적 AI, 행동 기반 AI, 텔레메트리 수집, 자동화된 대응이라는 네 가지 핵심 구성 요소에 의존합니다. 머신러닝 기반 엔드포인트 보안에서 각 요소는 침입의 서로 다른 단계에 대응합니다.

이러한 구성 요소는 예방과 EDR을 통합한 단일 에이전트에서 함께 작동할 때 가장 강력한 보호 기능을 제공합니다. 머신러닝 기반 엔드포인트 보안에서는 실행 중의 동작을 분석할 때 탐지하기 가장 어려운 위협을 포착합니다.

행동 기반 AI가 위협을 차단하는 방법

행동 기반 AI는 실행 중인 프로세스의 활동을 판단해 위협을 차단합니다. 따라서 시그니처 스캐너를 우회하는 LOTL 및 파일리스 기법도 탐지합니다.

에이전트의 행동 분석은 평가 대상 활동과 가까운 곳에서 이루어집니다. NIST 엔드포인트 텔레메트리는 이 에이전트 기반 접근 방식을 설명합니다. 소프트웨어 에이전트가 프로세스와 프로그램 정보, 기기 매개변수 및 트래픽을 수집한 뒤 사전 구성된 보안 정책과 설정된 기준에서 벗어난 활동을 탐지합니다. 

핵심 이점은 모델이 설정된 기준에서 벗어난 활동을 판단한다는 점입니다. 따라서 악성코드 자체가 새로운 유형이어도 비정상적인 리소스 사용량이나 새로운 네트워크 연결의 급증이 드러납니다.

프로세스 계보 추적이 핵심 역할을 합니다. MITRE ATT&CK의 프로세스 생성 데이터 구성 요소는 프로세스 생성을 모니터링하면 무단 바이너리 실행, 스크립트 악용, 권한 상승 시도 등의 악성 행위를 탐지할 수 있다고 설명합니다. 또한 “부모-자식 프로세스 관계, 프로세스 인수 및 환경 변수”를 명시적으로 다룹니다.

1. 시스템 기본 도구 악용 기법. Rhysida 랜섬웨어는 CISA 권고문 AA23-319A에 기록된 대로 신뢰할 수 있는 OS 바이너리만으로 거의 모든 작업을 수행했습니다. 레지스트리 수정에는 cmd.exe, 로그 삭제에는 wevtutil.exe, 실행에는 PowerShell을 사용했습니다. 시그니처로 탐지할 새로운 악성코드가 없었으므로 행동 모델이 비정상적인 활동 순서와 계보를 탐지합니다.
2. 파일리스 공격. 프로세스 인젝션은 실행을 숨기기 위해 정상적인 프로세스 안에서 코드를 실행합니다. MITRE는 정상적인 프로세스에 숨겨진 실행이 보안 제품의 탐지를 피할 수 있다고 설명합니다. 토큰 호출과 메모리 쓰기를 실행 중에 모니터링하면 인젝션 행위 자체를 탐지합니다.
3. 랜섬웨어. MITRE의 영향을 주기 위한 데이터 암호화 기법은 대량의 파일 암호화를 설명합니다. 행동 모델은 알려진 암호화 프로그램의 해시가 존재하기 전에 빠르고 대량으로 이루어지는 암호화 패턴을 식별합니다.

실행 중인 동작 자체가 공격을 드러내므로 런타임 모델은 세 가지 패턴을 모두 탐지합니다. 이러한 탐지 범위는 다음과 같은 운영상의 이점으로 이어집니다.

AI 엔드포인트 보안의 주요 이점

AI 엔드포인트 보안은 알려진 악성코드를 사용하지 않고 시그니처 탐지를 트리거하지 않는 침입으로부터 보호합니다. 엔드포인트 위협 예방의 이점은 행동 분석과 자동화된 대응에서 직접 비롯됩니다.

• 알려지지 않은 위협에 대한 보호: 행동 모델은 실행 중인 동작을 기준과 비교하여 제로데이 및 파일리스 활동을 탐지합니다. 따라서 새로운 악성코드와 시스템 기본 도구 악용 바이너리(LOLBin)의 오용도 이상 징후로 포착합니다.
• 더 빠른 격리: 자동화된 대응은 위협이 발견되는 즉시 호스트를 격리하거나 프로세스를 중지하여 공격자가 내부로 확산할 시간을 줄입니다.
• 전체 공격 맥락: 프로세스 계보 추적으로 경고의 배경이 되는 부모-자식 관계와 명령줄을 파악합니다. 관련 네트워크 활동도 연결합니다. 이 정보를 통해 수작업으로 몇 시간씩 걸리던 상관관계 분석을 조사 가능한 타임라인으로 전환합니다.
• 적응형 운영과 경고 노이즈 감소: 지속적인 학습을 통해 행동 모델이 새로운 공격 패턴에 적응합니다. 텔레메트리 상관관계 분석은 관련 이벤트를 더 적고 정확도 높은 인시던트로 묶습니다.

이러한 이점은 지속적인 튜닝, 충분한 리소스, 숙련된 인력이 뒷받침될 때만 유지됩니다. 다음으로 이러한 운영 비용을 살펴봅니다.

AI 엔드포인트 보안의 과제와 한계

AI 엔드포인트 보안에는 초기 도입 후에도 튜닝, 적대적 공격 대응, 리소스, 전문 인력에 따른 비용이 계속 발생합니다. 프로덕션 환경에서 모델에 의존하기 전에 각각을 계획하세요.

• 오탐과 모델 튜닝에는 지속적인 관리가 필요합니다. NIST AI 100-2는 적대적 공격에 대한 견고성과 모델 정확도 사이에 지속적인 상충 관계가 있다고 설명합니다. 유럽연합 사이버보안청(ENISA)은 AI 사이버 보안 과제 보고서에서 개념 드리프트로 인해 컴퓨팅 비용이 많이 드는 재학습을 자주 수행해야 한다고 덧붙입니다.
• 적대적 회피 시도는 여전히 우려 사항입니다. NIST는 “정확도를 유지하면서 회피 공격에 저항하는 ML 모델을 설계하는 것은 여전히 해결되지 않은 문제”라고 명확히 밝힙니다. 공격자에게도 제약이 있습니다. 변형 후에도 악성코드의 기능을 유지하기는 어렵습니다. 따라서 런타임 행동 분석은 변형된 샘플에도 유효합니다.
• 에이전트의 리소스 사용량은 설계에 따라 크게 달라집니다. 한 USENIX Security 연구에서는 프로덕션 환경의 경량 EDR이 사용하는 리소스를 측정했지만, 별도의 연구용 에이전트는 훨씬 더 많은 메모리와 CPU를 사용했습니다. 이러한 차이는 수집하는 텔레메트리의 범위와 추론이 센서에서 실행되는지, 클라우드에서 실행되는지에 따라 달라집니다. 자체 하드웨어의 기준 성능과 비교해 검증하세요.
• 실제 운영에 필요한 전문 역량도 여전히 제약 요인입니다. 2025년 SANS SOC 설문조사에 따르면 보안 운영 센터(SOC)의 42%가 AI 또는 ML 도구를 별도의 설정 변경 없이 그대로 사용하며, 해당 도구의 만족도는 가장 낮은 수준에 속합니다. 모델 출력을 해석하고 언제 의문을 제기해야 하는지도 알아야 합니다.

AI 엔드포인트 보안에서 흔히 저지르는 실수

엔드포인트 보안 실패의 원인은 대개 배포 및 모니터링 방식에 있습니다. CISA 권고문은 같은 오류를 반복해서 기록하고 있습니다. 엔드포인트 위협 예방은 보호 범위, 경고 검토 또는 대응 프로세스의 허점으로 모델이 위협을 파악하지 못할 때 실패합니다. 각 허점은 선택의 결과이므로 모두 바로잡을 수 있습니다.

• 불완전한 배포 범위: 2024년 GeoServer 사고에서 CISA 권고문 AA25-266A는 “일부 외부에 노출된 시스템에 엔드포인트 보호가 적용되지 않아” 침입을 알아채지 못했다고 밝혔습니다.
• 검토되지 않은 경고: 같은 GeoServer 사고에서 EDR 도구는 Stowaway 도구를 식별했지만, 경고 검토가 누락된 탓에 SOC의 대응이 뒤늦게 이루어졌습니다. 도구는 위협을 식별했습니다. 사람의 대응 절차는 그렇지 못했습니다.
• 불충분한 튜닝 및 구성: CISA의 Red Team 권고문 AA24-193A는 “불충분한 EDR 구성”을 확인된 문제로 명시하고, 널리 알려진 난독화 및 실행 기법을 탐지할 수 있는 EDR을 배포하도록 권고합니다.
• 테스트하지 않은 사고 대응 계획: AA25-266A에 따르면 영향을 받은 기관은 사고 대응 계획을 테스트하거나 훈련하지 않아 대응 과정에서 제3자의 참여가 지연되었습니다.

이러한 사고에서 도구는 제 역할을 했지만, 이를 뒷받침하는 운영 절차가 미흡했습니다. 운영 절차는 보안 팀이 통제할 수 있습니다. 다음 모범 사례로 강화하세요.

AI 엔드포인트 보안 모범 사례

효과적인 엔드포인트 위협 예방은 먼저 모든 자산을 보호하고, 이어서 지속적인 검토, 튜닝, 통합을 수행하는 데 달려 있습니다. CISA와 NIST의 지침은 몇 가지 핵심 사항으로 모입니다.

1. 모든 자산에 배포하세요. 외부에 노출된 시스템과 클라우드 시스템을 포함한 모든 호스트에 EDR 에이전트를 배포하고, #StopRansomware 가이드에 따라 애플리케이션 허용 목록도 함께 적용하세요.
2. 경고를 지속적으로 검토하세요. GeoServer 사고에서 경고 검토가 누락된 사례는 위협을 식별해도 지속적으로 검토하지 않으면 식별하지 못한 것과 결과가 같다는 점을 보여줍니다. 인력을 배치하거나 자동화하여 24/7 분류 체계를 운영하세요. 에이전틱 AI 조사는 자동화를 실질적인 대응 수단으로 만듭니다. AI 분석가가 중요 경보가 발생하는 즉시 조사하고 근거에 기반한 판단 결과를 보안 팀에 전달하므로, 야간과 주말에도 보안 공백이 생기지 않습니다.
3. 탐지 회피 기법에 맞춰 탐지 설정을 조정하세요. 에이전트가 난독화와 LOLBin 악용을 탐지하도록 설정하고, 행동 패턴의 변화에 따라 기준선을 조정하세요.
4. 통합하고, 패치하고, 대응을 훈련하세요. CISA의 Trusted Internet Connections (TIC) 3.0 클라우드 사용 사례 지침은 기관이 클라우드 엔드포인트 데이터를 기업 전반의 상황 인식 체계에 통합하도록 안내합니다. 악용 사례가 알려진 취약점은 정해진 일정에 따라 해결하고, 테이블탑 훈련을 실시해 사고 발생 전에 서드파티 접근과 에스컬레이션 경로가 제대로 작동하는지 확인하세요.

SentinelOne 플랫폼은 이 네 가지 관행을 대규모로 적용하도록 설계되었습니다.

엔드포인트 보호

SentinelOne의 AI 기반 엔드포인트 보안이 사이버 위협을 실시간으로 예방, 탐지 및 대응하는 데 어떻게 도움이 되는지 알아보세요.

데모 신청하기

SentinelOne으로 엔드포인트 위협을 차단하세요

Singularity™ Endpoint는 AI 기반 예방과 EDR을 단일 에이전트에 결합합니다. 기기에 직접 적용되는 행동 기반 AI로 LOTL 및 파일리스 기법을 탐지하고 차단합니다. CISA 권고문에 기록된 랜섬웨어 행동도 탐지합니다. 에이전트는 실행 중인 프로세스의 행동과 계보를 평가합니다. 따라서 시그니처가 없어도 랜섬웨어 행동과 비정상적인 프로세스 계보가 발생하는 순간 이상 징후로 포착합니다.

Singularity Platform은 엔드포인트와 클라우드 텔레메트리를 ID 텔레메트리와 통합합니다. 단일 에이전트와 콘솔이 하나의 데이터 레이크에 데이터를 제공합니다. Storyline®은 프로세스 생성과 파일 활동을 재구성해 공격의 전 과정을 보여줍니다. 네트워크 연결도 매핑하므로 타임라인을 수동으로 재구성하지 않고 경보에서 근본 원인까지 추적할 수 있습니다. Gartner®는 SentinelOne을 6년 연속 2026년 엔드포인트 보호 부문 Magic Quadrant™의 Leader로 선정했습니다. Latio는 2026년 시장 보고서에서 SentinelOne을 SOC 플랫폼 Leader로 선정했습니다. 이는 텔레메트리부터 조사와 대응까지 SOC 플랫폼 전반을 아우르는 성과를 인정한 것입니다.

랜섬웨어가 실행되더라도 Singularity Endpoint는 악의적인 변경 사항을 롤백하고 영향을 받은 Windows 엔드포인트를 감염 전 상태로 복원합니다. 파괴적인 암호화 사고를 복구 가능한 사고로 바꿉니다.

Purple AI™는 조사 역량을 확장합니다. 자연어 질문을 엔드포인트 텔레메트리 전반의 구조화된 위협 헌팅으로 전환합니다. 분석가는 여러 도구의 데이터를 수동으로 연결하지 않고도 공격 타임라인을 재구성할 수 있습니다. IDC의 비즈니스 가치 연구에 따르면 Purple AI 고객은 위협 식별 속도를 63%, 해결 속도를 55% 높였습니다.

Purple AI Agentic Investigation은 SOC 팀의 조사를 한 단계 발전시킵니다. 중요 위협이 정해진 임계값을 넘으면 자율적으로 조사를 시작하고, 증거를 수집·연관 분석해 판단을 내리며, 머신 스피드로 위협을 차단할 수 있습니다. 분석가는 경보가 아닌 판단 결과에서 조사를 시작합니다. 모든 판단 결과에는 감사 가능한 증거 체인이 포함되며, Purple AI의 자율성 수준은 보안 팀이 설정합니다.

Singularity Data Lake는 Open Cybersecurity Schema Framework (OCSF)에 따라 텔레메트리를 수집하고 정규화합니다. 이를 통해 머신러닝 기반 엔드포인트 보안, 클라우드 조사, 도메인 간 연관 분석을 위한 공통 기반을 제공합니다. 저장된 데이터는 즉시 조회할 수 있는 상태로 유지되므로 분석가는 엔드포인트와 도메인 간 텔레메트리를 거의 실시간으로 검색할 수 있습니다.

SentinelOne 데모를 요청하세요 행동 기반 AI가 실제 공격 체인을 차단하고 원클릭 롤백이 피해를 되돌리는 모습을 확인하세요.

탁월한 엔드포인트 보호 기능 알아보기

SentinelOne의 AI 기반 엔드포인트 보안이 사이버 위협을 실시간으로 예방, 탐지 및 대응하는 데 어떻게 도움이 되는지 알아보세요.

데모 신청하기

결론

AI 엔드포인트 보안은 파일과 프로세스의 행동을 분석해 기기를 보호합니다. 이를 통해 CISA에 기록된 사고에서 기존 방어 체계를 뚫은 랜섬웨어 행동은 물론, LOTL 및 파일리스 기법도 탐지합니다. 정적 AI, 런타임 행동 모델, 텔레메트리, 자동화된 대응이 함께 작동합니다. 보안 적용 범위의 완전성과 지속적인 경보 검토가 결과를 좌우합니다. 에이전트의 행동 기반 AI는 보안 팀에 가장 이른 경고를 제공합니다. 

보안 적용 범위와 경보 검토의 공백을 없애면 LOTL 기법도 더는 숨을 곳이 없습니다.