Skip to main content
데이터 및 AI

ChatGPT 보안: 위험, 개인정보 보호 및 기업 보호 조치

ChatGPT 보안은 직원이 AI 어시스턴트를 사용할 때 기업 데이터를 보호합니다. 위험 요소, 요금제별 데이터 처리 방식의 차이, 관리되는 사용을 위한 보호 조치를 알아보세요.

작성자 SentinelOne
Reviewer: Nicholas Weeks
ChatGPT 보안: 위험, 개인정보 보호 및 기업 보호 조치

핵심 요점

  • ChatGPT 보안은 민감한 데이터, 사용자 계정, 프롬프트, 출력 결과 및 연결된 시스템을 보호하여 무단 접근, 오용 및 우발적 노출을 방지합니다.
  • 주요 ChatGPT 보안 위험에는 데이터 유출, 프롬프트 인젝션, 계정 침해, 악성 코드 생성, 부정확한 출력, AI를 이용한 피싱 또는 사회공학 공격이 포함됩니다.
  • ChatGPT의 데이터 처리 방식은 요금제, 설정 및 통합에 따라 달라지므로, 조직은 업무 정보를 공유하기 전에 프롬프트의 저장, 보존, 접근 및 잠재적 사용 방식을 파악해야 합니다.
  • 관리되지 않는 ChatGPT 사용은 섀도 AI 및 규정 준수 위험을 초래하고, 직원의 정보 공유에 대한 가시성을 낮추며 지식재산이나 기밀 데이터의 노출 가능성을 높입니다.

ChatGPT 보안이란?

2025년 여름, 미국 연방 네트워크 방어를 담당하는 기관의 수장이 민감한 정부 파일을 공개 버전의 ChatGPT에 붙여 넣었습니다. CISA 국장 대행이 "For Official Use Only"로 표시된 계약 문서를 업로드했고, 내부 모니터링 센서가 며칠 만에 해당 활동을 탐지했습니다. 이후 미국 국토안보부의 검토가 이어졌습니다. 침해도 없었습니다. 공격자도 없었습니다. 몇 개의 프롬프트만으로 민감한 데이터가 통제된 시스템을 벗어났습니다.

이러한 노출을 막는 것이 ChatGPT 보안의 목적입니다. ChatGPT 보안은 직원이 업무에서 ChatGPT 및 유사한 AI 어시스턴트를 사용할 때 기업 데이터와 계정을 보호하는 일련의 관행입니다. 

위험은 사용 방식에 내재합니다: 계정 요금제에 따라 직원이 입력한 프롬프트가 보존되거나 향후 모델 학습에 사용될 수 있으므로, 조직 차원의 통제가 없다면 일상 업무만으로도 데이터가 조직 환경을 벗어납니다. 적절한 요금제, 정책 및 통제 수단을 마련하면 직원이 이미 사용하는 도구를 보안 팀이 파악하고 관리할 수 있습니다.

엔터프라이즈 보안에서 ChatGPT 보안의 역할

생성형 AI의 사용이 조직 전반으로 확산되면서 보안 팀은 이제 그 사용을 관리해야 합니다. 보안 프로그램에서 관리할 영역은 두 가지입니다: 직원이 AI 어시스턴트에 보내는 프롬프트와 해당 어시스턴트를 조직 시스템에 연결하는 계정 및 통합입니다.

섀도 AI는 문제를 키웁니다. 개인 계정과 승인되지 않은 채널을 통한 활동은 보안 팀의 가시성 밖에서 이루어지기 때문입니다. 목표는 통제된 사용입니다: 보이지 않는 개인 계정 대신 승인된 경로로 ChatGPT를 사용하도록 하는 것입니다.

ChatGPT 보안 위험

직원이 ChatGPT 또는 유사한 AI 어시스턴트를 사용할 때 조직은 데이터 노출, 모델 학습, 프롬프트 인젝션, 계정 침해, 섀도 AI, 환각 및 통합과 관련된 위험에 직면합니다:

  • 프롬프트에 입력된 민감한 데이터. 직원은 소스 코드, 고객 기록 및 재무 데이터를 ChatGPT에 붙여 넣습니다. 데이터가 조직 환경을 벗어나는 데 공격은 필요하지 않습니다.
  • 모델 개선에 사용되는 프롬프트. 개인용 계정에서는 프롬프트가 향후 모델 학습에 사용되는지 여부가 각 사용자의 설정에 달려 있으며, 이를 중앙에서 통제할 수 없습니다.
  • 프롬프트 인젝션 및 탈옥. 프롬프트 인젝션은 대규모 언어 모델(LLMs)의 알려진 위험입니다. 간접 인젝션은 세션에서 데이터 유출을 유발할 수 있습니다.
  • 계정 및 자격 증명 침해. 도난당한 ChatGPT 자격 증명은 대화 기록을 노출하며, 클라우드 스토리지 또는 이메일과의 통합은 OAuth 권한 범위 확대로 이어질 수 있습니다.
  • 승인되지 않은 사용으로 인한 섀도 AI. 개인 계정과 승인되지 않은 도구는 가시성을 없애고 승인된 엔터프라이즈 배포에 적용되는 통제를 우회합니다.
  • 부정확하거나 조작된 출력. NIST의 생성형 AI 프로필(NIST AI 600-1)은 환각을 여전히 해결해야 할 위험 관리 과제로 규정합니다. 조작된 출력을 검토 없이 업무에 사용하면 비즈니스 의사결정에 오류가 생깁니다.
  • 서드파티 플러그인 또는 통합으로 인한 노출. 서드파티 코드와 연결된 도구는 공급망 및 세션 데이터 노출 위험을 초래할 수 있습니다.

이러한 위험에는 공통된 근본 원인이 있으며, 조직은 이를 관리할 수 있습니다. 노출 수준은 각 요금제에서 ChatGPT가 데이터를 처리하는 방식에 달려 있습니다. 따라서 어떤 계정을 사용하는지가 중요합니다.

ChatGPT의 데이터 처리 방식

직원이 프롬프트를 제출하면 ChatGPT는 이를 OpenAI의 인프라로 전송하고 프롬프트와 응답을 대화의 일부로 저장합니다. 이후 처리 방식은 계정 요금제에 따라 달라집니다.

데이터 처리

개인용

비즈니스

엔터프라이즈

프롬프트를 이용한 학습

사용자 설정에 따라 모델 개선에 사용될 수 있음

모델 학습에 사용되지 않음

모델 학습에 사용되지 않음

제어 방식

개별 사용자 행동에 따라 결정

관리자가 적용

관리자가 적용

데이터 보존

기본 보존 기간, 제한적인 제어

조직에서 관리

맞춤형 보존 정책

ID 관리

개별 로그인

SSO

SCIM 프로비저닝을 지원하는 SAML SSO

감사 및 규정 준수

없음

DPA, 기본 제어 기능

규정 준수 API, 감사 로그, 고객 관리형 암호화 키, DPA

이러한 데이터 처리 방식의 차이는 관리되지 않는 사용을 비즈니스 위험으로 만듭니다. 필요한 제어 기능이 없을 때 조직이 부담해야 할 비용도 여기서 발생합니다.

관리되지 않는 ChatGPT 사용의 비용

관리되지 않는 ChatGPT 사용은 데이터 통제, 경쟁력, 규정 준수라는 세 측면에서 기업에 비용을 초래합니다. 직원이 독점 소스 코드나 고객 정보를 소비자용 서비스의 프롬프트에 붙여 넣으면 해당 데이터는 외부 AI 서비스로 전달되고, 조직은 그 데이터에 대한 실질적인 통제력을 잃을 수 있습니다. 

같은 방식의 정보 노출은 경쟁력에 직결되는 정보도 위험에 빠뜨립니다. 서비스 요금제와 데이터 처리 설정에 따라 프롬프트에 입력한 영업 비밀과 독점 알고리즘이 조직 내부에만 남는지 여부가 달라지기 때문입니다.

정보 노출은 규정 준수와 신뢰의 문제이기도 합니다. AI 도구를 사용할 때도 기존의 개인정보 보호 및 기밀 유지 의무가 적용됩니다. 따라서 개인 식별 정보(PII) 또는 보호 대상 건강 정보(PHI)와 같은 규제 대상 데이터를 데이터 처리 계약(DPA) 없이 소비자용 AI 도구에 전송하면 GDPR, HIPAA 또는 유사한 규정을 위반할 수 있습니다. 이러한 정보가 공개되면 고객과 규제 기관은 조직의 데이터 거버넌스에 허점이 있다고 판단할 수 있습니다.

ChatGPT 사용 보안의 과제

정책이 마련되어 있어도 실제로 ChatGPT 사용을 관리하기는 어렵습니다. 다음 네 가지 제약이 걸림돌입니다:

과제

통제가 어려운 이유

AI 트래픽에 대한 제한적인 가시성

네트워크 모니터링으로는 직원이 브라우저 기반 AI 도구에 입력하는 내용을 검사할 수 없으며, 엔드포인트 텔레메트리로도 승인된 사용과 미승인 사용을 구분하기 어려움

빠르게 변하는 기능

OpenAI가 ChatGPT의 기능과 데이터 정책을 자주 업데이트하므로 거버넌스 문서가 불과 몇 주 만에 최신 상태를 유지하지 못할 수 있음

정책 수립보다 앞서는 도입 수요

직원들이 보안 및 법무 팀의 평가보다 빠르게 새로운 도구를 도입함

벤더가 관리하는 데이터 처리

조직에서 OpenAI 인프라의 데이터 보존 기간, 모델 학습 정책 또는 접근 제어를 설정할 수 없음

이러한 제약 때문에 정책만으로는 충분하지 않은 경우가 많습니다. 따라서 아래의 보호 조치는 서면 정책과 기술적 통제를 결합합니다.

기업의 ChatGPT 사용을 위한 보호 조치

적절한 제어 기능을 갖추면 팀은 업무에서 ChatGPT를 안전하게 사용할 수 있습니다. 대부분의 정보 노출은 직원이 소스 코드, 자격 증명 또는 고객 기록을 프롬프트에 붙여 넣는 행동에서 시작됩니다. 아래 보호 조치는 서면 정책과 기술적 통제를 결합해 이러한 행동을 파악하고 예방합니다:

  • AI 도구의 허용 가능한 사용 정책을 수립하세요. 승인된 AI 도구, 프롬프트에 입력하면 안 되는 데이터 범주(PII, PHI, 소스 코드, 자격 증명, 영업 비밀 및 법률 문서 등), 정책 위반 시의 조치를 명시하세요. NIST AI 600-1은 이 정책을 구성하기 위한 위험 관리 지침을 제공합니다.
  • 데이터 제어 기능과 싱글 사인온(SSO)을 제공하는 엔터프라이즈 요금제를 도입하세요. 더 강력한 조직 차원의 제어 기능, SSO, DPA를 확보하려면 ChatGPT Business 또는 Enterprise로 전환하세요. 조직에 맞춤형 데이터 보존 정책, 감사 로그, System for Cross-domain Identity Management(SCIM), 고객 관리형 암호화 키가 필요하다면 Enterprise가 이러한 기능을 가장 폭넓게 제공합니다.
  • 데이터 손실 방지와 데이터 분류를 적용하세요. 데이터가 AI 도구에 전달되기 전에 분류하세요. 데이터 손실 방지(DLP) 기능으로 외부로 나가는 트래픽을 검사하고, 프록시 또는 방화벽 계층에서 승인되지 않은 AI 엔드포인트에 대한 접근을 차단하세요.
  • 접근을 제어하고 AI 사용 현황을 검토하세요. 정의된 사용 사례에 맞춰 역할 기반 접근 제어를 적용하세요. 외부로 나가는 AI 트래픽의 사용자 ID, 타임스탬프, AI 엔드포인트, 데이터 전송량을 기록하세요. ChatGPT Enterprise에서는 Compliance API와 감사 로그를 활성화하세요. 폭넓은 AI 보안 태세는 정책과 기술적 통제를 연결합니다.
  • 직원에게 안전한 프롬프트 작성법을 교육하세요. CISA의 모델에 따라 AI 도구 사용을 위한 직원 AI 교육을 의무화하세요. 허용 가능한 사용 정책, 입력이 금지된 데이터 범주, AI 출력 검증 방법, 우발적인 데이터 노출 시 사고 보고 절차를 다루세요. 매년 재교육 및 인증을 의무화하세요.
  • 벤더의 데이터 처리 방식을 실사하세요. DPA에 AI 프롬프트 내용과 기존 데이터 처리가 명시적으로 포함되는지 확인하세요. 인증을 검증하고 데이터 침해 시 통지 기한을 계약에 명시하세요.

이러한 보호 조치는 하나의 체계로 작동합니다. 정책은 경계를 정합니다. 서비스 등급 선택은 계약 및 기술적 기준을 확립합니다. DLP와 가시성은 정책을 기술적으로 집행합니다. 교육은 사람의 대응 역량을 강화하고, 실사는 벤더 관련 공백을 메웁니다.

SentinelOne으로 ChatGPT 보안 강화

정책과 서비스 등급 선택은 규칙을 정합니다. SentinelOne은 상호작용이 일어나는 지점, 즉 프롬프트 자체에서 규칙을 집행합니다. Prompt Security는 규제 대상 데이터, 소스 코드, 자격 증명이 ChatGPT나 기타 소비자용 AI 도구에 입력되기 전에 탐지하고 통제합니다. 브라우저 내에서 데이터 유출을 차단합니다.

Singularity™ Identity는 각 AI 세션을 AI 에이전트와 서비스 계정을 포함한 인간 또는 비인간 ID에 연결해, 보안 팀이 노출 사고의 출처를 추적하도록 합니다.

Purple AI™는 자연어로 조사를 진행합니다. 분석가는 질문을 던지고, 사건의 타임라인을 재구성하며, 노출이 우발적인지 악의적인지 판단합니다. IDC에 따르면 위협 식별 속도는 63% 빨라지고 평균 대응 시간은 55% 단축되었습니다.

SentinelOne은 Singularity Platform 전반에서 2024 MITRE ATT&CK Evaluations에서 100% 탐지율과 88% 적은 경고를 기록했습니다. SOC 팀은 불필요한 경고보다 실제 위험을 수반하는 AI 및 ID 활동에 더 집중할 수 있습니다. 더 폭넓은 확장 탐지 및 대응(XDR) 가시성을 위해 이러한 이벤트를 엔드포인트, ID, 클라우드 신호와 한곳에서 연계합니다.

SentinelOne 데모를 요청하세요. 지금 팀의 AI 사용에 대한 거버넌스를 시작하세요.

Product_Tours_Prompt-Security.png

조직 내 AI 사용에 대한 완벽한 가시성, 보안 및 거버넌스를 확보하세요. 섀도우 AI를 식별하고, 민감한 데이터를 보호하며, 조직 내에서 AI를 안전하게 활용할 수 있습니다.

결론

직원이 AI 어시스턴트를 사용할 때 ChatGPT 보안은 조직의 데이터를 보호합니다. 핵심 위험은 프롬프트를 통한 데이터 노출이며, 가시성을 없애는 섀도 AI가 이를 증폭시킵니다. 소비자용 서비스는 개인 설정에 더 많이 의존하지만, Business와 Enterprise 등급은 더 강력한 조직 차원의 제어 기능을 제공합니다. 

체계적인 AI 활용에는 허용 가능한 사용 정책, 적절한 서비스 등급, 데이터 손실 방지, 가시성, 교육, 벤더 실사가 함께 필요합니다. 이를 갖추면 팀은 ChatGPT의 이점을 온전히 누릴 수 있습니다. 민감한 데이터는 안전하게 보호됩니다.

Callout Background Image Gradient

AI 기반 사이버 보안 활용하기

실시간 감지, 머신 속도 대응, 전체 디지털 환경에 대한 종합적인 가시성을 통해 보안 태세를 강화하세요.

자주 묻는 질문

ChatGPT 보안은 직원과 AI 어시스턴트 사이의 데이터 흐름을 관리하는 방식입니다. 어떤 계정과 서비스 등급에서 프롬프트를 처리하는지, 어떤 데이터를 입력할 수 있는지, 누가 활동을 볼 수 있는지를 통제합니다. 단일 설정만으로는 이를 실현할 수 없습니다.

실제로는 보안, 법무, ID 팀이 책임을 함께 나눕니다. 먼저 직원들이 이미 사용하는 AI 계정을 파악한 뒤, 해당 계정에 정책과 모니터링을 적용합니다.

ChatGPT Enterprise는 관리자가 적용하는 데이터 제어 기능, 맞춤형 보존 정책, SCIM 프로비저닝을 지원하는 Security Assertion Markup Language(SAML) SSO, 고객 관리형 암호화 키, 감사 로그 기능을 갖춘 Compliance API를 제공합니다. GDPR을 준수하는 DPA도 지원합니다. 

소비자용 서비스는 개인 설정에 훨씬 더 많이 의존합니다. 반면 Enterprise는 보안, 법무, ID 팀이 조직 전반에 적용할 수 있는 중앙 집중식 거버넌스 기능을 제공합니다.

서비스 등급과 설정에 따라 다릅니다. 소비자용 계정에서는 개인 사용자 설정에 따라 프롬프트가 향후 모델 개선에 사용될 수 있습니다. Business와 Enterprise에서는 조직이 프롬프트 내용의 보존 여부와 학습 사용 여부를 직접 제어합니다. 

직원이 민감한 데이터를 취급한다면 서비스 등급 선택 자체를 보안 통제로 간주하고, 계약에서 학습에 데이터가 사용되는 방식을 확인하세요.

적절한 통제를 적용하면 안전하게 사용할 수 있습니다. 계약상 데이터 보호를 위해 Business 또는 Enterprise 등급을 선택하세요. 허용 가능한 사용 정책, 데이터 손실 방지, 직원 교육, 사용 현황에 대한 가시성도 함께 확보하세요. 

공개 LLMs에는 민감한 정보를 입력해서는 안 됩니다. 직원들이 승인된 관리 채널을 사용하도록 하세요. 업무 데이터가 개인 계정이나 보안 통제를 우회하는 미승인 도구로 유입되지 않도록 해야 합니다.

섀도 AI는 직원이 조직에서 제공하고 모니터링하는 환경 밖에서 개인 계정이나 미승인 애플리케이션을 통해 AI 도구를 사용하는 것을 말합니다. 

섀도 AI는 보안 팀의 가시성을 없애고 데이터 통제를 우회하며, 표준 엔드포인트 텔레메트리로는 발견하지 못할 수 있는 규정 준수 위험을 초래합니다. 결국 AI 도입이 관리되지 않는 데이터 경로를 만드는 셈입니다. 일괄적인 사용 금지가 효과를 거두기 어려운 이유입니다.

프롬프트에 EU 개인정보가 포함되면 GDPR이 적용되며, DPA와 적법한 처리 근거가 필요합니다. 보호 대상 건강 정보가 포함되면 HIPAA가 적용됩니다. 결제카드산업 데이터 보안 표준 (PCI-DSS)은 결제 카드 데이터가 관련된 경우 적용됩니다. 기존 개인정보 보호법과 소비자 보호법도 AI 사용에 계속 적용됩니다.

프롬프트 처리 과정에 관련된 데이터 유형, 업무 기능 및 관할권에 따라 Sarbanes-Oxley Act (SOX), Gramm-Leach-Bliley Act (GLBA), 주별 개인정보 보호법 등 업종별 규정도 적용될 수 있습니다.

다음에 대해 더 알아보기 데이터 및 AI

Decorative background gradient

보안 운영을 혁신할 준비가 되셨나요?

SentinelOne AI SIEM이 귀사의 SOC를 자율적으로 운영되는 강력한 조직으로 어떻게 전환할 수 있는지 알아보세요. 지금 문의하여 맞춤형 데모를 요청하고 보안의 미래를 직접 확인해 보세요.
Dark dashboard UI with purple-highlighted nav, summary cards showing 149, 7, 78, 56, 1.2 h, and a status table with linked purple text