Seguridad de ChatGPT: Riesgos, privacidad y salvaguardas empresariales
La seguridad de ChatGPT protege los datos de la empresa cuando los empleados usan asistentes de IA. Conozca los riesgos, cómo difiere el manejo de datos según el nivel y las salvaguardas que permiten un uso gobernado.
Puntos clave
- La seguridad de ChatGPT implica proteger los datos sensibles, las cuentas de usuario, los prompts, las salidas y los sistemas conectados del acceso no autorizado, el uso indebido y la exposición accidental.
- Los principales riesgos de seguridad de ChatGPT incluyen la filtración de datos, la inyección de prompts, el compromiso de cuentas, la generación de código malicioso, las salidas inexactas y el phishing o la ingeniería social asistidos por IA.
- El manejo de datos de ChatGPT varía según el plan, la configuración y las integraciones, por lo que las organizaciones deben comprender cómo se almacenan, conservan, acceden y potencialmente usan los prompts antes de compartir información empresarial.
- El uso no gestionado de ChatGPT puede crear riesgos de shadow AI y de cumplimiento, reduciendo la visibilidad de lo que comparten los empleados y aumentando la posibilidad de exposición de propiedad intelectual o datos confidenciales.
¿Qué es la seguridad de ChatGPT?
En el verano de 2025, el funcionario que dirige la agencia de EE. UU. responsable de defender las redes federales pegó archivos gubernamentales sensibles en una versión pública de ChatGPT. El director interino de CISA cargó documentos de contratación marcados como "For Official Use Only", y los sensores internos de monitoreo marcaron la actividad en cuestión de días. Siguió una revisión del Departamento de Seguridad Nacional. Sin brecha. Sin atacante. Unos pocos prompts, y los datos sensibles habían salido de los sistemas controlados.
Esa es la exposición que la seguridad de ChatGPT existe para cerrar. La seguridad de ChatGPT es el conjunto de prácticas que protegen los datos y las cuentas de su lugar de trabajo cuando los empleados usan ChatGPT y asistentes de IA similares en el trabajo.
El riesgo está incorporado: según el nivel de la cuenta, los prompts que introducen los empleados pueden conservarse o usarse para entrenar modelos futuros, por lo que, sin controles organizacionales, sus datos salen de su entorno a través del trabajo cotidiano normal. Si implementa el nivel, la política y la aplicación adecuados, la misma herramienta que sus empleados ya usan se convierte en una que su equipo de seguridad puede ver y gobernar.
Cómo encaja la seguridad de ChatGPT en la seguridad empresarial
IA generativa se ha extendido por toda la fuerza laboral, y los equipos de seguridad ahora tienen que establecer gobernanza en torno a ese uso. Dentro de su programa de seguridad, el trabajo se sitúa en dos superficies: los prompts que los empleados envían a los asistentes de IA, y las cuentas e integraciones que conectan esos asistentes con sus sistemas.
Shadow AI amplía el problema, porque la actividad a través de cuentas personales y canales no aprobados se ejecuta sin visibilidad para su equipo de seguridad. El objetivo es la habilitación gobernada: una vía autorizada hacia ChatGPT que mantenga el trabajo fuera de las cuentas personales que usted no puede ver.
Riesgos de seguridad de ChatGPT
Las organizaciones enfrentan riesgos de exposición de datos, entrenamiento del modelo, inyección de prompts, compromiso de cuentas, shadow AI, alucinación e integración cuando los empleados usan ChatGPT o asistentes de IA similares:
- Datos sensibles introducidos en los prompts. Los empleados pegan código fuente, registros de clientes y datos financieros en ChatGPT. No se requiere ningún ataque para que los datos salgan de su entorno.
- Prompts usados para mejorar modelos. En las cuentas de consumidor, que los prompts entrenen modelos futuros depende de la configuración de cada usuario, sin aplicación centralizada.
- Inyección de prompts y jailbreaks. Inyección de prompts es un riesgo reconocido para los modelos de lenguaje grandes (LLM). La inyección indirecta puede desencadenar la exfiltración de datos de la sesión.
- Compromiso de cuentas y credenciales. Las credenciales robadas de ChatGPT exponen el historial de conversaciones, y las integraciones con almacenamiento en la nube o correo electrónico pueden crear una escalada del alcance de OAuth.
- Shadow AI por uso no autorizado. Las cuentas personales y las herramientas no aprobadas eliminan la visibilidad y omiten los controles asociados a las implementaciones empresariales autorizadas.
- Salida inexacta o fabricada. El Perfil de IA Generativa de NIST (NIST AI 600-1) caracteriza la alucinación como un desafío abierto de gestión de riesgos. Las salidas fabricadas sobre las que se actúa sin revisión introducen errores en las decisiones empresariales.
- Exposición de plugins o integraciones de terceros. El código de terceros y las herramientas conectadas pueden introducir riesgos de exposición de la cadena de suministro y de los datos de sesión.
Estos riesgos comparten una raíz y es una que usted puede gobernar. Cuánta exposición tiene depende de cómo ChatGPT maneja sus datos en cada nivel, que es donde la cuenta que usa empieza a importar.
Cómo ChatGPT maneja sus datos
Cuando un empleado envía un prompt, ChatGPT lo envía a la infraestructura de OpenAI y almacena el prompt y la respuesta como parte de la conversación. Lo que sucede después depende del nivel de la cuenta.
Manejo de datos | Consumidor | Business | Enterprise |
Entrenamiento con sus prompts | Puede usarse para mejorar modelos, según la configuración del usuario | No se usa para entrenar modelos | No se usa para entrenar modelos |
Modelo de control | Depende de la acción individual del usuario | Aplicado por el administrador | Aplicado por el administrador |
Retención de datos | Retención predeterminada, control limitado | Gestionado por la organización | Políticas de retención personalizadas |
Identidad | Inicios de sesión individuales | SSO | SSO de SAML con aprovisionamiento SCIM |
Auditoría y cumplimiento | Ninguno | DPA, controles básicos | API de cumplimiento, registros de auditoría, claves de cifrado gestionadas por el cliente, DPA |
Esa diferencia en el manejo de datos es lo que convierte el uso no gestionado en un riesgo empresarial, y establece el costo que asume cuando faltan los controles.
El costo del uso no gestionado de ChatGPT
El uso no gestionado de ChatGPT le cuesta a la empresa de tres maneras: control de datos, posición competitiva y cumplimiento. Cuando los empleados pegan código propietario o información de clientes en prompts de nivel de consumidor, esos datos llegan a un servicio de IA externo, y su organización puede perder el control práctico sobre ellos.
La misma exposición pone en riesgo la información competitiva, ya que la configuración del nivel y del manejo de datos afecta si los secretos comerciales y los algoritmos propietarios introducidos en los prompts permanecen dentro de su organización.
La exposición también es un problema de cumplimiento y confianza. Las obligaciones existentes de privacidad y confidencialidad siguen aplicándose cuando usa herramientas de IA, por lo que enviar datos regulados como información de identificación personal (PII) o información médica protegida (PHI) a una herramienta de IA de consumo sin un Acuerdo de Procesamiento de Datos (DPA) puede desencadenar infracciones en virtud de GDPR, HIPAA, o normas similares. La divulgación pública de cualquiera de estos puede indicar a clientes y reguladores que su gobernanza de datos tiene brechas.
Desafíos para proteger el uso de ChatGPT
Incluso con una política implementada, el uso de ChatGPT es difícil de gobernar en la práctica. Cuatro limitaciones juegan en su contra:
Desafío | Por qué es difícil de controlar |
Visibilidad limitada del tráfico de IA | La supervisión de red no puede inspeccionar lo que los empleados escriben en una herramienta de IA basada en navegador, y la telemetría de endpoints rara vez separa el uso autorizado del uso no autorizado |
Cambios rápidos de funciones | OpenAI actualiza con frecuencia las capacidades y políticas de datos de ChatGPT, por lo que la documentación de gobernanza puede quedar desactualizada en cuestión de semanas |
La demanda supera a la política | Los empleados adoptan nuevas herramientas más rápido de lo que los equipos de seguridad y legales pueden evaluarlas |
Manejo de datos controlado por el proveedor | Usted no establece los plazos de retención, las políticas de entrenamiento ni los controles de acceso de OpenAI para su infraestructura |
Estas limitaciones explican por qué la política por sí sola rara vez es suficiente, y por qué las salvaguardas siguientes combinan reglas escritas con aplicación técnica.
Salvaguardas empresariales para ChatGPT
Sus equipos pueden usar ChatGPT de forma segura en el trabajo cuando existen los controles adecuados. La mayor parte de la exposición se remonta a un único comportamiento, que los empleados peguen código fuente, credenciales o registros de clientes en un prompt, por lo que las salvaguardas siguientes combinan reglas escritas con aplicación técnica para hacer visible y prevenible ese comportamiento:
- Establezca una política de uso aceptable para herramientas de IA. Defina qué herramientas de IA están aprobadas, qué categorías de datos están prohibidas en los prompts, como PII, PHI, código fuente, credenciales, secretos comerciales y documentos legales, y las consecuencias del incumplimiento. NIST AI 600-1 ofrece orientación sobre gestión de riesgos para estructurar esta política.
- Adopte el nivel empresarial con controles de datos e inicio de sesión único (SSO). Cambie a ChatGPT Business o Enterprise para obtener controles organizativos más sólidos, SSO y un DPA. Si su organización requiere retención de datos personalizada, registros de auditoría, System for Cross-domain Identity Management (SCIM) o claves de cifrado gestionadas por el cliente, Enterprise proporciona el conjunto más completo de estas capacidades.
- Aplique prevención de pérdida de datos y clasificación de datos. Clasifique sus datos antes de que lleguen a una herramienta de IA. Use prevención de pérdida de datos (DLP) para inspeccionar el tráfico saliente y bloquear el acceso a endpoints de IA no autorizados en la capa de proxy o firewall.
- Controle el acceso y revise el uso de la IA. Aplique acceso basado en roles limitado a casos de uso definidos. Registre la identidad, la marca de tiempo, el endpoint de IA y el volumen de datos del tráfico saliente de IA. En ChatGPT Enterprise, habilite la Compliance API y los registros de auditoría. Una postura más amplia de seguridad de IA conecta la política con la aplicación técnica.
- Capacite a los empleados sobre el prompting seguro. Siga el modelo de CISA y exija capacitación de empleados sobre IA para el uso de herramientas de IA. Cubra la política de uso aceptable, las categorías de datos prohibidas, cómo validar la salida de la IA y la notificación de incidentes por exposición accidental de datos. Exija una recertificación anual.
- Realice la debida diligencia del proveedor sobre el manejo de datos. Confirme que su DPA cubra explícitamente el contenido de los prompts de IA y el procesamiento de datos tradicional. Verifique las certificaciones y establezca plazos de notificación contractuales para las filtraciones de datos.
Estas salvaguardas funcionan como un sistema. La política establece los límites. La selección del nivel establece la base contractual y técnica. DLP y la visibilidad aplican la política técnicamente. La capacitación construye la capa humana y la debida diligencia cierra la brecha del proveedor.
Mejore la seguridad de ChatGPT con SentinelOne
La política y la selección del nivel establecen las reglas. SentinelOne las aplica en el punto de interacción: el propio prompt. Prompt Security encuentra y controla datos regulados, código fuente y credenciales antes de que entren en ChatGPT u otras herramientas de IA para consumidores. Detiene la exfiltración de datos dentro del navegador.
Singularity™ Identity vincula cada sesión de IA a una identidad humana o no humana, incluidos agentes de IA y cuentas de servicio, para que su equipo pueda rastrear un evento de exposición hasta su origen.
Purple AI™ convierte la investigación en lenguaje sencillo. Los analistas hacen una pregunta, reconstruyen la cronología y determinan si una exposición fue accidental o maliciosa. IDC informa una identificación de amenazas un 63% más rápida y una reducción del 55% en el tiempo medio de respuesta.
En toda la Singularity Platform, SentinelOne registró un 88% menos de alertas con una detección del 100% en las Evaluaciones MITRE ATT&CK de 2024, por lo que los equipos SOC dedican menos tiempo al ruido y más a la actividad de IA e identidad que conlleva un riesgo real. Para una visibilidad más amplia de visibilidad de extended detection and response (XDR), esos eventos se correlacionan con señales de endpoint, identidad y nube en un solo lugar.
Solicite su demo de SentinelOne hoy para comenzar a gobernar cómo sus equipos usan la IA.
Obtenga visibilidad completa, seguridad y gobernanza sobre el uso de IA en su organización. Descubra shadow AI, proteja sus datos sensibles y habilite la IA de forma segura en la organización.
Conclusión
La seguridad de ChatGPT protege sus datos cuando los empleados usan asistentes de IA. El riesgo central es la exposición de datos a través de los prompts, amplificada por la IA en la sombra que elimina la visibilidad. El uso por parte de consumidores depende más de la configuración individual, mientras que los niveles Business y Enterprise proporcionan controles organizativos más sólidos.
La habilitación gobernada combina política de uso aceptable, el nivel correcto, prevención de pérdida de datos, visibilidad, capacitación y debida diligencia del proveedor. Implemente esos elementos y sus equipos conservarán todas las ventajas que ChatGPT les ofrece. Sus datos sensibles permanecerán donde deben estar.
Ciberseguridad impulsada por la IA
Mejore su postura de seguridad con detección en tiempo real, respuesta a velocidad de máquina y visibilidad total de todo su entorno digital.
Preguntas frecuentes
La seguridad de ChatGPT es la forma en que gobierna la ruta de los datos entre los empleados y los asistentes de IA: qué cuentas y niveles gestionan los prompts, qué datos están permitidos en ellos y quién puede ver la actividad. Ninguna configuración por sí sola la proporciona.
En la práctica, es una responsabilidad compartida entre los equipos de seguridad, legal e identidad. El trabajo comienza con saber qué cuentas de IA ya usan sus empleados y luego asociarles políticas y monitoreo.
ChatGPT Enterprise proporciona controles de datos aplicados por administradores, políticas de retención personalizadas, SSO de Security Assertion Markup Language (SAML) con aprovisionamiento SCIM, cifrado con claves gestionadas por el cliente y una Compliance API con registro de auditoría. También admite un DPA conforme con el GDPR.
El uso por parte de consumidores depende mucho más de la configuración individual, mientras que Enterprise le ofrece funciones de gobernanza centralizada que sus equipos de seguridad, legal e identidad pueden aplicar en todo el entorno.
Eso depende del nivel y de la configuración. En las cuentas de consumidores, los prompts pueden usarse para mejorar modelos futuros según la configuración individual del usuario. Las implementaciones de Business y Enterprise otorgan a la organización control directo sobre si el contenido de los prompts se conserva o se usa para entrenamiento.
Si sus empleados manejan datos sensibles, trate la selección del nivel en sí misma como un control de seguridad y confirme el comportamiento de entrenamiento en su contrato.
Puede serlo, con los controles adecuados. Adopte un nivel Business o Enterprise para obtener protecciones contractuales de datos. Combínelo con una política de uso aceptable, prevención de pérdida de datos, capacitación de empleados y visibilidad del uso.
Los LLMs no son el lugar para información sensible. Asegúrese de que los empleados usen el canal autorizado y gobernado para que el trabajo se mantenga fuera de las cuentas personales y las herramientas no aprobadas que eluden sus controles.
La IA en la sombra se refiere al uso por parte de los empleados de herramientas de IA a través de cuentas personales o aplicaciones no aprobadas, fuera del entorno aprovisionado y supervisado de la organización.
La IA en la sombra elimina la visibilidad para los equipos de seguridad, elude los controles de datos y crea exposición de cumplimiento que la telemetría estándar de endpoints puede no detectar. En la práctica, convierte la adopción de IA en una ruta de datos no gestionada, por lo que las prohibiciones generales a menudo fallan.
El GDPR se aplica si los prompts contienen datos personales de la UE, lo que requiere un DPA y una base legal para el procesamiento. HIPAA se aplica si los prompts contienen información médica protegida. El Estándar de Seguridad de Datos para la Industria de Tarjetas de Pago (PCI-DSS) se aplica si hay datos de tarjetas de pago involucrados. Las leyes vigentes de privacidad y protección del consumidor también se aplican al uso de IA.
Las normas específicas del sector, incluidas la Ley Sarbanes-Oxley (SOX), la Ley Gramm-Leach-Bliley (GLBA) y las leyes estatales de privacidad, también pueden aplicarse según el tipo de datos, la función empresarial y la jurisdicción involucrados en el flujo de trabajo del prompt.
Descubra más sobre Datos e IA
¿Listo para revolucionar sus operaciones de seguridad?
Descubra cómo SentinelOne AI SIEM puede transformar su SOC en una potencia autónoma. Contáctenos hoy para una demostración personalizada y vea el futuro de la seguridad en acción.
