Riesgos de usar ChatGPT con datos confidenciales de tu empresa

Lo que pasa cuando pegas datos de tu empresa en ChatGPT sin pensarlo dos veces

La escena se repite todas las semanas en oficinas de Lima. Un gerente comercial copia la base de clientes en una hoja de calculo, la pega en ChatGPT y le pide que arme segmentos por ticket promedio. Una asistente legal copia un contrato de un cliente para que la IA le resuma las clausulas. Un contador pega el reporte mensual con nombres, RUC y montos para que la IA le saque conclusiones. Todo tomo menos de un minuto. Y todo, dependiendo de que plan de ChatGPT se uso, puede haber salido del control de la empresa para siempre.

No es paranoia. Es la realidad tecnica del producto. ChatGPT en su version gratuita y en el plan Plus puede usar las conversaciones para entrenar futuros modelos, salvo que el usuario haya activado el opt-out en la configuracion. Y aunque desactives ese permiso, los servidores guardan tu conversacion por un tiempo para fines de seguridad y revision. Mientras tanto, tu base de clientes, tu contrato firmado, tu informacion financiera, ya pasaron por servidores que no controlas.

En este articulo te cuento que riesgos reales corres cuando usas ChatGPT con datos confidenciales de tu empresa, que dice la Ley 29733 de Proteccion de Datos Personales en el Peru sobre esto, y que alternativas existen para que tu equipo siga aprovechando la IA sin exponerte a una multa o a una fuga seria.

Los tres riesgos que la mayoria de empresas no ve venir

Cuando alguien me pregunta cual es el problema con usar ChatGPT en el trabajo, le digo que hay tres riesgos que conviene separar porque cada uno se soluciona distinto.

El primer riesgo es de entrenamiento. Si tu equipo usa ChatGPT gratis o Plus sin desactivar el opt-out, OpenAI puede usar esas conversaciones para mejorar sus modelos. Eso significa que pedazos de tu informacion podrian terminar influyendo respuestas que ChatGPT le da a otra persona. No es que vaya a soltar tu base de clientes literal, pero si que tu informacion alimento un modelo que ya no controlas.

El segundo riesgo es de retencion. Aunque desactives el entrenamiento, OpenAI guarda tus conversaciones por hasta 30 dias para revision de abuso y seguridad. Eso quiere decir que tu texto vive en servidores externos por un tiempo. Si esos servidores sufrieran una brecha de seguridad, tu informacion estaria adentro. Es un riesgo bajo en terminos de probabilidad, pero alto en terminos de impacto porque hablamos de datos confidenciales.

El tercer riesgo es el que mas golpea en la practica: el factor humano. Empleados que pegan informacion sensible sin querer, capturas de pantalla con datos confidenciales que se quedan en el historial, conversaciones compartidas por enlace que terminan indexadas por buscadores. La mayoria de fugas reales que vi en empresas peruanas no fue por una falla tecnica de OpenAI. Fue porque alguien pego algo que no debia y nadie le habia explicado por que eso era un problema.

La Ley 29733 y por que te concierne aunque no seas un banco

En el Peru rige la Ley 29733 de Proteccion de Datos Personales y su reglamento. Esa ley aplica a cualquier empresa que trate datos personales, sin importar si es una bodega o una corporacion. Datos personales son el nombre, el DNI, el RUC personal, el correo, el telefono, la direccion, el numero de tarjeta, la historia clinica, la informacion laboral. Si alguno de tus archivos contiene eso, estas tratando datos personales y la ley te aplica.

La ley exige consentimiento informado del titular para tratar sus datos, exige medidas de seguridad razonables, y regula la transferencia internacional de datos. Aca viene el punto que casi nadie nota: cuando tu empleado pega informacion de un cliente en ChatGPT, esa informacion se esta transfiriendo a servidores en Estados Unidos. Eso, tecnicamente, es una transferencia internacional de datos personales.

La Autoridad Nacional de Proteccion de Datos Personales puede sancionar a empresas por incumplir la ley con multas que van desde media UIT hasta 100 UIT, segun la gravedad. Y la jurisprudencia reciente apunta a que la ANPDP esta tomandose en serio las fiscalizaciones, especialmente en sectores como salud, finanzas y comercio.

Si tu empresa maneja datos de clientes, pacientes, alumnos, donantes, o cualquier base con informacion personal, necesitas tener claro que herramientas de IA pueden tocar esos datos y bajo que condiciones. No es opcional.

Que tipo de informacion nunca deberia entrar a ChatGPT consumer

Cuando capacito equipos en uso responsable de IA, doy una lista corta de lo que jamas debe pegarse en un ChatGPT plan gratis o Plus. Es la lista que cualquier empresa peruana deberia imprimir y pegar al lado del monitor.

Bases de clientes con nombres, DNI, RUC, correos, telefonos o direcciones. Contratos firmados con datos de las partes. Estados financieros internos no publicados. Estrategias comerciales o de pricing que la competencia mataria por ver. Informacion medica de pacientes. Datos de empleados como sueldos, evaluaciones, problemas disciplinarios. Codigos fuente de software propietario. Credenciales, contrasenas, tokens de API. Documentos marcados como confidenciales por contrato con clientes o socios.

Si tu equipo necesita trabajar con cualquiera de esos materiales con apoyo de IA, hay tres caminos posibles. Anonimizar la informacion antes de pegarla, usar un plan empresarial que no entrene con tus datos, o usar una solucion desplegada en tu propia infraestructura. Los tres caminos se complementan segun el tipo de tarea.

ChatGPT Team y Enterprise: la opcion mas usada por empresas

OpenAI tiene dos planes disenados para uso corporativo que cambian las reglas del juego. ChatGPT Team esta pensado para equipos pequenos y medianos, y ChatGPT Enterprise para organizaciones grandes. Lo importante es que en ambos planes, OpenAI no entrena sus modelos con tus conversaciones. Punto.

Eso significa que si tu equipo trabaja con ChatGPT Team, los datos que pegan no van a alimentar futuros modelos de OpenAI. Las conversaciones se guardan en tu workspace, con controles de administracion, gestion de usuarios y cumplimiento SOC 2. Enterprise anade mas, como retencion configurable, acceso via SSO, controles de auditoria, y soporte dedicado.

El costo de Team esta en torno a los 25 dolares por usuario al mes. Enterprise se cotiza directamente con OpenAI y suele tener minimos de varios usuarios. Para una empresa peruana con un equipo de 10 personas que necesite usar IA de forma regular, Team suele ser el punto dulce. Para corporaciones con cientos de empleados, Enterprise es la salida natural.

Hay un detalle que conviene tener claro: aunque OpenAI no entrene con tus datos, los datos siguen pasando por sus servidores. Si tu sector tiene regulaciones de soberania de datos muy estrictas, eso aun puede ser un problema. Para la mayoria de empresas peruanas, sin embargo, ChatGPT Team o Enterprise resuelve el problema principal.

Claude Team y Enterprise: la otra opcion seria

Anthropic ofrece planes parecidos con Claude, su modelo. Claude Team y Claude Enterprise tampoco entrenan con tus datos. Tienen controles de administracion, gestion de usuarios, y un enfoque fuerte en seguridad y alineacion.

Para muchos casos de uso empresarial Claude funciona muy bien. Es especialmente fuerte en tareas de redaccion larga, analisis de documentos complejos, y razonamiento con contexto extenso. Si tu empresa procesa contratos largos, informes tecnicos o documentos regulatorios, vale la pena probarlo en paralelo con ChatGPT.

El precio de Claude Team esta en un rango parecido al de ChatGPT Team. La eleccion entre uno y otro depende mas de los casos de uso de tu equipo que de una diferencia tecnica gigante. Lo que si tengo claro es que cualquiera de los dos es una mejor opcion que dejar a tu equipo usando planes consumer con datos sensibles.

Soluciones on-premise: cuando la confidencialidad es total

Algunas empresas tienen requisitos de confidencialidad tan altos que ni siquiera quieren que sus datos pasen por servidores de terceros. Para esos casos existen modelos que se pueden desplegar en infraestructura propia. Llama 3 de Meta es el mas conocido en codigo abierto y se puede correr en servidores que tu equipo controla. Tambien hay variantes de Mistral y otros modelos que se pueden hospedar internamente.

La ventaja es obvia: ningun dato sale de tu red. Tu decides que se guarda, por cuanto tiempo, y quien accede. La desventaja es que requiere infraestructura, un equipo tecnico que sepa desplegar y mantener estos modelos, y costos iniciales que no son menores. Para una empresa pequena suele ser sobrediseno. Para un banco, una empresa de salud o una organizacion del Estado puede ser exactamente lo que necesita.

Una opcion intermedia es usar modelos open source desplegados en proveedores cloud como Azure OpenAI Service o AWS Bedrock, donde tu workspace queda aislado y los datos no se mezclan con los de otros clientes. Eso te da control sin tener que armar tu propio data center.

Anonimizacion: la practica que mas impacto tiene en el dia a dia

Aunque tengas el mejor plan empresarial del mundo, la disciplina mas util que puedes ensenarle a tu equipo es la anonimizacion antes de pegar. Es simple, gratis, y reduce el riesgo de forma dramatica.

La idea es reemplazar datos identificables por etiquetas genericas antes de mandar el texto a la IA. En lugar de Juan Perez DNI 12345678, escribes Cliente A. En lugar de RUC 20123456789, escribes Empresa X. En lugar de saldo en cuenta 87450 soles, escribes saldo en cuenta SXX. La IA hace su analisis sobre los datos enmascarados y tu reincorporas los datos reales despues, en local.

Para tareas repetitivas conviene armar plantillas que ya tienen los reemplazos hechos. Para tareas puntuales, hacerlo a mano toma menos de un minuto. Es una capa de proteccion adicional incluso encima de un plan empresarial, y para tareas con planes gratis o Plus es directamente la linea entre uso responsable y exposicion innecesaria.

Politicas internas: la pieza que casi nadie escribe

Por mas herramientas que tengas, sin una politica interna clara tu equipo va a hacer lo que crea conveniente. Y en el caso de la IA, lo que cree conveniente suele ser pegar todo en el chat mas facil que tenga abierto.

Una politica basica de uso de IA en una empresa peruana deberia cubrir al menos seis puntos. Que herramientas estan aprobadas para uso corporativo. Que tipo de datos pueden y no pueden entrar a esas herramientas. Quien es responsable de aprobar nuevas herramientas. Que hacer si un empleado pego informacion sensible por error. Como se capacita a nuevos empleados en estas reglas. Y como se audita el cumplimiento.

No tiene que ser un documento de 50 paginas. Una pagina bien escrita, leida en la induccion y reforzada en capacitaciones cortas cada seis meses, hace mas por la seguridad de tu empresa que cualquier filtro tecnico. La gente no incumple las politicas por maldad, las incumple por desconocimiento o por encontrarlas en el medio de la pagina 47 de un manual que nadie leyo.

Casos reales que vi en empresas peruanas

Te paso tres situaciones reales, con detalles cambiados para proteger a los involucrados, que ilustran como se ven estos riesgos en la practica.

Caso uno. Una clinica privada en Surco. Un medico empezo a usar ChatGPT gratis para resumir historias clinicas. Pegaba el texto completo con nombre del paciente, edad, diagnostico, tratamiento. Lo descubrieron cuando un comite interno reviso el flujo de informacion sensible. La clinica tuvo que hacer una notificacion interna, capacitar a todo el cuerpo medico, y migrar a un plan ChatGPT Team. Ningun paciente se entero, pero el riesgo regulatorio fue real.

Caso dos. Una empresa de servicios contables en Miraflores. Un asistente pegaba estados financieros de clientes en ChatGPT Plus para acelerar analisis. La empresa se entero porque otro empleado lo comento en una reunion casual. Resultado: politica interna nueva, ChatGPT Team adoptado, y una conversacion incomoda sobre por que nadie habia puesto reglas claras antes.

Caso tres. Una startup tecnologica en San Isidro. Un desarrollador pego codigo fuente con tokens de acceso en ChatGPT gratis. Los tokens estaban activos. Aunque OpenAI no es malicioso, el riesgo de que algun dia esa informacion se filtre por una brecha existia. Tuvieron que rotar todos los tokens, revisar logs, y revisar que otras cosas habian pasado por el mismo camino.

Ninguno de estos casos termino en un escandalo publico. Pero todos terminaron en horas de trabajo de remediacion, conversaciones dificiles con clientes y, en dos casos, sanciones internas a los empleados involucrados. Todo era evitable con politicas y herramientas correctas desde el principio.

Como empezar a poner orden esta semana

Si lees esto y te das cuenta de que tu empresa esta en alguno de estos riesgos, te paso un plan de cuatro pasos para los proximos siete dias.

Dia uno y dos. Levanta un inventario rapido de quien usa IA en tu equipo, con que herramientas y para que tareas. Una encuesta corta o conversaciones por area alcanzan. No busques culpables, busca entender el mapa real.

Dia tres y cuatro. Define que datos son sensibles en tu empresa. Bases de clientes, contratos, finanzas, recursos humanos, informacion de proveedores. Escribe esa lista y compartela.

Dia cinco. Decide que herramientas vas a aprobar. ChatGPT Team y Claude Team son las opciones mas sensatas para la mayoria de empresas peruanas. Calcula el costo segun el numero de usuarios y aprueba la compra.

Dia seis y siete. Escribe una politica interna corta, capacita al equipo en 30 minutos, y comparte un canal de preguntas para cuando aparezcan dudas. Marca una fecha para una revision en tres meses.

Ese ejercicio, hecho una vez en serio, te ahorra problemas por anos. No hace falta volverlo un proyecto faraonico. Hace falta que alguien lo haga.

Preguntas frecuentes

Si ya desactive el entrenamiento en ChatGPT Plus, estoy seguro?

Estas mejor que antes, pero no seguro del todo. Aunque OpenAI no use tus conversaciones para entrenar, las guarda hasta 30 dias para fines de seguridad. En ese periodo siguen siendo accesibles para revision humana en casos de abuso. Para datos confidenciales corporativos, el opt-out en Plus es una mejora, no una solucion completa. Para datos realmente sensibles, ChatGPT Team o Enterprise es la opcion correcta.

ChatGPT Team es suficiente para cumplir con la Ley 29733?

ChatGPT Team te da un punto de partida solido porque no entrena con tus datos y tiene controles administrativos. Pero el cumplimiento de la Ley 29733 no depende solo de la herramienta. Necesitas tambien consentimiento del titular cuando corresponda, una politica interna documentada, capacitacion del personal, y procedimientos para incidentes. La herramienta resuelve una pieza del rompecabezas, no todo.

Que pasa si un empleado pego informacion confidencial sin querer?

Primero, no lo conviertas en caceria de brujas, eso solo logra que la proxima vez nadie te avise. Documenta que se pego y cuando. Borra la conversacion desde la interfaz. Si usas un plan Team o Enterprise, contacta soporte para forzar eliminacion. Evalua el impacto, por ejemplo si eran contrasenas activas hay que rotarlas. Reporta internamente segun tu politica, y si los datos afectaban a terceros considera si corresponde notificacion legal. Y refuerza la capacitacion.

Puedo usar la API de OpenAI con datos confidenciales?

La API de OpenAI tiene terminos diferentes a los de los planes consumer. Por defecto, OpenAI no entrena con los datos que pasan por la API. Eso la convierte en una opcion valida para integraciones empresariales. Sin embargo sigues teniendo el tema de retencion, soberania de datos y responsabilidad legal. Para integraciones serias conviene revisar los terminos del Data Processing Addendum y, si aplica, firmar acuerdos especificos.

Los modelos open source corridos localmente son tan buenos como ChatGPT?

Para tareas generales, los modelos open source actuales como Llama 3 de Meta o Mistral pueden ser comparables a versiones anteriores de ChatGPT y han mejorado mucho. Para tareas de frontera, como razonamiento muy complejo o programacion avanzada, todavia hay una brecha con los modelos mas potentes de OpenAI y Anthropic. La buena noticia es que para la mayoria de tareas empresariales del dia a dia, un modelo open source bien configurado alcanza de sobra.

Tengo que avisarle a mis clientes si uso IA para procesar su informacion?

Depende del tipo de procesamiento y del contrato que tengas con ellos. Algunos contratos B2B exigen aviso previo o aprobacion para subcontratacion de procesamiento. Bajo la Ley 29733, si el uso de IA implica transferencia internacional de datos personales, hay obligaciones de informar al titular. La practica mas segura es actualizar tu politica de privacidad para reflejar el uso de IA, y para contratos vigentes con datos sensibles, comunicarlo proactivamente a tus clientes corporativos.

Como controlo si mi equipo esta usando ChatGPT no aprobado a escondidas?

Lo mas eficaz no es la vigilancia tecnica, es ofrecer una alternativa aprobada que sea tan buena o mejor que la que estan usando por su cuenta. Si compras ChatGPT Team para todos, capacitas en su uso y les das ejemplos concretos de como les facilita el trabajo, la motivacion de usar la version gratuita personal cae casi a cero. Suma una politica clara, un canal abierto para preguntas, y revisiones periodicas. La vigilancia pura genera resentimiento y empuja el uso a la sombra.

Y los planes Team o Enterprise comparten datos entre los usuarios de mi empresa?

Por defecto las conversaciones de cada usuario son privadas y solo visibles para ese usuario. Los administradores del workspace tienen ciertos permisos segun el plan, pero no acceso libre al contenido de cada conversacion. Si tu equipo crea proyectos compartidos o GPTs internos, esos si son visibles para el grupo definido. Conviene revisar la documentacion especifica del plan que contrates y definir reglas claras de que se comparte y que no.

Cuanto cuesta realmente migrar a una solucion empresarial?

El costo directo de ChatGPT Team esta alrededor de 25 dolares por usuario al mes. Claude Team esta en rangos parecidos. Para un equipo de 10 personas estas hablando de unos 250 dolares mensuales. Suma el tiempo de configuracion inicial, una capacitacion de un par de horas, y la redaccion de tu politica interna. Comparado con el costo potencial de una fuga de datos, una multa de la ANPDP, o una crisis de reputacion, es una inversion menor.

Hay alguna opcion gratis que sea segura para datos confidenciales?

Realmente no para uso corporativo serio. Las versiones gratuitas de ChatGPT, Claude y Gemini tienen limitaciones en seguridad, retencion y entrenamiento que las hacen inadecuadas para datos sensibles. Si tu empresa no tiene presupuesto, lo mejor es trabajar con datos anonimizados y limitar drasticamente que se pega. La capacitacion del equipo en buenas practicas es lo unico gratis que de verdad reduce el riesgo.