Anthropic avisa a la policía por un chat con Claude: ¿son privadas tus conversaciones con la IA?

No del todo. A finales de septiembre de 2026, una mujer de Florida que usaba Claude «como un diario» escribió que iba a atacar a tiros la oficina del sheriff. Los sistemas de seguridad de Anthropic marcaron la conversación, una persona de la empresa la revisó, la consideró una amenaza creíble y avisó a la policía, que la detuvo en su casa. Tus chats con Claude, ChatGPT o Gemini no los lee nadie de forma rutinaria, pero sí pueden revisarse si los sistemas detectan un riesgo grave, y la empresa puede compartirlos con las autoridades.

Mucha gente le cuenta a la IA cosas que no le contaría a nadie: problemas de salud, discusiones de pareja, datos de clientes, el borrador de un despido. Este caso recuerda algo que está en la letra pequeña desde hace tiempo: una conversación con un chatbot no es un diario con candado. Aquí van los hechos contrastados y lo que significa para quien usa la IA en su trabajo.

¿Qué pasó exactamente?

Según el informe de detención que recogen TechSpot, Futurism y Yahoo News, la cronología es esta:

Está acusada de enviar por escrito una amenaza de muerte o de causar daño, según el artículo 836.10 de las leyes de Florida, un delito grave de segundo grado. Esa ley castiga las amenazas escritas o electrónicas hechas de forma que otra persona pueda verlas.

¿Puede alguien leer mis conversaciones con Claude?

Sí, en casos concretos. La política de privacidad de Anthropic lo dice claro:

• Revisión por seguridad. Las conversaciones que los sistemas marcan como posiblemente dañinas pueden revisarse y se guardan más tiempo para mejorar la detección de abusos.
• Avisos a las autoridades. Anthropic puede compartir datos con las autoridades si cree de buena fe que hace falta para cumplir la ley o para evitar un daño grave a una persona. En emergencias, cuando cree que es necesario para evitar una muerte o una lesión grave.
• Entrenamiento. En las cuentas de particulares (Free, Pro y Max), las conversaciones pueden usarse para entrenar los modelos salvo que lo desactives en los ajustes. Lo que se marca por seguridad se usa igualmente.
• Borrado. Si borras una conversación, desaparece del historial al momento y del servidor en un plazo de 30 días.

OpenAI ha explicado que con ChatGPT hace algo parecido: revisión automática, revisión humana cuando salta una alarma y aviso a la policía ante amenazas graves contra otras personas. De hecho, OpenAI ha recibido críticas y demandas por lo contrario, por no avisar a tiempo en casos de violencia.

¿Hizo bien Anthropic?

Hay dos lecturas, y las dos tienen parte de razón.

• Sí, era una amenaza concreta. Un lugar, un arma y una «última oportunidad». Si la empresa hubiera callado y hubiera pasado algo, la crítica habría sido mucho más dura.
• Pero inquieta. La usuaria creía que escribía para sí misma. Una persona que usa la IA para desahogarse en un mal momento puede acabar con su conversación en manos de un desconocido. Dónde está la línea entre un desahogo y una amenaza la decide, al final, el criterio de un empleado.

La conclusión práctica no depende de qué lectura prefieras: lo que escribes en un chatbot lo guarda una empresa y, en ciertos casos, lo puede leer una persona.

¿Qué significa para un negocio de Vigo o de Galicia?

Que la IA no es un cajón cerrado. Si tú o tu equipo usáis Claude, ChatGPT o Gemini en el trabajo, tres consejos:

1. No metas datos personales de clientes en una cuenta personal. Nombres, DNI, historiales médicos o nóminas no deben ir a un chat gratuito. Si los tratas, el RGPD te obliga a saber dónde acaban, y una cuenta de particular no te da ese control.
2. Usa planes de empresa o la API. Los planes para empresas (Claude Team o Enterprise, ChatGPT Business o Enterprise) y el uso por API se rigen por un contrato, no entrenan con tus datos por defecto y permiten firmar un acuerdo de encargado del tratamiento. Para datos muy sensibles, también puedes tener una IA en un ordenador de la oficina, sin que nada salga fuera.
3. Pon una norma por escrito. Qué herramientas se pueden usar, con qué datos y desde qué cuentas. Una página basta. Si un día te lo pregunta un cliente o la Agencia Española de Protección de Datos, lo tendrás a mano.

Si quieres meter la IA en tu negocio con las cosas en orden, por ejemplo un asistente que conteste a tus clientes sin que sus datos acaben donde no deben, puedo ayudarte desde Vigo. Mira cómo trabajo las apps a medida para empresas o pídeme presupuesto.