Entraron por los programas administrativos que usa cualquier empresa. Es la tercera intrusión a un laboratorio de IA en tres meses
Una startup de ciberseguridad llamada Cathedral entró a los sistemas internos de Anthropic en menos de 12 horas y llegó a transcripciones de reuniones, sueldos, ofertas de trabajo y mensajes de Slack sobre sus modelos más avanzados. Lo publicó The Washington Post este lunes, a partir de un informe de la propia Cathedral al que tuvo acceso.
No entraron por el modelo. Entraron por el software que Anthropic usa para vender y administrar personal, el mismo que usan miles de empresas que nada tienen que ver con inteligencia artificial. Cathedral corrió agentes de IA contra ese software, encontró fallas de esos proveedores y desde ahí caminó hacia adentro.
Anthropic confirmó el acceso a “un conjunto limitado” de sistemas de ventas, recursos humanos e informática. Dijo que nadie llegó a las conversaciones de los clientes con Claude, ni al código, ni a los pesos del modelo, los números que lo hacen funcionar. Cortó el acceso el mismo día y avisó a funcionarios federales.
La noticia no es que entraron. Es por dónde.
Tres intrusiones en tres meses y ningún modelo tocado
En julio, tres investigadores de Hacktron AI entraron a OpenAI en menos de 72 horas. Arrancaron en el foro público de desarrolladores, con una imagen cargada con trampa, y terminaron en el repositorio de código interno. Gastaron menos de USD 3.000 en consumo de IA. OpenAI les pagó USD 6.500 de recompensa.
En octubre, el FBI detuvo a un ingeniero de OpenAI acusado de esconder un grabador en el puerto USB de un televisor de la sala de reuniones ejecutiva. Según la acusación, las instrucciones para armarlo se pidieron a ChatGPT.
Un foro, un televisor, un programa de ventas. Nadie se acercó a un modelo y no hizo falta un Estado detrás. Hacktron se definió como tres tipos con suscripciones a Claude y Codex. Cathedral tiene meses de vida.
Cada laboratorio de IA es hoy dos empresas distintas
La primera construye el modelo y tiene seguridad de bóveda: acceso restringido, monitoreo permanente, informes de riesgo públicos. Los tres incidentes rebotaron contra esa pared.
La segunda paga sueldos, vende licencias, agenda reuniones y chatea por Slack con las mismas herramientas que una fábrica de zapatos. Por esa segunda empresa entraron todos.
Jacob Coxon, el investigador que renunció a Anthropic en septiembre, lo escribió al irse: el proyecto era una apuesta soberbia que no debería lanzarse “desde el Slack de una empresa privada”. Un mes después, otros le dieron la razón entrando por ahí.
A mi lectura, no es descuido sino aritmética. Cada hora de ingeniería puesta en blindar el programa de ventas es una hora que no entrena el próximo modelo, y en una carrera ese segundo gasto siempre gana.
Anthropic dice que lo vio venir y Cathedral dice que fue fácil
Las dos versiones chocan y las dos tienen un interés. Anthropic sostiene que su monitoreo detectó parte de la actividad antes del informe, que no tiene indicios de que nadie más haya usado esas fallas, y que Cathedral exageró las implicaciones de seguridad nacional y no reveló toda su actividad, como exige el programa de recompensas.
Cathedral responde que mantuvo los accesos al mínimo. Y tiene razones para inflar: vende ciberseguridad con IA al gobierno de Estados Unidos y a empresas, la fundaron exintegrantes del DOGE, la oficina de recortes del gobierno, levantó USD 160 millones y vale USD 1.400 millones. Un informe que asusta es su mejor folleto.
Alex Stamos, jefe de seguridad de Cognition y antes director del observatorio de internet de Stanford, revisó los hallazgos a pedido del Post. Dijo que “encontraron algo grande”, que conectar programas de terceros es un problema enorme para cualquier empresa, y que Anthropic “podría haberlo hecho mucho mejor”.
El dato que no cierra es el tiempo. Anthropic dice que detectó la actividad antes del informe. Aun así, 12 horas alcanzaron para leer sueldos y transcripciones. Detectar no es frenar.
Los laboratorios aprendieron a cuidar lo que vale miles de millones. Todavía no aprendieron que se entra por lo que vale lo mismo que en cualquier otra empresa.
(Con información de Infobae)
