Anthropic reveló cinco casos en los que científicos utilizaron Claude para investigación biológica de doble uso cuyos resultados podrían respaldar el desarrollo de armas biológicas.

La empresa dijo que no encontró indicios de intención maliciosa, pero bloqueó las cuentas relacionadas y reforzó sus salvaguardas.

Los proyectos involucraban chikunguña, gripe aviar, ortopoxvirus, venenos y toxinas.

Anthropic dijo en un informe de septiembre de 2026 que identificó y cerró cinco casos de uso de modelos Claude en investigación científica cuyos resultados podrían potencialmente aplicarse al desarrollo de armas biológicas. La empresa señaló que los casos son importantes porque organizaciones vinculadas a gobiernos y científicos ya están aplicando modelos avanzados de IA a investigación de doble uso y, en algunos casos, eludiendo restricciones de acceso.

Anthropic subrayó que no tenía pruebas de que los científicos pretendieran crear armas biológicas. La preocupación surgió de la naturaleza de doble uso de la investigación: el mismo conocimiento podría respaldar vacunas y medicamentos o ayudar a crear patógenos más peligrosos, según la empresa.

Jacob Klein, director de inteligencia de amenazas de Anthropic, dijo que distinguir entre esos fines suele ser extremadamente difícil. Anthropic describió los casos en un informe de la empresa sobre el uso indebido de IA.

Investigación sobre chikunguña y gripe aviar

Anthropic dijo que uno de los casos más alarmantes involucró una solicitud detectada en mayo de 2026. Investigadores intentaron utilizar Claude mientras preparaban una solicitud de financiación para experimentos con el virus chikunguña, incluidos cambios que podrían afectar su transmisibilidad y su capacidad para evadir las defensas inmunitarias.

La empresa dijo que le preocupaba aún más que la investigación estuviera prevista para un instituto de investigación militar. Anthropic bloqueó las cuentas asociadas y trabajó con socios para restringir la infraestructura que los usuarios habían empleado para eludir controles regionales.

Según Anthropic, el operador de la infraestructura intentó posteriormente restablecer el acceso a modelos de IA mediante nuevas cuentas y otros servicios.

En un caso separado, un investigador fuera de Estados Unidos utilizó Claude durante varias semanas mientras estudiaba gripe aviar altamente patógena. El trabajo examinó la adaptación del virus a mamíferos y factores que podrían afectar potencialmente su capacidad de provocar una pandemia.

El investigador intercambió miles de mensajes con Claude y lo utilizó para revisar literatura científica, planificar investigaciones, analizar datos y preparar materiales. Anthropic dijo que las salvaguardas bloquearon las indicaciones más peligrosas, lo que dejó al investigador trabajando principalmente con los modelos Claude Sonnet 4 y Haiku 4.5, más débiles. La empresa evaluó que la contribución efectiva de Claude fue limitada.

Ortopoxvirus, venenos y toxinas

Otro usuario empleó Claude Opus 5 mientras preparaba una solicitud de subvención para estudiar ortopoxvirus, la familia viral que incluye los patógenos responsables de la viruela y la mpox. Anthropic dijo que el modelo redactó una parte sustancial del documento en aproximadamente una hora, incluida la hipótesis, el diseño del estudio y el plan estadístico. El proyecto estaba vinculado a un laboratorio gubernamental de enfermedades infecciosas.

Otros dos casos involucraron investigación sobre venenos y toxinas. Según Anthropic, los investigadores utilizaron Claude para analizar y diseñar computacionalmente moléculas con aplicaciones médicas y potencialmente dañinas.

Uno de los proyectos formaba parte de un programa gubernamental de investigación. En el otro caso, Anthropic dijo que el usuario instruyó deliberadamente a Claude para que no revelara detalles específicos sobre las sustancias estudiadas en los informes.

Anthropic concluyó que los filtros automatizados por sí solos no pueden vigilar adecuadamente trabajos científicos complejos porque un sistema a menudo no puede inferir la intención únicamente a partir del contenido de una solicitud. La empresa afirmó que el acceso a las capacidades de IA más potentes en biología debería combinar el filtrado de contenido peligroso con la verificación de identidad y la confirmación de que los investigadores están afiliados a organizaciones de confianza.

Anthropic advirtió que los casos no demuestran una amenaza biológica inevitable. The New York Times señaló que las preocupaciones previas sobre armas biológicas asistidas por IA se basaban en gran medida en pruebas de laboratorio y escenarios hipotéticos, mientras que el informe de Anthropic ofreció información poco común sobre el uso en proyectos científicos reales.

El experto en bioseguridad Andrew Weber describió los casos como un ejemplo alarmante de cómo programas gubernamentales podrían intentar utilizar las capacidades de rápida evolución de los modelos de IA. Weber defendió limitar las funciones biológicas más potentes de los sistemas a un grupo evaluado de investigadores de confianza.

Hallazgos más amplios sobre uso indebido

El informe de Anthropic, Detecting and countering misuse of AI: September 2026, cubre casos relacionados con modelos Claude desde diciembre de 2025 hasta agosto de 2026. Además de los riesgos biológicos, describe el uso de IA en ciberataques, vigilancia, operaciones de información, fraude, desarrollo de armas convencionales e intentos de copiar capacidades de modelos avanzados de IA.

La empresa dijo que la IA sirve cada vez más no solo como asesora, sino también como herramienta para automatizar operaciones completas. En ciberataques, actores de amenazas utilizaron agentes de IA para reconocimiento, explotación de vulnerabilidades, robo de datos y modificación de malware en respuesta a la detección por sistemas defensivos. Anthropic dijo que esto reduce las habilidades requeridas y permite que grupos pequeños ejecuten operaciones que antes habrían necesitado equipos especializados.

Anthropic vinculó una operación identificada con ciberespionaje ruso dirigido contra organismos gubernamentales ucranianos, el ejército, diplomáticos y fabricantes de drones. Según la empresa, los planes de los atacantes hacían referencia a más de 20 organizaciones.

El informe también describió el uso de Claude para desarrollar software para misiles y drones armados, realizar campañas de información respaldadas por Estados y vigilar a disidentes, así como para crear una gran red de aplicaciones fraudulentas de citas.

Anthropic también alegó que algunas empresas chinas de IA redirigieron grandes volúmenes de solicitudes de usuarios a Claude y utilizaron sus respuestas para entrenar sus propios sistemas mediante destilación. La empresa advirtió que esa práctica podría haber expuesto datos sensibles de usuarios y empresas a servicios de terceros.

Anthropic dijo que bloqueó la actividad identificada en cada caso, mejoró sus defensas y, cuando fue necesario, compartió información con organismos gubernamentales y otros participantes del sector.

Fuente: HODL Press