La política de uso actualizada de Claude de Anthropic entrará en vigor el 12 de noviembre. La política prohíbe usar Claude para crear herramientas de vigilancia o permitir la operación de armas, incluidos sistemas de selección de objetivos y control.
Anthropic también consolidó las restricciones sobre campañas engañosas y detalló salvaguardas para elecciones, decisiones de alto riesgo y equipos capaces de realizar acciones físicas.
Anthropic ha publicado una Política de Uso actualizada para Claude que entrará en vigor el 12 de noviembre, citando nuevas capacidades de IA, comentarios de clientes y casos de uso indebido identificados durante el último año. La actualización prohíbe el uso de Claude para crear herramientas de vigilancia o permitir la operación de armas, al tiempo que establece salvaguardas más específicas para usos de alto riesgo y equipos capaces de realizar acciones físicas.
Anthropic afirmó que la mayoría de las actualizaciones aclaran normas existentes en lugar de cambiar la manera en que la empresa las aplica. Las revisiones incluyen restricciones relacionadas con la desinformación, las armas y la vigilancia, junto con requisitos más detallados para usos que podrían afectar la salud, las finanzas y la seguridad de las personas.
Normas sobre desinformación y elecciones
Anthropic consolidó restricciones anteriores sobre conducta engañosa en una sección independiente denominada “No participar en campañas engañosas ni actividad no auténtica”. Las normas se aplican a campañas políticas y comerciales.
La política prohíbe ocultar quién está detrás de los mensajes, amplificar artificialmente contenido mediante cuentas y publicaciones falsas, y crear herramientas o infraestructura para operaciones de influencia. Anthropic indicó que esas restricciones aparecían anteriormente en secciones sobre elecciones, fraude, privacidad y desinformación.
La empresa también renombró su sección sobre elecciones como “No socavar los procesos democráticos”. Prohíbe usar Claude para engañar a los votantes o perturbar elecciones, incluso mediante la difusión de información falsa sobre candidatos o procedimientos de votación, la suplantación de candidatos o funcionarios electorales, o los intentos de reprimir la participación.
Anthropic eliminó su prohibición absoluta de la segmentación personalizada de votantes y campañas, al afirmar que el lenguaje anterior podía abarcar actividades legítimas, como la preparación de información para votantes en distintos idiomas. La segmentación basada en el engaño o el uso indebido de datos personales sigue prohibida.
Armas y vigilancia
Las normas revisadas sobre armas cubren explícitamente el software y los componentes que permiten el funcionamiento de armas, incluidos los sistemas de selección de objetivos y control. También prohíben usar Claude para armar drones y otros vehículos autónomos.
Anthropic reescribió sus disposiciones sobre vigilancia y justicia penal tras señalar un mayor uso de IA para construir sistemas que identifican y rastrean a disidentes políticos. La política actualizada prohíbe rastrear a personas sin su consentimiento, tanto en tiempo real como mediante el análisis de datos recopilados previamente.
Claude tampoco puede utilizarse para tomar decisiones o formular recomendaciones sobre a quién deben investigar, detener o acusar las autoridades encargadas de hacer cumplir la ley en procesos penales. La política también prohíbe crear o mejorar herramientas diseñadas para la vigilancia.
Los usos permitidos incluyen el rastreo basado en el consentimiento, como para la detección de fraude, así como la moderación de contenido, el periodismo y la investigación jurídica.
Requisitos para usos de alto riesgo
Anthropic aclaró aún más sus normas para usos en los que las recomendaciones de Claude puedan afectar la salud, los derechos legales, las finanzas, los medios de vida o el acceso a servicios vitales. Una persona cualificada debe participar para verificar las recomendaciones del modelo y modificarlas si es necesario, y la persona afectada por la decisión debe ser informada de que se utilizó IA.
Esos requisitos ya existían, pero la política actualizada describe de forma más específica qué recomendaciones abarcan. También establece requisitos para el uso de Claude para controlar equipos capaces de realizar acciones físicas.
Trato abusivo de los modelos
La política añade una prohibición de conducta cruel o abusiva prolongada e injustificada hacia los modelos de Anthropic. La empresa afirmó que la norma está destinada a aplicarse solo en casos excepcionales en los que un usuario abuse sistemáticamente de un modelo sin un propósito claro.
La restricción no abarca la insatisfacción ordinaria, las discusiones, los temas creativos oscuros, las pruebas ni la investigación sobre modelos. Anthropic afirmó que la norma es coherente con la capacidad existente de Claude para poner fin a determinadas conversaciones en Claude.ai y Claude Code cuando los usuarios incurren sistemáticamente en abusos.
Anthropic lanzó anteriormente un escáner gratuito de vulnerabilidades para software de código abierto.
Fuente: HODL Press
