A Política de Uso atualizada da Anthropic para o Claude entrará em vigor em 12 de novembro. A política proíbe o uso do Claude para criar ferramentas de vigilância ou possibilitar a operação de armas, incluindo sistemas de direcionamento e controle.
A Anthropic também consolidou restrições a campanhas enganosas e detalhou salvaguardas para eleições, decisões de alto risco e equipamentos capazes de realizar ações físicas.
A Anthropic publicou uma Política de Uso atualizada para o Claude que entrará em vigor em 12 de novembro, citando novas capacidades de IA, feedback de clientes e casos de uso indevido identificados no último ano. A atualização proíbe o uso do Claude para criar ferramentas de vigilância ou possibilitar a operação de armas, ao mesmo tempo que estabelece salvaguardas mais específicas para usos de alto risco e equipamentos capazes de realizar ações físicas.
A Anthropic afirmou que a maior parte das atualizações esclarece regras existentes, em vez de alterar a forma como a empresa as aplica. As revisões incluem restrições relacionadas à desinformação, armas e vigilância, além de requisitos mais detalhados para usos que possam afetar a saúde, as finanças e a segurança das pessoas.
Regras sobre desinformação e eleições
A Anthropic consolidou restrições anteriores sobre conduta enganosa em uma seção separada chamada “Não se envolva em campanhas enganosas ou atividade inautêntica”. As regras se aplicam a campanhas políticas e comerciais.
A política proíbe ocultar quem está por trás de mensagens, amplificar artificialmente conteúdo por meio de contas e publicações falsas e criar ferramentas ou infraestrutura para operações de influência. A Anthropic afirmou que essas restrições apareciam anteriormente em seções que tratavam de eleições, fraude, privacidade e desinformação.
A empresa também renomeou sua seção sobre eleições para “Não comprometa os processos democráticos”. Ela proíbe o uso do Claude para enganar eleitores ou interromper eleições, inclusive por meio da disseminação de informações falsas sobre candidatos ou procedimentos de votação, da personificação de candidatos ou autoridades eleitorais, ou de tentativas de suprimir o comparecimento às urnas.
A Anthropic removeu sua proibição absoluta de direcionamento personalizado de eleitores e campanhas, afirmando que a redação anterior poderia abranger atividades legítimas, como a preparação de informações para eleitores em diferentes idiomas. O direcionamento baseado em engano ou no uso indevido de dados pessoais continua proibido.
Armas e vigilância
As regras revisadas sobre armas abrangem explicitamente softwares e componentes que permitem o funcionamento de armas, incluindo sistemas de direcionamento e controle. Elas também proíbem o uso do Claude para armar drones e outros veículos autônomos.
A Anthropic reescreveu suas disposições sobre vigilância e justiça criminal após observar o aumento do uso de IA para criar sistemas que identificam e rastreiam dissidentes políticos. A política atualizada proíbe rastrear pessoas sem seu consentimento, tanto em tempo real quanto por meio da análise de dados coletados anteriormente.
O Claude também não pode ser usado para tomar decisões ou fazer recomendações sobre quem as autoridades policiais devem investigar, deter ou acusar em processos criminais. A política também proíbe criar ou aprimorar ferramentas projetadas para vigilância.
Os usos permitidos incluem rastreamento baseado em consentimento, como para detecção de fraude, bem como moderação de conteúdo, jornalismo e pesquisa jurídica.
Requisitos para usos de alto risco
A Anthropic também esclareceu suas regras para usos nos quais as recomendações do Claude possam afetar a saúde, os direitos legais, as finanças, os meios de subsistência ou o acesso a serviços vitais. Uma pessoa qualificada deve estar envolvida para verificar as recomendações do modelo e alterá-las, se necessário, e a pessoa afetada pela decisão deve ser informada de que IA foi utilizada.
Esses requisitos já existiam, mas a política atualizada descreve mais especificamente quais recomendações eles abrangem. Ela também estabelece requisitos para o uso do Claude no controle de equipamentos capazes de realizar ações físicas.
Tratamento abusivo de modelos
A política acrescenta uma proibição de comportamento cruel ou abusivo prolongado e injustificado em relação aos modelos da Anthropic. A empresa afirmou que a regra se destina a se aplicar apenas em casos excepcionais nos quais um usuário abusa sistematicamente de um modelo sem uma finalidade clara.
A restrição não abrange insatisfação comum, discussões, temas criativos sombrios, testes ou pesquisa de modelos. A Anthropic afirmou que a regra é consistente com a capacidade já existente do Claude de encerrar certas conversas no Claude.ai e no Claude Code quando usuários se envolvem sistematicamente em abuso.
A Anthropic lançou anteriormente um scanner gratuito de vulnerabilidades para software de código aberto.
Fonte: HODL Press
