Autoridades da Flórida prenderam Carly Michelle Heller, de Bonita Springs, depois que investigadores afirmaram que uma usuária chamada Carly ameaçou, em 26 de setembro, abrir fogo contra o Gabinete do Xerife do Condado de Lee. Heller é acusada de fazer uma ameaça escrita de violência sob a lei da Flórida, após o sistema de segurança da Anthropic sinalizar as mensagens e funcionários notificarem as autoridades.
Segundo o relatório de prisão, a mesma usuária disse no dia seguinte, 27 de setembro, que havia comprado uma nova arma.
Reportagens da mídia citaram as conclusões da investigação.
Sistema da Anthropic sinalizou mensagens
Investigadores disseram que o sistema de segurança da plataforma da Anthropic identificou as mensagens com base em palavras-chave e indicadores de uma possível ameaça. Devido à gravidade das declarações, as informações foram encaminhadas a funcionários que analisam esses casos, e eles notificaram as autoridades.
O xerife do Condado de Lee, Carmine Marceno, disse à WINK News que Heller afirmou posteriormente que usava a IA como um “diário pessoal”. Funcionários do Gabinete do Xerife a identificaram e foram a uma residência em Bonita Springs, onde a detiveram sem incidentes.
A investigação foi então atribuída a um detetive da unidade de inteligência do Gabinete do Xerife do Condado de Lee.
Audiência judicial marcada
Heller é acusada de fazer uma ameaça escrita de violência sob a lei da Flórida. Uma audiência judicial no caso está marcada para novembro.
O CEO da FITECH, Ian Marlow, disse que a natureza conversacional da IA pode dar aos usuários uma falsa sensação de privacidade. Ele afirmou que as pessoas podem tratar uma interação com um sistema de IA como uma conversa normal, sem considerar que ela pode ser registrada e analisada.
O ex-agente especial do FBI Richard Kolko disse que as agências de aplicação da lei e os tribunais estão apenas começando a se adaptar a casos que envolvem ameaças feitas por meio de sistemas de inteligência artificial. Ele descreveu esses casos como um fenômeno novo e disse que o sistema judicial ainda está determinando como lidar com eles.
Fonte: HODL Press
