Las autoridades de Florida arrestaron a Carly Michelle Heller, de Bonita Springs, después de que investigadores afirmaran que una usuaria llamada Carly amenazó el 26 de septiembre con atacar a tiros la Oficina del Sheriff del Condado de Lee.
Heller está acusada de realizar una amenaza escrita de violencia conforme a la ley de Florida, después de que el sistema de seguridad de Anthropic señalara los mensajes y el personal notificara a las autoridades.
Según el informe de arresto, la misma usuaria dijo al día siguiente que había comprado un arma nueva.
Informes de medios citaron las conclusiones de la investigación. Según el informe de arresto, la misma usuaria dijo el 27 de septiembre que había comprado un arma nueva.
El sistema de Anthropic señaló los mensajes
Los investigadores afirmaron que el sistema de seguridad de la plataforma de Anthropic identificó los mensajes basándose en palabras clave e indicadores de una posible amenaza. Debido a la gravedad de las declaraciones, la información fue remitida al personal que revisa este tipo de casos, y este notificó a las autoridades.
El sheriff del Condado de Lee, Carmine Marceno, dijo a WINK News que Heller posteriormente afirmó que utilizaba la IA como un “diario personal”. El personal de la Oficina del Sheriff la identificó y acudió a una vivienda en Bonita Springs, donde la detuvo sin incidentes.
Posteriormente, la investigación fue asignada a un detective de la unidad de inteligencia de la Oficina del Sheriff del Condado de Lee.
Audiencia judicial programada
Heller está acusada de realizar una amenaza escrita de violencia conforme a la ley de Florida. Una audiencia judicial en el caso está programada para noviembre.
Ian Marlow, CEO de FITECH, afirmó que la naturaleza conversacional de la IA puede dar a los usuarios una falsa sensación de privacidad. Dijo que las personas pueden tratar una interacción con un sistema de IA como una conversación normal sin considerar que puede ser registrada y analizada.
Richard Kolko, exagente especial del FBI, dijo que las agencias de seguridad y los tribunales apenas están comenzando a adaptarse a los casos relacionados con amenazas realizadas mediante sistemas de inteligencia artificial. Describió estos casos como un fenómeno nuevo y dijo que el sistema judicial aún está determinando cómo manejarlos.
Fuente: HODL Press
