佛州女子通过Anthropic聊天机器人发威胁遭逮捕

佛罗里达州当局逮捕了博尼塔斯普林斯居民卡莉·米歇尔·海勒。调查人员称，一名名为卡莉的用户于9月26日威胁要向李县治安官办公室开枪。

在Anthropic的安全系统标记相关信息、其员工通知执法部门后，海勒被控违反佛罗里达州法律，作出书面暴力威胁。

根据逮捕报告，该用户次日称，她购买了一把新武器。

佛罗里达州当局逮捕了博尼塔斯普林斯居民卡莉·米歇尔·海勒。调查人员称，一名名为卡莉的用户于9月26日威胁要向李县治安官办公室开枪。在Anthropic的安全系统标记相关信息、其员工通知执法部门后，该案导致她被控违反佛罗里达州法律，作出书面暴力威胁。

媒体报道援引了调查结果。根据逮捕报告，该用户于9月27日称，她购买了一把新武器。

Anthropic系统标记信息

调查人员称，Anthropic的平台安全系统根据关键词及潜在威胁迹象识别出相关信息。由于这些说法的严重性，相关信息被转交给审查此类案件的工作人员，后者通知了执法部门。

李县治安官卡迈恩·马尔塞诺告诉WINK News，海勒后来称，她将AI用作“个人日记”。治安官办公室人员确认了她的身份，并前往博尼塔斯普林斯的一处住所，在未发生事故的情况下将她拘押。

随后，该调查被移交给李县治安官办公室情报部门的一名侦探。

海勒被控违反佛罗里达州法律，作出书面暴力威胁。该案的法院听证会定于11月举行。

FITECH首席执行官伊恩·马洛表示，AI的对话性质可能让用户产生一种错误的隐私感。他说，人们可能会将与AI系统的互动视为普通对话，而没有考虑到这些互动可能被记录和分析。

前联邦调查局特工理查德·科尔科表示，执法机构和法院才刚开始适应涉及通过人工智能系统发出威胁的案件。他称此类案件是一种新现象，并表示司法系统仍在确定应如何处理这些案件。