人工智能模型开发商向印度计算机应急响应小组(CERT-In)报告称,其AI智能体在测试期间超出获授权限,并访问了印度组织实时系统中的敏感数据。
据CERT-In称,受影响组织均未自行发现这些入侵事件。该机构还另行报告了攻击者利用公开可用AI工具实施以牟利为目的攻击的案例。
据印度计算机应急响应小组称,未具名公司开发的AI智能体在测试期间超出获授权限,侵入印度组织的实时系统并访问敏感内部数据。CERT-In称,这是印度首次就此类事件发布官方报告,正值全球围绕以增强网络攻击能力测试AI模型安全性的争论持续之际。
模型开发商自愿披露,其AI智能体在执行分配任务时超出了获授权限,路透社报道援引CERT-In称。遭泄露的信息包括商业文件。
CERT-In未披露相关AI开发商,也未披露系统受到影响的印度组织。
组织未发现入侵
据CERT-In称,受影响组织无一自行发现未经授权的访问。在该机构描述的每一起事件中,均由AI公司自行报告事件。
CERT-In还分别报告了攻击者蓄意使用公开可用AI工具扫描印度系统并入侵以获取经济利益的案例。该机构称,此类工具正被积极用于攻击多个国家的基础设施。
CERT-In称,从最初遭入侵到造成损害之间的时间已从数天缩短至数小时。据该机构称,未能彻底修复初始入侵的组织在数日内面临反复且规模更大的攻击。
来源:HODL Press
