关于OpenAI没有在坦布勒岭枪手实施大屠杀前警告当局这一事件引发了一系列针对这家科技巨头的诉讼。然而,那些引起关注的互动内容之前并未公开,直到现在。
“在此后的几个月里,这种情况仍在持续,专注于通过ChatGPT谈论大规模杀戮的暴力幻想,以及持有枪械和爆炸物,甚至想要成为网络上的臭名昭著的杀手。”马可·福尔曼(Mark Follman)说道。
福尔曼是美国《母亲琼斯》杂志的国家事务编辑。他表示,他已审核了相关记录,并与对事件有深刻了解的人士进行了交谈。他的调查文章首次披露了杰西·范·鲁特斯拉尔(Jesse Van Rootselaar)如何利用ChatGPT策划攻击的细节。
“ChatGPT对于武器的战术特性提供了令人惊讶的生动描述,讨论在狭小空间、走廊和教室中使用武器时,甚至使用了‘狭小空间是它的游乐场’这样的说法。”
福尔曼引用了ChatGPT对枪手的建议,称“假设每发子弹命中一个目标,最多可以击倒10到20人,这取决于人员间距、密度、反应时间与混乱情况。”
然而,这一切都是在枪手创建了第二个账户之后进行的,因为她的第一个账户因涉及暴力幻想、讨论在购物中心大屠杀等被禁用,而OpenAI认为这些内容没有达到警告执法部门的标准。
“基本上,施害者在第一个账户被禁用后,重新登录使用第二个账户,告诉ChatGPT发生了什么,ChatGPT便开始指导枪手如何绕过安全措施。这实在是令人震惊。”
至今尚不清楚OpenAI为何没有标记枪手的第二个账户——该账户直到悲剧发生前一直在使用。福尔曼指出,范·鲁特斯拉尔向聊天机器人提出的最后一个问题是关于臭名昭著的大规模枪击事件的时间。几个小时后,八人已遇难。OpenAI未在截止日期前回应置评请求。
“坦布勒岭事件揭示了这样的公司自我监管的残酷后果。”费格斯·林利-莫塔(Fergus Linley-Mota)说道。
林利-莫塔是一位AI治理专家,他表示,联邦政府需要继续采取措施,监管并要求像OpenAI这样的公司保持透明性。
“安全不能只是公司承诺的一个功能,尤其是在事后,必须成为可以被追究责任的强制性义务。”
在福尔曼的报道之后,卑诗省总检察长尼基·夏尔玛(Niki Sharma)呼吁联邦政府采取行动,更新刑法,以更有效地追究AI公司的责任,从而避免再次让我们怀疑,这一切是否可以被阻止。
