OpenAI校园枪击案引发AI安全警报和警方转介的新问题

在涉及一名加拿大嫌疑人的OpenAI校园枪击案后,AI安全措施正受到审查,该嫌疑人的网络活动在袭击发生前数月就被标记。

OpenAI在Tumbler Ridge袭击前数月标记嫌疑人

ChatGPT制造商OpenAI透露,它通过其滥用检测系统在2025年6月识别了Jesse Van Rootselaar的账户,原因是"推进暴力活动"。然而,这家总部位于三藩市的科技公司当时断定该活动未达到其向执法部门转介的内部门槛。

该公司表示,它特别权衡了是否向加拿大皇家骑警(RCMP)发出有关该账户的警报。此外,它决定不继续进行,判断这些信号并未显示造成严重身体伤害的迫在眉睫且可信的计划。

OpenAI随后在2025年6月因违反使用政策而禁止了该账户。该决定是在悲剧于卑诗省偏远地区发生前数月作出的。

卑诗省致命校园枪击案

这名18岁的嫌疑人后来在Tumbler Ridge小镇进行了校园袭击,杀害8人后因自己开枪造成的伤口身亡。该事件于上周报道,是加拿大历史上最严重的校园枪击案之一,并加剧了有关科技公司如何处理高风险用户行为的辩论。

根据RCMP的说法,Van Rootselaar首先在家中杀害了她的母亲和继兄弟,然后袭击了附近的学校。此外,警方表示枪手此前曾因心理健康相关问题与执法部门接触,尽管这些互动的具体性质未予详述。

警方报告称,受害者包括一名39岁的助教和五名年龄在12至13岁之间的学生。该镇位于加拿大落基山脉,约有2,700人居住,位于温哥华东北方1,000公里(600英里)以外,靠近亚伯达省边界。

OpenAI的执法门槛和回应

在解释其未较早接触当局的决定时,OpenAI表示其联系执法部门的标准集中于案件是否涉及对他人造成严重身体伤害的迫在眉睫且可信的风险。该公司表示,当时它没有识别出会触发此类转介的具体或迫在眉睫的计划。

该公司指出,此转介门槛旨在平衡用户隐私与安全义务。然而,这一披露引发了新的问题,即当用户与ChatGPT等AI工具的互动中出现早期预警信号时,现有的升级标准是否充分。

在校园枪击案新闻爆出后,OpenAI员工联系了RCMP,提供了有关Van Rootselaar及与该账户相关的历史活动的详细信息。华尔街日报首先报道了该公司的内部讨论和后续联络。

Tumbler Ridge悲剧后的公司声明

在一份公开声明中,OpenAI发言人表示:"我们与所有受Tumbler Ridge悲剧影响的人同在。我们主动联系了加拿大皇家骑警,提供了有关该个人及其使用ChatGPT的信息,我们将继续支持他们的调查。"此外,该公司强调了其与加拿大当局的持续合作。

话虽如此,枪击案的动机仍不清楚,调查人员尚未披露嫌疑人与ChatGPT的互动与最终袭击之间是否存在任何直接联系。尽管如此,该案件加强了全球对AI平台如何检测、评估和应对潜在威胁的关注。

加拿大自2020年以来最致命的暴行

当局将Tumbler Ridge袭击描述为加拿大自2020年以来最致命的此类暴行,当时新斯科舍省的一名枪手杀害了13人,并纵火导致另外9人死亡。然而,最近的事件具有额外的维度,因为它与AI提供商不断演变的责任相交织。

随着政策制定者和执法部门审查情况,OpenAI校园枪击案事件可能会引发关于AI公司应何时以及如何将令人担忧的用户行为升级至当局,以及现有转介标准是否充分应对新兴数字风险的辩论。

总而言之,卑诗省的悲剧凸显了隐私、风险评估和公共安全之间的复杂平衡,因为AI平台已深深嵌入日常生活中,迫使监管机构和科技公司重新评估其处理潜在威胁的协议。