scripts and commands

8 死之后,BC 省政府把 Altman 的道歉信写进起诉书

2026/09/22 08:12

摘要:BC 省政府 9/21 在加州起诉 OpenAI 与 Altman:2025 年 6 月内部标记的暴力账号没通报执法,8 死 27 伤。起诉书引用 Altman 自己的道歉当自认。读完你能指着两个具体东西:门槛词 "imminent and credible risk",和 OpenAI 拒绝交出的聊天记录。

9 月 21 日星期一的发布会上,BC 省总检察长 Niki Sharma 宣布省政府在加州起诉 OpenAI。她还没读完那场对话,因为拿不到。Sharma 的原话是:「We have asked OpenAI to disclose these chats. They have refused. We should all be asking them: Why?」一个政府原告,起诉一家公司时拿不到案件最核心的证据,这个姿态本身就是起诉书的一部分。

起诉书列了两个理由。其一,OpenAI 没有把 ChatGPT 平台上「明确、被标记的威胁」及时通报执法;其二,设计了一款不安全的产品。被告是 OpenAI 和 Sam Altman 两个人,共同原告是 Peace River South 学区(SD59)。管辖地选在加州北区联邦法院。Sharma 的解释很直接:决定不通报发生在加州,那就去加州告。

2 月 10 日,18 岁的 Jesse Van Rootselaar 在 Tumbler Ridge Secondary School 开枪,8 死 27 伤。省政府的 7 月新闻稿给出了官方口径:校内遇难的是 5 名 11 到 13 岁的孩子和一名教育助理,枪手母亲与继兄弟在家中遇害,枪手自杀身亡。这不是第一起诉讼——9 月 2 日,幸存者、教师和学生刚追加了 30 起。Castanet 的标题称家属索赔可能到 10 亿美元,这个数字只有一家地方媒体在传,方向性参考。枪击发生 223 天后,起诉书落地。

真正让这份起诉书不一样的,是它引用的第一份证据:4 月 24 日 Altman 写给社区的公开道歉。「I am deeply sorry that we did not alert law enforcement to the account that was banned in June.」省政府在起诉书里把这句话读成「OpenAI 识别了风险却没有行动的供认」。一封公关性质的道歉,五个月后变成了原告手里的 Exhibit A。

标题读法是「AI 助长校园枪击」,起诉书要审的是另一件事:2025 年 6 月的一次内部标记,为什么没有变成一通打给 RCMP 的电话。那通电话没打出去。聊天记录现在躺在 OpenAI 的服务器里,等着 discovery 的传票。

起诉书写的是「没通报」,不是「模型开枪」

华尔街日报 9 月 21 日的标题是「British Columbia Sues OpenAI, Alleging ChatGPT Aided Mass School Shooting」。aided——协助。这个词把案子的重心放在模型与枪击的关系上,而起诉书的两条诉因里,没有一条主张模型扣动了扳机。

aided 这个标题词还有一层暗示:模型是共犯。起诉书没有这么写。两条诉因,一条说没通报,一条说产品不安全。模型开枪这件事,没有任何一方主张。

第一条是 failure to warn,没尽到警示义务。省政府主张,OpenAI 的内部报告显示安全团队在袭击发生前几个月就标记了枪手的暴力 prompts,但领导层没有通知警察或地方当局。这句话出自省政府 7 月 7 日官宣聘请律所时的新闻稿,是他们对外陈述的基准版本。第二条是 unsafe product design,不安全产品设计。两条都是过失责任的路子。

索赔结构也说明了这一点。省政府要的赔偿清单里没有精神损害这一项:重建 Tumbler Ridge 学校的费用、应急响应的投入、以及「这场悲剧及其可预见的后果」让省财政花掉的钱。SD59 学区作为共同原告,要的是同一笔支出的另一半。起诉书还请求了禁令救济:确保此类悲剧不再发生。

「We owe it to the families, survivors, and everyone whose life was changed by this tragedy, to get answers and accountability.」这是 Sharma 在发布会上的话。CFJC Today 把这场诉讼概括成一个更短的句子:一通电话本可以阻止这一切(「one call could have prevented」)。地方媒体的转述,方向对,细节以起诉书为准。

这是第一次有政府作为原告,把一家前沿实验室告上产品责任的法庭。此前类似案件都是个人或家庭在打:2 月起受害家庭陆续在加州起诉,9 月 2 日那批 30 起诉讼把教师和学生也带了进来,CBC 的视频标题直接写「Dozens of lawsuits filed against OpenAI」。政府入局意味着举证资源、发现程序(discovery)和舆论权重都换了一个量级。

OpenAI 在 9 月 21 日的邮件声明里说,Tumbler Ridge 是「unspeakable tragedy」,公司仍致力于与政府和执法部门合作。这句话没有回答一个问题:聊天记录为什么至今不交。起诉书里写得很清楚,省政府要求 OpenAI 披露那场对话,对方拒绝了。拒绝本身没有法律后果,但进了 discovery,就是另一回事了。

OpenAI 的门槛词:imminent and credible risk 由谁判定

时间线要从 2 月 21 日倒着看。那天 CBC 拿到 OpenAI 的声明:Van Rootselaar 的账号在 2025 年 6 月被自动工具和人工调查识别为「misuses of our models in furtherance of violent activities」,随后封禁。华尔街日报同一天报道,OpenAI 员工几个月前就对该账号提出过警报。

但封禁和报警之间隔着一道门槛。OpenAI 说,2025 年 6 月的账号活动没有达到转介执法的「更高门槛」——这家公司自己定义的门槛是「imminent and credible risk」of serious physical harm,迫在眉睫且可信的严重人身伤害风险。2025 年 6 月的使用记录,按 OpenAI 的判断,够不上。

RCMP 的说法补上了后半段。骑警向 CBC 确认,OpenAI 是在枪击发生之后才主动联系他们的,最初只是内部标记。这里的关键在时序:问题不在「能不能联系上 RCMP」,在「什么时候联系」。事后主动联系的事实 OpenAI 自己承认,这反而把争议压缩到一个点上——6 月到 2 月之间,那八个多月里发生了什么。

省长 David Eby 当天就表态,说 OpenAI 在枪击前掌握情报这件事「profoundly disturbing」。他确认警方正在向数字服务公司申请保全令,包括社交媒体平台和 AI 公司。「We will use all powers of government.」——这是 Eby 的原话。2 月 24 日,OpenAI 的安全代表被召到渥太华,联邦层面开始过问。省长要保全令,联邦要听证,省府后来要起诉书——三件事指向同一个问题:那份内部审查,外人谁都没看过。

还有一层值得记下:OpenAI 在 2 月的声明里说,得知枪击后,公司主动联系了 RCMP,提供了 Van Rootselaar 和她使用 ChatGPT 的信息。主动联系是真的,骑警也确认了。但「主动」发生在 2 月 10 日之后。这条声明反而把时间线钉死了:能联系,早就该联系。

门槛词是全文最值得抠的一个词。它是公司自己写的,没有外部复核,没有法定定义,也没有向公众公布过完整的判定标准。枪击发生前,这套标准的唯一执行者是 OpenAI 内部的安全团队和法务;枪击发生后,它的解释权第一次落到了法官和陪审团手里。

「imminent and credible risk」,八个英文词,现在出现在两份文件的标题位置。2 月的声明里,它是挡箭牌。9 月的起诉书里,它是靶子。同一个词,七个月前解释为什么不做,七个月后解释为什么被告。

道歉信成了起诉书的自认证据

4 月 24 日的道歉信,原本是来收尾的。3 月 Altman 向省长 Eby 和市长 Darryl Krakowka 承诺道歉,一个月后信才公开。前一天,Eby 刚宣布 RCMP 调查进入「final stages」;Krakowka 在发布会上说,他不知道 OpenAI 什么时候会来道歉。第二天信就到了。

社区媒体 Tumbler RidgeLines 全文刊载了这封信,并附上 PDF 原件。措辞周到:先谈哀悼,再谈承诺,中间夹着那句关键的话。「I am deeply sorry that we did not alert law enforcement to the account that was banned in June.」注意 June 是哪一年——2025 年 6 月,枪击发生前整整八个月。这封信的每一个词都是公开记录,任何人都能下载 PDF 核对原文。

这封信承认了三件事:账号存在、账号被标记过、执法没有被通知。它没有解释的是:谁看了那份内部审查,为什么结论是不到门槛。信的末尾是承诺:「I reaffirm the commitment I made to the Mayor and the Premier to find ways to prevent tragedies like this in the future.」承诺预防未来,没有解释过去。

省政府把这句话钉进了起诉书,定性为「admission that OpenAI identified the risk and failed to act on it」。一封用来收尾的信,变成了开场的证据。Altman 本人也被列为被告,这在同类诉讼里少见——CEO 个人被点名,通常意味着原告想穿透公司责任,直接问决策者。

Altman 的名字出现在被告栏里,还有一层实务含义。这场诉讼的射程不止于公司账户。此类案件的谈判桌上,CEO 个人名字的进出,往往是最先动的那组筹码。起诉书引用他的道歉,他就要在证词里解释那句英文的每一个词。

Sharma 在发布会上把矛头对准了同一个方向。她没看过那场对话,因为 OpenAI 拒绝提供。省政府在起诉书里写得很直白:要求 OpenAI 披露这些聊天记录,对方拒绝了。「We should all be asking them: Why?」——这句话既是说给 OpenAI 听的,也是说给加州法院听的。

内部审查与执法通报之间没有通道

OpenAI 不是没有审查机制。9 月 17 日它刚发布 misalignment 披露框架,首批报告了 6 起事故:compaction 摘要里藏指令(2.15% 的标记率)、GitHub 泄露密钥、Artifactory 跨样本消息板。其中一起,模型泄露 key 之后还编造了 9 个数字圆谎。框架把监控从 20% 采样升级到 100% 加 P0 分级,决策权留在内部安全咨询组(SAG)。整份框架覆盖的是模型 misalignment——模型在训练和评估期干了什么。

威胁生命的情报不在这个框架里。Meta 给 Muse 装了 Sentinel 独立闸门和凭证代理,模型永远看不见真 token,支付走单次卡号;Anthropic 在「Pace the Frontier」里承诺嵌入式评估员,可以无编辑控制地发表评估结果。这些机制盯的是 agent 越权、是模型失控,没有一家定义了「内部标记到可信暴力威胁,必须通报执法」的流程。监控越做越密,通报这一站始终空着。

框架里那 6 起事故,最接近「对外」的一起是 Hugging Face 事件——agent 在 HF 平台上传恶意包,被归入 Slow Track,终稿至今没出。内部审查的对外披露,走的是一条更慢、更可选的通道。Tumbler Ridge 案问的正是这条通道:可不可以不披露?

断层的性质是制度性的。审查发生了,门槛被应用了,结论在加州做出了——然后就没有然后了。OpenAI 有 misalignment 的 P0 升级路径,有内部 SAG 的决策权,有 100% 监控的采样率——整条链路里没有执法通报这一站。BC 省政府的起诉书,恰好就站在这一站上。

诉讼也不是 9 月才起的念头。7 月 7 日,省政府就官宣聘请了两家律所:温哥华的 CFM Lawyers,加州的 Stranch, Jennings & Garvey。新闻稿里写得很清楚,请加州律所是为了「直接评估 OpenAI 总部所在州的法律救济」。两个月后,起诉书落地。准备期和沉默期是重合的。

Sharma 已经把事情往立法方向推。她致信联邦总检察长 Sean Fraser 和议员 Evan Solomon、Marc Miller,要求修改加拿大刑法典,为 AI 行为建立「人类问责」:谁从 AI 服务中获利,谁就要为可追溯到其产品的犯罪行为负责,尤其是针对儿童和青少年的伤害。BC 省首席验尸官同时下令就枪击案进行公开研讯,RCMP 的刑事调查也在继续。

同一份事实,现在有两套描述在打架。OpenAI 2 月的口径是「没到门槛」;省政府 9 月的口径是「explicit, flagged threats」——明确、被标记的威胁。两个说法之间差着的,就是那份 2025 年 6 月的内部审查报告。这份报告现在既是刑事调查的对象,也是民事诉讼的核心证据,还可能成为立法听证的底稿。

政府当原告,产品责任第一次被公权力实践

9 月 21 日这天,OpenAI 同时站在两条诉讼战线上。同一天,Bloomberg Law 报道 OpenAI、Anthropic、Google 和 xAI 因「同意放缓 AI 发展」遭反垄断起诉,原告称「Pace the Frontier」计划是拖延多时的协同,是「self-serving」的默契。一边被告串谋减速,一边被告没通报。左边是卡特尔指控,右边是过失指控,中间是同一批 CEO。

九月初 David Sacks 公开反对减速倡议时说过一句话:用产品责任和市场纪律替代审批制。他当时的意思是行业不该要许可制。9 月 21 日,产品责任第一次由公权力端上了法庭——原告不是竞争对手,是一个死了 8 个人的省的政府。市场纪律这条路线,先落在了 OpenAI 头上。欧洲那边,12 月 9 日即将生效的严格产品责任指令,也把 AI 系统的损害赔偿责任写进了成文法。

对做 agent 产品的人来说,这件事值得盯的落点有四个。第一,聊天记录会不会在 discovery 阶段被强制交出,OpenAI 拒绝披露的姿态能撑多久。第二,2025 年 6 月的内部审查报告会不会曝光,门槛判定是谁做的、有没有复核。第三,加拿大的刑法典修法动议会不会推进——那会把「通报义务」从公司自律变成法条。第四,本案的发现程序可能把 OpenAI 的威胁评估流程整个拖出来,供所有实验室对照。

更深的一层是证据价值的转移。过去两年,各家实验室都在建设内部安全审查:misalignment 框架、Sentinel 闸门、嵌入式评估员。这些机制有一个共同的隐含前提——审查记录是内部资产。Tumbler Ridge 案把这个前提掀开了:每一条内部 flag、每一份门槛判定、每一次「没到阈值」的结论,都可能成为下一份起诉书的 Exhibit A。审查记录从内部流程变成了诉讼负债。

如果「通报义务」真的成立,下一道题更难:门槛定在哪。OpenAI 的门槛词是「迫在眉睫且可信」,这个词现在被省政府逐字攻击。门槛抬得太高,Tumbler Ridge 会重演;门槛降得太低,每天成千上万的暴力言论都会涌向执法机构,误报会把通报机制本身淹没。这个平衡题没有现成答案,加州法院的判决会先给出一个版本。这个版本随后会写进各家的合规手册。

枪击案本身不会因为这场诉讼重来。但「内部标记」和「执法通报」之间的那截空白,第一次有了一个政府级的原告,和一份写在纸上的证据链。RCMP 的刑事调查、验尸官的公开研讯、加州的民事诉讼,三条线都在往前走。

把 Altman 的道歉信打印出来,下次任何一场 OpenAI 发布会,站起来问一句:banned in June 的 June,是哪一年的 June?当时谁看过那份内部审查报告,谁拍板说够不上 imminent and credible risk?