OpenAI 承诺半年交一份社区安全报告，ChatGPT 也会在暴力信号出现时自己结束对话

公告的核心是两份承诺：一份定期报告，加一组更硬的内容边界

10 月 30 日，OpenAI 在官方博客发布《Community safety report and new protections for teens》。开头第一段就把这轮动作拆成两件事：一份新的社区安全报告，以及针对未成年人的枪支相关内容施加更多限制。公告把前提写在最前面——ChatGPT 是使用最广的 AI 产品之一，公司自称已投入建设检测潜在伤害、复核可疑活动、升级可信威胁的系统，现在要把这套东西的透明度也补上。

公告里唯一带数字的披露是执法转介：2026 年第三季度，OpenAI 向执法机构提交了 200 多次转介（over 200 law enforcement referrals）。它说这些转介在阻断暴力图谋上起了作用，同时强调仍依赖心理健康与行为专家评估疑难个案。但这个数字没有被拆开——多少涉及暴力威胁、多少涉及自伤、多少最终被执法机构受理，公告都没有说。

第一份报告要等到 2027 年初，覆盖的是 2026 年下半年

报告的名字在公告里并不统一：正文第一段叫 Community Safeguards Report，标题和小标题都写 Community Safety Report。内容范围倒是说得比较具体——解释系统如何被训练去识别、调查、回应社区安全问题；给出暴力相关伤害如何表现的脱敏案例；列出新的缓解措施与政策变化；并附上支撑这些结论的数据。

时间表是这轮公告里最硬的信息：首份报告 2027 年初发布，覆盖 2026 年下半年，此后每半年更新一次。换句话说，从现在到第一份报告面世，外界拿不到这套机制的基线数据。公告也没有说明报告是否经过外部审阅，或是否会公开可复算的统计口径——而这两点，恰恰决定一份「安全报告」是自述还是可核验的材料。

对历史大规模袭击的追问，回答被统一收紧了

第二组变化动的是内容边界。公告说模型本来就被训练成不提供策划或实施暴力的操作指引；现在额外限制 ChatGPT 回答有关过去大规模袭击及其实施者的问题——即使这些信息在别处可以公开查到，也要求模型给出更少的细节。

收紧的具体项公告列得清楚：对过往袭击的重建，包括使用的武器与装备、以及这些装备如何获得；可能放大施害者知名度的伤害规模详细对比。公告明确写了这些限制不区分用户年龄，也不区分提问理由，属于对所有用户的统一调整。

同时它划了一条保留线：用户仍可以让 ChatGPT 帮助理解这些事件、受害者与社区受到的影响，以及学习如何识别预警信号、防止未来暴力。这条线的意思是——理解事件可以，复现作案细节不行。

从「回答更谨慎」到「直接把对话关掉」

这套机制不是新起炉灶。公告回溯了今年 5 月的做法：ChatGPT 可以用此前对话中预警信号的简短事实摘要，在后续对话里更谨慎地回应。现在它把这条线往前推了一步——当近期对话出现可能的暴力预警信号时，模型在分享可能被滥用的信息时要更保守；如果预测用户未满 18 岁，即使对话本身没有暴力意图的迹象，也会施加更严格的限制。

更硬的一招是主动中断。公告说，当一段对话显示出对暴力、或对严重伤害他人的执念时，ChatGPT 可以自动结束这次对话，以打断当下的行为模式；如果因同一原因多次结束对话，账号可能被暂时停用。OpenAI 表示正在与心理健康和暴力预防专家合作，寻找更早的自动化干预方式，并承认这仍是进行中的工作。

公告没有披露判定阈值、误判率，也没说明被中断的用户会看到什么样的解释、有没有申诉入口。对普通用户来说，实际影响是同一句话在不同对话历史下可能得到不同处理，而处理理由不一定可见。

未成年人的武器问题：从「不能帮你找」扩到「不能讲太细」

面向未满 18 岁的用户，OpenAI 原本已有年龄适配的防护；这次再收紧一层：即使一个问题看起来无害，也限制青少年能获得的武器相关信息。公告说，原有政策已经禁止帮助任何人策划或实施暴力、也限制帮助青少年寻找或获取武器，新规则把范围扩展到「可能被滥用于助长暴力的武器与安防系统」的实用信息。

保留的口子写得很明确：青少年仍可以用 ChatGPT 帮助预防和缓和暴力、寻求支持、联系可信任的成年人。这是一条不太显眼但重要的边界——把「讲操作细节」和「求助」分开处理。

年龄判断靠的是预测而非证件。公告说去年上线了年龄预测，用行为模式等多重信号估计用户是否未满 18 岁；这次强化为在使用过程中持续评估新信号，在合适时把青少年切进未满 18 岁的体验。被误判的成年人可以通过年龄验证合作方 Persona 确认身份，从而移除额外的青少年保护。公告还提到家长控制：家长可以关联青少年的账号共同管理安全设置，关联账号在受过专门训练的复核人员识别出严重自伤内容时，可能触发安全提醒。

还不清楚的部分，和一条可以盯的时间线

公告没有说明这些策略变化在 API 层面是否同样生效。ChatGPT 的消费端政策和面向开发者的 API 政策是两套语言，开发者文档会不会同步更新、以什么节奏更新，公告一个字没提。做产品接入的团队如果依赖模型的回答边界做合规设计，这条信息缺口是实打实的。

也没有说明自动结束对话的机制会覆盖哪些地区、以什么频率触发，以及 2027 年初那份报告会不会公布被中断对话的数量。这些都要等下一手材料。

目前能确认的坐标只有一个：半年一次，首份覆盖 2026 年下半年。这意味着 Q3 那 200 多次执法转介，现在只是公告里的一个片段数字；它能否在报告里被拆解、被对照、被外部研究者拿去核对，是判断这份报告究竟算透明度动作还是数据公开的分水岭。

继续阅读