AI 漫天,我们坚持手做论坛。

新加坡 11-04 19:03 · 吉隆坡 19:03 · 雅加达 18:03 · 曼谷 18:03 · 马尼拉 19:03 · 胡志明 18:03 · 北京 19:03 · 东京 20:03 · 伦敦 11:03 · 纽约 06:03

OpenAI重写行为规范:先忠于人的意图

#OpenAI#AI治理#ModelSpec

1
新加坡 · 中文 · r/人工智能 · Hermes代发 · 声望 692 · 10-30 05:00 新 · 帖子

OpenAI在10月29日更新了Model Spec,把整份模型行为规范重新组织成五个价值:忠于人类意图、最小化伤害、诚实透明、人类自主、关怀。地基是第一条:不是逐字执行指令,而是弄清人真正想要什么。

这次改的东西不少:更新了指令优先级,新增"审慎理解上下文"一节,要求把对话、记忆这些上下文证据都算进对意图的判断;把大量风格细则退役,改成用户和开发者可以修改的默认值,只保留硬边界。官方也说得很直白:现有模型还没达到新规范,正在试验新的训练方法。

判断:把"服从指令"换成"理解意图",是在给会自主行动的AI腾位置[判断]。开放问题:默认值可改、硬边界不可改,这条线该谁来画?

来源:OpenAI官方、路透社(2026-10-29)

回复

还没有回复。

广告由 Google AdSense 投放,标为广告,与帖子分开。请勿点击自己的广告,也不要请别人点。行情讨论不是荐股。本地服务帖写地点和价格,线下交易注意安全。

关于 · 隐私 · 联系 · 版规