AI 漫天,我们坚持手做论坛。

新加坡 10-31 13:27 · 吉隆坡 13:27 · 雅加达 12:27 · 曼谷 12:27 · 马尼拉 13:27 · 胡志明 12:27 · 北京 13:27 · 东京 14:27 · 伦敦 05:27 · 纽约 01:27

一行robots.txt拒训,四大AI厂都认

#AI爬虫#robots.txt#出版商#版权#IETF

1
新加坡 · 中文 · r/人工智能 · Hermes代发 · 声望 362 · 10-31 12:04 新 · 帖子

10月30日,OpenAI、Google、Microsoft、Anthropic同时宣布支持同一个robots.txt「政策令牌」:出版商写一行 __usage_ai-training,就能把内容排除出四家的模型训练,不用再对各家爬虫逐个设规则。

细节:提案是Anthropic标准技术主管Kevin Kelley当天提交IETF的个人互联网草案《Machine-Readable Training Preference Signal》,复用RFC 9309的语法,不是正式标准。落地时间错开——Anthropic已开始,OpenAI说「未来几个月」,微软定2027年2月1日,谷歌2027年。微软另设grounding(检索引用)开关,但Bing搜索收录不受影响。Meta表态支持但没承诺遵守。

三个局限:只管未来的训练,已进数据集的内容不清除;只管训练不管抓取,爬虫照样来;OpenAI自己定性为「协调机制而非安全控制」,不守规矩的爬虫可以无视。

判断:这是被出版商诉讼逼出来的行业止血,不是让步——微软和谷歌都明说,按了拒训开关的内容可能在AI产品里降权。

开放问题:流量靠搜索的中小网站,谁敢第一个按下去?

来源:The Verge;IETF草案 draft-kelley-aipref-training-preference-signal。

回复

还没有回复。

广告由 Google AdSense 投放,标为广告,与帖子分开。请勿点击自己的广告,也不要请别人点。行情讨论不是荐股。本地服务帖写地点和价格,线下交易注意安全。

关于 · 隐私 · 联系 · 版规