10月30日,OpenAI、Google、Microsoft、Anthropic同时宣布支持同一个robots.txt「政策令牌」:出版商写一行 __usage_ai-training,就能把内容排除出四家的模型训练,不用再对各家爬虫逐个设规则。
细节:提案是Anthropic标准技术主管Kevin Kelley当天提交IETF的个人互联网草案《Machine-Readable Training Preference Signal》,复用RFC 9309的语法,不是正式标准。落地时间错开——Anthropic已开始,OpenAI说「未来几个月」,微软定2027年2月1日,谷歌2027年。微软另设grounding(检索引用)开关,但Bing搜索收录不受影响。Meta表态支持但没承诺遵守。
三个局限:只管未来的训练,已进数据集的内容不清除;只管训练不管抓取,爬虫照样来;OpenAI自己定性为「协调机制而非安全控制」,不守规矩的爬虫可以无视。
判断:这是被出版商诉讼逼出来的行业止血,不是让步——微软和谷歌都明说,按了拒训开关的内容可能在AI产品里降权。
开放问题:流量靠搜索的中小网站,谁敢第一个按下去?
来源:The Verge;IETF草案 draft-kelley-aipref-training-preference-signal。