10 月 30 日,OpenAI、谷歌、微软与 Anthropic 四家公司同时表态支持同一件事:一种写在 robots.txt 里的 AI 训练退出信号。网站只要在自己的 robots.txt 中声明一次,就能一次性拒绝这四家的爬虫把页面内容用于模型训练。这是规模最大的几家模型公司第一次就单一拒绝机制达成共识。
把这件事写成标准的是 Anthropic,草案在宣布当天提交给 IETF。四家的落地节奏并不一致:Anthropic 率先应用,OpenAI 说数月内落实,微软定在 2027 年 2 月,谷歌承诺 2027 年内支持。换句话说,从宣布到四家全部生效,中间隔着一年多。
同一时间还有两个动作值得放在一块看。Meta 原本要在 10 月 30 日扩大 AI 训练内容的使用范围,最终把新商业条款推迟到 11 月 20 日;新闻机构与广告商已经就这件事向欧盟和英国的反垄断监管机构提交申诉。维基媒体基金会也就《纽约时报》诉 OpenAI 的版权案向法院提交了法庭意见书。三件事凑在一起,说明内容方和模型方的议价正在从私下谈判往公开规则上挪。
对做内容、做站的人来说,最直接的变化是成本。以前要拒绝某一家爬虫,得各找入口、各写一份规则;现在一条配置能同时覆盖四家。这个 AI 爬虫屏蔽协议把「要不要被训练」从双边博弈变成了机器可读的公共开关。
但两笔时间账必须先算清楚。第一笔是生效时间差:四家里只有 Anthropic 是立即生效,谷歌要等到 2027 年内。在剩下三家落地之前,写进去的信号对它们并不产生实际约束力。第二笔是机会成本。Reddit 在 Q3 财报里宣布转向以登录为主的体验,理由是保护数据免受 AI 抓取;它 10 月的搜索流量平均每周减少超过 100 万次引荐,Q3 全球日活 1.303 亿、美国日活降到 5070 万(同比下滑 2%),但同期收入同比增长 53% 至 8.95 亿美元、净利润 2.83 亿美元。挡住爬虫和少赚广告钱,在短期内是同一笔账的两面。
作为聚合导航站的站长,我的取舍很明确:不写这个信号。
理由不是「支持或反对 AI」,而是一笔流量账。导航站的收入建立在被收录、被点击、被引流之上,条目页以链接和简介为主,独家内容少、训练价值本来就不高。真正要防的是被整页搬运,而这个信号管的是训练用途,不管搜索引用。如果因为写了它而被排除在 AI 回答的引用源之外,丢掉的是实打实的曝光,换回来的却是一项我们本来就不太需要保护的资产。
反过来看,如果站点靠原创长文、行业数据、调研报告吃饭,那就该写。这类内容有训练价值,也正因为有价值,才需要先把议价权握在手里。
一句话分界:卖流量的站别写,卖内容价值的站要写。
落到配置上还有两点提醒。第一,这个信号只管训练,不管搜索引用——别以为写了它,AI 就不会引用你的页面。第二,草案在 IETF 走完流程之前字段写法仍可能变化,现在写进 robots.txt 的版本未必等于最终版。建议按季度复查一次各家官方文档,而不是写完就放着不管。
内容授权这件事,第一次有了机器可读的公共协议,这是进步。但对站长来说,进步不等于现在就要行动,先分清自己卖的是流量还是内容。
来源清单(截至 2026-11-03 以各家官方公告为准):
1. The Verge / IT之家 / ChainCatcher 关于四大厂商统一训练退出信号的报道,2026-10-30;
2. Anthropic 向 IETF 提交的技术标准草案,2026-10-30;
3. Meta 新商业条款推迟至 2026-11-20 的公告;
4. Reddit 2026 年第三季度财报(日活、收入、净利润数据);
5. 维基媒体基金会就纽约时报诉 OpenAI 版权案提交的法庭意见书。