Cloudflare 介绍了一套系统,用于评估已通过身份验证的机器人是否持续遵守网站指令。网站运营者由此不仅能依据验证状态,还能结合后续行为来判断自动化访问。

1. 身份验证与信任评估并不相同

验证是确认对方是谁,并不保证其今后也会负责任地行动。这就像驾驶执照能证明驾驶者的身份及其通过了考试,却不能保证日后安全驾驶。Cloudflare 解释称,已验证身份的机器人也可能无视网站意愿或给服务器造成负担,原因也可能是配置错误或程序缺陷,而非恶意。

已验证机器人应准确、安全地表明身份,仅按其声明的目的行事,并且不得实施滥用行为。

Web Bot Auth 通过请求签名验证身份,BotBase 则以公开格式整理这些身份信息。新的评估系统会将后续行为证据与已确认的身份关联起来。

单次请求的风险可能随时变化,但信任来自持续一致的行为积累。一次违规并不会立即决定长期信任,因此应区分单次请求的拦截判断与对重复行为的信任评估。Cloudflare 举例称,2025年 Perplexity 的机器人曾试图访问拒绝其抓取的网站资源,并在被拦截后试图绕过管控,因此被移出了已验证名单。

2. 考察指令遵守情况与反馈响应

初期评估信号有两项:机器人是否遵守指令,以及是否响应直接反馈。观测结果会转化为信任区间,反映其尊重网站意愿的一致程度。这不是对机器人或运营者的永久判定,而是说明评估依据了哪些行为的范围。

传达网站意愿的主要工具是 robots.txt。系统会持续观察实际流量是否遵守该文件发布的指令。原文说明,期望机器人按照规定网站抓取指令的标准 RFC 9309 检查并遵守指令,并且关注反复无视指令的模式,而非一次性违规。

该文件规定了机器人不得实施行为的最低限度规则。未写明的行为并不等于获准。如果网站通过其他信号表明不希望被访问,机器人也应考虑这些信号。

3. 即使路径获准,也需要控制速率

机器人即使只访问获准路径,也可能给网站带来相当大的负载。HTTP 429 响应是要求降低请求速率的信号,有时还会附带重试前需等待多久的提示。因此,路径是否允许访问与是否响应服务器的限速要求,是两个独立的评估对象。

系统会观察机器人收到该响应后,是降速或暂停,还是以相同速率继续请求。持续降速或暂停会提高信任,反复无视信号则会降低信任。这些行为会随时间推移反映在信任区间中。

4. 运营者获得的依据与承担的责任

网站运营者能获得判断已获准机器人是否切实遵守指令的背景信息,机器人运营者则能证明其行为负责任。这也更强调机器人运营者的责任:不仅要验证身份,还需持续根据指令和响应信号调整行为。如果客户选择信任标准的功能上线,决定如何处理不同信任水平机器人的责任仍在网站运营者。

目前,客户可通过 Bot Preference Sync 使已发布的指令与所设策略保持一致,并通过 Bot Management 确定自动化流量的处理方式。新系统在两者之间承担观察机器人是否实际遵守指令的作用。

5. 公开评分与客户功能仍属未来计划

Cloudflare 正在内部积累观测记录,并完善将其转化为实用指引的方式。公司计划在 Radar 上公开评分、扩展评估方式,并向所有客户提供该系统,让客户选择用于处理已验证机器人流量的信任阈值。阈值是用于处理决策的信任水平标准。

具体评分公式、观测周期和公开时间表尚未给出。因此,仅凭已公开的说明,还无法判断不同机器人之间信任水平的相对高低。

此次变化的核心在于,不再将身份验证视为无条件放行的依据,而是通过积累指令遵守情况与反馈响应记录来判断信任。