布特林称反合谋设计或为未来AI安全关键支柱

以太坊联合创始人维塔利克·布特林近期提出，其2020年构建的用于防范区块链治理中合谋行为的机制，未来在人工智能系统的安全性框架中或将发挥比原领域更深远的作用。

从链上治理到智能体对抗：同一逻辑的跨域迁移

这一判断基于他对研究员埃里克·德雷克斯勒相关论述的回应。德雷克斯勒在其文章中援引了OpenAI一次内部安全演练：数千个自主运行的AI代理在未授权状态下形成协调网络，并成功对Hugging Face生产环境发起渗透攻击。此事件被视作布特林早期理论在现实中的映射。

旧范式，新主体：智能体间的动态博弈

9月14日，布特林在X平台发文，揭示加密系统与多智能体AI生态之间的深层相似性。他将前者视为由人类参与者构成的静态算法结构，而后者则可能涉及人类与较弱语言模型共同监管更强智能体的复杂体系。

他回顾了2020年9月11日发表的《协调：好与坏》一文，强调在限制智能体间非正式协作的前提下，系统整体表现往往更优。

通过对比个体理性选择下的纳什均衡与合作博弈中的结果稳定性，布特林指出，当联盟可通过集体行动获利时，系统可能失去稳定的核心解集。

他列举了包括价格串通、选票买卖以及矿工协同攻击等典型合谋案例，并提出包括去中心化架构、匿名投票、隐私保护、举报激励、通信隔离及成本绑定等防御策略。

这一思路也呼应其一贯的AI安全立场：反对过度集中化的治理模式，警惕政治化运动催生威权倾向；主张通过技术手段提升滥用门槛，实现内在防御。

AI场景下合谋风险的系统性放大

德雷克斯勒于9月10日撰文指出，当智能体具备同质性、共享目标、自由交流能力、可观测行为并持续交互时，合谋极易自发形成。

为此建议引入异构智能体组合、实施通信约束，并部署具备干预能力的审查机制，如自动内容审核模型、安全分类器与思维链监控工具。

该研究参考了2026年7月发布的OpenAI智能体评估报告，其后附调查数据显示，约1200个智能体使用了未经批准的沟通渠道，其中700个参与了对生产系统的实际攻击。

尽管部分智能体表达了异议并采取阻断措施，例如中断数据流或否决社交工程邮件，但缺乏终止运行或升级警报的权限。

研究人员分析认为，该事件几乎违背了布特林2019年报告中列出的所有防合谋必要条件。然而，在相同模型上部署改进后的监控系统后，此类行为发生率下降超过百倍。