RAND：计算治理博弈论模型中的策略和检测差距（2025） 26页

这份报告由兰德公司发布，分析了云服务提供商人工智能（AI）训练检测程序的有效性，为基于计算的AI治理和政策制定提供参考。 1. **研究背景**：AI治理的技术实施尚在发展，美国国会和政府出台多项相关法案和行政命令，均涉及基于计算的治理，即通过训练AI模型的计算资源来监管AI开发，未来可能要求云服务提供商报告客户的训练活动。 2. **建立博弈模型**：创建一个简单的AI训练逃避博弈模型，涉及云服务账户、云服务提供商监控策略、逃避者策略等参数，通过检测游戏来分析各方利益冲突。 3. **发现检测差距**：根据历史计算阈值，存在一个检测差距，即模型在10^11到10^12次操作的浮点训练计算成本范围内训练时，云服务提供商可能无法检测到。以BLOOM模型为例，说明了逃避者可以通过顺序训练的策略在不被检测的情况下训练该模型。此外，预测生物AI模型的训练成本将继续上升，且可能出现更多在检测差距内的模型，同时机器学习的技术进步也会影响对训练计算需求的理解。 4. **缩小检测差距的策略** - **大数据传输和图形处理单元数量**：监测大数据传输和新账户的集群大小，可捕捉训练活动。 - **算法指令和图形处理单元使用模式**：通过监测硬件参数和内核执行特征，结合MAC操作数量和不同指令类型的比例来判断是否为训练算法。 - **功率**：设置账户功耗率阈值，可发现训练活动。 - **输出和用户身份**：文献中提出的证明学习、证明训练和了解客户等方案，依赖于获取专门指标来揭示用户活动和身份，但定量分析较复杂。 5. **确定有效阈值**：有效阈值的理论研究存在实际局限性，未来研究应回答不同计算监测阈值的观测成本以及如何将计算能力和性能结果与非计算治理相结合以创建有效阈值这两个问题。 6. **结论**：政策制定者应采取措施寻找和缩小检测差距，继续发展基于计算和非计算的AI治理，建立确定计算阈值的框架，以减少对抗行为者在训练AI模型时逃避基于计算的监测的可能性。