RAND：人工智能算法的进步：近期预测进展综述（2025） 55页

这是兰德公司2025年发布的关于人工智能算法进展的研究报告，探讨AI算法改进方向、影响及对政策制定的启示。 1. **背景与目的**：因ChatGPT等大语言模型兴起，AI安全影响受关注。报告旨在评估算法改进方向与速度对AI能力提升及安全的影响，为政策制定提供依据。 2. **算法改进机制** - **不太可能大幅改进的渠道**：减少迭代次数、增加随机性、降低精度对算法提升作用有限。 - **可能有一定改进的渠道**：引入稀疏性可提高效率，但提升幅度不大。 - **可能大幅改进的渠道**：数据剪裁（如数据修剪、合成数据生成）、开发替代目标函数、探索替代算法（如Mamba、Kolmogorov - Arnold Networks），或带来显著提升。 3. **未来发展情景** - **数据受限**：模型性能难有大幅提升，小模型或更具优势。 - **算法无法扩展**：前沿模型规模可能增长，但成本效益低，小模型更受青睐。 - **持续扩展**：模型性能显著提升，大模型主导，小模型用于特定任务。 4. **政策建议**：政策制定者应关注合成数据生成、数据修剪和替代算法等技术发展，同时关注训练后调整技术进展，评估国际AI竞争中算法效率提升对限制计算访问政策的影响。