AI（人工智能）的爆发给千行百业带来巨大想象空间，但同时，AI治理也成为迫在眉睫的问题。8日，2025年世界互联网大会乌镇峰会举行人工智能技术创新与治理论坛，学界与业界就“推动AI技术创新有序发展”这一话题各抒己见。
AI仿冒CEO语音诈骗3.2亿美元、人机交互中AI大模型“一本正经地胡说八道”、隐藏代码通过AI邮件处理窃取数据……这两年，AI相关的风险频频成为话题。有数据显示，去年，AI风险事件总数比2022年增加超20倍，利用AI生成虚假内容的违法犯罪事件也日益增多。
此次峰会发布的《为人类共同福祉构建全球人工智能安全与治理体系》报告中指出，近年来，AI相关的恶意利用与网络攻击呈明显上升态势。生成式AI驱动的深度伪造行为在去年同比增长118%，今年全球相关网络犯罪造成的经济损失预计将高达10.5万亿美元。
“目前很多对AI的监管手段还停留在10年之前，这是远远跟不上互联网发展现状的。”国际人工智能治理联盟主任约翰·希金斯表示，“同时，国际上AI监管还存在显著碎片化这一问题，亟需弥合分歧，形成统一规范。”
我们正在努力。
9月15日，《人工智能安全治理框架》2.0版发布，这距离《人工智能安全治理框架》1.0版的发布仅一年有余。该文件的发布结合AI技术发展和应用实践，持续跟踪风险变化，完善优化风险分类，研究探索风险分级，动态调整更新防范治理措施。
“AI治理的中国方案已见实效。”阿里巴巴集团公共事务总裁闻佳说，“有个说法很流行，即‘困在算法里的外卖小哥’。如何让算法赋能骑手而非逼迫骑手超时超体力工作，网信办带领我们作了很多努力。”她介绍，阿里巴巴一年开了200多场恳谈会，让400万名骑手介入到算法优化中，并将算法规则、原理、机制在App上公示，让骑手们清楚了解自己的收入、安全和劳动强度。
未来，该如何更好治理AI？亚洲数字经济科学院院长陈柏珲认为，用技术治理技术是关键。
快手科技高级副总裁马宏彬也认同这一观点：“要让治理从‘写在纸上的规范’变为‘跑在芯片上的代码’”。也就是说，把治理条款编写成程序，嵌入AI软件里。AI治理不应该仅是“口头条款”，更应该运用技术手段，以实现更好管理。“将治理嵌入技术，合规就不再是创新的约束条件，而是创新的方向指引。”
创新和治理，将是AI技术发展过程中永远无法回避的两个核心关键词，我们任重而道远。
<!-- 非定向300*250按钮 17/09 wenjing begin --> <!-- 非定向300*250按钮 end -->
</div>
