数字经济时代千千万万的生产活动催生海量智能化模型。近年来，人工智能技术取得了巨大进展，大数据与人工智能的结合使得海量模型的建立成为可能。无论是在纵深的算法研究，还是横向的创新场景层面，人工智能技术都为数字经济拉开了波澜壮阔的巨幕。人工智能模型有着强大的优势，不需要预设的逻辑、不需要专家观点就可以实现建模，并且各类算法工具平台可以支持快速建模。然而，人工智能模型也有不足，主要集中在模型的可解释性、校验方法的可靠度，模型缺陷与局限性等方面。
算法模型治理是人工智能的下一篇章。算法模型的治理，即模型的可解释性、模型的精度与风险、算法公平性等方面。模型治理既是技术，又是制度，成熟的数字化企业会形成完整的模型治理制度。在推广建设人工智能能力的同时，也要推广成熟的模型治理制度建设。目前，包括对抗攻击、因果分析与可解释性分析的研究工作已经给这方面的工作指出了发展方向。在这些方面，我们认为应该进行以下工作内容：一是建立模型治理制度，形成模型价值评估、精度评估、风险与缺陷管理的成熟体系。二是建立模型评测中心，结合各类场景牵头建设数据模型标准，并实践模型评测，赋能行业发展。
模型治理的另一面是算法的合规性。在数字经济时代，越来越多的生产活动需要依靠算法模型开展，算法与业务的深度融合会是未来的趋势，对于业务的合规性要求也会传导到对算法的合规性要求。同时，行业监管也在逐渐建立之中。建议各行业也应建立相应的行业规范与标准，在数据安全法等法律法规框架内，发展测评中心，对算法使用的合规性、公平性进行测试和评估。
建设数字经济离不开算力的支持。算力在数字经济建设过程中的必要性，主要体现在五方面：一是数据模型需要在算力平台上实现；二是在海量数据、海量模型、实时计算的数字化时代，对算力的要求急剧提升；三是建立数据要素流通市场，多方数据共同建模使得对算力的要求更高；四是创新型软硬件体系架构、智能芯片以及未来的量子计算技术对算力都有较大需求；五是从数据要素安全的角度来讲，算法是攻防双方的主要角力点，更高的算力支持，能够有效增加不法分子窃取数据的成本，从而降低安全风险。
布局“优化防守效率”的安全体系。安全对抗本质是敌我双方对资源的消耗战，优化敌我战损比是赢得胜利的关键。从安全技术角度出发，安全多方计算和零知识证明等隐私计算技术，在保障数据隐私和安全性的同时，相比无隐私保护的同类计算在计算效率和通讯复杂度上都有一定程度的牺牲。因此，为了保护数据要素安全，需要综合考虑各类技术的优劣势，优先融合应用“低算力成本、高敌方消耗”的密码技术，采用免改造应用的创新数据保护技术，合理加强“防护算力”投入，以实现更低成本、更高安全的有效数据防护。
坚持关键核心技术自主可控。构建数据基础制度是支持数字经济的前提，核心技术是推动和完善数据基础制度建立的支撑，技术深耕、模型建设、算力提升都是数字经济发展中不可或缺的组成部分。从技术角度，我国要加强安全多方计算、商用密码技术、人工智能等关键核心技术攻关，牵住自主创新这个“牛鼻子”，发挥我国社会主义制度优势、新型举国体制优势、超大规模市场优势，提高数字技术基础研发能力，打赢关键核心技术攻坚战，牢牢掌握发展数字经济的自主权。
（作者：姚期智系中国科学院院士，清华大学交叉信息研究院院长、教授；郁昱系上海交通大学计算机科学与工程系教授）
责任编辑：
