为人工智能备好“安全带”和“刹车” 阿里联合信通院发布国内首份《人工智能治理白皮书》

2022-09-06 11:18
中国网科技

“当车开得很快的时候，更要握好方向盘、系好安全带，注意踩刹车。数字技术就是这辆快车，科技伦理治理就是方向盘、安全带和刹车。”阿里巴巴集团首席技术官程立说。

在刚刚结束的2022世界人工智能大会“数字时代的技术责任论坛”上，阿里巴巴宣布成立科技伦理治理委员会，并联合中国信息通信研究院，发布国内首份《人工智能治理与可持续发展实践白皮书》(以下简称“《人工智能治理白皮书》”)，分享科技伦理治理上的实践与思考。

阿里巴巴与中国信通院联合发布《人工智能治理与可持续发展实践白皮书》

人工智能给社会和经济带来了重大的变革，但是立足人工智能时代，需要建立怎么样的价值观及治理规则，一直是行业探讨的前沿命题。阿里巴巴科技伦理治理委员会提出，应依据“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六大科技伦理原则，持续致力于科技与人更好和谐共处，让科技在“可用、可靠、可信、可控”的技术体系里健康发展。

《人工智能治理白皮书》依据上述科技伦理原则，对人工智能技术体系健康与可持续发展进行了探讨。据悉，《人工智能治理白皮书》详细阐释了企业可持续发展的人工智能治理体系的内涵，关注人工智能伦理与治理，涵盖数据安全和隐私保护、消费者权益和公平等重要方向，并针对调度决策、内容治理、信息检索、深度合成等社会热点话题进行了专题探讨，从数据、技术、管理及多元协同等方面，系统性介绍了阿里的实践思路和方法。

“白皮书最突出的地方在于强调实践，无论是技术层面的创新还是管理体系的变革，都非常具有参考价值。”中国信通院云计算与大数据研究所内容科技部副主任刘硕这样评价。

比如在电商平台上，商品销量和评价会在一定程度上决定检索排序，从而影响用户购买意愿。这种机制催生了作弊行为，比如，蓄意“灌水”，伪造销量数据，虚构大量相似“好评”。如何防止人工智能被黑灰产恶意投放的作弊数据欺骗，保障信息的真实可信？

《人工智能治理白皮书》提出，针对当前黑产的作弊手段和发展趋势，亟需构建大规模、专业化、鲁棒性强的电商反作弊风控平台，助力维护公平的电商生态，包括研发行为风控引擎、加强对抗训练、挖掘风险团伙等，构建覆盖域内+域外、线上+线下、离散行为+聚集团伙、提前预警+主动防控的全方位打击网络虚假交易的能力。

针对深度合成技术的应用，《人工智能治理白皮书》指出，深度合成技术的合法、合规应用以及追溯比较复杂，需要业界共同努力，在技术创新的同时，阿里更希望推动该技术良性健康发展。比如近期，阿里联合科研单位进行可逆合成、模型水印等相关技术的研究，实现对合成视频的有效溯源等。

“在技术创新路上，我们遇到很多行业普遍会遇到的问题，希望我们的解决方案对行业问题能有一定的参考意义，也希望通过分享对人工智能风险和挑战的思考，能鼓励引发更多关于数字时代技术能力及影响力的反思和讨论。”阿里巴巴人工智能治理与可持续发展研究中心主任薛晖说。