发布时间:2024-08-26 19:04:57 来源: sp20240826
二〇二四世界人工智能大会暨人工智能全球治理高级别会议外景。 王 初摄(人民视觉)
日前,2024世界人工智能大会暨人工智能全球治理高级别会议在中国上海举办,主题为“以共商促共享 以善治促善智”。
近年来,人工智能的新技术不断突破、新业态持续涌现、新应用加快拓展,已成为新一轮科技革命和产业变革的重要驱动力量。同时,人工智能发展在法律、安全、就业、道德伦理等方面也面临着一系列新课题。作为负责任的人工智能大国,中国在大力推进人工智能创新发展的同时,积极致力于为国际社会提供更多公共产品,以开放姿态开展人工智能国际交流合作,为全球人工智能发展和治理作出积极探索,贡献了建设性思路和方案。
积极探索全球人工智能治理共识机制
“2024世界人工智能大会暨人工智能全球治理高级别会议有很多亮点值得关注。”复旦大学发展研究院副研究员姚旭接受本报记者采访时说,一是各方搭台。来自全球50多个国家地区的上千位人工智能治理和产业发展的领军人物齐聚中国,积极参与这场讨论人工智能技术和产业前沿发展趋势的盛会,引发对人工智能的关注热潮,线下参观人数突破30万人次,再创新高。二是产业唱戏。参加大会的知名人工智能企业数量、发布的人工智能新品数量、参展的展品数量都创历年新高,全球顶级的人工智能科研机构和企业充分交流,加速人工智能成果转化。三是强调合作。大会发布《人工智能全球治理上海宣言》,为全球人工智能的治理范式和路径提供了新思路,得到各界积极响应。
中国一直是人工智能全球治理的积极倡导者和践行者。去年10月,中国提出《全球人工智能治理倡议》,系统回答了为什么要加强、如何加强人工智能全球治理的重大时代课题,提出了中国方案,贡献了中国智慧,为凝聚国际社会共识、推进全球共享共治发挥了积极作用。日前,第78届联合国大会以协商一致方式通过了中方主提的“加强人工智能能力建设国际合作”决议,143个联合国会员国参加联署。这是全球首个聚焦人工智能能力建设的共识性文件。
对外经济贸易大学数字经济与法律创新研究中心主任张欣在接受本报记者采访时表示,近年来,中国在全球人工智能治理方面作出了一系列积极贡献。中国颁布的《生成式人工智能服务管理暂行办法》是世界上首部以生成式人工智能为对象的正式立法。中国颁布的《科技伦理审查办法(试行)》明确了科技伦理原则,是中国科技伦理治理的标志性事件,意味着中国科技伦理的顶层设计和治理体系日趋完善。中国提出的《全球人工智能治理倡议》是在凝聚中国多年来人工智能治理成熟经验基础上对全球人工智能治理共识机制的有力探索。
“近年来,中国在人工智能领域坚持统筹发展和安全,以发展促安全、以安全保发展,已取得令人瞩目的成绩。”姚旭介绍,2020年7月,中国发布《国家新一代人工智能标准体系建设指南》。2023年7月,中国的《生成式人工智能服务管理暂行办法》正式发布,是全球范围内最早的针对生成式人工智能的监管方案。2024年3月1日,全国网络安全标准化技术委员会发布了《网络安全技术 生成式人工智能服务安全基本要求(TC260-003)》,对人工智能服务安全方面的基本要求做出了规定。
“此外,中国在人工智能全球治理中展现大国担当,和美国、法国等建立高层级对话机制。2023年11月,中美元首旧金山会晤期间,两国就建立人工智能政府间对话机制达成重要共识。2024年5月,中美人工智能政府间对话首次会议成功举行。2024年5月7日,中法两国发布《中华人民共和国和法兰西共和国关于人工智能和全球治理的联合声明》。”姚旭说。
推动全球人工智能治理法治化进程
世界知识产权组织近日发布的报告显示,2014年至2023年,中国生成式人工智能专利申请量超3.8万件,居世界第一。高速发展催生了更为丰富的治理经验和治理策略,中国通过各种国际对话平台与世界交流分享。
“近年来,中国的人工智能技术和产业都发展迅速,处于世界领先水平。”姚旭介绍,国家数据局局长刘烈宏在中国发展高层论坛2024年年会上表示,中国10亿参数规模以上大模型数量已超100个。中国信息通信研究院最新发布的《全球数字经济白皮书(2024年)》显示,全球人工智能大模型数量为1328个,中国大模型数量占比为36%,居世界第二。此外,中国正筑牢人工智能发展的人才培养底座。《纽约时报》援引保尔森基金会旗下智库的研究称,中国已经成为人工智能人才的最大出产国,几乎培养了全球一半的顶尖人工智能研究人员。
“人工智能快速发展一方面是基于科技产业精英主导的技术突破,另一方面也必须考虑应用落地的普适性和易用性。”姚旭说,中国在人工智能技术发展和应用的过程中,始终关注场景落地时降本增效。在自动驾驶、智能制造、气象预测、安全巡检等各种场景中,中国产学研各界正在加速强化国际合作,将中国人工智能技术落地方案和世界各国尤其是南方国家充分共享。此外,共建“一带一路”国家在传统基础设施、数字基础设施和数据基础设施领域的协同共建,是推动普惠发展、弥合智能鸿沟的重要基石。
据人工智能、算法、自动化事件和争议数据库显示,2021年新报告的人工智能事件和争议数量是2012年的26倍。其中生成式人工智能引发的虚假信息问题尤为突出。由于虚假信息面向的是互联网信息内容领域,因此其产生的影响具有行业和场景的广泛性。
“加强人工智能治理规则的全球协作日益成为各方共识。”张欣说,人工智能技术的突破式发展导致新旧风险叠加,影响社会伦理秩序,带来了一系列安全和伦理挑战。例如,生成式人工智能的发展既导致传统技术风险加剧,又带来了一系列新兴风险。尤其在人工智能研发和应用环节对个人隐私和数据安全带来了数据泄露、数据滥用、侵犯个人隐私等隐患。而与传统技术风险有所不同,人工智能技术风险具有隐蔽性、跨域性、全球性、长期性,需要从国际层面展开持续性、系统性和协同性的治理努力。此外,由于人工智能的技术迭代以日为单位,若不在早期实施有效的介入治理,则可能出现后期风险难以控制的治理困境。各国虽在人工智能治理思路和具体方案上存在差异,但从数据安全和个人隐私保护的视角对人工智能训练环节施加规制和约束已成为共识。
“全球人工智能治理还呈现‘法治化’特征,从早期以科技伦理、技术标准、自律承诺等为代表的软法治理,逐步转向一种更为成熟的‘软法与硬法双轨并行、刚柔并济’的新型治理模式。”张欣说,各国虽就人工智能治理提出了多元化的治理理念和治理路径,但通过法治化道路为人工智能治理提供“制度围栏”已在国际层面形成广泛共识。中国推出了《科技伦理审查办法(试行)》和《生成式人工智能服务管理暂行办法》,提出了人工智能治理的中国方案。《全球人工智能治理倡议》中关于逐步建立健全人工智能领域的法律和规章制度的提议,不仅是为国际社会贡献中国智慧和中国经验的重要举措,也是中国在推动全球人工智能治理法治化进程中扮演关键角色的重要体现。
各国需在形成充分共识基础上通力协作
由于技术发展水平和文化背景差异,各国对人工智能风险的感知也显著不同。斯坦福大学人工智能研究所发布的《2023年人工智能指数报告》引用调查机构易普索(IPSOS)2022年的调查指出,部分发展中国家对人工智能普遍更加乐观。如78%的中国受访者同意“使用人工智能产品和服务的好处多于坏处”的观点,76%的沙特阿拉伯受访者和71%的印度受访者认为人工智能产品“利大于弊”。德国、荷兰、澳大利亚、比利时和加拿大等一些发达国家对人工智能产品和服务的评价则稍显负面。
“当前,全球人工智能治理面临不少挑战。”姚旭说,一是一些国家将人工智能等科技领域安全泛化,在合作当中设置了诸多藩篱。二是人工智能全球治理的总体架构尚不明确。各个层面建立何种机制更为有效尚未明确,全球范围内人工智能治理的制度竞争正变得愈发激烈。三是人工智能全球治理的思路尚未统一,具体的治理方案和标准上还有很多争论,例如如何进行人工智能安全分级标准界定,如何确立重点治理的人工智能风险类别,如何将立法节奏和创新动力进行适配等。
张欣表示,现阶段,全球人工智能发展面临的监管挑战集中体现在5个方面:一是步伐困境。人工智能监管框架发展跟不上技术发展迭代的速度。二是技术鸿沟。人工智能模型越来越复杂,参数量越来越大,这导致原来构建的基于透明度的人工智能治理框架应对乏力。三是资本逐利。人工智能发展过程中资本的逐利可能导致技术异化。四是归责框架仍不清晰,对人工智能产生的风险和损害如何有效归责仍然是一项亟待解决的问题。五是协作治理机制尚不健全。由于人工智能带来的很多风险具有全球性,各国需要在形成充分共识的基础上通力协作。但目前的人工智能全球治理格局初步形成,仍然有碎片化特征,需要采取更多措施构建共建共治共享的全球治理机制。
《人工智能全球治理上海宣言》提出,倡导开放与共享的精神,推动全球人工智能研究资源的交流与合作。建立合作平台,促进技术转移与成果转化,推动人工智能基础设施公平分配,避免技术壁垒,共同提升全球人工智能的发展水平;倡导建立全球范围内的人工智能治理机制,支持联合国发挥主渠道作用,欢迎加强南北合作和南南合作,提升发展中国家的代表性和发言权;鼓励国际组织、企业、研究机构、社会组织和个人等多元主体积极发挥与自身角色相匹配的作用,参与人工智能治理体系的构建和实施。
作为全球最大的发展中国家,中国始终将发展中国家的期待与需求放在重要位置。《全球人工智能治理倡议》指出,增强发展中国家在人工智能全球治理中的代表性和发言权,确保各国人工智能发展与治理的权利平等、机会平等、规则平等,开展面向发展中国家的国际合作与援助,不断弥合智能鸿沟和治理能力差距。
中国常驻联合国代表傅聪介绍加强人工智能能力建设国际合作决议草案时表示,大多数国家特别是发展中国家尚未能真正接触、使用人工智能并从中受益,全球数字鸿沟仍有扩大之势。在此背景下,中国顺应广大国家特别是发展中国家的期待,倡导人工智能能力建设国际合作,平等发展和利用人工智能技术,共享人工智能知识成果,体现了中国对人工智能发展和治理的负责任态度。
清华大学人工智能国际治理研究院副院长肖茜日前表示,作为推动人工智能技术和治理发展的重要国家,中国在不同场合提出为发展而治理,以联合国为核心的治理模式,丰富了人工智能全球治理的理论与实践,使大多数还没有享受人工智能发展红利、没有从人工智能发展中受益的广大发展中国家看到了希望。她还表示,发展与安全作为人工智能治理的一体两翼,应当平衡推进。安全不是人工智能治理的全部,更不是发达国家俱乐部的专利。人工智能全球治理应致力于在联合国框架内团结全球更多国家,调动多元力量。国际社会在持续推进人工智能安全治理进程的同时,应推动技术开源开放、人才交流互通,帮助更多的国家和人群享受人工智能发展成果。
(责编:白宇、卫嘉)