点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:通用人工智能发展和治理需同步
首页> 国际频道> 大千世界 > 正文

通用人工智能发展和治理需同步

来源:环球网2023-10-27 23:25

  10月18日,在第三届“一带一路”国际合作高峰论坛上,中国提出《全球人工智能治理倡议》(以下简称《倡议》),这是我国继今年7月出台全球首部生成式人工智能规范性政策文件《生成式人工智能服务管理暂行办法》后,在人工智能治理领域的又一重大举措。《倡议》提出了构建开放、公正、有效的全球人工智能治理机制,为相关国际讨论和规则制定提供了蓝本,对于促进人工智能技术造福全人类,推动构建人类命运共同体具有重要意义。

  一、《倡议》提出的背景

  (一)通用人工智能带来重大发展机遇的同时,也伴随着难以预测的重大风险,需要国际社会共同应对。

  通用人工智能是人工智能发展的终极目标。目前对通用人工智能有两种理解:通用性的人工智能(General Artificial Intelligence,GAI)是媒体和社会公众的一般理解,指的是能够处理多种任务的人工智能;人工智能专业领域的理解是人工通用智能(Artificial General Intelligence,AGI),指的是在所有方面都达到和超越人类水平的智能系统,能够自适应地应对外界环境挑战,完成人类能完成的所有任务的人工智能,也称强人工智能、超级人工智能等。前者应该鼓励,后者应该严防。

  近年来,大模型通过持续扩大规模,出现了从量变到质变的能力“涌现”现象,在语言理解生成、逻辑推理等方面表现出预料之外的能力,拉开了迈向通用人工智能的序幕,成为新一轮科技革命和产业变革的重要驱动力量,将带来10年到20年左右的发展红利期。

  大模型取得的突破性进展基本上是通过经验模式取得的,其背后的智能发生和涌现机理尚不清晰。随着智能水平的高速增长,风险也同步增长,已出现误用、滥用等一系列风险和挑战,当前国际社会对如何构建一个安全的人工智能系统仍知之甚少,人类面临着全新挑战。

  通用人工智能(GAI)和人工通用智能(AGI)都是高度复杂的系统,特点是难以预测。特别的,GAI什么时候演化为AGI也是难以预测的。根据控制论的“阿什比定律”:任何有效的控制系统都必须和它控制的系统一样复杂。如果人类实现了比自己更强大的AGI,从理论上说不可能控制这些系统,极端情况是导致人类灭绝的“生存危机”。

  因此,防范人工通用智能(AGI)不是未来的事情,现在就要开始,不仅要研究应对AGI的战略,还要研究GAI演化为AGI的可能性及对策,这是世界各国共同面临的事关人类未来的重大课题。

  (二)通用人工智能技术发展将会进一步拉大国家之间的智能鸿沟,全球人工智能治理进入新阶段,需要建立公平公正的全球人工智能治理体系。

  随着通用人工智能技术的不断发展,各个国家在智能技术掌握与应用能力上的差距将形成智能鸿沟,加剧技术发展的不平等问题。在全球层面上,人工智能目前尚未形成统一标准和规范的人工智能治理体系。

  与此同时,全球人工智能治理出现了单边主义、国家主义、保护主义的趋势,少数发达国家试图掌控人工智能相关的法律法规、政策和原则,发展中国家话语权较弱,甚至无法参与相关讨论。中国作为最大的发展中国家和人工智能发展大国,需要积极参与全球人工智能治理工作,提升发展中国家在全球人工智能治理中的影响力与话语权,推动人工智能治理朝着更加公平公正的方向发展。

  二、《倡议》的主要内容

  《倡议》内容共十一条,围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的“中国方案”。

  (一)明确发展原则,推动人工智能向善而治。

  人工智能的发展应回归人本主义,致力于解决人类面临的共同挑战。《倡议》提出了人工智能发展的基本原则,推动人工智能健康发展。

  一是坚持以人为本、智能向善,以增进人类共同福祉为目标,确保人工智能始终朝着有利于人类文明进步的方向发展,共同防范和打击恐怖主义、极端势力和跨国有组织犯罪集团对人工智能技术的恶用滥用。

  二是坚持相互尊重、平等互利,鼓励全球共同推动人工智能健康发展,共享人工智能知识成果,开源人工智能技术。尊重各国主权,技术服务应充分尊重所在国的法律、法规,反对利用人工智能技术干涉内政、妨碍他国社会制度及秩序。反对以意识形态划线或构建排他性集团,恶意阻挠他国人工智能发展。

  (二)打造安全体系,构建安全可信的人工智能系统。

  针对大模型发展面临的隐私和数据泄露、误用滥用、不透明、不公平、责任认定等安全问题,《倡议》通过“内外兼修”的方式,推动构建安全可信的人工智能系统。

  在外部措施方面,一是推动建立风险等级测试评估体系,实施敏捷治理,分类分级管理,快速有效响应。二是逐步建立健全法律和规章制度,保障人工智能研发和应用中的个人隐私与数据安全,反对窃取、篡改、泄露和其他非法收集利用个人信息的行为。三是坚持伦理先行,建立并完善人工智能伦理准则、规范及问责机制,形成人工智能伦理指南,建立科技伦理审查和监管制度,明确人工智能相关主体的责任和权力边界,充分尊重并保障各群体合法权益,及时回应国内和国际相关伦理关切。

  在人工智能系统内部安全能力提升方面,一是针对系统透明度问题,倡议各研发主体不断提高人工智能可解释性和可预测性,提升数据真实性和准确性,确保人工智能始终处于人类控制之下,打造可审核、可监督、可追溯、可信赖的人工智能技术。二是针对偏见和不公平问题,倡议坚持公平性和非歧视性原则,避免在数据获取、算法设计、技术开发、产品研发与应用过程中,产生针对不同或特定民族、信仰、国别、性别等偏见和歧视。

  (三)倡导全球治理,推动实现多边的开放性治理生态。

  单丝不成线,孤树不成林。人工智能的发展并不是一场“零和游戏”,人工智能治理需要全世界的广泛参与,在充分尊重各国人工智能治理原则和实践的前提下,形成具有广泛共识的国际人工智能治理框架和标准规范,推动全球人工智能治理迈向更加完善的新阶段。

  《倡议》以开放姿态,以关切全人类发展为初衷,抵制“俱乐部”式的霸权操纵模式,积极推动真正的多边对话的实现,促进全球发达国家和发展中国家人工智能治理的协同发展。一是鼓励各国积极对话和分享最佳操作实践,推动国际人工智能治理领域形成广泛共识。二是建议增强发展中国家在人工智能全球治理中的代表性和发言权,开展面向发展中国家的国际合作与援助,不断弥合智能鸿沟和治理能力差距。积极支持在联合国框架下讨论成立国际人工智能治理机构,协调国际人工智能发展、安全与治理重大问题。三是倡导“以技术监管技术”,积极发展用于人工智能治理的相关技术开发与应用,支持以人工智能技术防范人工智能风险,提高人工智能治理的技术能力。

  结语

  确保人工智能安全、健康、可控发展是人类共同的责任,《倡议》为人工智能治理提出了一个覆盖治理多元主体,推动搭建多方共建的可落地“中国方案”。智源研究院作为人工智能领域的新型研发机构,将从技术研发角度推动《倡议》的落地。一是坚持开源开放原则,构建全面开源、共建共享、开放透明的人工智能技术底座,持续开展人工智能算法可解释性、鲁棒性、可信性等研究,不断提升人工智能系统的透明性和可靠性。二是开展大模型安全与价值观对齐、大模型安全评测技术等人工智能治理技术研究,为全球人工智能治理提供强有力的技术工具链,促进人工智能和人类智能的良性互动和价值共塑,构建人工智能和人类智能友好共处的人类命运共同体。(北京智源人工智能研究院)

[ 责编:孙宗鹤 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 多彩活动度假期

  • 2024兴安盟那达慕季启幕

独家策划

推荐阅读
优良的早稻品种,对于提升种植效益、稳定双季稻生产具有重要作用。中国农业科学院中国水稻研究所近日举行现场观摩研讨会,推动新品种新技术与种业公司对接,促进产业发展。届全国早稻新品种新技术观摩研讨会近日在江西省萍乡市湘东区召开。
2024-07-18 09:43
在此基础上,团队又开发出一系列基因编辑、代谢调控、网络优化的工具,可以从不同层面来修饰、调控底盘细胞的性能。2023年,基于嗜盐菌的开发利用和“下一代工业生物技术”对业界的贡献,国际代谢工程学会授予陈国强“国际代谢工程奖”。
2024-07-18 09:42
近日,世界知识产权组织发布《生成式人工智能专利态势报告》(以下简称《报告》)显示,2014年至2023年,我国生成式人工智能专利申请量超3.8万件,居世界第一,是第二名美国的6倍。
2024-07-18 03:30
目前,我国农业科技进步贡献率超过63%,农作物良种覆盖率达96%以上,农作物耕种收综合机械化率达74%,数字育种、智慧农机、智慧农场等数字化生产模式遍地开花;农村电商蓬勃发展,
2024-07-18 03:30
建设科技强国、发展新质生产力、推进新型工业化,需要有与之相适应的工匠型人才。工匠型人才需具有敬业、精益、专注、创新的工匠精神,还应具备对数字技术、人工智能等现代科技的理解、使用、交互和创新等数字素养。
2024-07-18 03:30
实体经济是一国经济的立身之本。我们要牢牢抓住实现新型工业化这个关键任务,加快建设以实体经济为支撑的现代化产业体系,不断做强做优做大实体经济,为中国式现代化构筑强大物质技术基础。
2024-07-18 03:30
“发现243信号”“243信号跟踪正常”……在航天员“回家”时,这些关键节点信息指令的发出,意味着我们研发的定向仪系列产品精准发现了航天员位置。
2024-07-17 03:35
我们的主要保护对象是壁画。许多壁画已经存在上千年,经过时间的磨砺,如今它们的模样往往是“千疮百孔”。面对这些脆弱的文物,既要做好保护,又要做好“医治”,难度可想而知。
2024-07-17 03:35
随着科技的不断进步,航天技术逐渐揭开神秘面纱,从遥远的太空走进公众的日常生活,从提升农业效率到改进环境监测技术,从优化交通出行到革新医疗技术,航天科技正以跨界融合与创新应用的方式,
2024-07-17 03:35
囿于时间与空间,遥感影像通常只能捕捉到部分信息。科研人员需要通过这些信息去反演一个全过程模态,即将遥感数据转变为人们实际需要的地表各种特性参数,但这实际上是很困难的。
2024-07-17 03:35
“我们的车铣复合机床经过你们优化后,性能有了很大提升,销量同比增长30%。”日前,在浙江省台州市东部数控设备有限公司的生产车间,总经理赵小刚兴致勃勃地带着浙江省高档数控机床技术创新中心副主任武建伟一边参观,
2024-07-17 03:25
7月15日,由中国交通建设集团有限公司牵头的“中央企业海洋工程技术创新联合体”在北京成立。在《桥梁工程——从浅海走向深海》报告中,张喜刚透露,针对未来单跨1500米的斜拉桥和3000米左右的悬索桥,相关团队已开始研究适用于水深接近100米的新型复合技术。
2024-07-16 10:11
7月10日,记者从中国湖南农业大学获悉,该校农学院李林教授团队和中国香港李氏集团Sun Crops农业有限公司正式签署“尼日利亚花生复兴计划”合作协议。
2024-07-16 10:06
一种可能在早期地球浅水区繁衍生息的复杂微生物,可能是今天所有生命的最后一个共同祖先。”  为了像Martin一样探索LUCA的生活方式,Moody研究小组追踪了350种细菌和350种古细菌的57个“标记”基因,以构建一棵生命树。
2024-07-16 10:04
如果你还徘徊在专业选择的边缘,不知该“选择”或“逃离”哪些专业,不妨来了解一下,新质生产力如何给专业赋能。”  对于“选择高校还是选择专业”这个考生填报志愿的老问题,林万龙建议,行业头部高校代表了新质生产力的发展方向,是更稳妥的选择。
2024-07-16 10:04
15日,国产首颗全电推通信卫星——亚太6E在香港圆满通过卫星在轨技术验收评审和地面系统最终技术验收评审,这标志着亚太6E通信卫星完成在轨测试,正式投入运营。
2024-07-16 03:35
今年4月16日,风云三号G星已在轨工作整整一年了。它先后捕捉到“玛娃”“泰利”等台风系统的三维立体结构,并在2023年以来的一些气象监测中精准监测大气三维精细结构信息,为防灾减灾提供了宝贵的观测数据。
2024-07-16 03:45
“这个看起来不起眼的钻头,其实很不简单,它是西南石油大学校史馆的镇馆之宝,见证了我国石油工业装备制造的发展历程。”西南石油大学党委书记张烈辉说,学校着力推动能源报国网络育人与理想信念教育、爱国主义教育深度融合,叫响了能源报国网络育人品牌。
2024-07-15 09:36
当前,全民健身热潮涌动,广大民众积极投身体育运动。发生意外并不可怕,如果运动场馆配备应有的急救设施,或能转危为安。近年来,随着社会治理效能和城市经济发展水平的不断提高,在各类公共场所,自动体外除颤器(AED)越来越常见。
2024-07-15 09:35
“我们土木工程专业正面临着重大挑战。砖瓦的出现、钢材的使用、混凝土的兴起引领了土木工程的前三次飞跃,钱七虎院士表示,第四次飞跃则以土木工程建造科技和数字化技术的全面交叉融合创新为标志。
2024-07-15 09:30
加载更多