您的位置:中华显示网 > 新闻动态 > 行业新闻 >

事关人工智能的未来,全球科技人士在上海寻找这一问题的答案

编辑: 2024-07-05 09:28:10 浏览:168  来源:

2024世界人工智能大会暨人工智能全球治理高级别会议7月4日在上海开幕。“全球治理”的关键词,引发业界广泛关注。

当前,人工智能技术的快速发展,为人类社会发展带来了诸多红利,同时也出现了不少风险挑战。如何在全球范围内通过协同共治,实现人工智能发展与安全并重,成为各方亟需对话与合作的重大课题。

喜忧参半的新技术

很多后世广为采用的技术,在出现之初都曾受到抵制。古腾堡印刷术发明后,就有欧洲知识阶层竭力反对,认为印刷技术将带来大量粗制滥造的印刷品,从而败坏文本。纺织机出现后,大批因此失业的纺织工人发起抵制运动,甚至捣毁机器。火车初入清朝,有反对者称“铁路一开,则中国之车夫贩竖将无以谋衣食,恐小民失其生计,必滋事端”。

但纵观技术发展史,对新技术的怀疑者大多是受它们影响的人群,而极少是技术的发明者、研究者。如果说有例外的话,可能要数原子弹。爱因斯坦、奥本海默等原子弹的先驱都对这项发明产生了深深的忧虑,呼吁各界共同反对使用这项致命武器。

当下,人工智能就引发了它的创造者——全球科技界的担忧,或者更准确地说是喜忧参半,因为它有明显造福人类的特性,但也有难以回避的风险和不确定性。包括马斯克在内的多名科技界知名人士曾发表公开信,呼吁六个月内暂停研发人工智能技术。

对人工智能的担忧首先来源于它在某些方面超越人类的卓越表现。例如人工智能程序AlphaZero能够战胜人类最优秀的国际象棋选手,它的战术出人意料,有些走子模式人类心智甚至无法完全理解。世界冠军卡斯帕罗夫在观察和分析了AlphaZero的棋局后说:“AlphaZero彻底动摇了国际象棋的根基。”当人工智能不断探索国际象棋的极限,那些穷其一生方才精通此术的人类棋手能做的,却只有观察和学习。下棋,只是人工智能小试牛刀的游戏。它在人类引以为豪的思维疆域里,还在不断地挑战边界。

更令人忧虑的是,人们尚无法索解人工智能的智能从何而来。人工智能的核心技术——深度学习常常被称为“黑盒子”,意思是说,虽然它的代码、参数、训练方法是公开透明的,但人们仍然难以追踪、理解和预测它们如何从特定的输入生成特定的输出。不仅是普通人、使用者无法理解,即使那些书写人工智能代码的程序员也无法预测。

人工智能既有强大的潜能,又有巨大的不确定性。面对这项攸关全人类命运的新技术,世界各国基本达成共识,必须对话合作,构建开放、公正、有效的治理机制,促进人工智能技术造福于人类。

逐渐清晰的治理思路

去年10月,中国提出《全球人工智能治理倡议》,并于7月1日在第七十八届联合国大会上协商一致通过。在中国和全球其他国家的持续探索下,人工智能治理的思路也逐渐清晰。

一方面,强化人工智能的全球治理,已经到了必须重视的关键时刻。

监管改善了商品、基础设施和社会。正是因为有了监管,汽车才有了安全带和安全气囊,我们才不用担心牛奶会被污染,建筑物才会建造得方便所有人使用。明智的监管可以确保人工智能被人类负责任地使用。

一个反面的案例是互联网。互联网诞生在一个强调自由发展、弱化监管的年代,事后我们才知道,互联网的设计本可以做得更好,考虑得更周全。比如,早些决定如何处理隐私和匿名问题,也许就能减少“钓鱼”和“人肉”。

清华大学人工智能国际治理研究院院长薛澜介绍,最近有研究表明,在经济发展、社会发展和环境可持续发展三大领域中,人工智能会对134个具体目标产生促进作用,但也可能对59个具体目标产生阻碍作用。

这说明,只有尽快深入全球各个领域研究治理办法,才能推动人工智能健康发展,尽可能地让它收益最大化,同时把风险降到最低。

上海人工智能实验室主任、首席科学家周伯文在本届大会上向大家展示了一张坐标图——横轴是人工智能技术能力的提升,纵轴是人工智能的安全维度,理想的路线是人工智能沿着45度的直线安全与性能平衡发展,而现在的实际路线则是一条长期低于45度的波动曲线,显然发展是失衡的,安全技术滞后于性能提升。据他介绍,目前99%的算力用于模型预训练,只有不到1%用于安全对齐。

发展的失衡,也就造成了数据泄露、技术滥用和算法歧视等一系列问题,更凸显了人工智能全球治理的必要性和紧迫性。

另一方面,想要搞好人工智能治理,必须利益攸关方共同参与。

新思科技总裁兼首席执行官盖思新在本届大会演讲中表示:“人工智能创新的步伐必须谨慎平衡其负责任发展的需求,而实现这种平衡的最佳方式就是全球协作。全球协作能够使全世界人民从人工智能带来的巨大进步中受益,同时确保这些创新能力得到负责任的实践。”

在图灵奖得主姚期智看来,安全治理正在成为一个学术交叉新领域,包括AI、密码学、政治、法律、企业等多领域需要合作。

也就是说,除非各国政府、众多人工智能公司甚至世界公众都参与进来,否则任何解决方案都不可能成功。

以各国间的合作为例,在政府合作层面,中国在《全球人工智能治理倡议》里强调广泛与公平,提出各国无论大小、强弱,无论社会制度如何,都有平等发展和利用人工智能的权利;强调要建立更加广泛的人工智能合作机制,共同推动人工智能治理进程。

这种全球合作是有先例可循的。例如,第二次世界大战结束时,核武器引发了人们对如何使用新技术的深深恐惧和不确定性。作为回应,81个国家一致通过了国际原子能机构的章程,开发安全、可靠、和平的核技术。还有一些全球合作模式,如国际民用航空组织,更为柔和,它不太注重执行,成员国制定自己的法律,但接受一个全球性机构的咨询。

如今,为了建立有效合作机制共同应对人工智能带来的全球性问题,人们来到上海寻找答案。5日,一场以“人工智能新进展与社会科学的未来”为主题的论坛将在世界人工智能大会召开。在上海市社会科学界联合会召集下,各界将从社会科学的整体性高度出发,展望人工智能与社会发展的交互影响,并发布人工智能全球治理年度研究项目。

4日的大会开幕式上,上海向全球发布了《人工智能全球治理上海宣言》。显然,主动而强大的中国智慧,正尝试着引领人工智能驶向更加有序、安全的未来。

标签:

关注我们

公众号:china_tp

微信名称:亚威资讯

显示行业顶级新媒体

扫一扫即可关注我们