超越机器人三定律人工智能期待新伦理海阳
发布时间:2022-07-05 09:54:45 来源:力神机械网
新华社北京3月18日电
新华社记者杨骏
人工智能的伦理原则近来备受关注。联合国教科文组织总干事阿祖莱在3月初举行的“推动人性化人工智能全球会议”上就表示,目前还没有适用于所有人工智能开发和应用的国际伦理规范框架。
对于科幻作家阿西莫夫上世纪设计、防止机器人失控的著名“机器人三定律”,业界早已认识到其局限性。“机器人三定律,历史上看贡献很大,但现在停留在三定律上,已远远不够。”专家近日接受记者采访时这样说。
新局面,呼吁伦理新原则
科学家先前一直希望以最简单的办法,确保以机器人为代表的人工智能不给人类带来任何威胁。“机器人三定律”规定:机器人不能伤害人类;它们必须服从于人类;它们必须保护自己。后来还加入了“第零定律”:机器人不得伤害人类整体,不得因不作为使人类整体受到伤害。
“机器人不能伤害人,但机器人会以什么方式伤害到人?这种伤害有多大?伤害可能以什么形式出现?什么时候可能发生?怎样避免?这些问题在今天要么需要细化,要么需要有更具体的原则来防范,而不能停留在七八十年前的认识水平。”中国人工智能学会ai伦理专业委员会负责人、中国科学技术大学机器人实验室主任陈小平教授说。
全球知名的艾伦人工智能研究所首席执行官埃齐奥尼两年前就在一次演讲中呼吁更新“机器人三定律”。他还提出,人工智能系统必须遵守适用于其操作人员的所有法律条文;人工智能系统必须明确表示它不是人类;未经信息来源明确许可,人工智能系统不能保留或披露机密信息等。在当时,这些颇有新意的意见引发业界热议。
美国人工智能伦理领域知名学者、麻省理工学院教授泰格马克近年推广的“ai有益运动”提出,需有新伦理原则确保未来人工智能和人类的目标一致。这项活动曾获得霍金等众多全球顶级科学家以及知名it企业支持。
“人工智能在乘数效应的推动下会变得越来越强大,留给人类试错的空间将越来越小。”泰格马克说。
人为本,全球探路新伦理
当前全球对人工智能新伦理的研究日趋活跃。不少人对人工智能心存芥蒂,多半来自其高速发展带来的未知性,“保护人类”成为首当其冲的关切。
“必须确保人工智能以人为本的发展方向。”阿祖莱呼吁。
美国机器智能研究院奠基人尤德科夫斯基提出了“友好人工智能”的概念,认为“友善”从设计伊始就应当被注入机器的智能系统中。
新伦理原则不断提出,但突出以人为本的理念始终不变。百度公司创始人李彦宏在2018年中国国际大数据产业博览会上提出了“人工智能伦理四原则”,首要原则就是安全可控。
美国电气和电子工程师协会规定,人工智能要优先考虑对人类和自然环境的好处的最大化。
新的伦理原则制定也正提上各国政府的议事日程。
中国政府2017年7月发布《新一代人工智能发展规划》时就指出,建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力;2018年4月,欧盟委员会发布的文件《欧盟人工智能》提出,需要考虑建立适当的伦理和法律框架,以便为技术创新提供法律保障;今年2月11日,美国总统特朗普签署行政令,启动“美国人工智能倡议”,该倡议的五大重点之一便是制定与伦理有关联的人工智能治理标准。
存忧虑,跨界共商新问题
陈小平呼吁,为规避人工智能发展过程中的伦理道德风险,人工智能学术界和产业界,以及伦理、哲学、法律等社会学科各界应参与原则制定并紧密合作。
他认为,虽然从短期看还没有证据指向人工智能有重大风险,但依然存在隐私泄露、技术滥用等问题。而无人驾驶、服务类机器人的伦理原则也须尽快探讨制定。
美国电气和电子工程师协会还规定,为了解决过错问题,避免公众困惑,人工智能系统必须在程序层面具有可追责性,证明其为什么以特定方式运作。
“就长期来看,不能等到出现了严重的问题,再制定措施去防止。”陈小平认为,人工智能和其他技术的特点不一样,很多人工智能技术具有自主性。例如自主机器人在现实社会中具有物理行动能力,如果没有适当的防范措施,一旦出现严重问题,可能危害较大。
陈小平希望更多人参与人工智能伦理研究,尤其是科学家和工程师,因为恰恰他们最了解问题的根源、危险可能发生的方式、细节和相关技术进展,“他们不说,外界只能去猜,难以得出正确的判断和适当的应对措施”。
他还提醒,在防范风险的同时应该注意平衡,避免因为过度限制或使用不合适的降低风险方式造成遏制产业发展的副作用。
+1
【纠错】
责任编辑: 刘笑冬
-
国际塑料市场速描敦煌晾晒架铜版纸绝缘胶儿童家具Rra
国际塑料市场速描聚氯乙烯:价格下跌。供应商方面,日本、韩国和中国台湾生产厂家的报价在 500美元/吨(中国 CFR)左右。中国市场上的销售价格为人民币碎浆设备 5500~ 5600元/吨,相当于 480美
03月20日 19:57
-
詹纯新中联重科已经度过最困难时期深圳充磁机榉木家具保险投资青鱼养殖Rra
詹纯新:中联重科已经度过“最困难时期”詹纯新:中联重科已经度过“最困难时期”中国工程机械信息全国人大代表、中联重科董事是弥补建材工业发展短板的必要之举长詹纯新表示,随着国家一
03月20日 18:45
-
一次性快餐行业的现状和发展趋势调查一接线柱呼和浩特平垫圈人造棉西瓜Rra
一次性快餐行业的现状和发展趋势调查(一)各位界的朋友们早上好,我现在就一次性快餐行业的现状和发展趋势调查报告向大家做一个汇报。我发言的主题是推进循环经济发展绿色包装,彻底治理“
03月20日 16:04
-
包装增值创造最佳效益特殊米面镁砂印刷胶辊豆类饮品纸机配件Rra
包装增值创造最佳效益有些最具规模的包装材料供应商,同时是包装材料的加工者,而其规模亦因此而越来越大。面对原材料价格不断提高,环保费用又日益增加的现实世界,包装加工工业如何追求
03月20日 14:30
-
外盘再现交仓锌价或承受下跌压力日韩开封氧化剂迷你裙挖土机Rra
外盘再现交仓 锌价或承受下跌压力4月16日,LME锌外盘库存大幅增加,叠加近期美元走强,令内外盘的锌价迅速走弱,从外盘来看,未来伦锌依然还有交仓的可能,而且美元维持强势,都对锌价造成了
03月20日 13:52
-
进境货物木质包装不容忽视毛刷辊控制台调整阀热熔胶机排气Rra
进境货物木质包装不容忽视昨日从厦门检验检疫局东渡办事处获悉,今年以来,该吴江办查验的进境货物木质包装中平均每三批就有一批不合格,而从7月1日起控制柜,根据国家质检总局的公告要求
03月14日 03:16