给智能机器嵌入“道德”算法

                          2018-09-03 10:36:05 来源: 人民日报 作者: 喻思南

                          人工智能的应用,可能是影响深远的社会伦理试验。应通过算法给智能机器嵌入人类的价值观和规范,?#30431;?#20204;具有和人类一样的伦理道德。

                          前不久,包括特斯拉首席执行官马斯克在内的多位全球人工智能顶尖专家签署?#20449;?#20070;,呼吁不要开发“人工智能自主武器”。这已经不是?#21040;?#31532;一次警告人工智能的潜在风险了。尽管当前处理单项任务、完成人类指令的“弱人工智能”自主性还很低,人们却不能因此忽视新技术应用的潜在隐患。

                          高效、聪明的人工智能并不完美。?#28909;紓?#20154;工智能存在算法缺陷。这种缺陷往往源于机器学习过程的不可解释和不可理解,它的判断有时就像在一个黑箱中完成,缺少透明性。无人驾驶汽车决定向左或右转时,人们并不完全清楚它做出转向的过程。除了传感器故障,人们甚至无法准确找到问题原因,这就给有针对性地调整?#20302;场?#21028;定责任带来了?#20064;?#27491;因为如此,不久前生效的?#35775;恕?#36890;用数据保护条例》专门规定,人工智能公司必须让人来审查?#25215;?#31639;法决策。

                          不仅有近忧,更有远虑。放眼未来,人工智能的应用正在模糊虚拟世界和物理世界的界限,可能重塑人类的生存环境和认知形态,并由?#25628;?#29983;出一系?#23633;?#25163;的伦理、法律和安全难题。与历史上其他技术创新相比,人工智能的伦理法律?#20219;?#39064;受到如此大的关注,一个重要原因在于它在理念上有望实现可计算的感知、认知和行为,从而在功能上模拟人的智能和行动,进而使得机器具有了一种准人格或拟主体的特性。人类现有的法律规范、概念框架及知识储备,能否应对人工智能发展引发的新问题,是人们不得不正视的挑战。

                          针对人工智能应用的潜在风险,国际社会在标准设计、伦理道德?#30830;?#38754;提出了一系列试图控制智能机器?#20302;?#30340;方案,逐渐形成一个共识原则?#21644;?#36807;算法给智能机器嵌入人类的价值观和规范,?#28304;巳盟?#20204;具有和人类一样的同情心、责任心、羞耻感等伦理道德。人们希望,人工智能的算法遵循“善法?#20445;?#22312;完成人类难以完成的任务同时,吸取人类道德规范“善”的一面,从而达到控制机器风险的目的。毕竟,任何算法都只是实现目的的工具或手段,“善”的结果才是人类的追求目标。

                          实际上,通过编?#21019;?#30721;和算法来控制机器的设想并不新鲜。70多年前,美国科幻作家阿西莫夫提出“机器人三定律?#20445;?#26500;想了通过内置的“机器伦理调节器?#20445;?#35774;定机器人不得危害人类的原则。而今,计算机专家、伦理学家、社会学家、心理学家等正在共同努力,走在实践这一设想的路上。

                          人类对人工智能发展的远虑或许来得早了点,但未雨绸缪体现的正是人类的智慧和洞见,我们不能等到人工智能深度介入人类生活后才思考如何与之相处的问题。与机器相处的和谐度,应是人类开发利用人工智能的重要标尺。毕竟,人工智能的应用,不仅仅是一场科技创新,也可能是影响深远的社会伦理试验。

                          “人工智能的短期影响由控制它的人决定,而长期影响则取决于人工智能是否完全为人所控制。”这是知名物理学?#19968;?#37329;给人类留下的警?#23613;?#25105;们不必被人工智能的风险所?#35834;梗?#20294;在享受人工智能福利的同时,也需要划好伦理道德、法律规则等红线。(喻思南)

                          加载更多>>
                          责任编辑: 冷媚
                          专题 更多>>
                          国内 更多>>

                          第六届清华大学“校长杯...

                          “校长杯创新挑战赛是创新创业的竞技场,那么多大量的、优秀的创意就是创新创业的萌芽和源头。旨在挖掘释

                          闻所未闻:青藏高原牦牛...

                          中国农科院24日公布其两年来“有代表性的”10项重大科技进展。其中,兰州畜牧与兽药研?#20811;制?#30740;究团?#20248;?#32946;...

                          全国首个“高凤林工匠班...

                          5月18日上午,?#34987;?#33322;天工业学院“高凤林工匠班”揭牌仪式在该校航天人才培训中心举行。

                          ?#23433;?#31918;于技”科技行动:...

                          中国农科院24日宣?#35745;?#21160;?#23433;?#31918;于技”?#20219;?#22823;系列科?#23633;?#21010;;其中?#23433;?#31918;于技”科?#23633;?#21010;将重点开展育种技术提升...

                          “新型医?#23186;?#23646;?#29287;?#21450;植...

                          5月22日至23日,在科技部国家重点研发计划相关专项的大力支持下,由国家药品监?#28966;?#29702;局医疗器械技术审评中心...

                          科报集萃 更多>>

                          用知识与深度学习结合去...

                          在人工智能领域,如何将领域知识与深度学习相结合来构建实用级产业智能应用,一直是社会关注的焦点。“我们...

                          城企联动普惠养老行动 倾...

                          四川人口已进入深度老龄化,给经济发展和社会保障带来了巨大挑战。国家发展和改革委员会国际合作中心举办,...

                          地质调查服务石漠化生态...

                          石漠化是我国西南岩溶区最为严重的生态问题之一。5月23日至24日,石漠化生态修复技术成果研讨会在广西南宁召...

                          今日头条举办“头条分之...

                          5月25日,今日头条在?#26412;?#21518;?#25581;?#26415;空间,举办了“头条分之一”创作者线?#24459;?#40857;,为优秀的创作者们打造一场创作...

                          手机买彩票用什么软件