給智能機器嵌入“道德”算法

                          2018-09-03 10:36:05 來源: 人民日報 作者: 喻思南

                          人工智能的應用,可能是影響深遠的社會倫理試驗。應通過算法給智能機器嵌入人類的價值觀和規范,讓它們具有和人類一樣的倫理道德。

                          前不久,包括特斯拉首席執行官馬斯克在內的多位全球人工智能頂尖專家簽署承諾書,呼吁不要開發“人工智能自主武器”。這已經不是業界第一次警告人工智能的潛在風險了。盡管當前處理單項任務、完成人類指令的“弱人工智能”自主性還很低,人們卻不能因此忽視新技術應用的潛在隱患。

                          高效、聰明的人工智能并不完美。比如,人工智能存在算法缺陷。這種缺陷往往源于機器學習過程的不可解釋和不可理解,它的判斷有時就像在一個黑箱中完成,缺少透明性。無人駕駛汽車決定向左或右轉時,人們并不完全清楚它做出轉向的過程。除了傳感器故障,人們甚至無法準確找到問題原因,這就給有針對性地調整系統、判定責任帶來了障礙。正因為如此,不久前生效的歐盟《通用數據保護條例》專門規定,人工智能公司必須讓人來審查某些算法決策。

                          不僅有近憂,更有遠慮。放眼未來,人工智能的應用正在模糊虛擬世界和物理世界的界限,可能重塑人類的生存環境和認知形態,并由此衍生出一系列棘手的倫理、法律和安全難題。與歷史上其他技術創新相比,人工智能的倫理法律等問題受到如此大的關注,一個重要原因在于它在理念上有望實現可計算的感知、認知和行為,從而在功能上模擬人的智能和行動,進而使得機器具有了一種準人格或擬主體的特性。人類現有的法律規范、概念框架及知識儲備,能否應對人工智能發展引發的新問題,是人們不得不正視的挑戰。

                          針對人工智能應用的潛在風險,國際社會在標準設計、倫理道德等方面提出了一系列試圖控制智能機器系統的方案,逐漸形成一個共識原則:通過算法給智能機器嵌入人類的價值觀和規范,以此讓它們具有和人類一樣的同情心、責任心、羞恥感等倫理道德。人們希望,人工智能的算法遵循“善法”,在完成人類難以完成的任務同時,吸取人類道德規范“善”的一面,從而達到控制機器風險的目的。畢竟,任何算法都只是實現目的的工具或手段,“善”的結果才是人類的追求目標。

                          實際上,通過編寫代碼和算法來控制機器的設想并不新鮮。70多年前,美國科幻作家阿西莫夫提出“機器人三定律”,構想了通過內置的“機器倫理調節器”,設定機器人不得危害人類的原則。而今,計算機專家、倫理學家、社會學家、心理學家等正在共同努力,走在實踐這一設想的路上。

                          人類對人工智能發展的遠慮或許來得早了點,但未雨綢繆體現的正是人類的智慧和洞見,我們不能等到人工智能深度介入人類生活后才思考如何與之相處的問題。與機器相處的和諧度,應是人類開發利用人工智能的重要標尺。畢竟,人工智能的應用,不僅僅是一場科技創新,也可能是影響深遠的社會倫理試驗。

                          “人工智能的短期影響由控制它的人決定,而長期影響則取決于人工智能是否完全為人所控制。”這是知名物理學家霍金給人類留下的警示。我們不必被人工智能的風險所嚇倒,但在享受人工智能福利的同時,也需要劃好倫理道德、法律規則等紅線。(喻思南)

                          加載更多>>
                          責任編輯: 冷媚
                          專題 更多>>
                          國內 更多>>

                          梔子提取物巧解乳糖不耐...

                          11月26日,記者從廈門華普高新技術產業有限公司獲悉,該公司推出的一款梔維液飲品,可以幫助人體解決乳糖吸...

                          雙11數百萬人參與紙箱回...

                          快遞業要使用大量紙箱和膠帶,對環境造成的影響不可忽視。今年的天貓雙11落下帷幕,物流業一周送完了2006全...

                          億珂華氏巨球蛋白血癥適...

                          強生公司在華制藥子公司西安楊森制藥有限公司23日宣布,旗下億珂(伊布替尼膠囊)新適應癥獲國家藥品監督管...

                          教育部:已建成全國統一...

                          針對校外培訓機構治理,教育部等三部門再次下文推動各地加快校外培訓機構整改進度。近日下發的《關于健全校...

                          2018科技傳播獎、大數據...

                          11月25日,主題為“下一代互聯網時代的科技傳播”的2018年中國科技傳播論壇在京召開。論壇舉行了2018年科技...

                          科報集萃 更多>>

                          參加國際發明展,要隨時...

                          中國發明協會(CAI)介紹說,發明人和組展單位一定要注意國際發明展的評選要求和方法的變化,否則不容易取得...

                          騰云峰會:人人定義“新...

                          什么是我們時代的文化?未來的敦煌藝術將以什么形式走入人們的生活?帶著對這些問題的追問和探索,52位嘉賓...

                          透過基因認識自己

                          關于簡史的書,這兩年火的一塌糊涂,從《人類簡史》、《未來簡史》,到今年剛剛出版的《基因中的人類簡史》...

                          2018年教育產業年度盛會...

                          11月22日,2018年教育產業年度盛會在京舉行,由i-EDU主辦的首屆教育產業投資人節暨中國教育“金知獎”同日頒...

                          手机买彩票用什么软件