新聞 新京報專區
誰來給覺醒前的機器人念倫理緊箍咒
華夏經緯網   2018-05-25 14:26:27   
字號:
近期熱詞
深港通  洪秀柱  樸槿惠  復興航空  菲德爾卡斯特羅  特朗普  “東方之星”長江傾覆  控煙  

  人機未來

  《西部世界》充滿魔幻的科技反烏托邦前景所折射出的文明焦慮可追溯至基督教之前就已產生的諾斯替主義。

  燒腦神劇《西部世界》第二季震撼來襲,人造人覺醒後的暴動使人類的脆弱暴露無遺,而人造人自身亦被散佈於世界的各種控制的腳本和慾望的陷阱所網羅。

  集生化人與機器人于一體的人造人,不僅像人類那樣具有自我意識,而且還能夠把活人的思維、意識、記憶和情感移植進去,成為所謂的轉生人。不論這些真假莫辨的劇情是否在以預言的方式昭示著新人類文明的未來,人們已經著手埋下另一條時間線——用倫理的緊箍咒哪怕在機器人覺醒之前一剎那勒緊價值的韁繩。

  機器人造反?還早著呢

  其實,不論是《羅素姆萬能機器人》與《機器管家》,還是《銀翼殺手》或《機器姬》,都不是對人工智慧或機器人研究路線圖的描繪,而主要體現了人們將人工智慧與人工生命的製造和人類未來聯繫在一起時的選擇焦慮。

  尤其是《西部世界》的場景完全建立在絕對權力和極度慾望之上,是以惡為目的設計出的具象化的魔鬼樂園,其殖民主義式的末世妄想決非人與科技應有的融合之道。

  當然,《西部世界》充滿魔幻的科技反烏托邦前景所折射出的文明焦慮可追溯至基督教之前就已產生的諾斯替主義。其核心思想是:世界並非源於神的完美創造,而出自某個篡位的惡魔之手,人類恐怕只是這個低劣的製造者的玩物,宇宙及其秩序不過是邪惡之昭彰。

  其追隨者據此認定,人類是被困在物質世界媟N識的火花,所幸知識可以幫人獲得自由。在1929年出版的《世界、眾生和惡魔:理性靈魂三大敵人的未來之探索》一書中,英國晶體學家與科學社會學家貝爾納提出了諾斯替思想的現代版本:科學將讓進化發生轉折,人不僅可通過外科手術成為具有機械身體的賽博格,甚至有辦法讓人類的心靈最終逃脫物質的束縛。庫茲韋爾的靈魂機器和奇點觀顯然與此一脈相承。

  反觀《西部世界》,德洛麗絲等人造人的自我覺醒與反叛,或許恰好受了諾斯替主義的啟示而發現,像諾斯替主義者質疑人和世界可能源於低劣製造那樣,貌似仁慈上帝的福特原本是無異於冷酷無情的惡魔。福特與《美麗的新世界》中的上帝重名則表明,其“創造一切”的神力來自尚在試驗和探索中的科技,但為了“掌控一切”,他只能讓人和人造人服從其拙劣的製造魔法和機器邏輯,加之對奴役和殺戮的崇拜,最後必然以失控甚至毀滅告終。

  至於福特的魔法,無疑具有鮮明的現代版諾斯替色彩,不只涉及智慧的程式化設計,更試圖操縱與控制記憶、認知、情感和意識等心智過程。

  造反還沒造,倫理規則已先行

  鋻於製造是嘗試性和不完美的,最令以奴役人造人為宗旨的魔法實施者心虛的莫過於人造人造反。近年來,有些學者提出了機器道德的構想,試圖通過程式和演算法使智慧機器像人一樣遵守倫理規範、具有道德認知能力,已有人將這種研究應用到自動駕駛汽車和陪伴機器人的設計上。

  尤其是隨著人工智慧和機器人的新一輪熱潮的興起,世界上很多國家、地區和機構相繼推出了倫理指南、標準和宣言,提出了有針對性的倫理原則。當然,目前人工智慧和機器人還遠不具備自我意識和道德自覺,讓它們明辨是非的設想一時還難以照進現實。

  相關各方已經意識到,人工智慧與機器人倫理原則與標準的制定實際上是在搶佔未來產業發展的制高點。IEEE(國際電氣電子工程師學會)于2017年底發佈《人工智慧設計的倫理準則》(第二版)提出,人工智慧的設計、開發和應用應遵循人權、福祉、問責、透明和慎用等倫理原則,仔細探討了自動系統的透明性、數據隱私、演算法偏見、數據治理等當前備受關注的倫理問題。

  今年3月,歐盟發表的《人工智慧、機器人與自動系統宣言》則強調了人類尊嚴,自主,負責,公正、平等與團結,民主、守法與問責,保密、安全與身心完整,數據保護與隱私等九大倫理原則。

  國內的相關研究也在緊鑼密鼓地展開。中科院于2017年下半年啟動了諮詢項目“人工智慧倫理研究”及“大數據倫理問題與社會治理”,中國標準化委員會目前正在組織實施中國機器人倫理標準和人工智慧的法律及社會倫理標準的研究。

  其中,北大哲學系在今年3月頒布的《中國機器人標準化白皮書》立足多元、植入、正義和繁榮等優化共生框架,提出了人的尊嚴與人權、責任、透明度、避免濫用以及共生繁榮等五大倫理目標。

  在機器人覺醒之前,人類給機器人、更確切地說是給自己,念起了這些倫理的緊箍咒。這不是諾斯替魔法預先編制的程式,而是在我們尚有選擇的自由時,為人類的權利與尊嚴抵擋人類註定拙劣製造的戕害撐起雅典娜之盾。

  □段偉文(科技哲學學者)


來源:新京報(http://www.bjnews.com.cn/)

 

責任編輯:徐亞旻

共1頁
  網友評論 更多評論>>>
  網友: 口令:   
 
 
 
  已有( ) 條評論 剩餘 字 驗證碼:    
 
相關文章
   
·推租賃型集體宿舍:讓務工者住得更體面
·520告白季大作戰 愛又米商城分期消費創新高
·“甜蜜定制”:難掩“援交”與“包養”本質
·公眾號被指“洗稿”卻獲投資,誰該“差評”?
·優質P2P推薦:拍拍貸、宜人貸、極光金融、米缸金融
·“全民補碘”20多年,調整一刀切補碘此其時矣
·尋找失蹤兒童,打造移動版“安柏警報”
·給窮忙族的理財建議:餘額寶、極光金融、人人貸、唐小僧
·讓賺錢變得簡單:銅板街、極光金融、積木盒子、PPmoney
·紅嶺創投、陸金所、極光金融、小牛線上,穩健理財的好選擇
·雲財富金服:最美理財師大賽開啟 新華網邀理財精英展風采
·犀牛雲·網贏戰車:1元錢做SEO優化,教你挖掘90%的潛在客戶!
·瑞寶棬“20年正青春 感恩奉獻”啟動儀式在全國隆重啟幕
·空氣凈化器,還你室內清新
熱門點擊
  更多
6月19日,個稅調整消息引發熱議,很多人都忍不住算起賬來。按照個稅修正案粗略估
6月19日,習近平主席與來訪的金正恩委員長舉行會談。在不到3個月時間內,兩國領
精彩時評
 
·朋友圈的"網紅減肥藥"有人管嗎?
·同服藿香正氣和頭孢"馬上喪命"?
·用"分散休假"代替黃金周
·楊朝清:大數據志願填報沒有想像得那麼神通
·陳廣江:從胡紅岩到王天榮,還有多少人在無
·堅決打好污染防治攻堅戰
·實體經濟運行持續向好
新聞推薦
  更多
·通訊:兩岸“成功情緣”的青年傳承
·第五屆國際鄭成功文化節在福建南安舉行
·當心“世界盃綜合徵”!球迷熬夜請記住這幾點
·2018年世界盃足球公園開園 將展出世界盃獎盃
·敘利亞軍方在敘多地軍事行動取得重要進展
·教育部和勞動部合併?特朗普政府公佈重組提案
·北韓淩晨向南韓通報紅十字會會談名單 共計3人
精彩博文
 
·[我心飛揚] 美“臺旅法”生效 對蔡當局不是“好果子”
·[袁周]特朗普簽署“臺旅法”開啟潘多拉魔盒 須丟掉幻想
·[賈永輝]融合發展 匯聚起兩岸和平發展強大正能量
·[陽光不]網信辦整頓娛樂八卦賬號 “全民星探”等被關
·[寵辱不驚]地鐵設女性車廂防色狼? 大聲說“不”更有效
·[坐看雲起]各國考試防作弊啥招? 印度高科技南韓查廁所
·[我心飛揚]觀察:柯文哲的無常 加速台灣政治生態惡化
華夏週刊
  更多
新聞排行
   
《嚮往的生活》何炅回憶“金龜子”劉純燕帶
出國看病將會成為抵抗癌症最好的選擇!
盛諾一家為出國看病患者打造低價無憂尋醫之
美國為出國看病最佳選擇,盛諾一家為您服務
出國看病,盛諾一家最大優惠最大優勢
棋牌類APP背後的“涉賭江湖”:發展下線
多管齊下切實保障用戶安全 善林金融樹立行
夏靖:讓信和財富成為一個有溫度的財富管理
貴州多名公考考生體檢被刷 事後自行復查均
公務員輪訓向古代學“官德” 考核尚無硬性
  圖片新聞   更多
  精彩視頻   更多
新聞中心
大陸新聞 | 台灣新聞 | 港澳新聞 | 國際新聞 | 綜合新聞 | 圖片新聞 | 熱門點擊 | 重大新聞 | 滾動新聞 | 國臺辦新聞發佈會 | 熱門評論 | 新聞說吧
媒體時評 | 看 世 界 | 國際熱點 | 港澳風情 | 大陸人看台灣 | 社會廣角 | 酷文辣評 | 星聞情報站
---華夏經緯網版權所有---