新聞 新京報專區
該怎麼消除人工智慧與生俱來的“歧視”
華夏經緯網   2018-10-17 16:24:31   
字號:
近期熱詞
深港通  洪秀柱  樸槿惠  復興航空  菲德爾卡斯特羅  特朗普  “東方之星”長江傾覆  控煙  

    人機未來

  一旦人工智慧突破了可以扳倒人類社會規則約束的臨界點,那麼,將沒有什麼來阻止人工智慧決定人類的未來。

  在好萊塢電影《復仇者聯盟3》中,大反派滅霸運用“絕對公平”的隨機模式消滅宇宙中的一半生命,從而達到他心目中的和諧。如今,人工智慧正在以一種模式不同,但結果類似的方式開始決定著人類的命運。

  近期,美國互聯網巨頭亞馬遜公司解散其人工智慧招聘團隊,由於該團隊所設計出的人工智慧程式極端“重男輕女”,會自動給女性求職者降低分數。

  人工智慧會放大演算法帶來的“歧視”

  隨著人工智慧技術的不斷發展,越來越多的管理者開始運用這一革命性技術提升企業的運行效率。電影公司運用人工智慧來預測電影劇本的潛在收益;企業運用人工智慧監控員工的異常行為;保險公司運用人工智慧評估保險人的保險償付幾率等。這些做法或多或少都存在一些與亞馬遜人工智慧招聘程式類似的歧視性現象。

  這種敏感、潛在的風險讓一些學者也開始反思人工智慧的實質。例如,諾貝爾經濟學獎獲得者托馬斯·薩金特在“世界科技創新論壇”上表示,人工智慧其實就是統計學,只不過用了一個很華麗的辭藻。

  這種說法雖然受到不少人工智慧業界人士和愛好者的批判,但深究起來並非毫無道理。人工智慧建立在以統計學為基礎的演算法之上,當前的“智慧”部分僅體現于通過電腦自身的“學習”功能迅速完成了統計檢驗過程。

  基於這種運算過程,人工智慧也不能避免統計學的局限性。

  第一是樣本選擇偏見。例如,亞馬遜的人工智慧團隊所選擇的學習樣本,主要基於現有的互聯網業界招聘數據。由於美國軟體業的從業者及求職者的男性比重遠大於女性,人工智慧程式在不斷樣本學習後得出了男性更適合此類職業的結論,沒有糾正反而擴大了樣本帶來的偏差。

  第二是演算法的不透明性,人工智慧的多數演算法處於“黑箱狀態”,缺乏解釋能力,如果演算法本身存在不公正傾向極難被發現。

  第三是難以兼顧效率與公正。演算法的目的在於找到最優解、最直接有效的手段,並不考慮解決方案對社會其他成員所帶來的影響。人工智慧缺乏共情能力,其所做出的決定並不會考慮人類文明所遵循的公共倫理和規則。

  我們對人工智慧的管控落後於其進步

  上述局限性使得人工智慧的廣泛運用將帶來與機遇相等的風險。

  一方面,在一些效率優先、只追求勝負的領域,人工智慧顯現出遠超常人的能力。政府、軍方和企業為了贏得競爭優勢,不得不加快人工智慧的應用和研發,甚至將一些試驗性、未成熟的技術投入使用。

  另一方面,這種對勝率的追求也會對人類社會帶來潛在的衝擊,甚至將破壞人類社會中效率與公平的平衡。一個越來越由人工智慧所主導的世界,很可能是一個貧富差距更加巨大、階層固化更為明顯的世界。這對於處於弱勢的人群、文化和國家並不友好,將加大這些弱勢群體與精英社會的差距,甚至讓其成為事實上的“無用的人類”。

  這些風險蘊含著一種未來世界的危險圖景,即由人工智慧所帶來的“數字進化論”。在“數字進化論”的世界,人工智慧將成為新的選擇、淘汰機制,只有符合人工智慧“演算法偏好”的人群能夠適應這種新環境,得到生存發展的機會。而其他不符合其演算法需求的人們則將面臨發展路徑終結,其所面臨的生存環境將不斷惡化。

  相對於人工智慧技術、產業的進步,對於人工智慧的管控和約束顯然落後了。當今國際社會對人工智慧的貪婪大於恐懼,對於人工智慧的認知慢於人工智慧的自我進化。但是,一旦人工智慧突破了可以扳倒人類社會規則約束的臨界點,那麼,將沒有什麼來阻止人工智慧決定人類的未來。在滅霸拿到極限手套的“六顆無限寶石”後,消滅宇宙的一半生命只在彈指之間。

  □李崢(中國現代國際關係研究院美國研究所)

99

來源:新京報(http://www.bjnews.com.cn/)

 

責任編輯:徐亞旻

共1頁
  網友評論 更多評論>>>
  網友: 口令:   
 
 
 
  已有( ) 條評論 剩餘 字 驗證碼:    
 
相關文章
   
·以人為本,人工智慧讓生活更美好
·有人追逐“帽子”,有諾獎得主甘當副教授
·2017年中國研究與試驗發展經費投入創歷史新高
·遙感三十二號01組衛星發射 遠望7號船單船精準測控
·“第一動力”的時代交響 中國科技創新實現歷史性重大變化
·量子電腦研發20年 剛進入它的“電子管時代”
·科技部開展專項行動為科研人員減負
·曝一下“光谷量子號” 看得見、看不見的“科技料”
·轉基因科普:新技術面世後被誤解很正常 要直面問題
·“中國天眼”衝擊新目標 亟須技術攻關
·我國參建的SKA有望再現“宇宙黎明” 繪製“宇宙地圖”
·中國科技期刊現狀:科技期刊不是由科學家說了算
·中國科技期刊現狀調查:品質低好稿少 形成惡性迴圈
·中國“燕龍”核能供熱技術獲外國專家點讚
熱門點擊
  更多
11月27日至12月5日,習近平訪問西班牙、阿根廷、巴拿馬和葡萄牙並出席G20
習近平開啟亞太之行,並出席APEC第二十六次領導人非正式會議。
精彩時評
 
·打吊瓶參觀衡中 不怕女兒病倒在起跑線上?
·“清華幼兒園”被訴 “康橋小學”們顫抖了沒
·“唱支歌讓你及格”,司法所長騷擾“緩刑犯”豈止“油膩”
·熊志:外賣平臺搶地盤,壓榨商鋪最終只會自
·張田勘:醫療AI落地還有很長的路要走
·不要逆歷史潮流而動——“對華文明衝突論”可以休矣
·美方一意孤行必將承受嚴重後果
新聞推薦
  更多
·2019年兩岸青年交流合作北京峰會舉行
·閩臺海上直航“五一”假期客流量逾3.1萬人次
·五一陸客赴臺旅遊人數增 臺旅會推“小鎮漫遊”
·立夏習俗知多少?食用五色飯 “稱人”以驗肥瘦
·熱點問答:俄航客機為何迫降起火
·俄客機著火致41人死亡 遇難者中沒有中國公民
·波音2017年已知737 MAX機型安全系統有故障
精彩博文
 
·[張富學]大陸應積極應對金門期盼實行一國兩制訴求
·[袁周]印航更名對蔡英文所謂“維持現狀”的警示
·[賈永輝]融合發展 匯聚起兩岸和平發展強大正能量
·[陽光不]網信辦整頓娛樂八卦賬號 “全民星探”等被關
·[寵辱不驚]地鐵設女性車廂防色狼? 大聲說“不”更有效
·[坐看雲起]各國考試防作弊啥招? 印度高科技南韓查廁所
·[張良驊]台灣人為何對大陸“好感”首次超越“反感”
華夏週刊
  更多
新聞排行
   
中國官方提出推動危害食品安全的制假售假行
世衛大會臺當局上演“苦情戲碼”:一哭二鬧
台灣各界檢視當局執政三週年:經濟“向下沉
河南週口“盜嬰案”疑點待解:孩子到底有沒
劉士余同志主動投案正配合審查調查 4個月
比餘額寶更好的投資有哪些?有利網、陸金所
2019年最火最熱門的9款網紅電動牙刷測
2018中國區塊鏈技術大會即將在杭召開
巔峰對話大數據 及貸亮相高端行業峰會
賞櫻團車禍事故33人死 "藍委"要官員負
  圖片新聞   更多
  精彩視頻   更多
新聞中心
大陸新聞 | 台灣新聞 | 港澳新聞 | 國際新聞 | 綜合新聞 | 圖片新聞 | 熱門點擊 | 重大新聞 | 滾動新聞 | 國臺辦新聞發佈會 | 熱門評論 | 新聞說吧
媒體時評 | 看 世 界 | 國際熱點 | 港澳風情 | 大陸人看台灣 | 社會廣角 | 酷文辣評 | 星聞情報站
---華夏經緯網版權所有---