新聞 新京報專區
該怎麼消除人工智慧與生俱來的“歧視”
華夏經緯網   2018-10-17 16:24:31   
字號:
近期熱詞
深港通  洪秀柱  樸槿惠  復興航空  菲德爾卡斯特羅  特朗普  “東方之星”長江傾覆  控煙  

    人機未來

  一旦人工智慧突破了可以扳倒人類社會規則約束的臨界點,那麼,將沒有什麼來阻止人工智慧決定人類的未來。

  在好萊塢電影《復仇者聯盟3》中,大反派滅霸運用“絕對公平”的隨機模式消滅宇宙中的一半生命,從而達到他心目中的和諧。如今,人工智慧正在以一種模式不同,但結果類似的方式開始決定著人類的命運。

  近期,美國互聯網巨頭亞馬遜公司解散其人工智慧招聘團隊,由於該團隊所設計出的人工智慧程式極端“重男輕女”,會自動給女性求職者降低分數。

  人工智慧會放大演算法帶來的“歧視”

  隨著人工智慧技術的不斷發展,越來越多的管理者開始運用這一革命性技術提升企業的運行效率。電影公司運用人工智慧來預測電影劇本的潛在收益;企業運用人工智慧監控員工的異常行為;保險公司運用人工智慧評估保險人的保險償付幾率等。這些做法或多或少都存在一些與亞馬遜人工智慧招聘程式類似的歧視性現象。

  這種敏感、潛在的風險讓一些學者也開始反思人工智慧的實質。例如,諾貝爾經濟學獎獲得者托馬斯·薩金特在“世界科技創新論壇”上表示,人工智慧其實就是統計學,只不過用了一個很華麗的辭藻。

  這種說法雖然受到不少人工智慧業界人士和愛好者的批判,但深究起來並非毫無道理。人工智慧建立在以統計學為基礎的演算法之上,當前的“智慧”部分僅體現于通過電腦自身的“學習”功能迅速完成了統計檢驗過程。

  基於這種運算過程,人工智慧也不能避免統計學的局限性。

  第一是樣本選擇偏見。例如,亞馬遜的人工智慧團隊所選擇的學習樣本,主要基於現有的互聯網業界招聘數據。由於美國軟體業的從業者及求職者的男性比重遠大於女性,人工智慧程式在不斷樣本學習後得出了男性更適合此類職業的結論,沒有糾正反而擴大了樣本帶來的偏差。

  第二是演算法的不透明性,人工智慧的多數演算法處於“黑箱狀態”,缺乏解釋能力,如果演算法本身存在不公正傾向極難被發現。

  第三是難以兼顧效率與公正。演算法的目的在於找到最優解、最直接有效的手段,並不考慮解決方案對社會其他成員所帶來的影響。人工智慧缺乏共情能力,其所做出的決定並不會考慮人類文明所遵循的公共倫理和規則。

  我們對人工智慧的管控落後於其進步

  上述局限性使得人工智慧的廣泛運用將帶來與機遇相等的風險。

  一方面,在一些效率優先、只追求勝負的領域,人工智慧顯現出遠超常人的能力。政府、軍方和企業為了贏得競爭優勢,不得不加快人工智慧的應用和研發,甚至將一些試驗性、未成熟的技術投入使用。

  另一方面,這種對勝率的追求也會對人類社會帶來潛在的衝擊,甚至將破壞人類社會中效率與公平的平衡。一個越來越由人工智慧所主導的世界,很可能是一個貧富差距更加巨大、階層固化更為明顯的世界。這對於處於弱勢的人群、文化和國家並不友好,將加大這些弱勢群體與精英社會的差距,甚至讓其成為事實上的“無用的人類”。

  這些風險蘊含著一種未來世界的危險圖景,即由人工智慧所帶來的“數字進化論”。在“數字進化論”的世界,人工智慧將成為新的選擇、淘汰機制,只有符合人工智慧“演算法偏好”的人群能夠適應這種新環境,得到生存發展的機會。而其他不符合其演算法需求的人們則將面臨發展路徑終結,其所面臨的生存環境將不斷惡化。

  相對於人工智慧技術、產業的進步,對於人工智慧的管控和約束顯然落後了。當今國際社會對人工智慧的貪婪大於恐懼,對於人工智慧的認知慢於人工智慧的自我進化。但是,一旦人工智慧突破了可以扳倒人類社會規則約束的臨界點,那麼,將沒有什麼來阻止人工智慧決定人類的未來。在滅霸拿到極限手套的“六顆無限寶石”後,消滅宇宙的一半生命只在彈指之間。

  □李崢(中國現代國際關係研究院美國研究所)

99

來源:新京報(http://www.bjnews.com.cn/)

 

責任編輯:徐亞旻

共1頁
  網友評論 更多評論>>>
  網友: 口令:   
 
 
 
  已有( ) 條評論 剩餘 字 驗證碼:    
 
相關文章
   
·以人為本,人工智慧讓生活更美好
·有人追逐“帽子”,有諾獎得主甘當副教授
·2017年中國研究與試驗發展經費投入創歷史新高
·遙感三十二號01組衛星發射 遠望7號船單船精準測控
·“第一動力”的時代交響 中國科技創新實現歷史性重大變化
·量子電腦研發20年 剛進入它的“電子管時代”
·科技部開展專項行動為科研人員減負
·曝一下“光谷量子號” 看得見、看不見的“科技料”
·轉基因科普:新技術面世後被誤解很正常 要直面問題
·“中國天眼”衝擊新目標 亟須技術攻關
·我國參建的SKA有望再現“宇宙黎明” 繪製“宇宙地圖”
·中國科技期刊現狀:科技期刊不是由科學家說了算
·中國科技期刊現狀調查:品質低好稿少 形成惡性迴圈
·中國“燕龍”核能供熱技術獲外國專家點讚
熱門點擊
  更多
11月7日至9日,2018第五屆世界互聯網大會將在浙江烏鎮召開。
11月5日,首屆中國國際進口博覽會正式開幕,全球目光匯聚於此。
精彩時評
 
·“雙十一”數據刷新紀錄 這難道不是消費升級?
·工作簡報豈能成為工作“剪報”
·一些假大空的“特色小鎮”該消停了
·余明輝:“躺式紅綠燈”最大意義在管理創新
·楊朝清:不午睡就體罰:教育不能異化為暴力
·念好“平衡”的“緊箍咒”
·養生豈能一招制勝
新聞推薦
  更多
·創意遊大陸 臺生收穫多
·台灣旅行達人用心記錄“中華創意遊”
·2135億!剁手族買買買,2018天貓雙11創新紀錄
·探訪ofo新總部:依然獨立運營 業務正常跟進
·義大利華商點讚中國進博會:展大國胸懷
·特朗普簽公告拒絕非法入境者避難申請
·一戰結束百年:歐洲多國領導人參加紀念活動
精彩博文
 
·[張富學]大陸應積極應對金門期盼實行一國兩制訴求
·[袁周]印航更名對蔡英文所謂“維持現狀”的警示
·[賈永輝]融合發展 匯聚起兩岸和平發展強大正能量
·[陽光不]網信辦整頓娛樂八卦賬號 “全民星探”等被關
·[寵辱不驚]地鐵設女性車廂防色狼? 大聲說“不”更有效
·[坐看雲起]各國考試防作弊啥招? 印度高科技南韓查廁所
·[張良驊]台灣人為何對大陸“好感”首次超越“反感”
華夏週刊
  更多
新聞排行
   
第22屆MRS.GLOBE環球夫人大賽北
雙11過完怎樣理財:人人貸、極光金融、微
千店計劃讓用戶體驗再升級 這個11.11
探訪ofo新總部:依然獨立運營 業務正常
錢不夠用怎麼辦? 餘額寶、全民外貿、銅板
旅途中如何拍照 佳能微單M6且拍且珍惜
MARMOT土撥鼠戶外運動自行車品牌:中
貴州茶資源交易中心:如何防範現貨投資交易
世界頂級高端MARMOT土撥鼠自行車領導
賞櫻團車禍事故33人死 "藍委"要官員負
  圖片新聞   更多
  精彩視頻   更多
新聞中心
大陸新聞 | 台灣新聞 | 港澳新聞 | 國際新聞 | 綜合新聞 | 圖片新聞 | 熱門點擊 | 重大新聞 | 滾動新聞 | 國臺辦新聞發佈會 | 熱門評論 | 新聞說吧
媒體時評 | 看 世 界 | 國際熱點 | 港澳風情 | 大陸人看台灣 | 社會廣角 | 酷文辣評 | 星聞情報站
---華夏經緯網版權所有---