2018年，人工智慧所需跨越的難關-知識星球

2018年，人工智慧所需跨越的難關

原文: As Artificial Intelligence Advances, Here Are FiveTough Projects for 2018

來源: https://www.wired.com/story/an-old-technique-could-put-artificial-intelligence-in-your-hearing-aid/

導讀：

要讓機器人完成特定的任務，就需要針對專門的任務進行程式設計。它們可以透過反覆試錯，學會抓握物體。但這個過程相對緩慢。一條比較可行的捷徑是，在虛擬、模擬世界中訓練機器人，再把它辛苦學到的知識下載到物體機器人中。不過，這種辦法受制於“現實差距”——也就是說，模擬系統中學到的技能，並不總是適用於現實世界中的操作。
AI軟體是有侷限性的。國際象棋、將棋、圍棋都很複雜，但是規則相對簡單，每走一步對弈雙方都能看到。快速窮舉未來“局面”這事，計算機最在行了。但在現實生活中，大多數局面和問題都不會如此結構分明。
在近期的NIPS（神經資訊處理系統進展大會）機器學習會議上，討論的主線之一就是如何讓AI技術保持在安全且合乎道德的範圍之內。研究人員發現，由於我們的世界跟完美相距甚遠，機器學習系統在接受已有資料的訓練時，會沾上不道德或不可取的行為，比如以刻板印象對待男女兩性。有人正在研發特定手段，用於審核AI系統的內部運作，確保它們在金融與醫療領域運作時，能夠作出公正的決策。

原文翻譯：

2017年，圍繞殺手級機器人的議論甚囂塵上，人工智慧也大有長進。比如，一臺名為Libratus的機器人力勝多名撲克高手。在現實世界中，機器學習被用於改進農業，拓寬醫療服務改寫面。

但只要最近用過Siri或Alexa，你就會知道，雖然聲勢浩大，雖然讓伊隆·馬斯克（Elon Musk）這樣的億萬富豪憂心忡忡，但人工智慧做不到、理解不了的事還有很多。

理解話語

機器的文字和語言處理能力是空前的。Facebook可以為視力障礙人士朗讀照片描述。谷歌可以針對電子郵件，推薦現成的回覆短句。然而，軟體依然理解不了我們的話語和思路。“我們可以學習概念，並透過不同的方式把這些概念結合起來，應用到新的情境之中，”波特蘭州立大學教授梅拉妮·米切爾（Melanie Mitchell）說。“但這些AI和機器學習系統就不會。”

按照米切爾的描述，當前的軟體還受阻於數學家吉安-卡洛·羅塔所說的“意義的屏障”。一些領先的AI研究團隊正試著翻越這道屏障。

其中一個研究方向致力於讓機器像人類一樣，對常識和現實世界有一個基本的理解。Facebook研究人員正試圖教軟體理解現實，比如透過看影片。還有的則側重模仿我們能用對世界的理解來做些什麼。谷歌就在打造學習比喻的軟體。米切爾就試驗過一些系統，利用類比的方法和一堆有關世界的概念來解讀照片中的情況。

“現實差距”阻礙機器革命

機器人硬體日益完善。只需500美元就能買到手掌大小、配備高畫質攝像頭的無人機。能搬運盒子、靠兩腿行走的機器人也大有改進。那我們周圍為什麼還沒有充斥著往來穿梭的機械助手？因為當前的機器人四肢發達、頭腦簡單。

要讓機器人完成特定的任務，就需要針對專門的任務進行程式設計。它們可以透過反覆試錯，學會抓握物體。但這個過程相對緩慢。一條比較可行的捷徑是，在虛擬、模擬世界中訓練機器人，再把它辛苦學到的知識下載到物體機器人中。不過，這種辦法受制於“現實差距”——也就是說，模擬系統中學到的技能，並不總是適用於現實世界中的操作。

這個現實差距正在不斷縮小。10月份，谷歌公佈一批實驗獲得了喜人的結果。在這些實驗中，模擬與現實機械手臂學會了撿拾多種物體，包括膠帶分配器、玩具和梳子。

對致力於自動駕駛汽車的人而言，進一步的進展非常重要。在自動駕駛技術的競賽中，企業紛紛在模擬街道上部署虛擬汽車，從而減少在實地交通和道路環境中測試所需的時間和資金。自動駕駛初創企業Aurora公司CEO克裡斯·厄姆森（Chris Urmson）說，其團隊的優先事項之一就是讓虛擬測試更加適用於現實車輛。“未來一年左右，如果能利用虛擬測試加速機器學習，那就太好了，”厄姆森說。他之前領導過谷歌母公司Alphabet的自動駕駛汽車專案。

防範AI攻擊

執行電網、監控攝像頭和手機的軟體中充斥著安全漏洞。自動駕駛汽車和家用機器人也不會例外。情況還有可能更糟：有證據表明，機器學習軟體的複雜性提供了新的攻擊渠道。

今年有研究顯示，你可以在機器學習系統中隱藏一個秘密開關，使它一觸及特定訊號，便切換成邪惡樣式。紐約大學的團隊設計了一個正常執行的路標識別系統——除非它看到黃色的便簽紙。布魯克林一塊停車路標上貼了一張便簽紙，結果，系統將其報告成了限速標誌。這類手法也許會給自動駕駛汽車構成麻煩。

這種威脅不可小覷，以至於最近，在世界最負盛名的機器學習大會上，研究人員們圍繞機器欺詐的威脅，召開了持續一天的專題討論會，討論那些陰險的招數，比如生成手寫數字，人類看到的是正常的數字，軟體看到的卻是另一番景象。舉個例子，你看到的是2，機器視覺系統卻將其識別成了3。研究人員還探討了針對這類攻擊的防範措施，並且擔心，AI會被用來愚弄人類。

蒂姆·黃（TimHwang）是該專題討論會的組織者，他預言，隨著機器學習日益強大，部署日趨簡單，它將不可避免地被用來操控人類。“現在從事機器學習不再需要一屋子的博士了，”他說。他援引了2016年美國大選中，俄羅斯進行虛假宣傳的例子，並認為，那可能就是AI強化的資訊戰的一個先導案例。“這些政治活動中，憑什麼就不會出現機器學習領域的手法？”他說。他預言，一種手段會尤其有效，那就是用機器學習生成假影片和假音訊。

拿下棋盤遊戲

2017年，打遍天下無敵手的AlphaGo進步神速。今年5月，其增強版在中國擊敗了多名世界級圍棋冠軍。其創造者、Alphabet旗下研究部門DeepMind後來又構建了一個版本，名為AlphaGo Zero，在不學習人類棋步的情況下，就學會了圍棋。12月，DeepMind再次升級，推出AlphaZero，可以學會國際象棋和日本將棋（不過不能同時學）。

這些滾滾而來的重大成果固然喜人，但也提醒了我們，AI軟體是有侷限性的。國際象棋、將棋、圍棋都很複雜，但是規則相對簡單，每走一步對弈雙方都能看到。快速窮舉未來“局面”這事，計算機最在行了。但在現實生活中，大多數局面和問題都不會如此結構分明。

正因如此，2017年，DeepMind和Facebook都開始致力於多玩家遊戲《星際爭霸》（StarCraft）。目前，最好的機器人——出自業餘人士之手——也不是哪怕一般玩家的對手。今年早些時候，DeepMind研究人員奧裡奧爾·溫亞爾斯（Oriol Vinyals）在接受《連線》雜誌採訪時說，他的軟體現在還不具備規劃與記憶能力，無法在精心組建並指揮一支軍隊的同時，預測對手的下一步舉措，並加以應對。並非巧合的是，這些技能也可以讓軟體更好地協助現實世界的任務，比如辦公室工作或者真實的軍事行動。2018年，《星際爭霸》或類似遊戲的重大進展也許預示著AI將會有強大的新用途。

教AI明辨是非

即便上述領域沒有新的進展，現有AI技術普及之後，經濟與社會的方方面面也會發生重大改變。在企業與政府忙於普及AI的同時，有人對AI和機器學習的潛在危害憂心忡忡，其中包括有意的和無意的危害。

在近期的NIPS（神經資訊處理系統進展大會）機器學習會議上，討論的主線之一就是如何讓AI技術保持在安全且合乎道德的範圍之內。研究人員發現，由於我們的世界跟完美相距甚遠，機器學習系統在接受已有資料的訓練時，會沾上不道德或不可取的行為，比如以刻板印象對待男女兩性。有人正在研發特定手段，用於審核AI系統的內部運作，確保它們在金融與醫療領域運作時，能夠作出公正的決策。

2018年，科技公司應會獻計獻策，設法讓AI站在人類這邊。谷歌、Facebook、微軟等已經在探討這個問題，並且是非營利機構AI合作組織（Partnership on AI）的成員。該機構將研究並試圖規範AI對社會的潛在影響。更獨立的部門也開始施壓。一個名為人工智慧倫理與治理基金（Ethics and Governance ofArtificial Intelligence Fund）的慈善專案正在支援MIT、哈佛等機構的AI和公共利益研究。紐約大學新成立的AI Now也肩負起了類似的使命。在最近的一項報告中，該研究機構向政府發出呼籲，要求他們承諾，在刑事司法或福利等領域，不再使用不受公開審查的“黑箱”演演算法。

本次轉自：品覺微信公眾號（pinjueche.com）