知識星球蒙特利爾宣言：為什麼必須以負責任的方式發展人工智慧
原文: The Montréal Declaration: Why we must develop AI responsibly
源: https://theconversation.com/the-montreal-declaration-why-we-must-develop-ai-responsibly-108154
導讀：
-
機器不像人類那樣具備諒解和寬容的品質。
-
根據自動化替代物的經濟效益，市場力量決定了哪些工作將消失，哪些工作的工作量將減少。但我們也是公民，由於我們的專業知識，我們能以獨特的方式，參與有關這些問題的社會和政治討論。
-
技術創新的標的是減輕而非加重人類的不幸。技術創新也不是為了加劇歧視和不公，但AI可能加劇二者。
原文翻譯：
隨著AI邁入社會，其影響可以是正面的，也可以是負面的。未來在我們手中。
我研究智慧已經有30年了。和我的大多數同事一樣，我不涉足技術客體的研究，但我對智慧概念的抽象性質感興趣，所以我希望瞭解智慧。這就是科學：瞭解萬物。
然而，當一群研究人員瞭解了某個新東西的時候，那些知識既能用之以善，也能用之以惡。
這就是我們現在面臨的局面——人工智慧（AI）科學離開大學實驗室邁入社會的轉折點。在過去五六年裡，Facebook和谷歌等大公司對該領域投入了極大的熱情，斥巨資收購AI公司，併進行內部研發。於是，AI研究取得了巨大進展。企業非常希望利用這方面的知識，來開拓新的市場和開發新的產品，提高他們的效率。
隨著AI邁入社會，必然會對社會產生影響。結果會怎樣？這取決於我們自己的選擇。未來在我們手中。
殺手機器人，失業
從一開始就讓我擔憂不已的一個問題是致命性自動化武器，也被稱為殺手機器人。這是一個道德問題，因為在心理和道德層面上，機器不像人類那樣具備諒解和寬容的品質。而同時這也是一個安全問題，因為殺手機器人可能破壞世界秩序。迅速浮現的另一個問題是自動化導致的失業現象。我們不禁要問：為什麼？我們試圖造福何人，防止什麼？路上的卡車司機不高興？他應該被非人的東西替代？
機器已經在很多方面取代了人類。它還會走多遠？
我們這些科學家似乎對此無能為力。根據自動化替代物的經濟效益，市場力量決定了哪些工作將消失，哪些工作的工作量將減少。但我們也是公民，由於我們的專業知識，我們能以獨特的方式，參與有關這些問題的社會和政治討論。
電腦科學家關心失業問題。不是因為他們擔心自己會失業，實際上恰恰相反，他們的飯碗更有保證。他們覺得自己負有責任，不希望他們的研究讓無數人流落街頭。
調整社會保障體系
因此，電腦科學家，尤其是AI領域的電腦科學家，強烈主張調整社會保障體系，建立某種保證工資制度，我稱之為有保證的人類尊嚴。
技術創新的標的是減輕而非加重人類的不幸。
技術創新也不是為了加劇歧視和不公，但AI可能加劇二者。
有人說，歧視是因為AI是由男性創造的，技術行業裡的女性極少。事實並非如此。歧視主要是因為AI所使用的資料反映了人們的行為。不幸的是，那些行為存在偏見。
也就是說，如果一個系統依靠的資料來自於人們的行為，那麼這個系統將擁有和那些人同樣的偏見與歧視。該系統將不是“政治正確”的，它不是按照社會的道德觀念行事，而是按照人們的共同特性行事。
社會是帶有歧視的，如果我們不小心謹慎，系統可能保留或加劇那種歧視。
這也可能形成惡性迴圈。例如，警方使用這種系統來識別犯罪率較高的地區，向那裡派出更多的警察，他們將報告更多的犯罪。於是，統計資料強化了系統的偏見。
好訊息是，科學家目前正在研究開發最大程度減少歧視的演演算法。儘管如此，政府必須出臺措施，迫使企業採用這些演演算法。
輓救生命
還有另一個好訊息。醫療領域將是受到AI影響最大的領域之一。這不僅僅關係到省錢。
醫生也是人，也會犯錯。因此，我們用越多的資料來開發系統，錯誤就會越少。這樣的系統比最優秀的醫生都更加準確。他們已經在使用這些系統，以免漏掉重要因素，比如在醫學影像中難以發現的癌細胞。
AI提供的資料將使患者的醫療檔案得到更有效地解讀
還有新藥物的研發。在分析關於藥物和其他分子的大量資料（超過人類力所能及的範疇）方面，AI能做得更好。我們還沒有實現這一點，但潛力在那裡，患者的醫療檔案能得到更有效地分析。
未來的工具將讓醫生髮現在其他情況下難以發現的聯絡，幫助醫生制定可以輓救生命的治療方案。
醫療系統在10年內徹底革新的可能性非常高。顯然，這種進步對所有人都極為重要。
我不擔心醫療行業的失業問題。我們將始終需要醫療專家的能力和判斷。不過，我們必須加強社會規範（法規條例），以保護隱私（患者的資料不應該被不當使用），積累資料，好讓AI被用來以更好的方式治癒更多的人。
解決之道在於政治
由於上述的所有這些問題和即將出現的其他問題，《人工智慧負責任發展蒙特利爾宣言》具有重要意義。該宣言於12月4日在藝術與技術學會簽署，當時有大約500人在場。
它是以廣泛的共識為基礎。我們在網路上和書店裡向人們諮詢建議，收集各學科專業人士的意見。哲學家、社會學家、法理學家和AI研究人員參與了宣言的制定過程，所以其中包含了方方面面的專業知識。
這一宣言有多個版本。第一版是在2017年11月2日蒙特利爾大學組織的一個AI負責任發展論壇上起草的。
那是該宣言的誕生地。
其標的是確立某些原則，為採用新法規奠定基礎，確保AI以負責任的方式發展。當前的法律並不完全適應新的形勢。
技術的濫用
技術的倫理或濫用問題最終會變成政治問題，因此屬於集體決策的範疇。
社會如何組織？這是政治問題。
知識如何利用？這是政治問題。
我感受到了地方和中央政府致力於負責任發展的強烈意願。
加拿大是AI領域的科學領袖，是率先認清AI潛力並制定全國性計劃的國家之一，也擁有擔任社會領袖角色的意願。
兩年來，蒙特利爾處於這種意識的最前沿。我在歐洲也感受到了同樣的意願，包括法國和德國。
一般而言，科學家不願與政治牽扯過多。但如果他們關心的問題將對社會產生巨大影響，他們肯定會擔起自己的責任，參與討論。
在這場談論中，我意識到，社會已經給了我發言的機會。由於我是AI科學發展的先行者，政府和媒體很想知道我對這些話題的看法。
因此，就我而言，這不僅僅是責任，還是我的義務。我別無選擇。
