AI 倫理問題值得重視

探究AI弊病 黑石創辦人捐款牛津

據經濟日報108年6月20日報導，英國牛津大學表示，美國私募基金黑石集團（Blackstone）創辦人蘇世民（Stephan Schwarzman）已捐贈該校一筆1.5億英鎊（1.88億美元）巨款，將是該校自中世紀文藝復興以來收到單筆金額最高的捐款，據信也是牛津創校以來最大筆捐款。

金融時報報導，這筆巨額捐款將為牛津大學各人文學科設置首座綜合研究中心，以及新成立一個專門研究人工智慧（AI）倫理議題的機構。

因為稅制結構的差異，巨額捐款在英國並不如美國普遍，牛津大學2017-2018學年度共募款籌得1.57億英鎊，該校的營運預算為22億英鎊。

目前捐給英國大學最高一筆單一海外捐款金額是2.1億美元，為微軟共同創辦人比爾蓋茲2000年在劍橋大學創立蓋茲劍橋獎學金計畫。

蘇世民這筆捐款反映他對AI應用的疑慮，包括網路霸凌和對就業機會的影響。蘇世民說，這筆捐款和他去年捐給美國麻省理工學院（MIT）成立AI研究中心的3.5億美元是「互補」的關係，有助牛津把領先全球的道德與哲學專業運用在AI上。

蘇世民強調，「顯然我們需要好好討論哪些科技能夠採用、多快採用、何時採用，而且必須以非常聰明、平衡的方式進行。」

這筆捐款也凸顯出英國的一流大學受到脫歐影響而在募集研究資金上面臨不確定性，因此，更積極爭取慈善捐款。牛津大學副校長理查森說，蘇世民曾鼓勵她要更有野心，促成了這次捐款。

Facebook攜手德國大學成立AI倫理研究所 探討相關技術應用的道德準則

據科技新報108年1月21日報導，Facebook 近日宣布，未來 5 年將提供 750 萬美元資金給慕尼黑工業大學（Technical University of Munich），協助成立一個獨立的人工智慧倫理研究所，探索未來 AI 應用上可能產生影響的基礎問題。

隨著 AI 產業正以前所未有的速度成長，使用和影響也受到人們越來越嚴格的審查，儘管有望對氣候變化和醫療保健領域帶來深遠的影響，但一些專家警告也警告 AI 相關應用可能會帶來意外後果。

負責領導研究所的 TUM 教授 Christoph Lütge 表示，未來團隊將探索 AI 相關的倫理問題，並且為社會、經濟用途的相關技術制定負責任的道德準則，以證據為基礎的研究將解決那些與人類價值觀相關的問題。

包括 Facebook 和 Google 在內，科技公司正在受到來自政府和研究機構的巨大壓力，在應用 AI 技術之餘也得採取更多措施來保護受影響的人。

紐約研究機構 AI Now 在不久前的報告便指出，2018 年出現的許多科技醜聞顯示，那些開發 AI 並從中獲利者與那些最有可能受到負面影響者的差距並未縮小，反而是越來越大，因此 AI 問責制（accountability）的需求也正在成長。

對此，Lütge 強調，未來 AI 倫理研究所探討的核心問題將圍繞著信任、隱私、平等及包容，像是人們在網路上留下的數據痕跡或透過演算法接收某些訊息，也會討論透明度和問責制，像是在醫療方案或是與 AI 互動的情況中，如何讓人類在決策中享有權利和自主權。

MIT 攜手哈佛成立 AI 倫理監管機構，防止 AI 越過人類的安全線

據科技報橘106年1月12日報導，根據雷鋒網消息，MIT 媒體實驗室（MIT Media Lab）和哈佛大學伯克曼克萊恩互聯網及社會研究中心（Berkman Klein Center）共同成為了「 人工智慧倫理和監管基金」的管理機構。該基金將用於解決人工智慧所帶來的人文及道德問題。

除了 LinkedIn 創始人 Reid Hoffman、eBay 創始人 Pierre Omidya 的非盈利組織 Omidyar Network 各捐出的 1000 萬美金之外，Knight 基金會也捐助了 500 萬美元，此外，還有 William and Flora Hewlett 基金會和 Raptor 集團創始人 Jim Pallotta 各捐出了 100 萬美元。

這筆總計 2700 萬美元的基金將由 MIT 媒體實驗室和哈佛大學 Berkman Klein 中心共同管理。將來，也會有更多的捐款者加入，基金的規模還將擴大。

DeepMind 成立新部門 專注處理 AI 社會倫理問題

據INSIDE網站106年10月6日公布，外媒 The Verge指出，近日，Google 旗下 AI 研發公司DeepMind宣布成立一個 AI 新部門 ，主要負責研究 AI 帶來的倫理問題和社會問題，如自動化給未來經濟帶來的影響等等。

據了解，新部門的主要目標是幫助技術人員將倫理應用於實踐，幫助社會預測 AI 的影響，並對其影響給予引導，確保 AI 造福人類。2016 年，DeepMind 開發的 AI 系統在圍棋棋盤上打敗世界頂尖選手，因而名聲大震。

DeepMind 為新部門命名為 DMES（DeepMind Ethics & Society：倫理和社會）。新部門將於 2018 年開始就這些課題目標進行研究。目前，該部門已有 8 名全職員工。不過，按照 DeepMind 的計劃，該部門的員工規模將在一年時間內增至 25 名左右。

為了壯大團隊，DeepMind 還從外部學術機構和慈善機構聘請一些顧問，為新部門提供諮詢服務，包括哥倫比亞大學發展學教授 Jeffrey Sachs、牛津大學 AI 教授 Nick Bostrom、氣候變化活動家 Christiana Figueres。

專家憂AI倫理風險

據明報新聞網108年5月22日報導，亞馬遜AWS首席雲計算技術顧問費良宏表示，AI的飛速發展將在未來10年內使現時的世界發生顛覆。「人工智慧的飛速發展有賴於不斷加速的深度學習，再經過各種算法和複雜的推理最終形成一個模型。但全世界科學家也無法去探明當某一權重發生變化後，會對這個模型造成什麼影響及程度。這種不透明會帶來很大隱患。」

費良宏質疑，AI對傳統勞動力市場的衝擊是否造成大量低端產業人口失業、依賴人類提供資料學習的AI會否因資料的不公正而產生偏見、AI所獲授權究竟有無邊界、非法和準軍事方面的運用會否危害社會安全、當人工超智慧出現，人類需與機器如何相處？當產生行為責任應由誰承擔？這些都是政府亟待考慮和解決的AI倫理問題。

資料來源:經濟日報、科技新報、科技報橘、INSIDE、明報新聞網