2015-10-05 sean

超級智能出現 社會將面對的五大風險

圖片來源:
http://ichef-1.bbci.co.uk/news/624/cpsprodpb/06F5/production/_84718710_robotchecklist.gif

今年六月,首批1000台日本軟銀Pepper機器人在一分鐘內銷售一空,Pepper機器人並非以協助人類處理一般性事務為設計目的,而是具人類情感、可提供建議的生活陪伴機器人,這個全球首款家用型機器人,讓《大英雄天團》中的Baymax不再只是遙不可及的角色。其實人類對於人工智慧的想像,早在2001年電影《A.I.人工智慧》中,就有大略雛形的描繪;後來推出的幾部電影,如機械公敵》《成人世界》等,開始探討人工智慧在高度發展下,造成人類社會毀滅的議題,雖然不少電影最後都導向快樂結局,或許從不同專業領域的角度來做分析,會分別抱持樂觀及悲觀的態度來看待,但是對於人工智慧及人類實境的衝突,究竟有哪些潛在風險呢?

由日本軟銀研發及鴻海生產製造的機器人Pepper在今年六月正式首賣。
圖片來源:https://www.aldebaran.com/zh/a-robots/pepper/pepper-shi-shui

前些日子,Association for the Advancement of Artificial Intelligence (AAAI)的會長Thomas G. Dietterich以及Microsoft Research lab的總監Eric J. Horvitz(AAAI前會長)兩者聯名在Communications of the ACM上發表了一篇名為《Rise of Concerns about AI》的文章。文中兩位在人工智慧學界享有盛名的學者,針對近年人工智慧的驚人發展對人類的未來提出了五大潛在風險,呼籲人工智慧學界的同仁、相關產業以及政府資助的研究機構,需要更緊密的協同運作來正視這些潛在的風險,以下我們來看看這兩位大師究竟提出了哪五項風險呢?

一、人工智慧軟體品質風險(programming errors in AI software)

作者提出人工智慧必須有相當嚴格的軟體品質控管方式,任何只要是人類撰寫的軟體都會有錯誤發生。不論是在開發過程中還是實際營運上,在非人工智慧領域皆存在著許多極為複雜的軟體系統。例如自動導航儀與控制太空船的軟體都必須經過非常仔細的測試與驗證,以期能達到極高程度的品質保證;不然稍有不慎,就會造成高額的成本甚至人命的損失。在面對這樣的發展,作者提出兩項最大的技術挑戰。

圖片來源: https://blog.7dayshop.com//wp-content/uploads/2015/02/evil-angry-robot_zyi-kTCd.jpg

圖片來源:
https://blog.7dayshop.com//wp-content/uploads/2015/02/evil-angry-robot_zyi-kTCd.jpg

其一、人類要如何確保,透過機器學習技術所發展出來的智能系統,能照他們所預期的行為去運作?
其二、當超級智能系統遇到無法預期的情況與不正確與混亂的資料輸入時,能否確保系統不會對人類做出具傷害性的反應?

作者呼籲為了預防這類潛在風險,人工智能系統在發展過程中必須實作某種即時的自我監控架構(self-monitoring architectures),讓系統在發生不符合設計者的核心意圖時,適時的介入或是警告。

二、人工智慧在面臨網路攻擊下的風險(Cyberattacks)

網路罪犯與競爭對手隨時都有可能透過網路病毒與其他的惡意蠕蟲,對掌握高風險決策的人工智慧系統進行攻擊。如果有個人工智慧系統掌握著核武控制系統或是即時股市金融系統的決策權,系統的開發者必須有信心,能在大規模的惡意網路攻擊下存活下來就至關重要。

圖片來源:
http://conservativebyte.com/wp-content/uploads/2011/06/Cyber-Attacks.jpg

 

這個風險白話點講就是具有超級智能的軟體系統,是否會超脫人類所能掌控的範圍?設計良好的人工智能系統必須能正確的歸納出與他互動的人類心中真正的意圖,而不是逐字的執行人類所下達的命令。系統必須能正確判斷人類所下達的命令是否符合常理,且是被大部份的人類所接受的。額外的,系統必須有能力接收人類所給予的回饋與導引,也就是說,他們(人工智慧)必須知道何時該停止命令的執行並開始尋求人類的指引。

四、人類與超級智能間的互動(challenges with fluidity of engagement and clarity about states and goals)

超級智能將作為人類智能與肢體能力補足上重要的一環,具有人工智能的裝置能讓看不見的人重見天日、讓聽不見的人重新聽見旋律,讓失去行動能力的人重新站起跑步甚至跳舞。更重要的是,這類具智慧的軟體系統,將能擴展人類的認知能力。但是人類與這類超級智能間任務的交接是否能夠流暢?當超級智能處理完資訊後必須將後續的任務交付到人類手上時,人工智能是否能預測接手的人類會遇到哪些問題,並能提供解決這些問題的關鍵資訊?

圖片來源:
http://pbs.twimg.com/media/CQPyma2WwAEQrkw.jpg

 

五、人工智慧帶社會經濟學上所帶來的衝擊(the broad influences of increasingly competent automation on socioeconomics and the distribution of wealth)

作者指出有愈來愈多的證據顯示,人工智能的發展對差距愈來愈大的國內人均產值(per capita GDP)以及薪資中位數(Median Wages)帶有部分責任。政府與學界必須展開更廣泛的研究,來去了解人工智能的發展對工作與經濟的分配到底產生了多劇烈的影響,並據此去發展未來超級智能存在世界上時的經濟政策;以確保人工智慧發展下,創造的生產力擴增所得到的好處,能讓世界上更多人共享。

最後兩位作者也呼籲電腦科學社群必須施展出具領導性的角色。去探索並解決人類社會與反烏托邦論者對機器超級智能的發展所提出來的憂慮。所有相關政府與學界、產業組織也必須確保這些超級智能在接手高風險決策時,能夠安全且正確的去完成如人們所預期的行為。最重要的是,在學界之外,電腦科學家們必須對社會公眾採取開放、雙向的溝通,讓公眾能充分了解人工智慧的現實狀況、在未來發展路上能創造的機會、會承受到質疑論者的憂慮、以及面對毀滅性危機時的補救措施。

Tagged: ,