如果機器的智力超出了創造者掌控范圍會怎么樣？達沃斯2015夏季論壇首日展開的“情景假設What If”系列對話上，來自不同國家的專家對這個問題展開了討論。
機器人
主持人、《科學美國人》雜志的主編馬里埃特·迪克里斯蒂娜在現場拋出三個問題，如果你犯罪了，希望人類法官還是機器人法官？如果你被診斷出嚴重疾病，你是希望人類醫生，還是人工智能的醫生治療？最嚴肅的問題是，如果你的國家突然爆發戰爭，希望人類來防御還是機器人防御？
現場觀眾舉手投票的選擇中，人類法官略勝一籌，而后兩個問題機器都獲得勝利。而在主持人公布的網絡票選中，機器在三項中全部獲得勝利。
機器已經比人類聰明？
“其實機器在很多方面已經比人類聰明了。除了我妻子，手機對我了解最多。”卡內基梅隆大學計算機科學學院教授湯姆·米切爾說。
“機器在算術、圖像處理等很多方面都比我們聰明，一旦計算機比我們更好，是不是能幫助人類變得更加聰明，我們需要他們的幫助和支持。”米切爾說。
專家和現場提問觀眾都對人工智能的快速發展表達出了擔憂。首當其沖的就是就業問題，人工智能已經在和人類搶飯碗了。
米切爾觀察到，計算機在很多方面取代了人的工作，未來會做更多的工作，很多崗位將會受到影響，自動駕駛就是一個很典型的例子。
日本學術振興會理事長安西佑一郎認為，一些專業人士已經被人工智能部分取代。“未來10年、20年間，人工智能將取得巨大進展，與商業的聯系將會更加緊密。”他預言。
安西認為，人工智能正在變得更加多元化，將會幫助人類在很多事情上做出決定，也將會在商業、教育、醫療、設計各個領域，幫助人類做到更好。
當人工智能擁有光明前景，就業崗位就會減少。當人們擔憂丟工作的時候，Vicarious公司聯合創始人迪利普·喬治認為最好的情況是人工智能充分就業，未來人類就不需要工作了。“決策者應該仔細考慮這個問題。”他說。而Vicarious一詞的意思就是“替代”或者“代理”。
米切爾相信，未來5到10年，計算機開車將更加安全，計算機可以閱讀文件，對文章進行推理摘要，幫助人類判斷，也會在醫療中獲得大量新的數據，改善生活，從而影響經濟。
安西提出，隨著人工智能的發展，會引申出很多倫理問題和社會問題，是時候讓人類討論機器人的法律問題了。
殺人機器人有多遠？
“我們需要機器人和我們站在同一邊。”加州大學伯克利分校教授、全球議程理事會人工智能與機器人議題組專家斯圖爾特·羅素說。
他認為，這是30年到50年后需要重視的問題。
“機器人會殺人，就業會終結，甚至會對人性產生影響。”他說，已經有人在創造一種在沒有人類控制的情況下自動殺死人類的機器人，機器對就業的影響也將對世界經濟造成最大的挑戰，需要更多的社會保障。
在回答觀眾提問的機器人武器化問題時，羅素表示，武器是由人使用的，是針對人的。“不是人和機器的對抗，而是人和邪惡的對抗。”
他認為，未來會不會更加嚴重取決于你希望看到什么樣的未來。
當人們在擔憂殺人機器人的時候，隔壁展覽中的幾個機器人正在展示自己幫助人類的功能。
Anthrotronix公司的意念控制手套和機械手臂在體驗區供人們嘗試，制造者期待未來它們可以進入危險環境和醫療領域。卡內基梅隆大學的虛擬同伴學習人工智能尚未投入市場，意在通過語音交流幫助幼兒學習交流和溝通。
記者體驗了香港科技大學研制情感識別機器人，它會通過面部識別和聲音識別交互者的感情狀態。在問了記者三個問題之后，它死機了。
人工智能統治世界與“意識”無關
羅素認為，智能程序不會有惡意，但如果他們能夠像人一樣做決策的話，就能夠打敗人的智能了。
他認為，人們所討論的人工智能對人類的威脅，今天還很難預測。但是就像當年說原子武器是一種威脅，也不是就不要研究物理了。他更傾向于認為，人工智能不是威脅，而是挑戰。
對于機器會不會有意識，他認為，“意識”仍是生物學家、哲學家探討的問題，是一個沒有定論的概念。
“不要認為機器是有意識才能控制世界，沒有意識也能控制我們。一個機器控制世界、人類的能力和他是否有意識完全沒有關系。”羅素說，這主要取決于機器人做出什么樣的決策來實現目標。
在“機器人將會占領世界？”的討論中，Rethink Robotics公司創始人、董事長兼首席技術官羅迪·布魯克斯和羅素持不同意見，他認為，目前對機器的一些擔憂是會在技術發展中解決的。
“當我們發明出非常壞、非常恨我們的機器之前，我們會先發明出比較不那么討厭的機器。”布魯克斯說，科技是一點一點進步的，以我們今天的科技水平不必擔憂明天的科技帶來的問題。
布魯克斯說，人類發明的機器還不一定會討厭人類。“我的孩子們都還沒有恨我。”他笑道。
人類將不能理解機器
機器的發展已經超出人類預期。
布魯克斯說，機器人目前在識別方面做得很好，這是電子游戲行業的巨大推動，而機器人的協調和感知仍需要材料的進步和新的運算機制的誕生。
未來的機器有可能產生出人類無法理解的思維方式，導致人類和機器無法交流。“我們現在已經有一些這樣的例子了，比如谷歌的‘做夢’人工智能，產生了奇怪的動物的畫面，但它是怎么做到的呢，誰也不知道。”
羅素說，當給定機器人一個目標，它實現起來的手段和方法可能是完全超出人類思考范疇的。“我們希望他們的方法是我們會感到滿意的。”他說。
煤炭行業20項專利項目榮獲第
廣東廣州釋放約12.5億填埋場
