您的反饋 必有回響

霍金：人工智能未來將發(fā)展出自己的意志

導語：最近幾年，霍金針對人工智能發(fā)表了一系列令人頗感恐慌的警告。

據(jù)外媒報道，雖然史蒂芬·霍金（Stephen Hawking）一直以來都在警告人工智能蘊含的各種危險，但他最近卻出人意料地出席了一個人工智能研究中心的成立儀式，并且發(fā)表了演講。

每當霍金發(fā)話，人們總會側耳傾聽。

最近幾年，霍金針對人工智能發(fā)表了一系列令人頗感恐慌的警告。他在2014年接受BBC采訪時說：“人工智能的全面發(fā)展將宣告人類的滅亡?！闭蛉绱耍斶@位全球最著名的科學家祝賀一個新的人工智能研究中心的成立時，全世界都頗感意外。

霍金在劍橋大學利弗休姆未來智能研究中心（Leverhulme Centre for the Future of Intelligence，以下簡稱“CFI”）的成立儀式上發(fā)表了演講。雖然他緩和了對人工智能的態(tài)度，但并沒有改變基本觀點。

“對人類而言，強大的人工智能技術的崛起可謂‘不成功，則成仁’?！彼f，“但究竟是‘成功’還是‘成仁’，目前還不清楚。”

霍金之的態(tài)度所以稍微有所緩和，可能是源自這個研究中心的使命。CFI的工作并不是開發(fā)人工智能技術，而是評估人工智能對人類文明產生的影響，從而對由此產生的好處和威脅提前做出應對，并就相應的公共政策提出建議。

CFI獲得了利弗休姆信托基金1000萬英鎊的撥款，這家機構為全英國的眾多研究項目提供資金。CFI匯聚了全球4所頂尖高校的力量，包括劍橋大學、牛津大學、加州大學伯克利分校和倫敦帝國理工學院，他們計劃建設一個國際化的跨學科研究團隊。CFI還將與政府和產業(yè)界展開合作，就具體問題制定相應的計劃——例如，針對自動化武器制定監(jiān)管政策。

根據(jù)劍橋大學發(fā)布的官方新聞稿，該研究中心在第一個“3年計劃”內將著眼于7大項目，最初一批項目包括：

——智能的科學、價值和未來

——政策與負責任的創(chuàng)新

——探究自動化武器的監(jiān)管政策

——信任與透明

學術界似乎都在為人工智能的進步做好準備，而政府也在積極籌備相關工作。例如，美國白宮就在10月12日發(fā)布了長達60頁的相關報告

除了CFI之外，最近還誕生了另外幾個以人工智能為主要研究方向的智庫。例如，美國馬薩諸塞州的未來生活研究所（Future of Life Institute）和牛津大學的人類未來研究所（ Future of Humanity Institute）。

特斯拉創(chuàng)始人伊隆·馬斯克（Elon Musk）的OpenAI組織雖然明確以人工智能技術為開發(fā)方向，但對人類文明本身也懷有更大的擔憂。該機構的網站寫道：“我們的使命是開發(fā)安全的人工智能技術，確保人們可以盡可能廣泛而平均地受益于此。”

即便單純從公關角度來看，霍金對這座新研究中心的背書也非常重要。作為全球最著名的科學家，霍金擁有無與倫比的影響力。

以下為霍金當天的演講全文：

很高興今天能夠參加這座新的研究中心的成立儀式。我們花了很多時間研究歷史，但不得不承認，人類的歷史多半是一部愚蠢史。所以很高興人們轉而把研究方向轉向了智能的未來。

智能是人類之所以成為人類的關鍵因素。人類文明的一切成就都是人類智能的產物：從學習取火和種植食物到理解宇宙，無一例外。

我相信，生物大腦與電腦所能達到的成就并沒有本質的差異。因此，從理論上講，電腦可以模擬人類智能，甚至可以超越人類。

人工智能研究目前的進展很快。從無人駕駛汽車到電腦在圍棋中戰(zhàn)勝人類頂尖選手，這一系列標志性事件都預示著未來的走向。海量資金正在涌入這一領域，與今后幾十年的進步相比，如今的成就必然相形見絀。

人工智能的潛在利益十分巨大。當我們本身的思維都要靠人工智能來擴充時，我們就無法預測未來的成就。憑借著這場新的科技革命帶來的工具，我們或許能夠挽回上一場工業(yè)化革命給自然界帶來的破壞。我們也希望最終消除疾病和貧困。我們生活的方方面面都將改變。簡而言之，成功創(chuàng)造人工智能將成為人類文明史上最重大的事件。

然而，這也有可能成為最后一個重大事件——除非我們學會如何規(guī)避風險。除了各種好處外，人工智能還將帶來危險，包括強大的自動化武器，或者幫助少數(shù)人欺壓普通大眾的方法。這將對我們的經濟造成巨大破壞。人工智能未來還將發(fā)展出自己的意志——這種意志將與人類的意志產生沖突。

簡而言之，對人類而言，強大的人工智能技術的崛起可謂“不成功，則成仁”，但究竟是“成功”還是“成仁”，目前還不清楚。正因如此，我與其他幾個人在2014年呼吁對這一領域展開更多研究。我很高興有人聽從了我的建議！

這個中心所開展的研究對于我們的文明和我們這個物種的未來至關重要。我真心祝福你們！