人工智能會在某一天超過人類的智力,然后計算機將會接管整個世界

Elon Musk聯手YC CEO阻止計算機接管世界

來源:創業邦  |  作者:Christian  |  閱讀:

難道當前人工智能技術戰場的競爭還不夠激烈嗎?谷歌、蘋果、Facebook、微軟等在到處爭奪人工智能技術人才,就連豐田等汽車制造商也加入了這場人工智能人才爭奪大戰之中。但是這還不夠,今天人工智能戰場又迎來了一個新的選手,而且其實力還不容小覷。這是一家名為OpenAI的非盈利組織,該組織在今天正式宣布成立。OpenAI最與眾不同的地方在于,他們表示會將自己的研究成果完全免費公布給大眾,他們希望自己的研究成功可以造福人類,并且打消一些人對于人工智能技術的顧慮:人工智能會在某一天超過人類的智力,然后計算機將會接管整個世界。這家機構的投資方為多個科技行業的杰出人物和企業,其中就包括Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston和亞馬遜的AWS等。

他們一共籌集了超過10億美元的資金,供OpenAI在未來很長一段時間內進行研究之用。這家機構的兩個聯合主席分別為特斯拉公司CEO Elon Musk和Y Combinator CEO Sam Altman。值得注意的是,Altman本人以及Y Combinator公司都是OpenAI這個機構的出資方。

此前,在人工智能技術問題上,Musk一直都扮演著反對者的角色,他的加入已經足夠讓很多人感到不解了。再加上Y Combinator,相信會有更多人覺得費解。作為一個在10年前成立的科技企業加速器項目,他們每年都會為那些有前途的科技初創企業及其創始人提供各種幫助,加快這些企業的成長速度。自成立以來,YC已經為接近1000家科技企業提供了協助,其中包括了不少我們耳熟能詳的企業,例如Dropbox、Airbnb和Stripe等。而就在不久之前,YC又有了新的動作:他們成立了一個研究部門。在過去兩年內,YC的領導人一直都是Altman,他此前曾經創立了一家名為Loopt的公司,該公司與2012年被成功收購,收購價格為4340萬美元。雖然無論是Altman本人還是YC都有在科技創業方面有著極豐富的經驗,但是對于他們來說,OpenAI絕對也算得上是一次全新的嘗試,甚至可以說是冒險。

從本質上來看,OpenAI其實算是一個研究實驗室,它的任務,是和那些大公司進行對抗,防止他們壟斷超級智能系統,并且將這項技術完全用于盈利;此外,他們還要與政府進行博弈,防止政府使用人工智能技術來濫用權力,甚至是壓迫人民。作為一個剛剛成立的機構,OpenAI的動作可謂不小,他們已經吸引了一些大名鼎鼎的科技從業人員,例如前Stripe公司CTO Greg Brockman,他將出任OpenAI的CTO,以及在全世界范圍內都享有盛譽的研究人員Ilya Sutskever,他此前曾供職于谷歌公司,他將出任OpenAI的研究總監一職。除了這些大牌之外,OpenAI還吸引了一些青年才俊,但是值得注意的是,雖然年輕,但是這些人才都出自一些大名鼎鼎的企業,例如Facebook和谷歌在2014年所收購的AI企業DeepMind等。而且OpenAI還找來了一些非常杰出的從業人員作為機構的顧問,其中就包括了計算機科學方面的拓荒者Alan Kay。

OpenAI的領導者和我進行了一次對話,我們討論了他們將要進行的項目,以及成立這樣一家非盈利機構的原因。本次采訪共有兩個部分,第一個部分中采訪對象為Altman,而在第二部分中,我的對話者除了Altman之外,還包括Musk以及Brockman。為了更加清晰的呈現本次采訪的內容,我對兩個部分進行了編輯和整合。

為何要成立這樣一家機構?

Elon Musk要聯手YC CEO與科技巨頭抗衡

Tesla公司CEO兼產品架構師Elon Musk、Y Combinator主席Sam Altman

Sam Altman: 大約一年零一個月之前,我們在YC內部成立了YC Research這個研究部門,但是其實在很長時間以前,我就開始思考有關人工智能技術的問題了,Elon也是如此。當前哪些技術對于未來世界最為重要?我覺得優秀的人工智能技術一定會在這份名單之內。正是出于這個原因,我們才成立了OpenAI這家機構。這個機構的任務,就是努力開發出對人類有益的人工智能技術。而且,由于這是一家非盈利機構,因此它的所有技術都將免費提供給全世界。

Elon Musk: 正如你知道的那樣,此前有很長一段時間,我都對人工智能技術有著不小的擔心。其實關于人工智能技術,我曾經和Sam、Reid Hoffman、Peter Thiel和其他許多人進行過多次對話。我們的想法是:“有沒有某種方法,能夠確保人工智能技術將會為人類帶來好處?或是增加這個技術對于人類的益處?”在進行了很多次討論之后,我們做出了這個決定,那就是成立一家非盈利機構,因為非盈利機構不受經濟上的束縛,不求經濟回報,這樣才最能讓我們專注于技術開發本身。同時,我也能非常專注于這個技術的安全性上。

此外,對于人工智能技術的發展,我們的理想就是:讓人工智能得到廣泛的傳播。對于人工智能技術,人們有著兩派看法:你是想要很多人工智能?還是只想要一點點人工智能?在我們看來,人工智能應該是越多越好。直到一個完美的數量,在這個數量下,我們可以將人工智能技術與個體人類的意愿結合在一起,從而獲得良好的結果。

人類意愿?

Musk: 其實人工智能只是每一個人的延伸,每一個人從本質上說都是可以和人工智能并存的,人工智能的普及并不會讓其成為人們的對立面。你可以想象一下自己當前使用技術產品的方式,例如,互聯網應用,你每天都在使用電子郵件、社交媒體以及手機上的各種應用——這些技術產品有效的擴展了你的能力,你并不認為這些產品是另一個人,而是將其視為你自己的延伸。因此,在這樣的理念下,我們可以讓人工智能技術也走上這條發展道路,這也是我們所希望的。而且我們找到了許多和我們想法一樣的人工智能領域工程師和研究人員,他們愿意和我們一起完成這個工作。

Altman: 我們認為,人工智能技術最好的發展道路,就是讓人們獲得對于這項技術的信心,讓人類變得更好,而且要讓所有人都可以自由使用它,而不是讓它成為某個企業或其他類型的實體的專有營收工具。我們和谷歌不一樣的地方在于,我們并不是一家追求利潤的企業,因此我們不用想盡一切辦法討好股東。但是我們相信,人工智能將會是對于未來人類世界來說最好的一個東西之一。

難道谷歌不會將他們的開發結果共享給公眾嗎?他們此前曾經共享過機器學習方面的技術成果。

Altman: 他們當然也會和世界分享自己的許多研究成功。但是隨著時間的推移,他們或許將會找到一些超越人類智能的東西,在這個情況下,谷歌還能分享多少成果,我們就不得而知了。

難道OpenAI自己的員工找不到超越人類智能的新技術嗎?

Altman: 我希望我們可以達到這個成就,但是我們的工作完全是開源的,所有人都可以使用,而不僅僅只有某家公司可以使用而已。我們開發的任何技術,所有人都可以使用。而且,如果你對我們的技術進行了改進,你也沒有分享的義務。但是無論如何,只要是我們開發的技術,我們都會共享給每一個人。

如果我是個壞人,并且使用了你們的技術,那么你們難道不是在助紂為虐嗎?

Musk: 我覺得這是一個特別好的問題,這也是我們討論了很多次的一個問題。

Altman: 對于這個問題,我們之間產生了多種不同的看法。我認為,人類社會中,大多數人都是好人,這個由大多數好人所構成的社會,也包含了一些壞的元素。我們認為,和人類社會一樣,許多許多的人工智能技術,將會阻止那些偶爾發生的不良行為。而且不會有哪一種人工智能技術的能力可以超過所有其他技術,成為壞人的獨門暗器。除非某個人工智能技術走上了錯誤的道路,被邪惡的人所利用了,而且沒有任何其他技術可以對抗它,否則我們不會陷入絕境。

你們會對OpenAI開發的技術進行監管嗎?

Altman: 我們的確希望隨著時間的推移來建立起一個監管機制。最開始的時候,只有Elon和我負責這個工作。距離開發出真正的人工智能新技術,我們還有很長很長的路要走。但是我們希望未來能夠有足夠多的時間來建立起這樣一個監管系統。

Musk: 我很希望能夠和團隊一起花時間來解決這個問題,基本來說,可以是每周一個下午的時間,來討論升級,為他們提供反饋,并且讓我更好的了解人工智能技術當前的趨勢,以及我們是否在進行一些危險的工作。對于技術的安全性問題,我個人會保持時刻的警醒,這個事情我會特別的小心。而且,如果我們發現了某個東西有可能會導致安全性方面的問題,我們也會第一時間將這個消息分享給大眾。

有什么壞AI的例子嗎?

Altman: 我能想到的都是科幻電影里的例子,而且都是很久遠的那些科幻電影,例如《終結者》。但是對于這些東西,我并不是特別擔心,因為我覺得短期之內它們還不可能出現。但是有一件事情的確讓我有些擔心,但是我并不認為它是不好的人工智能技術,這就是大規模自動化以及工作崗位需求的下降。另一個壞人工智能技術的例子,也是人們經常討論的東西,那就是一些類似人工智能技術的程序進入了我們的計算機,而且它們的工作效果要比任何人類都要好,這樣的事情今天已經發生了。

你們會使用一個已經開發好的系統開始工作嗎?

Altman: 不會。OpenAI將會以一個研究實驗室的形態開始工作,而且在未來很長一段時間內,我們都將會繼續這種形態?,F在還沒有人知道要如何開發這個系統。從成立第一天開始,我們有著8個研究人員,在未來的幾個月中,還會有幾個新的研究人員加入我們的團隊。目前,我們將會使用YC的辦公空間,隨著團隊的擴大,他們將會搬到屬于自己的辦公室里。他們將會尋求新的創意,并且編寫新的軟件,以此來努力推動當前人工智能技術的發展。

機構之外的其他人能否為你們貢獻力量?

Altman: 當然可以。以開源項目的形式進行研究,其最大的優勢之一,就是我們的實驗室可以和任何人進行合作,因為我們之間可以自由的分享信息。外人很難和谷歌的員工進行合作,因為盈利企業對員工有著非??量痰谋C芤?。

Sam,你說OpenAI將會使用YC的辦公室,那么你們旗下的初創企業是否可以使用OpenAI的技術?[更新:Altman在采訪后表示OpenAI將會搬到位于舊金山的辦公室內。]

Altman: 如果OpenAI真的開發出了非常優秀的技術,那么任何人都可以免費使用它,當然也包括任何一家科技企業。然而要注意的是,我們也將會要求YC旗下的初創企業將自己的數據分享給OpenAI,當然他們可以自由選擇自己可以分享哪些數據。事實上,Elon也正在考慮,他要將Tesla和Space X兩家公司的哪些數據分享給OpenAI。

可不可以舉例說明你們會要求初創企業分享哪種類選的數據?

Altman: 企業的很多種數據都可以拿來和我們分享。例如,在技術搭建階段,所有的Reddit對我們來說都非常有用。你可以想象到,所有Tesla的無人駕駛汽車視頻信息對我們來說都會非常有價值。大量的數據對我們來說非常重要。如果一個人想要變得更聰明,那么你就需要讀書,讀書會讓人變得更聰明。但是讀書只能讓你自己變得聰明,不可能在你看了一本書之后,我們兩個人就都變聰明了。但是人工智能技術卻可以,還是用Tesla來舉例,如果一輛Tesla汽車學到了一個新東西,那么其他Tesla汽車就可以立刻掌握這個新東西,這就是人工智能的好處之一。

Musk: 總體來說,我們還沒有非常具體的計劃,因為這個機構還處于非常萌芽的階段;它還只是一個胚胎而已。但是當然Tesla會收集到海量的數據,這些數據都來自真實世界,因為每天只要有人開我們的汽車,我們就能從這些汽車那里收集到數據。甚至也許可以說,Tesla收集到的數據要比世界上其他任何公司都要多。

開發人工智能技術需要大量的計算,你們將會使用什么樣的基礎設施?

Altman: 我們與亞馬遜的AWS服務達成了合作協議。在我們的開發進程中,他們將會為我們提供大量的基礎設施服務。

你們已經為未來的技術開發籌集了10億美元嗎?

Musk: 我認為,更好的說法是,我們已經接觸到了數十億美元。我們還不想透露過于具體的數字,我們可以透露的是,正如在我們所發布的博文中提到的那樣,我們聯系到了大量捐助,捐助者的名字都在那篇博文中出現過了。

這些資金夠你們用多長時間?

Altman: 足夠我們進行長時間的技術開發。我們將會盡可能的節儉,但是這很可能是一個長達幾十年的項目,要想順利進行下去,它將會要求我們投入大量的人力和硬件。

你們完全沒有賺錢的壓力嗎?

Musk: 完全沒錯。這并不是一筆追求利潤的投資。也許它在未來可能會產生營收,就像Stanford Research Institute那樣,雖然它是一家501c3非盈利組織,但是卻產生了營收。也就是說,也許我們未來可以獲得利潤,但是我們不會從中盈利。作為一家非盈利機構,我們不用為了討好股東而追求盈利,我們也不會上市交易。我們認為這是發展人工智能技術最好的辦法。

Elon,你此前曾經投資過DeepMind這家人工智能企業,在我看來,那次投資和你本次成立OpenAI的目的完全一樣:為了監視人工智能技術。之后DeepMind被谷歌收購了,本次成立OpenAI,是為了重新開始監視人工智能嗎?

Musk: 我應該說,我并不是一個傳統意義上的投資人。我投資的目的并不是為了獲得經濟上的回報。我會把資金投給那些我曾經參與創造過的企業,我有時也會通過投資的方式為我的朋友提供幫助,或者,有時候我投資某家企業,是因為我相信或是擔心這家企業的產品。我所進行的投資,并不是像很多人所說的那樣,是為了給我的自己的公司帶來更多的多樣性。然而有一點你說的不錯,我對DeepMind公司所進行的那次所謂的“投資”,是為了更好的了解人工智能技術。除此之外,如果你的確想這么說的話,那次投資也是為了監視人工智能。

從現在開始,你們將和許多頂尖企業一起競爭那些最好的研究人員,例如谷歌旗下的DeepMind、Facebook和微軟等。

Altman: 截止到目前為止,我們的招聘工作進行的還不錯。我們吸引研究人員最大的優勢之一,就是我們所擁有的自由性和開放性,以及他們可以將自己正在從事的工作分享給其他人,在其他企業中,你很難擁有這種自由度。我們成功的構建了一個高質量的初始團隊,這個團隊也正在憑借其自身的號召力幫助我們吸引其他人。而且,我認為,無論是我們的使命、愿景還是我們的架構,都非常吸引人。

你們最終將會招聘多少研究人員?幾百個嗎?

Altman: 有可能。

我還想再談談人工智能安全性的問題。通過分享人工智能技術,其帶來的負面效果對誰的影響最大?讓人工智能技術更加普及,難道不會增加其風險嗎?你們是否在增加其潛在的危險性?

Altman: 對于這個問題,我已經和Elon以及其他人討論過無數次了,但是到目前為止,我依然沒有100%的把握。但是無論對于什么問題,你都無法做出100%正確的判斷,不是嗎?只有行動之后你才能找到答案。在技術方面封鎖信息的做法,其效果一直都不是很好。任何技術都會被別人所利用,你如何確定究竟是谷歌、美國政府、其他國家政府還是ISIS掌握了這個技術呢?世界上有很多壞人,但是壞人并沒有導致人類的滅絕。如果這個壞人的權利比其他人大10億倍,又會發生什么呢?

Musk: 我認為,對抗人工智能技術濫用的最好方法,就是讓盡可能多的人都擁有人工智能技術。如果每個人都掌握了人工智能技術,那么這個技術就不會成為某個個人或是小團體的超級能力,人工智能技術也就不會成為他們的邪惡武器了。

Elon,你現在已經是兩家企業的CEO了,現在又成為了第三家機構的主席。有人也許會覺得你太忙了,根本沒有足夠的時間來投入到一個全新的項目中。對于這個問題你怎么想?

Musk: 是的,這話說的沒錯。但是人工智能技術的安全性問題,很長時間以來都一直回蕩在我的頭腦里。因此我覺得我未來并不需要太多的時間來思考這個問題。