自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

GPT-4老板:別慌,我有一個計劃,AGI未來真的很美好!

人工智能 新聞
Sam Altman看到了改變世界的利與弊。他認為與其在全面發(fā)布之前完全閉門開發(fā)和測試技術,不如逐步共享更安全。如果真的要關停研究,他也有計劃。

OpenAI的聊天機器人讓世界震驚。

但是當人們意識到這種技術也是一種傳播虛假信息的方式,也會勸說人們做危險的事情時,一些批評者指責奧特曼的行為很魯莽。

許多行業(yè)領袖、人工智能研究人員和學者認為ChatGPT是一項基本的技術轉(zhuǎn)變,其意義不亞于網(wǎng)絡瀏覽器或iPhone的誕生。但很少有人能就這項技術的未來達成一致。

一些人認為它將帶來一個烏托邦,在那里每個人都擁有所有需要的時間和金錢。其他人則認為它可能摧毀人類。還有一些人把大部分時間花在爭論上,認為這項技術永遠不會像大家說的那樣強大,堅持認為無論是涅槃還是末日,都還很遙遠。

圖片

在過去的一周里,一千多名人工智能專家和技術領袖呼吁OpenAI和其他公司暫停他們在ChatGPT等系統(tǒng)上的工作,說它們「給社會和人類帶來了深刻的風險」。

作為OpenAI的首席執(zhí)行官,奧特曼以某種方式體現(xiàn)了這些看似矛盾的觀點中的每一種觀點,他希望將這一奇怪的、強大的、有缺陷的技術推向未來,與此同時去平衡無數(shù)種可能性。

圖片

這意味著他經(jīng)常受到來自各個方向的批評。但OpenAI的總裁Greg Brockman認為這是應該的:「如果你同樣讓兩個極端的人感到不安,那么你就做對了。」

曼哈頓項目領導人Robert Oppenheimer認為原子彈是科學進步的必然產(chǎn)物,而奧特曼跟Oppenheimer同一天生日。在說到OpenAI的技術時,奧特曼也引用了他的話:「技術發(fā)生是因為它是可能的?!顾嘈湃斯ぶ悄軐⒁阅撤N方式發(fā)生,它將做出連他自己都無法想象的美妙事情,而且我們可以找到方法來減輕它可能造成的傷害。

這種態(tài)度反映了奧特曼自己的發(fā)展軌跡。他在有效的個人技能的驅(qū)動下,相當穩(wěn)定地向著成功和財富攀登。他相信好的事情會發(fā)生,這是有道理的。

但是,他也表示,如果他錯了,還有一個逃生艙門:在與微軟等投資者的合同中,OpenAI的董事會保留了在任何時候關閉技術的權利。

自我拉扯

奧特曼是一個生活在矛盾中的人,他是一個素食主義者,卻養(yǎng)著牛。

在他談及公司研發(fā)的技術時,他認為技術將「解決我們一些最緊迫的問題,真正提高生活水平,并為人類的意志和創(chuàng)造力找出更好的用途。」

但是,他并不完全確定它將解決哪些問題。與此同時,他又同樣擔心技術如果落入一些專制政府的手中,那樣可能會造成嚴重的傷害。

風險投資公司Thrive Capital的合伙人Kelly Sims曾作為OpenAI的董事會顧問與奧特曼共事,她說他就像在不斷地與自己爭論:「在談話中,他自己就是辯論的兩方。」

問題是,奧特曼的兩方最終是否相容:如果可能以災難告終,那么領先這個潮流是否有意義?奧特曼當然決心要看看這一切是如何發(fā)生的。

2014-2019年,作為硅谷創(chuàng)業(yè)加速器和種子投資者Y Combinator的總裁,他為源源不斷的新公司提供建議,并且敏銳地投資了幾個如今已家喻戶曉的公司,包括Airbnb、Reddit和Stripe。

他很自豪自己可以識別一項技術是否可以達到指數(shù)級增長。

我對錢不感興趣

硅谷的許多人,個人財富被捆綁在各種各樣的公共和私人公司中,奧特曼和他們一樣。而且他的財富并沒有驚人的多。

他在OpenAI中沒有任何股份。他唯一能從該公司賺到的錢是大約65,000美元的年薪,以及Y Combinator對該公司的舊投資中的一小部分。

Y Combinator的創(chuàng)始人Paul Graham是他的伙伴、導師,他這樣解釋奧特曼的動機:

「他為什么要從事不會讓他更富有的工作?一個答案是,很多人一旦有了足夠的錢就會這樣做,Sam就是這樣。而另一個答案就是,他喜歡權力。」

比爾·蓋茨一定就是這樣的

20世紀90年代末,以19世紀美國自然學家和哲學家命名的私立預科學校John Burroughs的學生群體中充斥著對同性戀的恐懼。

21世紀初,17歲的學生奧特曼開始改變學校的文化,一個個說服教師在教室門上張貼「安全空間」的標志,作為支持像他這樣的同性戀學生的聲明。

Georgeann Kepchar教授學校的高級計算機科學課程,她認為奧特曼是她最有天賦的計算機科學學生之一:「他有創(chuàng)造力和遠見,再加上雄心壯志和人格力量,他可以說服別人與他合作,將他的想法付諸行動。奧特曼還告訴我,他曾成功要求一位特別仇視同性戀的老師,貼出安全空間的標志。」

大一結束后,他在Andrew Ng教授的人工智能和機器人實驗室工作,教授后來在谷歌創(chuàng)立了旗艦人工智能實驗室。但是他說在斯坦福大學的短暫停留期間,他從晚上打撲克中學到的東西比其他大學活動中學到的東西更多,撲克教會了他如何看人和評估風險。

「如何注意到人們長期以來的模式,如何在非常不完美的信息下做出決定,如何決定何時值得用痛苦去獲得更多信息,這是一個偉大的游戲?!?/span>

與奧特曼一起工作了十年的Graham在這個來自圣路易斯的人身上看到了同樣的說服力:「他有一種天生的能力,可以說服人們?nèi)プ鍪虑?。如果這不是與生俱來的,至少在他20歲之前就已經(jīng)充分擁有這種能力了。我第一次見到Sam時,他才19歲,我當時就在想:‘比爾·蓋茨一定就是這樣的’?!?/span>

圖片

當Graham辭去了Y Combinator總裁的職務之后,他挑選了28歲的奧特曼作為他的繼任者,這令硅谷的人十分震驚,因為這可不是雇傭編碼員、工程師或人工智能研究人員,他是要制定議程、組建團隊和達成交易的人。

作為YC的總裁,奧特曼幾乎是放棄了對公司的擴張,成立了一個新的投資基金和一個新的研究實驗室,并將公司每年提供咨詢的公司數(shù)量擴大到數(shù)百家。

他還開始從事投資公司以外的幾個項目,包括他在2015年與包括馬斯克在內(nèi)的一群人一起創(chuàng)立的非營利組織OpenAI。YC越來越擔心奧特曼把自己搞得太累了,于是他決心將注意力重新集中在一個項目上,正如他所說,這個項目將對世界產(chǎn)生真正的影響,這個項目就是人工智能。

據(jù)他的弟弟所說,他相信自己是少數(shù)幾個可以通過人工智能研究改變世界的人之一。

2019年,就在OpenAI的研究開始起步時,奧特曼先生抓住了機會,卸下了Y Combinator總裁的職務,專注于一家員工不到100人,甚至不知道如何開工資的公司。

在一年之內(nèi),他將OpenAI轉(zhuǎn)變?yōu)橐粋€非營利性機構,并設有一個營利性部門。這樣一來,他就可以尋求資金,建造一臺可以做人腦所能做的任何事情的機器。

在一次通常被稱為「億萬富翁夏令營」的科技領袖年度聚會上,他碰到了微軟首席執(zhí)行官Satya Nadella,之后他親自與Nadella和微軟首席技術官Kevin Scott談判達成了協(xié)議。

圖片

OpenAI的總裁Brockman曼先生說,奧特曼的才能在于理解人們的需求:「他真的試圖找到對一個人來說最重要的東西,然后想辦法把它送給他們,這是他反復使用的算法?!?/span>

這項協(xié)議將OpenAI和微軟置于一場運動的中心,這場運動準備重塑從搜索引擎到電子郵件應用程序到在線導師的一切。而這一切的發(fā)生速度甚至讓那些幾十年來一直跟蹤這項技術的人感到驚訝。

在這股熱潮中,奧特曼一如既往地冷靜。微軟的CTO Scott認為,奧特曼最終會成為像史蒂夫·喬布斯、比爾·蓋茨和馬克·扎克伯格一樣偉大的人。

「這些人在科技行業(yè)的結構上留下了不可磨滅的印記,也許在世界的結構上也是如此。我認為Sam將成為這些人中的一員?!?/span>

漫漫筑夢路

Yudkowsky以及他的著作在創(chuàng)建OpenAI和DeepMind方面發(fā)揮了關鍵作用。他還幫助催生了由理性主義者和有效的利他主義者組成的龐大網(wǎng)絡社區(qū),他們相信人工智能是一種生存風險,擔心人工智能有一天會毀滅世界。

包括OpenAI在內(nèi)的許多頂級人工智能實驗室的研究人員都屬于這個十分有影響力的群體。他們不認為這是虛偽的行為:他們中的許多人認為,由于他們處于建立這種技術的最佳位置,他們比其他人更清楚地了解這些危險。

奧特曼認為,有效的利他主義者在人工智能的興起中發(fā)揮了重要作用,可以提醒行業(yè)注意危險。他還認為他們夸大了這些危險。

在OpenAI開發(fā)ChatGPT時,包括谷歌和Meta在內(nèi)的許多其他公司都在構建類似的技術。但正是奧特曼和OpenAI選擇與世界分享這項技術。

該領域的許多人批評了這一決定,認為這掀起了一場發(fā)布技術的競賽,這些技術會出錯,會胡編亂造,并可能很快被用于快速傳播虛假信息。

上周五,意大利政府暫時禁止ChatGPT在該國使用,理由是出于對隱私和對未成年人接觸危險內(nèi)容的擔憂。

奧特曼認為,與其完全閉門造車地開發(fā)和測試這項技術,然后再全面發(fā)布,不如逐步分享它,讓大家更好地了解風險和如何處理它們,這樣更安全。

他說,這將是一次「非常緩慢的騰飛」。他說,他無法想象一個人類智慧毫無用處的世界。如果他錯了,他認為他可以彌補人類的過失。

他將OpenAI重建為他所謂的盈利上限的公司。這使他能夠通過向微軟等投資者承諾利潤來獲得數(shù)十億美元的融資。但這些利潤是有上限的,任何額外的收入都將被抽回2015年成立的OpenAI非營利組織。

他的宏偉構想是,OpenAI將通過創(chuàng)造AGI獲取世界上的大部分財富,然后將這些財富重新分配給人民。

不過,他并不確定如何重新分配這些財富。他認為在這個新世界里,金錢可能意味著不同的東西,不過「我覺得AGI可以幫助解決這個問題。」

責任編輯:張燕妮 來源: 新智元
相關推薦

2023-03-16 12:14:55

2023-08-15 13:24:04

GPT-4AGI模型

2023-03-28 13:01:20

GPT-4開發(fā)OpenAI

2023-03-20 08:19:23

GPT-4OpenAI

2023-03-15 07:49:57

GPT-4ChatGPT

2023-06-19 08:19:50

2025-04-16 09:35:03

2023-07-25 09:23:23

Llama 2GPT-4

2023-04-04 09:09:10

GPT-4編程程序員

2024-05-21 12:23:17

2023-03-20 21:44:10

微軟GPT-4AI

2023-03-17 07:33:24

GPT-5GPT-4OpenAI

2012-08-30 10:01:40

OpenStack

2013-05-21 09:32:11

ChromebookChrome OS

2023-03-16 17:28:59

技術AI

2023-03-24 16:02:59

GPT-4測評

2024-03-04 08:33:41

GPT-4硅谷開源

2022-12-26 13:17:15

ChatGPT人工智能預測

2023-10-12 14:18:06

2020-10-09 10:09:13

程序員加班大齡
點贊
收藏

51CTO技術棧公眾號