Sam 再次感謝你來到這裏
Sam 說這是他本周最有趣的事情
所以他希望大家不要改變主意
這是我在整個紐約之旅中唯一的有趣時刻
太棒了
我們會有很多問題要問你
感謝你的時間
這是今晚許多人心裏的第一個問題
究竟發生了什麽？(指前不久發生的OpenAI人事動蕩)
這是一個不錯的開場
謝謝
很多事情
老實說，這一年過得太瘋狂了
在我們經歷的所有事情的背景下
這最後的三個星期或一個月，顯得尤為突出
但並不像你想象的那麽突出
我們從未知的研究實驗室變成了知名科技公司
我認為大多數公司需要十年時間
這是一次瘋狂的經歷
最近幾周尤其瘋狂
還有些痛苦、疲憊，但很高興回到工作崗位
說一些同理心的話，我覺得所有參與這個計畫的人
在我們接近超級智慧的過程中
都會感到越來越緊張和焦慮
我們意識到籌碼越來越高
我認為所有都爆了
你認為剛剛發生的人事動蕩如何改變了 OpenAI？
對我個人來說，這非常痛苦
但我實際上認為這對 OpenAI 來說是個好訊息
我們從未如此團結
我們從未如此堅定和專註
我們一直說
這樣的時刻會在我們構建 AGI 過程中到來
我沒想到它會來得這麽快
但我認為我們因此而變得更強大
再次我不會希望這種事情發生在對手身上
但它對公司產生了極為積極的影響
你從中學到了什麽？
我還沒完全重新復盤
我還沒有時間從情緒上理清這些
因為這一切都發生得太快了
然後我回來撿起碎片
但我沒有時間坐下來真正反思
但我會說我最重要的一點感悟是
這是一句陳詞濫調的話，那就是作為 CEO
你的職責是招聘人才和培養團隊
這一切中最讓我驕傲的時刻
是意識到團隊可以在沒有我的情況下完全運作公司
我可以退休了
OpenAI 會沒事的
我為團隊感到非常自豪
看著他們在我不便與他們交談的時候工作
做得非常出色，讓我非常自豪
這也讓我非常樂觀
因為我們認為，隨著我們接近通用人工智慧
這種情況下的 OpenAI 團隊的應對能力和應激能力
具有全球關註的價值
你描述了這裏的利害關系有多大
有人說，這家公司把自己帶到了自我淪陷的邊緣
你怎麽辦？
我們怎麽能相信它的領導？
我們怎麽能相信這家公司帶著這種變革性的技術？
我們必須做出改變
我們一直說
我們不想讓通用人工智慧被一小部份人控制
我們希望它民主化
我們顯然錯了
所以如果我們不改進我們的治理結構
不改進我們與世界互動的方式
人們就不應該相信我們
但我們非常熱衷於改進
在那些變化中，你的前聯合創始人埃隆·馬斯克
前年度人物
將OpenAI描述為一個閉源的、最大化利潤的公司
實際上由微軟控制的公司
埃隆錯了嗎？
關於所有這些問題
還有其他的嗎？
盡管他不斷攻擊OpenAI，我非常感激埃隆
為什麽？
因為他做了一些令人驚嘆的事情
我認為電動汽車的轉型非常重要
我認為進入太空非常重要
我對這些事情表示感激
我們絕對不是最大化利潤的追求者
你也可以就他的一些企業談談這一點
我們開源了很多東西
未來我們會開源更多
我們肯定不是由微軟控制的
我認為這些都是人們可以說
但並不實際反映真相的事情
關於另一位競爭對手的一個問題
上周，谷歌釋出了 Gemini
這是一個谷歌聲稱在許多效能測試中優於 GPT-4
你對 Gemini 有什麽看法
為什麽他們花了這麽長時間才釋出？
我希望更多的人在推進人工智慧
我認為人工智慧將是這個時代最具變革性的技術
所以更多的人在做這件事，我認為很好
當Gemini 大模型我忘了具體它的名字
我認為是 Gemini Ultra在明年某個時候釋出時
我們可以觀察下
到時我再評論
當然關於指標方面存在很多混淆
但我相信谷歌會做得很好
今年早些時候
在Edward Felsenthal的采訪中
你說：我是一個中西部猶太人
我認為這完全解釋了我的思維模式
是真的嗎？
你還那樣認為嗎？
不是，我覺得這是一句壓縮的句子
用來解釋關於我的一切，我覺得挺好
作為新英格蘭的猶太人，我必須問你
猶太教如何塑造你的世界觀？
自從10月7日以來，擔任猶太領袖的感受如何？
如果你在年初問我這個問題，我會說
有很多微妙但重要的文化事物塑造了我的世界觀
以及我的行為和生活方式
我不會談論其他任何東西
成為猶太人並獲得網路名聲的奇怪之處在於
大多數網上說的都是關於猶太人的可怕事情
我不知道這是否總是如此，或者是否加劇了
但無疑是我今年的經歷
尤其是最近幾個月，雙倍如此
我認為我之前對這件事過於輕視了
就像：「瞧，反猶太主義，那就這樣吧
世界已經繼續前行了
有其他問題
讓我們討論那些問題」
在過去的一年裏，最近幾個月裏，我真的完全錯了
這是一個悲傷、悲傷的事情
你是那種喜歡解決棘手問題的人
你已經想到了那個問題
你認為如何解決這個問題？
那個似乎比AGI更困難
談到困難的問題
明年對民主來說是一個歷史性的年份
有40個國家將舉行選舉
你對AI在傳播虛假資訊的能力有何看法？
你認為有哪些我們沒有足夠重視的具體擔憂？
我認為AGI將是人類迄今為止發明的最強大的技術
就像其他任何強大的技術一樣
這將帶來令人難以置信的新事物
我認為我們會看到教育發生深刻的變化並永久改善
我認為今天開始上幼稚園的孩子
在他們畢業12年級的時候
會比現在最好的學生更聰明，準備得更充分
我認為這很好
我認為在很多其他事情上我們
也可以談論同樣的事情：醫療保健
以編程為生的人，很多其他知識工作
但會有真正的負面影響
我們將不得不去緩和許多負面影響
但其中之一將是這些大模型
的說服力以及它們如何影響明年的選舉
我認為我們將面臨相當具有挑戰性的問題
那麽這將是什麽樣子呢？
比如說，現在像在某個外國的惡意農場裏
試圖幹涉我們的選舉
他們制作meme，然後傳播開來
我們在Twitter、Facebook
或其他平台上看到相同的東西
這種情況會繼續發生，而且會變得更好
但讓我更擔心的是
如果AI閱讀了你線上寫的所有內容
每一篇文章，每一條推文，所有內容
在恰到好處的時刻
給你發送一條為你量身客製的資訊
真正改變你看待世界的方式
這就像是一種新型幹擾
在人工智慧之前是不可能實作的
我發現在與你們的大多數交談中
人們都在處理他們的恐懼
人工智慧對媒體是好事還是壞事？
我一直說的是，沒有人知道接下來會發生什麽
我認為技術的發展方向，預測往往是錯誤的
未來是微妙而復雜的，取決於許多分支上發生的機率
所以真誠的答案是我不知道
但我認為它會帶來更多的好處
它會以各種方式帶來壞處，但我認為總體上是
隨著人們擁有更多自由時間、關註度
並且更加關心他們信任的人幫助他們理解世界
幫助他們決定相信什麽、如何思考復雜問題
我認為他們會更加依賴和關心與媒體的關系
越來越關心在大量內容的世界中的高品質資訊
所以我認為總體上是但會有所不同
你如何看待你們公司在幫助
保護高品質資訊留存生態系
的角色以及你們個人的角色？
這對我們顯然非常重要，但這更像是一種空洞的聲明
我們試圖做的是建立有助於人們的工具
無論是對媒體的人，還是其他行業的人
如果你五年前問我們會發生什麽
我們會說我們能做到
我們會說我們能建立可信、負責任的AI
但本質上，它將去做它自己的事情
現在我認為我們看到的是一條道路
那就是我們不僅要為人們建造工具
我們將這些工具推向世界，無論以何種方式
人們使用它們來規劃未來
我認為這是我們在歷史上發現的最樂觀的事情
在那個世界裏，什麽是安全故事發生了變化
我們在社會中成為一個負責任的行為者
的方式也發生了變化
我認為我們現在看到了一條道路
使我們能夠賦予地球上每個人更多的力量
讓他們做得更好
這真是令人興奮
這與我認為人工智慧的發展方向大不相同
但我非常高興看到這一點
當談到人工智慧的發展方向時
我認為我們談論你所做的工作
和 OpenAI 正在做的事情時
一個挑戰是幫助人們了解你
對通用人工智慧對我們未來的意義的看法
因此你能否幫助這個房間的
人了解他們的生活將如何改變？
你說你不能預測未來，但當我們向前發展時
AGI 對我們所有人意味著什麽？
未來有很多重要的力量
但我認為最重要的兩個是人工智慧和能源
如果我們能為世界創造豐富的智慧
並創造豐富的能源
那麽我們就有了為孩子提供更多自我教育的驚人想法
讓人們更加高效，提供更好的醫療服務
提升經濟，實際上將這些想法付諸實踐
我認為這些都是非常重要的事情
現在它們也有缺點
所以我們要想辦法如何讓這一切變得安全
如何負責任地將這些交給人們
但我認為我們現在看到了一條道路
這個世界每年都會變得更加豐富，更好
人們有能力做更多我們今天無法想象的事情
我認為我們在2023年開始看到這一點
到2024年，我們會看到更多的事情
當這個十年的末尾來臨時
我認為世界將會處於一個難以置信的更好地方
說這話聽起來有點像是愚蠢的科幻樂觀主義
但如果想想這樣一個不同的世界
不僅當每個人都有一個像ChatGPT這樣的東西
還不夠好
但接下來，他們有了世界上最好的幕僚長
然後每個人都有一個由20或50名專家組成的公司
這些人可以非常好地一起工作
再然後每個人都擁有一個擁有
10,000名各領域專家的公司
這些人可以非常好地一起工作
如果有人想專註於治愈疾病，他們可以做得到
如果有人想專註於創作偉大的藝術
他們也可以做得到
但如果你想想智慧的成本和品質
隨著品質的提高，成本也增加了很多
人們可以利用這一點
這是一個非常不同的世界
這是科幻小說向我們許諾了很長時間的世界
我認為我們第一次開始看到這個世界將會是什麽樣子
結束這次談話前，有兩個快速的問題
再次感謝你的參與
除了你
今晚房間裏有很多CEO
如果你不是2023年年度CEO，誰應該是？
這方面有很多好的選擇
我在這個問題上有很大的偏見
我認為人工智慧是今年最令人興奮
最有影響力的事情
所以我會把它給其他人工智慧公司之一
但我很偏頗
回答得很好
結束這次談話的最後一個更難的問題
你最喜歡的泰勒·斯威夫特的歌是什麽？
這是個很難的問題
選擇一首不太受歡迎的
我會說【Wildest Dreams】
我喜歡那個
但是所有的熱門歌曲也都很好
好了，Sam Altman
時代周刊2023年度執行長
非常感謝
非常感謝
謝謝
