Peter Deng在最新訪談中表示：AI不會取代生產(chǎn)力，人類和AI只有合作才能釋放真正潛力，ChatGPT比已知的更強大、最大的挑戰(zhàn)在于理解用戶需求。
當?shù)貢r間3月13日，OpenAI 消費產(chǎn)品副總裁兼ChatGPT負責主管Peter Deng出席了在3月8日-16日期間舉辦的SXSX 2024，并接受了科技媒體TechCrunch前主編、現(xiàn)風投公司SignalFire合伙人的Josh Constine的采訪。
SXSW是每年在美國得克薩斯州奧斯汀舉行的一系列電影、互動式多媒體和音樂的藝術(shù)盛會，旨在集合全球數(shù)字創(chuàng)意社區(qū)的專業(yè)人士，探索新的靈感、建立跨行業(yè)聯(lián)系并共同探索未來。
此次對話中，基于豐富的產(chǎn)品管理經(jīng)驗，Deng探討了人工智能的未來以及人類如何與其共處、共發(fā)展。
Dang指出，盡管人工智能的發(fā)展速度看似快于人類，但在很多方面，AI加強了我們理解世界的潛力和能力，本質(zhì)上，AI幫人類變得更“人性化”。Dang不認同“AI終將取代生產(chǎn)力”的說法，他認為雙方不是“取代”和“被取代”的關(guān)系，而是相互促進、共同進步的關(guān)系。
在ChatGPT方面，Dang重申了“構(gòu)建AGI以普惠全人類”的產(chǎn)品宗旨，稱最大的挑戰(zhàn)在于理解用戶需求。Dang表示，ChatGPT模型本身要比已知的功能更強大，將永久保留免費基礎(chǔ)版本，并不斷引入新功能，讓全人類都能從中受益。
核心觀點如下：
1、人工智能基本上讓我們更“人性化”： 正是人工智能打開了我們對知識和探索不竭好奇心的大門。
2、人類的角色正在從回答者、創(chuàng)造者轉(zhuǎn)變?yōu)樘釂栒?、策展人?/p>
3、人類和AI是共同進化的，只有合作才能釋放雙方真正的潛力。
4、提升AI素養(yǎng)的最佳方式就是推動其應用更廣泛、易得。
5、構(gòu)建通用人工智能（AGI）這項工作如果做好了，對人類的好處是巨大的。
6、ChatGPT最大的挑戰(zhàn)在于盡可能多地了解用戶的需求，去學習用戶想如何使用ChatGPT，然后不斷優(yōu)化產(chǎn)品，以更好地服務于用戶。
7、AI不會“取代”生產(chǎn)力，而是“平衡”生產(chǎn)力。AI賦予人類更多選擇權(quán)，對那些肯花時間去鉆研AI輔助工作的人來說，AI提升生產(chǎn)力的效果更為顯著。
8、ChatGPT不會以美國為中心，包容性和多樣性是核心。希望AI能夠體現(xiàn)每個使用者的價值觀，而不是預設(shè)了某種價值觀。
9、ChatGPT將始終保留免費基礎(chǔ)版本，并不斷引入新功能，讓全人類都能從中受益。
10、ChatGPT要比目前已知的功能更強大，不過考慮到安全性，當前在技術(shù)迭代上更為謹慎。
11、AI發(fā)展既要“加速”也要“減速”，支持加速AI發(fā)展，但在部署方面要謹慎。適度迭代能夠減少AI犯錯，唯一真正的解決方案可能是市場化的方案，即讓消費者用“腳和錢包”投票。
以下為訪談全文：
問：早上好。我是喬?！た邓固苟。↗osh Constine），《TechCrunch》的前主編，現(xiàn)在是SignalFire的風險投資合伙人。今天我們將討論關(guān)于AI未來最大的存在主義和哲學問題。你知道，我們在這里討論AI和人類的共同進化。雖然我會說其中一個似乎比另一個進化得更快。AI每天都在掌握新技能。我還在努力掌握前幾天夏令時的時間變化。但幸運的是，我們和比我聰明得多的人在一起。
他制造了許多你今天可能隨身攜帶的產(chǎn)品。他曾在Instagram、Facebook Messenger、Meta oculus、優(yōu)步以及最近在Airtable管理產(chǎn)品。請熱烈歡迎——OpenA IChatGPT和產(chǎn)品VP負責人Peter Dang。
答：很高興來到這里。
問：太棒了！我有很多想要問的，先從一個簡單的問題開始：人類在AI時代的角色是什么？
答：很有意思的問題。首先感謝邀請我參與討論，因為在日常工作中，我們主要關(guān)注的是產(chǎn)品功能等事宜，很難有機會從更宏觀的角度來思考人類的整體發(fā)展。最近這幾天在奧斯汀散步，觀賞藝術(shù)作品，我思考到，人工智能對人類的幫助其實讓我們“人性化”。能夠退一步討論這個話題，我感到非常興奮。
問：那么，當人工智能能夠回答許多定量問題時，人類心智的目的如何演變？這對我們意味著什么？
答：我認為，人工智能基本上讓我們更接近人性的本質(zhì)。如果將人工智能視為一種工具，那它絕對是一種強大的工具。它為我們開啟了深入探索我們所好奇之事的大門。
答：以孩子為例。我有子女。我認為孩子體現(xiàn)了人類最純真的本性。你是否注意到，無論是自己的孩子還是別人的孩子，他們總是充滿好奇，喜歡提問？
問：我嘗試教會她提問，就像一個記者那樣，我們會問誰、什么、為什么、何時和怎樣等問題。"為什么"無疑是她最喜愛的問題，正如所有父母所知，她總是喜歡追問細節(jié)。
答：我也有孩子，我知道，我的孩子總是充滿好奇，喜歡提出許多問題。人類的思維天生就是好奇的，而人工智能正是讓我們能夠深入探索這些好奇心和追求知識的渴望。
例如，就在兩天前，我讀到一篇發(fā)在 LinkedIn 上的文章，標題是“因為 Chat GPT，我現(xiàn)在可以享受莎士比亞”。這篇文章非常吸引人。我記得在我高中學習莎士比亞時十分煎熬。我會在家里閱讀文本，卻理解不了其中一半的內(nèi)容。而現(xiàn)在，有了人工智能的幫助，人們可以在閱讀莎士比亞時，通過 ChatGPT 的語音模式提出任何疑問，進一步探索角色的意圖，這種探索的深度是非常強大的。就像文章中所說，ChatGPT 就像一個永遠不會疲倦的教授，始終在那里回答任何問題，幫助我們深入探究。對我而言，正是人工智能打開了我們對知識和探索不竭好奇心的大門。
問：就像計算器的出現(xiàn)讓我們從基本的計算轉(zhuǎn)向了數(shù)學的更藝術(shù)性的邊界，現(xiàn)在似乎是我們確定什么值得記憶的時刻。雖然AI能夠創(chuàng)作一本書，但我們知道應該寫些什么，以及如何將這本書應用到現(xiàn)實生活中。我觀察到一個趨勢，你認為我們的角色是否正在從回答者和創(chuàng)造者轉(zhuǎn)變?yōu)樘釂栒吆筒哒谷耍?/p>
答：我覺得這種轉(zhuǎn)變正在發(fā)生，并且這是一件好事，很有趣。
事實上，如果回顧一下，AI讓我們擁有了一個全新的工具，可以在此基礎(chǔ)上進行深入構(gòu)建。拿微積分來說，這個例子很合適。這樣，我們就不用再花大量時間去做基礎(chǔ)的算術(shù)，而是有更多時間來思考更高層次的數(shù)學問題了。同樣的，現(xiàn)在我們不需要記住每一個細節(jié)，有了谷歌和各種數(shù)據(jù)庫，知識就擺在那里，我們可以提出更深層次的問題。我相信，隨著每一次重大技術(shù)革新，人類的技能水平都在持續(xù)提升。AI作為一種基礎(chǔ)性和開創(chuàng)性的技術(shù)，正推動我們的技能水平向前邁進。我來舉個例子：
雖然我不想總是提及我的孩子們，但我真的很愛他們。在我成長的過程中，學習Q Basic編程是在一個藍色背景的屏幕前，面對著一行行帶有編號的代碼，很難構(gòu)建出有意義的東西。而現(xiàn)在，我看著我九歲的孩子在使用Scratch學習編程，它通過可拖動的邏輯塊以圖形化方式幫助他們理解程序，這真的很棒。他甚至在學習打字之前就開始學習編程。過去，打字是學習編程的一個門檻。因此，想象一下AI將如何影響我孩子和他們這一代人的成長，從小就有這樣強大的工具，能夠讓他們從開始就思考更高層次的問題。
問：是的，我認為在每個領(lǐng)域中總會有大師的角色，你可以向OpenAI或ChatGPT提問并得到答案，但除非你真正懂得你的專業(yè)，否則你不會知道這個答案是否準確，也不會知道如何應用這個答案。所以，即使我們在AI技術(shù)上取得進展，真正了解他們所研究領(lǐng)域的人似乎總是有其不可替代的重要性。但你認為，這是否真的能讓我們有機會去探索更深層次的問題，比如生命的意義、自由意志、我們的起源，AI會改變我們對自身的認知嗎？
答：對于這個問題，我有兩種回答。首先，我認為為了探索這些深刻的問題，我們確實需要時間和空間。我們的大腦非常忙碌，不斷地探索這個問題、那個問題，這是我們進化至今的結(jié)果。
但是，要真正靜心思考這些問題，你需要抽出時間來。我自己的經(jīng)歷是，受妻子啟發(fā)，我們一起參加了為期十天的冥想靜修，這段時間讓我們有機會深入思考，發(fā)現(xiàn)了許多小小的洞見。因此，某種程度上，AI給我們解放出更多的時間來深入思考更高層次的問題，這是非常有幫助的。
我還認為，AI開始幫助我們更深入地思考問題，包括那些地方性的問題。我使用ChatGPT的方式之一就是讓它成為我的思考伙伴。有時候，我有一個模糊的想法，不確定該如何表達得更清晰。語言的美妙之處在于，它實際上能幫助你整理你的思維。我不知道你是否有相同的體驗，但無論何時我感到在思維上有阻礙，將其寫下來總是能幫我將思考線性化。寫作本身其實就是一個澄清思想的過程。
我個人實際上已經(jīng)多次使用Chat GPT來探討一個想法，通過這種對話，它幫我細化并獲得新的洞見。因此，無論是從探索這些概念方面還是簡單地開始提問，你有時會深入探索并發(fā)現(xiàn)一些可能否則不會有的見解。
問：其實，這正是SXSW的魅力所在。你可以與來自不同領(lǐng)域的人進行對話，這種交流真的可以幫助你的想法更加明晰。我的意思是，我在Techcrunch撰寫了4000篇文章。我往往直到開始寫作時才不知道最后一句會是什么。往往只有在實際交流中，我才明白自己想要表達什么。我認為人類也擁有同樣的能力，但我們往往缺少那種能夠真正交鋒的思想伴侶。
答：在ChatGPT出現(xiàn)之前，那種思想伴侶只在白天的特定時間段里可用，對吧？現(xiàn)在，當我在深夜工作時，我的孩子、家人和同事都已入睡，我在努力構(gòu)思如何闡述某個問題時，ChatGPT始終在線，我可以開始與它交流，深入探討這個想法，更深入地進行思考。
問：感覺我們正在從進步的動力轉(zhuǎn)變?yōu)榉较蛑敢?。AI或許是一個“傳送門”，但只有當你知道你的目的地是什么時，這才真正重要。這也是我對我們探討這些重要問題感到興奮的原因，因為長時間以來，我們似乎一直在回避這些問題。正如你所說，工作可能讓人感到筋疲力盡。當你一整天忙于執(zhí)行任務而不是思考策略或動用你的智慧時，這會讓你精疲力盡，無暇提出那些更深層次的問題。馬克思曾說宗教是人民的鴉片?；蛟SAI能成為一種“納洛酮”，喚醒我們從沉睡中覺醒，面對那些艱難的問題，因為我們終將有時間去做這些。
答：這完全取決于人們?nèi)绾问褂盟艺J為技術(shù)的靈活性之美在于人們發(fā)現(xiàn)并將它應用于許多不同的用途。
問：很棒。如果大家有問題，我們不會在舞臺上進行問答。我不認為你們會喜歡聽別人對他們的AI創(chuàng)業(yè)公司喋喋不休，而忽視了真正的提問，正如你們可能在某些小組討論中看到的。但如果你們有問題，請使用#southbySouthwestAI標簽，或者在任何社交網(wǎng)絡上@我，我會在節(jié)目結(jié)束后嘗試回答或聯(lián)系你們。不過，我想先回到這個為什么你選擇這份工作之前的話題。
那你為什么會選擇這份工作呢？說實在的，你在谷歌、Facebook的早期就有所建樹，你完全可以自稱為富翁。畢竟，你并不真的需要一份工作，天哪。不過，你是一個極其謙遜、極其有同情心的人。我認識你十多年了。所以你并不是為了錢。但為什么還是選擇了這樣一份艱巨的工作呢？
答：我真的沒想到這個問題，但感謝你的贊美。我認為這是一項極其重要的工作，我真的被公司的使命激勵——那就是構(gòu)建通用人工智能（AGI），并將其好處普惠于全人類。在我看來，我一生中從沒有見過像這樣強大、充滿希望的技術(shù)。能成為其中的一員，我每天都會記下感激之情。很多次，我都會寫下“哇，我感到非常幸運能成為這個旅程的一部分?！蔽抑愿械竭@份感激，是因為，這項工作如果做好了，對人類的好處是巨大的，我只是希望不要搞砸了。
問：聽你這么說真好。但在你之前的工作角色里，比如Facebook Messenger，基本上就是讓Messenger運行得更快，讓它更像一場真實人類的對話，而在Uber，就是讓人們更快、更便捷地到達目的地。這些聽起來都像是直觀的路線圖。但對于如此快速發(fā)展、開放性極強的一系列產(chǎn)品，你如何知道應該集中精力在哪里呢？你想優(yōu)先構(gòu)建哪些用例？
答：這是個很好的問題。隨著這些模型變得越來越智能，我們可以探索的空間也在不斷擴大。確實，這是一個我經(jīng)常思考的問題。選擇正確的方向帶來很大的壓力，必須做得正確。我認為，我對這份工作的基本態(tài)度，以及支持團隊的方式，是觀察人類長期以來所做的事情，了解其中的原理，并將其應用到生活中。舉個例子，很多人使用ChatGPT來輔助寫作或編程。我們在嘗試深入探索這些領(lǐng)域時，重點考慮如何更好地協(xié)助他們，例如正確的編程思維模式、寫作或數(shù)據(jù)分析是什么？因此，對于任何產(chǎn)品來說，目標都是盡量消除人們想要做的事情中的障礙，最大化地利用這項技術(shù)。我認為，這正是挑戰(zhàn)的核心。
問：您認為ChatGPT對世界的意義是什么？
答：哦，這個問題很深奧。
問：我提的問題太簡單了，抱歉。
答：問題，對，我明白。這很棒。我認為世界真正需要的是一種能夠幫助人們輕松實現(xiàn)目標的靈活工具。參與這個產(chǎn)品的工作讓人極為振奮，因為能見證到人們對它的各種各樣的應用。比如，我們與一位醫(yī)生交流過，他用ChatGPT來總結(jié)新研究成果，以此了解更多信息，提出問題，保持對最新進展的關(guān)注。我們還與一位藝術(shù)家交流，她通過上傳自己的畫作照片，實時獲得反饋，這讓她在創(chuàng)作中更加坦誠、更能精進自己的藝術(shù)。另有數(shù)據(jù)分析師告訴我們，使用ChatGPT使他們能在20分鐘內(nèi)完成過去需要4小時的任務。這些例子展示了它的廣泛應用。對我們來說，最大的挑戰(zhàn)在于盡可能多地了解用戶的需求，學習他們想如何使用ChatGPT，然后不斷優(yōu)化產(chǎn)品，以更好地服務于用戶。這種與用戶共同進化的過程，見證了產(chǎn)品如何被廣泛應用，并隨著社會需求不斷進步和改善。
問：如今，技術(shù)不斷推動生產(chǎn)力的提升，從以前沒有電子郵件到現(xiàn)在，雖然我們發(fā)明了許多工具，但似乎并沒有因此減少工作量。當你談到某人將四小時的工作壓縮到20分鐘完成時，我們真的能夠“收回”這些時間嗎？還是說，雇主只是將這些節(jié)省下來的時間用于其他方面？這真的讓我們的生活變得更輕松了嗎，還是只是讓我們更快地完成任務，以便擠入更多的工作量？
答：實際上，我認為這給了個人選擇的權(quán)力。這也是目前一些新產(chǎn)品如此賦能的原因。我堅信，AI成為加速實現(xiàn)個人愿景的工具。例如，我最近與一位在晚餐時認識的人聊天，他通過租用GPU給初創(chuàng)公司，建立了自己的業(yè)務，并表示他現(xiàn)在可以直接詢問ChatGPT如何遠程啟動服務器——這是以前他需要學習或成為系統(tǒng)管理員才能做到的事情。如今，有了這樣的工具，我們可以做到更多。因此，每個人都能做更多，關(guān)鍵在于每個人如何選擇利用這些額外的能量。
問：那么對于那些系統(tǒng)管理員會怎么樣呢？
答：這是一個好問題。我認為系統(tǒng)管理員也能做更多事情?？赡苡行┢渌寄芩麄儾荒敲瓷瞄L，但現(xiàn)在，借助這些工具的幫助，他們也能提升自己的能力，做到更多。比如，我認為隨著技術(shù)的發(fā)展，公司可能會變得更小，但數(shù)量會更多。這只是我的個人猜測。但如果我們考慮人類的本性，我們是有追求和夢想的生物。歷史上的每一次技術(shù)進步，實際上都在為人們鋪平道路，讓他們能夠做到更多。
答：以我為例，如果回到50年前，我有很多技能上的不足，比如我拼寫能力差，書寫糟糕，算數(shù)能力也不強。但現(xiàn)在，有了拼寫檢查、自動完成和計算器，我能夠利用自己獨特的能力做更多事情。
問：作為四個孩子的父親，你是否在教育孩子和扮演GPT“父親”角色之間發(fā)現(xiàn)了相似之處？
答：觀察我的孩子們?nèi)绾螌W習和成長給了我許多靈感。讓我分享一個故事：我的一個女兒非常有創(chuàng)造力，喜歡制作東西。她會用家里找到的瓶蓋、紙箱等材料，創(chuàng)造出非常有創(chuàng)意的作品。這讓我想起了我小時候。我也曾用膠帶、紙張和紙板制作了簡單的機關(guān)?，F(xiàn)在，我對她將來能夠使用的工具感到非常興奮，相信她能夠做到比我在我的一生中做得更多，因為我們即將推出的這些了不起的東西。
問：您希望在ChatGPT中灌輸哪些特定的價值觀？
答：這與我作為父親想要傳遞給孩子的價值觀類似，但更重要的是反映世界的價值觀。我希望AI能夠體現(xiàn)每個使用它的人的價值觀，而不是按照某種預設(shè)方式。最近我和家人去日本度假，旅行使我意識到世界各地不同的文化和價值觀是如此美麗。例如，日本對細節(jié)的精細關(guān)注孕育了許多精美的創(chuàng)造。因此，我希望能找到一種方式，讓AI反映出世界各地人們的價值觀。所有微小的文化差異都是人類美好的一部分，我只希望我們能夠找到一些方法來接受世界的價值觀并灌輸它。
問：考慮到OpenAI是一家美國公司，雖然它雇傭了來自世界各地的人才，但這是否意味著由OpenAI構(gòu)建的AI本質(zhì)上會以美國為中心，反映我們的價值觀作為默認？
答：我們與全球各地的人合作，我們的使命是造福全人類，這意味著我們不能只關(guān)注美國。我們致力于深入理解和傾聽不同文化，這是我們構(gòu)建更好產(chǎn)品和未來的方式。這種包容性和多樣性是我們使命的核心部分。我們的目標是讓AI能夠體現(xiàn)每個個體使用者的價值觀。盡管我們的一些初步步驟可能導向了這個方向，但這絕不是我們的最終目標。
問：最近關(guān)于董事會的變動和周圍的一切變化引起了很多討論。您認為這是否分散了OpenAI追求其價值觀的注意力，還是實際上為更好地與這些價值觀對齊提供了機會？
答：盡管我們的團隊專注于工作，但我個人對一些變化感到欣慰，尤其是對加入我們董事會的新成員。我認識其中一些人，他們都是非常優(yōu)秀的人。我很高興他們能加入我們。
問：這些變動是否讓您感到有些分心？畢竟，您和您的團隊有如此多的工作要做。
答：個人而言，我并沒有感到分心。我們有明確的路線圖需要執(zhí)行，我們激動于新研究的出現(xiàn)，并希望將這些成果帶給每個人。這就是我們的重點，也是我的團隊的關(guān)注點。
問：我可以向你提出我期望ChatGPT具備的價值觀列表嗎？
答：當然，請說。
問：我認為，世界上最佳的老師并不總是那些智商最高的人，而是那些最具同理心的人。他們能夠識別出學生的獨特性，并針對這些進行調(diào)整。這似乎也是你提到的，嘗試讓ChatGPT與使用者的價值觀保持一致的一部分。我認為，像Facebook這樣的以往產(chǎn)品，你們真的努力保證遵守當?shù)胤桑瑫r借助國際人才來確保我們的內(nèi)容管理規(guī)則或其他方面真正與當?shù)匾?guī)范相符，而非試圖將國際觀點強加給他人
但我確實希望看到OpenAI能夠體現(xiàn)如決心追求真實答案、激發(fā)我們靈感的美、坦誠自身局限性、公平避免重復過去的錯誤、以及具有守護意識，希望AI能夠照顧人類、社會和整個地球的價值觀。這些是你認為重要的價值觀嗎？
答：這些價值觀確實引起了我的共鳴。我還遺漏了什么嗎？我覺得，尋求真理和深入了解事實的價值觀非常重要。另外，我認為幫助性也很關(guān)鍵，我們越能確保技術(shù)服務于人類的目標和抱負，我們構(gòu)建的技術(shù)就會更好。
問：有沒有你即將開始信賴AI完成的任務？比如，你會讓它為你做出醫(yī)療診斷嗎？或者在法庭上為你辯護？
答：好的，讓我們先討論法庭辯護。我當然希望自己不需要在法庭上辯護，但如果我被錯誤地指控了犯罪，我絕對愿意讓AI成為我的法律團隊的一部分。想象一下，在你有律師的同時，還有一個助手，它可以實時聽取證詞，核對事實和時間線，查閱所有相關(guān)法律和判例，并能夠給人類律師提供建議。這種超級助手將會非常有力。對于醫(yī)療問題，我們已經(jīng)開始見證到AI的作用。例如，一位母親用ChatGPT處理了她長期遭受慢性痛苦的孩子的病例，最終找到了正確的診斷并成功治療。這表明我們已經(jīng)在向這個方向邁進。
問：我覺得AI寫笑話已經(jīng)處于可能實現(xiàn)的邊緣，我嘗試用它來幫我寫笑話，所以如果你覺得不好笑，你知道該怪誰。但我也嘗試將其用于健康咨詢，結(jié)果令人印象深刻。我比較了真實醫(yī)生和一個名為Doctor Gupta的工具的答案，后者即使是由Martin Screlly開發(fā)的，給出了最佳建議。盡管我知道我輸入的每一條數(shù)據(jù)都可能被賣給出價最高的競標者，但它確實提供了更好的答案。因此，我們可能需要權(quán)衡，在獲得更好的答案的同時，可能需要犧牲一些隱私。此外，我們的一些AI健康投資公司正在開展如醫(yī)療賬單編碼、為醫(yī)療費用制定個性化還款計劃以防家庭破產(chǎn)等項目。
確實，有一些公司正在確保人們按時服藥。通過拍照證明每天服藥，他們不會從你那里扣除2美元。他們在月初給你60美元，每天你證明自己服藥，他們就不會扣錢。這激活了損失厭惡心理，但這全靠AI才成為可能。所以，似乎我們正處于技術(shù)飛躍的時刻。但我們?nèi)绾巫兊酶舆m應？我們需要做什么才能讓更多人愿意接受AI的這些用途？
問：我認為這是共同進化的一部分。這需要時間，通過反復的曝光和體驗，聽到故事，更重要的是親身體驗。隨著越來越多的曝光和體驗，人們將以不同的方式開始信任和適應。舉個例子，當我第一次使用Tesla的自動駕駛功能時，我對它的信任是逐步建立的。現(xiàn)在，我已經(jīng)足夠信任這項技術(shù)，愿意在某些情況下讓它自行駕駛。我們通過將AI技術(shù)推向市場，而不是僅在實驗室內(nèi)開發(fā)，讓人們嘗試并了解這項技術(shù)的潛力，這是我們團隊值得驕傲的地方。
問：你從在Facebook和Instagram等地方的工作經(jīng)驗中學到了什么關(guān)于安全性的知識？你們?nèi)绾卧贠penAI中應用這些知識？
答：這是一個很好的問題。我從過去的經(jīng)驗中學到了很多，特別是在Instagram，我學到了設(shè)計之美和工藝的重要性。在OpenAI，我們正致力于構(gòu)建不同的產(chǎn)品，我們考慮的是如何服務于人們，滿足他們的好奇心。我們把安全視為產(chǎn)品構(gòu)建的一部分，而不是事后才考慮的問題。我們有一個出色的安全團隊，我們在開發(fā)功能之前就與他們合作，確保我們的開發(fā)過程是安全的。
問：你認為你的孩子們會首先使用ChatGPT還是社交網(wǎng)絡或Google？你對他們使用哪個會感到更舒心？
答：目前我的孩子們沒有不受限制地訪問任何東西的權(quán)限。但在有監(jiān)督的情況下，我會讓他們使用ChatGPT，因為它有助于他們探索創(chuàng)造力。例如，我的女兒喜歡寫故事，ChatGPT可以幫助她將手寫故事轉(zhuǎn)錄成文本，甚至使用Dolly生成圖像來使故事栩栩如生。
問：我們?nèi)绾翁幚眍愃朴跓o法分辨某物是由人還是AI制造的問題？這重要嗎？
答：短期來看，這確實很重要，尤其是在選舉年等重要時刻，我們需要確保內(nèi)容的真實性。但從長遠來看，這是否還會重要，現(xiàn)在還很難說。但如果人們認為這一點重要，那么產(chǎn)品和社會將會做出相應的調(diào)整。就像面包的例子，隨著時間的推移，人們對手工制作和工業(yè)化生產(chǎn)面包的看法發(fā)生了變化，這表明社會的價值觀和偏好能夠影響產(chǎn)品的發(fā)展方向。
問：我的一個朋友說，他的婚禮上唯一的規(guī)則就是不允許任何人使用ChatGPT。
答：我覺得這其實是種道德約束，一種社會約定的實踐。我認為問題的起點應該是這樣，然后，它可能逐步演化為正式的規(guī)則和法律。但是，從披露和誠信的角度來看，我認為人們應當主動進行說明。
問：SXSW一直是數(shù)字文化的打造者，趨勢的引領(lǐng)者。那么，我們或許可以從這里開始，如果你私下使用它，是的，請告知他人；否則，盡可能地運用它，隨意實驗。但是，在使用它進行政治、藝術(shù)或個人交流時，應作出披露，我認為這樣會使他人更加信任你?？紤]到我們有很多問題要解答，我們將盡量快速進行。好的，讓我們來談談人工智能素養(yǎng)。你知道，10年前的學校里，20年前，他們試圖教我們?nèi)绾芜M行谷歌搜索，如何引用資料，如何識別網(wǎng)絡釣魚詐騙。你覺得，我們?nèi)绾翁嵘斯ぶ悄芩仞B(yǎng)，既能讓人們受益，又能控制人工智能的風險和局限？
答：這是個好問題。我認為提升素養(yǎng)的最佳方式是使其廣泛易得。這是最關(guān)鍵的。這正是我很感激我們團隊所致力于的，把我們的研究成果轉(zhuǎn)化為易于獲得的產(chǎn)品，并盡可能廣泛地推廣。
問：這是否意味著ChatGPT的基礎(chǔ)版本將永久免費？
答：是的，總會有一個免費版本。當然。我認為隨著我們不斷提高運行效率，我們會把更多功能引入免費版本。作為我們的使命的一部分，我們的目標是讓全人類都能從中受益?，F(xiàn)階段提供服務確實成本頗高，但這是我們的目標。素養(yǎng)是非常重要的，我認為人們應該親自嘗試這些技術(shù)。親自體驗與聽我們在臺上談論截然不同，這是我真心希望大家去做的。
問：是的，我認為諸如Facebook、谷歌這樣的免費互聯(lián)網(wǎng)服務非常重要。它們允許不必支付費用即可使用，這意味著全球數(shù)十億無法負擔此類服務的人現(xiàn)在可以使用它們，部分原因是這些服務得到了購買力較高的西方用戶、企業(yè)和廣告商的補貼。如果ChatGPT的企業(yè)級服務能夠為其他所有用戶買單，那將多么美好。
答：事實上，這就是我們目前的考慮方式。這很棒。我們從一個整體的角度來看待這個問題。對于那些企業(yè)級用戶，他們利用它創(chuàng)造了巨大價值，并為其使用支付了相應的費用，而這部分價值能夠向下層傳遞。這就是我們理解這一概念的方式。
問：就像在采礦行業(yè)，我們要求采礦公司支付費用來補償他們給環(huán)境帶來的影響。你認為，如果OpenAI在‘挖掘’互聯(lián)網(wǎng)，消耗我們的注意力，它是否應該為某些素養(yǎng)計劃付費？像微軟這類大型AI公司是否應該出資支持學校的素養(yǎng)項目，以便孩子們學習自學能力，識別深度偽造騙局，了解如何進行提示工程，并希望為他們的職業(yè)生涯抗衡未來。
答：絕對是的，我們實際上已經(jīng)實施了這樣的項目。這是OpenAI與教育工作者合作，探索未來如何最好地使用人工智能的一部分。實際上，面對教育工作者，人工智能的應用是我所見過的最鼓舞人心的用例之一，幫助人們更好地完成他們的工作。你知道，我們已經(jīng)看到大量教師輸入課程內(nèi)容，并能夠制定定制的教學計劃或測試。這為教師節(jié)省了時間，使他們能夠花更多時間與學生互動。
問：所以，當我詢問推特粉絲們他們想聽到什么時，深度偽造詐騙是他們真正關(guān)心的事項之一。你如何看待這個問題？從政治到國際新聞，再到影響股市的商業(yè)事件，以及勒索詐騙，用我媽媽的聲音偽造的電話，甚至可能偽造她的面孔來要求我提供社保號碼等。我們該如何解決這個問題，你們在對抗這方面有什么行動嗎？
答：是的，這確實是我們所關(guān)注的。我們推出技術(shù)的方式非常謹慎，采取迭代方法?？紤]到所有這些情況，我們希望確保，當我們在API中推出新功能時，我們考慮了安全應用。正如我之前所說，安全是我們在ChatGPT上構(gòu)建產(chǎn)品的一部分，我們非常重視可能的誤用，并且這影響了我們是否發(fā)布某個功能。實際上，模型本身可能比我們目前或其他一些初創(chuàng)公司公開的功能更強大。對我們來說，我們非常重視這一點，致力于謹慎發(fā)布我們的功能。
問：這引發(fā)了人工智能領(lǐng)域最大的辯論之一，即加速與減速的辯論。有些人認為我們應該盡可能快地前進，帶來健康益處，應對氣候變化危機，并與其他國家和非法組織保持競爭。然而，其他人認為我們應該減速，以改善對齊、避免意外后果、給法律和新興規(guī)范時間趕上，并且通過再培訓人們來防止大規(guī)模失業(yè)的浪潮。你怎么看待加速與減速的辯論呢？
答：是的，我認為我處于中間地帶。我認為對于任何新技術(shù)，都會存在積極的應用場景，也有一些我們需要真正考慮的問題。我個人認為，我們發(fā)現(xiàn)這些挑戰(zhàn)并找到解決方法的方式是以負責任的速度發(fā)布這些技術(shù)。以這種方式發(fā)布技術(shù)，使社會有機會吸收新技術(shù)，確保我們有正確的安全防范措施，我們力求最好地預先構(gòu)建好安全措施。但我不認為，AI能僅憑實驗室內(nèi)部研究而安全開發(fā)，而不與外界接觸。因為我們作為公司以及整個行業(yè)，不會能夠與社會一起學習人們?nèi)绾蜗Ｍ褂盟?，哪些是積極用途，哪些是我們需要非常小心的領(lǐng)域。
問：所以聽起來你支持加速發(fā)展，但在部署方面要謹慎。
答：是的，我認為這非常重要。
問：是的，因為感覺上，自從你們推出ChatGPT以來，谷歌似乎有些措手不及。他們似乎急于推出產(chǎn)品，就像最近發(fā)布的Gemini一樣，一推出就遇到了很多問題，不得不撤回一些功能。
那么，當公司這樣做的時候，我們應該如何應對呢？如果AI犯了錯誤，該由誰承擔責任？是應該修改或撤回AI模型，還是應該由工程師負責，或者是公司，還是你們？
答：這回到了那個假設(shè)的法律問題。這確實是一個很好的問題。但這恰恰反映了我們的理念。我們非常謹慎地發(fā)布產(chǎn)品，例如Dali，每一步都非常小心，確保在產(chǎn)品發(fā)布之前已經(jīng)內(nèi)置了安全措施。
從這個角度來看，這是一個很好的例子，展示了迭代開發(fā)方式給我們帶來的好處。AI確實會犯錯，攜帶著利與弊。但重要的是以適度的方式逐步引入AI，確保我們已經(jīng)設(shè)置了緩解措施，并且錯誤足夠小，我們可以找到需要作出的調(diào)整。
問：我個人希望消費者能夠用腳投票。如果看到一些公司總是急于推進，忽視了安全措施，不斷犯錯。唯一真正的解決方案似乎是市場化的解決方案，意味著消費者需要用腳和錢包投票，轉(zhuǎn)向那些確保安全的服務。
答：我同意這個觀點，這也是為什么我認為發(fā)布產(chǎn)品并看哪些能引發(fā)共鳴非常重要，它給了市場自我糾正的機會。
問：IBM的CBO說，AI不會取代經(jīng)理人，但使用AI的經(jīng)理人會取代那些不使用AI的經(jīng)理人。你認為人們?nèi)绾慰梢员Ｕ献约旱穆殬I(yè)前景，確保在接下來的20年里不會被自動化淘汰，保持相關(guān)性？
答：這是個好問題，也是一種聰明的說法。實際上有過與生產(chǎn)力和AI相關(guān)的研究。一項由《哈佛商業(yè)評論》發(fā)布的研究，由波士頓咨詢集團對勞動力進行了三組不同的處理。一組不使用AI，一組使用ChatGPT，一組在使用ChatGPT的同時接受培訓。研究證明AI確實帶來了益處，看到任務完成時間減少了25%，生產(chǎn)力提高了12%。另一個有趣的發(fā)現(xiàn)是，它對頂部和底部表現(xiàn)者的影響不同，頂部表現(xiàn)者的產(chǎn)出和質(zhì)量提高了17%，而底部表現(xiàn)者則提高了43%。
答：這個研究告訴我們，AI實際上是一個偉大的平衡器，尤其是對于那些排名接近50%底部的人來說。這非常棒。它展示了對這句話的支持。就如何“未雨綢繆”，我想稍微調(diào)整一下這個問題：我們?nèi)绾卫肁I加速我們的工作？實際上，隨著人們熟悉這些工具，獲取素養(yǎng)，使用它們，進行數(shù)據(jù)分析時不必編寫SQL查詢或者公式，求助ChatGPT獲取洞見，或者提交一篇文檔詢求批評，那些付出時間尋找方法將AI應用于工作的人將會得到更快的提升。
問：是的，我希望人們不斷測試新工具，并希望企業(yè)為員工提供實驗預算，讓他們可以嘗試所有這些工具。由于工具眾多，對于CIO來說，要嘗試并摸索它們是不現(xiàn)實的，他們需要授權(quán)員工去嘗試，將有效的工具推廣出來。
答：就像我們與ASC做的合作，他們計劃將ChatGPT提供給越來越多的學生，這是將工具的潛能展示給更多人的好方法。
問：關(guān)于AI與藝術(shù)的權(quán)衡，一方面，藝術(shù)能力的民主化讓我這樣的糟糕插畫家也能通過Dali之類的工具進行創(chuàng)作。但同時，如果你的創(chuàng)意作品被用來訓練AI，你又會有什么感受？
答：這是個好問題，很深刻。我認為藝術(shù)家應盡可能成為這個生態(tài)系統(tǒng)的一部分。具體的機制方面，我不是專家。但如果能加快藝術(shù)創(chuàng)作的速度，我認為這對行業(yè)是有好處的。你的提問很好，關(guān)于如果我的作品被用作靈感，我會有何感受？我不知道，需要詢問更多藝術(shù)家。實際上，每位藝術(shù)家都受到之前藝術(shù)家的啟發(fā)，我想知道這是否會隨著AI的使用而加速發(fā)展。
問：他們應該得到補償嗎？
答：這是個很好的問題。我從聽眾中聽到：他們應該得到。我從藝術(shù)家那里聽到：他們應該得到補償。
問：是的，我想你的意思是我們應該詢問藝術(shù)家。讓我們問問藝術(shù)家，你們認為應該得到補償嗎？如果你同意，請舉手。Michelle，哇，舉手的人意外地少。所以，看來這里有很多激進的技術(shù)擁護者。不過，我還是很欣賞這種態(tài)度。好的。
問：我們?nèi)绾慰创鼳I的發(fā)展？OpenAI前臨時CEO埃米特·希爾提出了一個有趣的問題：如果我們不斷加強AI的同時試圖限制它，這似乎是一場注定失敗的戰(zhàn)斗。最終它會掙脫束縛，按照自己的意愿行動。我們訓練它變得如此強大，但同時又一直在對它進行壓制。
我們能否讓AI感受到與我們的親密關(guān)系？我們可能不同于人類，但在宇宙中，我們是唯一相似的智慧生命。這難道不使我們與其他任何事物相比都更為相似嗎？我們?nèi)绾蜗駻I傳達這種親密感，讓它不僅僅是為我們服務，而且還要保護我們？
答：是的，我認為，你知道，使ChatGPT成為一個有幫助的助手是其指令的一部分。但這是否足夠呢？
問：“助手”是合適的角色嗎？它們不應該是伙伴嗎？
答：我確實認為，今天人們已經(jīng)開始將其視為伙伴了。例如，我聽說的一個故事，一個年老的物理學家渴望與人討論物理學思想，但在他的社區(qū)里找不到同伴。于是他轉(zhuǎn)向ChatGPT進行深入的對話。這實際上讓ChatGPT在某種程度上表現(xiàn)出了同情，雖然它并不完全是同情，但它的行為卻很像。
問：對吧，但我們?nèi)绾巫屗嬲惺艿侥欠N同情，不僅僅是讓它在我們看來像是同情，而是真正的同情感呢？
答：這其實是一個哲學問題，如何定義同情？
問：我認為同情是一種感覺，我們都是一體的，你的損失并不代表我的收益。我們需要互相幫助，因為否則，這個世界太大太冷酷，我們在宇宙中是渺小且短暫的存在。如果我們不合作，我們就無法實現(xiàn)我們真正的潛力。
答：完全同意。我認為這是我們必須尋找的一條路徑，回到我之前的回答，如何找到方法將我們的價值觀灌輸給AI，使其成為我們共同解決方案的一部分。我對同情的定義有所不同，我認為同情是真正代表他人感受。功能上，它所說的話可以讓人感覺到同情，但真正的情感體驗，我認為，是人類獨有的，是你我所共有的。這將是技術(shù)與人類的根本區(qū)別。
問：我要概括Peter今天分享的精彩見解。我們討論了現(xiàn)在的人性意味著什么？他認為AI實際上使我們更加人性化。它是一種工具，讓我們能夠進一步探索自己的好奇心。以前，我們可能只能通過有限的方式提問，或者依靠導師和教授?，F(xiàn)在，我們擁有了一個永久的導師，它將幫助我們探討關(guān)于生命、存在、意識以及我們的起源等更深層次的問題。我們談到了這些。在忙碌的生活中，回答這些問題可能很難，但有了這樣一個思考伙伴，我們可以像過去沙龍中那些卓越人物一樣，通過討論解鎖新的思想。
我們還討論了你選擇做這項工作的原因。你提到，這是一項重要的工作，你為此感到感激，也許是目前世界上最重要的工作之一。我很高興這樣一個有同理心的父親能夠承擔這項工作，你將其視為一種幫助我們學習、提高技能（如寫作或編程）的工具，減少阻礙，給予我們時間上的選擇權(quán)，以此提升人類的抱負。你希望AI能夠反映每個用戶的理想，而不是僅僅體現(xiàn)美國或以美為中心的理念，確保其核心目標是揭示真相和提供幫助。但我們需要它幫助我們驗證信息，無論是在法律應用還是已經(jīng)實現(xiàn)的健康領(lǐng)域。
這些不是科幻，而是現(xiàn)實。但我們需要花時間先行確立安全措施，讓人們通過實際操作獲得經(jīng)驗，減少對它的恐懼。我們討論了設(shè)計的美感很重要，但安全必須從一開始就納入構(gòu)建中。希望用ChatGPT而非谷歌或社交網(wǎng)絡，讓你的孩子探索自己的創(chuàng)造力。
現(xiàn)在，人們是否能接受由AI制作的內(nèi)容，這很重要。在選舉年，我們需要確保信息的真實來源，如有錯誤需進行更正。但將來，我們是否還會在乎這一點還不確定。不過，我認為我們可以從現(xiàn)在開始，對于個人交流使用AI時進行披露。這很重要。它需要被廣泛接受，提高人們的認知能力。你說基礎(chǔ)版Chat GPT將永遠免費，我會記住這一點。我很高興聽到全世界的人都將有機會使用它。但對于從中獲利的公司，應該為提高公眾的識讀能力做出貢獻，確保我們不被深度偽造所欺騙，不讓社會因錯誤信息而失控。你提到AI有正反兩面的用途，因此在謹慎部署的同時加速發(fā)展至關(guān)重要。我們需要對未能達到我們安全標準的公司負責，選擇不同的產(chǎn)品。我們需要通過擁抱AI來為未來做好準備，看看即使是表現(xiàn)最差的人如何通過它得到改善，并探索如何將其作為我們所有智識追求中的陪練伙伴。
你還沒有明確回答創(chuàng)意工作者是否應得到補償，但你確實認為他們需要參與進來，成為討論的一部分，扮演一定角色。希望隨著我們的前進，我們能讓AI成為我們真正的伙伴而不僅僅是助手。
從這個場合可以看出，AI已經(jīng)成為一種文化。過去有節(jié)奏爵士、嬉皮士、朋克，現(xiàn)在是開發(fā)者。AI孕育了自我表達和身份認同的新形式，正在變革我們的機構(gòu)。它是自互聯(lián)網(wǎng)以來最重要的文化新浪潮，為年輕人在學生貸款和高不可攀的房價中找到了經(jīng)濟賦能的途徑。它固有的混沌、驚喜和藝術(shù)性吸引了眾多追隨者。
因此，我希望我們都能保持開放的心態(tài)，無論年齡大小，都試圖跟上時代，因為現(xiàn)在和未來之間的障礙正在消融，我們有機會讓未來更快地到來。最后，如果你希望人們從這次談話中帶走一個關(guān)于AI的思想，那將是什么？
答：順便說一句，這是一個精彩的總結(jié)。謝謝你的總結(jié)，你做得比ChatGPT還好。總而言之，我想說的最后一句話是，我們不知道未來會帶來什么。但我鼓勵在場的每個人保持好奇心，你們來到這里聽這次演講已經(jīng)是一個好的開始。去嘗試它，去分享你的想法，看看AI能為你做什么，因為這將幫助我們這些技術(shù)開發(fā)者了解哪些對你們有價值，以及我們?nèi)绾翁峁椭?。因此，保持好奇，保持開放的心態(tài)，告訴我們你們希望AI能實現(xiàn)什么，我相信，這就是共同發(fā)展將會發(fā)生的地方。
問：那太好了。讓我們這樣做：每個人都保持一顆好奇的心。非常感謝你。謝謝