在2023年5-6月，SAM帶領(lǐng)openai團隊路演了6大洲(25個城市)，與用戶、開發(fā)者、決策者及大眾進行交流。

學(xué)到了什么

【資料圖】

我們的用戶和開發(fā)人員已在構(gòu)建有價值的應(yīng)用程序。在旅途中看到的創(chuàng)造力給了我們靈感。在尼日利亞，高中生告訴我們他們?nèi)绾问褂肅hatGPT來幫助分解復(fù)雜的學(xué)習(xí)主題。在新加坡，公務(wù)員是整合開放人工智能工具提供公共服務(wù)更有效率。在法國，一家連鎖雜貨店正在使用我們的工具幫助顧客減少食物浪費；開發(fā)者正在使用我們的工具為了使代碼更加高效和安全。(我們渴望聽到更多關(guān)于公司提供的AI服務(wù)如何產(chǎn)生影響的信息)

對于人工智能在社區(qū)中的影響，人們有共同的希望和擔(dān)憂。

許多人分享了他們對這些工具的承諾的熱情，以擴大和改善個性化教育和醫(yī)療保健的獲取，促進經(jīng)濟增長，并使所有專業(yè)人員能夠減少管理任務(wù)。世界各地對代碼和服務(wù)的需求不斷增長。同時，我們采訪的許多人提出了與錯誤信息、經(jīng)濟轉(zhuǎn)移以及日益強大的模型的安全和安保風(fēng)險有關(guān)的擔(dān)憂。

各地的政策制定者都在深入研究人工智能。

決策者專注于確保當(dāng)前工具的安全和有益部署，并認(rèn)真對待未來的潛力和風(fēng)險。我們與全球數(shù)十位高級決策者和國家元首坐在一起，了解他們快速采用大型人工智能模型的方法；領(lǐng)導(dǎo)人希望最大化這一新技術(shù)為其公民帶來的好處，同時設(shè)置適當(dāng)?shù)淖o欄來管理其風(fēng)險，包括來自現(xiàn)有技術(shù)的風(fēng)險和我們預(yù)計隨著技術(shù)變得更加強大而出現(xiàn)的風(fēng)險。我們采訪的政策制定者希望與領(lǐng)先的人工智能實驗室進行持續(xù)對話，并從他們那里獲得安全承諾，這是他們方法的一個關(guān)鍵要素，并支持探索一個全球框架來管理強大的未來人工智能系統(tǒng).

人們想更多地了解我們的核心價值觀。

這次旅行讓我們強化了我們的意圖。例如，一個常見的問題是關(guān)于我們對客戶數(shù)據(jù)的使用，這給了我們重申這一點的機會，我們不針對API客戶數(shù)據(jù)進行培訓(xùn)，以及ChatGPT用戶可以輕松退出也是。我們一直專注于建立周到的安全機制——不僅是為AGI，也是為我們今天推出的人工智能產(chǎn)品。我們將繼續(xù)深入投資，確保當(dāng)前系統(tǒng)的安全并根據(jù)用戶反饋進行改進。

下一步是什么

這次旅行幫助我們更好地理解世界各地用戶、開發(fā)者和政府領(lǐng)導(dǎo)人的觀點?？紤]到他們的反饋，我們更加關(guān)注以下領(lǐng)域：

讓我們的產(chǎn)品更有用、更有影響力、更容易獲得。

這次旅行讓我們清楚地意識到，對于世界各地的用戶和開發(fā)人員來說，我們的產(chǎn)品是可訪問的和有用的。正在努力改變，使人們更容易引導(dǎo)我們的模型做出反應(yīng)，反映更廣泛的個人需求和當(dāng)?shù)匚幕捅尘?。我們還致力于提高英語以外的語言的性能，不僅考慮實驗室基準(zhǔn)，還考慮我們的模型在對開發(fā)人員最重要的真實部署場景中的準(zhǔn)確和高效程度，致力于繼續(xù)讓定價結(jié)構(gòu)為全球開發(fā)者所接受。

進一步開發(fā)治理高能力基礎(chǔ)模型的最佳實踐。

隨著關(guān)于新的人工智能法律和法規(guī)的公開辯論繼續(xù)進行，我們將加倍努力，試點和完善具體的治理實踐，這些實踐專門針對像我們所產(chǎn)生的那些非常有能力的基礎(chǔ)模型，包括關(guān)鍵的安全工作流程，如預(yù)部署安全評估和對抗測試，以及讓人們能夠跟蹤人工智能生成內(nèi)容的來源的新努力。我們認(rèn)為，這些措施將是人工智能治理生態(tài)系統(tǒng)的重要組成部分，此外還有針對一些重要應(yīng)用的長期法律和行業(yè)特定政策。還將繼續(xù)投資于基礎(chǔ)廣泛的試點公眾意見征詢方法納入部署決策，在系統(tǒng)中增加本地化功能，培養(yǎng)國際研究團體，以擴大和加強對模型功能和風(fēng)險的評估，包括通過外部研究我們的人工智能系統(tǒng)和我們的網(wǎng)絡(luò)安全資助計劃。

致力于釋放人工智能的優(yōu)勢。

將擴大努力，支持廣泛的人工智能掃盲，我們聽說許多社區(qū)的優(yōu)先事項，并投資于創(chuàng)作者、出版商和內(nèi)容制作者從這些新技術(shù)中受益的方式，以便能夠繼續(xù)擁有健康的數(shù)字生態(tài)系統(tǒng)。此外，正在組建團隊，為探索如何將我們的工具用于廣泛有益的應(yīng)用的組織提供更多支持引導(dǎo)，研究對社會和經(jīng)濟發(fā)展的影響和政策建議經(jīng)濟影響。

在接下來的幾周和幾個月里，我們將在這些領(lǐng)域中的每一個領(lǐng)域做更多探索。

本文轉(zhuǎn)載自“拾珠傳媒新消費”微信公眾號，作者：朱珠；財經(jīng)編輯：黃曉冬。

關(guān)鍵詞：