本篇文章分享了Grammarly新CEO在斯坦福對AI的見解。包括這一波新的 AI 浪潮，同時還分享了Grammaly 在應(yīng)對審核和偏見時的方法和策略，為年輕的創(chuàng)業(yè)者和技術(shù)從業(yè)者提供了經(jīng)驗見解。我們一起來讀讀看吧！

2 年前，Rahul Roy-Chowdhury 離開工作了 14 年的谷歌 VP 崗位加入 Grammarly 擔任全球產(chǎn)品主管，他曾領(lǐng)導(dǎo)谷歌隱私、安全和安全團隊，為谷歌的產(chǎn)品組合提供統(tǒng)一的解決方案，此外還領(lǐng)導(dǎo)過 Chrome 瀏覽器和 Chrome OS 的產(chǎn)品管理團隊。

今年上半年，Rahul 升任了 Grammarly 的 CEO，加速 Grammarly 對生成式 AI 技術(shù)的應(yīng)用，不僅幫助用戶寫作，還能幫助用戶提出好的想法，提高 Grammarly 的 LTV。

市場上曾擔心像 Grammarly 的產(chǎn)品會因為 ChatGPT 的出現(xiàn)而失去競爭力，但 Rahul 不以為然，Grammarly 擁抱了 GPT，他認為 AI 雖然存在風險，但這是一項強大的技術(shù)，Grammarly 也有責任通過安全負責的方式讓用戶處于體驗到中心，而不增加額外的偏見和風險，他呼吁開發(fā)者們要確保生成式 AI 在幫助用戶的同時，不會剝奪用戶的控制權(quán)和個性。

在 Rahul 升任不久，在斯坦福大學展開過一次分享， Rahul 圍繞 AI 展開討論，涵蓋所有內(nèi)容包括這一波新的 AI 浪潮，此外 Rahul 還分享了Grammaly 在應(yīng)對內(nèi)容審核和偏見問題時的方法和策略，也為年輕的創(chuàng)業(yè)者和技術(shù)從業(yè)者提供了寶貴的經(jīng)驗和見解。

以下為這次分享的全部內(nèi)容，enjoy～

一、在 Grammarly 使用和構(gòu)建 AI 幫助用戶

今天與大家分享的是關(guān)于我們在 Grammarly 使用和構(gòu)建 AI 來幫助用戶的內(nèi)容，你們中的許多人都是用戶，我們已經(jīng)開發(fā)出了工具、技術(shù)和對于如何大規(guī)模構(gòu)建 AI 系統(tǒng)的理解，我希望分享這些經(jīng)驗，以便你們可以從中受益，其中一些可以廣泛應(yīng)用，不僅局限于 Grammarly 。

實際上，我希望這成為一次對話，我希望我的演講不是結(jié)束，而是對話的開始，一場關(guān)于如何通過 AI 來幫助我們，而不是傷害我們的對話，如何通過 AI 來增強我們的能力和潛力，而不是削弱它，如何通過 AI 來增強我們的技能，幫助我們以新的、更好的方式進行溝通，而不是剝奪我們的發(fā)聲權(quán)，這是我今天愿意與你們分享的對話。

讓我們先做一次場景評估，我們現(xiàn)在處于什么狀態(tài)？現(xiàn)實是 AI 是正在塑造我們世界最強大的技術(shù)力量，至少在我看來，毫無疑問，它已經(jīng)不僅僅是未來，已經(jīng)在幾乎所有大規(guī)模運營的行業(yè)中產(chǎn)生了巨大影響。

• 想想制造業(yè)， AI 被用于創(chuàng)造更好的組件， AI 被用于優(yōu)化全球供應(yīng)鏈；
• 想想醫(yī)療保健， AI 被用于幫助放射科醫(yī)生更早、更快、更準確地檢測癌癥；
• 想想醫(yī)學， AI 被用于在藥物發(fā)現(xiàn)過程中幫助分析數(shù)十億種化合物，以確定最有前途的研究領(lǐng)域；
• 想想軟件， AI 正在推動新的個性化工具，幫助我們在職業(yè)和個人生活中更加高效；

我們才剛剛開始，在我們的一生中 AI 將幫助我們解決最重要的問題，例如全球變暖。隨著生成式 AI 的崛起，我相信大家都在關(guān)注， AI 還將幫助我們在創(chuàng)意表達方面，將高層次的想法轉(zhuǎn)化為具體的作品，成為藝術(shù)品、文學作品等。這是令人興奮的。

我本質(zhì)上是一個技術(shù)樂觀主義者，我在技術(shù)領(lǐng)域工作了很長時間，我相信技術(shù)將幫助我們改善生活，改善世界。在我職業(yè)生涯中，我一次又一次地看到了這一點，我記得我們早期談?wù)?Chrome 時的情況，我記得當我在 Chrome 項目上工作時，看到了網(wǎng)絡(luò)訪問和低價智能手機將信息傳遞給全球數(shù)十億人的影響，我看到了這種影響，那是技術(shù)在規(guī)模上幫助人們的例子。

因此， AI 是美妙的，但是也伴隨著巨大的力量和責任， AI 也可能引起實際問題造成傷害。不管是出于設(shè)計還是僅僅作為意外的副產(chǎn)品，不是有意為之，而是由于技術(shù)的強大而無意間發(fā)生的后果。你可以考慮基于 AI 的推薦引擎，它們已經(jīng)造成了實際的傷害，并引發(fā)了社會問題，比如激進化、成癮，或者是因為沉浸于這種技術(shù)中而忽視了現(xiàn)實世界的人際關(guān)系。

我的意思是，我們的大腦無法抵擋這些系統(tǒng)精心設(shè)計的多巴胺沖擊，作為一名父親，我擔心這一點，我希望我的孩子能夠接觸到 AI 所提供的一切好處，但我也希望保護他們免受這些傷害，如果你考慮到 AI 在我們生活中作出重大決策的情況，比如篩選工作申請或決定誰獲得貸款批準，那么這些系統(tǒng)中存在著潛在的數(shù)據(jù)偏見，這些偏見會造成實際的傷害。事實上，人們正在取得進步，系統(tǒng)正在變得更好，事情正在改善。所以并不是一片黯淡和末日的故事，但是傷害是真實存在的。

我不知道你們是否看過 John Oliver 的《Last Week Tonight with John Oliver》脫口秀，這個節(jié)目真的很搞笑。幾個月前，他的節(jié)目是關(guān)于 AI 的，非常值得一看，尤其是在考慮到你們正在上的課程和主題的情況下。但其中他強調(diào)的一點是， AI 被用于篩選工作申請，他們提到了許多問題和偏見，以及該系統(tǒng)所面臨的許多挑戰(zhàn)。

但是從節(jié)目中最讓我印象深刻的一點是，這些公司的領(lǐng)導(dǎo)之一，提供這些服務(wù)的公司，他對求職者的建議是不要與眾不同。你的任務(wù)不是獨特、特殊或與眾不同，你的任務(wù)是通過 AI 進入真正的人類世界。

這太可怕了，太沒有賦權(quán)感了，太反烏托邦了，這不是我想要的未來，我不想要這樣的未來，我相信你們也不會想要這樣的未來，因此傷害是真實存在的，所以問題是我們應(yīng)該怎么辦？我們不應(yīng)該停止。我認為我們應(yīng)該選擇一個有意識的道路向前。

我想向大家傳達的一件事——我們可以決定如何發(fā)展和部署這項技術(shù)。不要讓技術(shù)來對待我們，而是讓我們決定這項技術(shù)如何部署，以及它如何影響我們的日常生活。我們有權(quán)力，不要放棄這個權(quán)力，這對于你們來說，現(xiàn)在進入就業(yè)市場，開始職業(yè)生涯是一個非常重要的事情，只要記住我們有權(quán)力和控制權(quán)，決定這項技術(shù)如何塑造，以及它在我們生活中的形態(tài)。

這就是今天對話的核心，所以在 Grammarly ，我們正在努力構(gòu)建框架、技術(shù)和工具，試圖將 AI 應(yīng)用于大規(guī)模人群。

二、“ TRUE ”框架

我們有一個基本的信念 —— AI 是關(guān)于增強人類潛力的，我們稱之為增強智能：AI 在增強我們的同時是成功的，當它使我們變得更好、增強了我們的能力時，這應(yīng)該是這些系統(tǒng)的目標。

實際上，我真的希望我們可以重新定義 AI 的縮寫，讓其代表增強智能，而不是 AI ，因為我認為這實際上才是我們從這些系統(tǒng)中期望的結(jié)果。你希望它們能夠幫助我們 。AI 會引發(fā)這些關(guān)于它是否有意識、是否有感知能力的討論，而這實際上超出了這些系統(tǒng)的實用性，它們的目標是幫助我們。

我們希望構(gòu)建系統(tǒng)，將系統(tǒng)部署給用戶，使其始終保持這種增強智能，我們使用了一個稱為“ TRUE ”框架：T代表信任，即承諾實施世界一流的隱私和安全性，R代表責任，即關(guān)注公平和用戶安全，U代表用戶控制，真正讓用戶掌控，并確保用戶在整個體驗過程中有能力，E代表同理心，確保我們真正理解我們的用戶需要，解決真正的用戶問題，所以這就是 TRUE 框架。

我們給你們提供一個案例研究，介紹 TRUE 框架如何得到應(yīng)用，基于在大規(guī)模構(gòu)建系統(tǒng)方面的實際建議。因此，讓我退后一步，向你們解釋一下 Grammarly 的業(yè)務(wù)，因為這將幫助你們理解案例研究，所以 Grammarly 的業(yè)務(wù)是幫助人們更好地溝通。

1. T——信任

我們都有不同的風格，有不同的背景，我們使用許多不同的工具進行溝通，而且有人被完全理解并以他們的預(yù)期方式傳達，使用了正確的語調(diào)、正確的信息，這樣的機會并不高。事實上，我們正在使用的溝通工具數(shù)量不斷增加，因為工具的景觀變得分散，且我們的工作方式在過去幾年中發(fā)生了巨大的變化，有更多的遠程工作、分布式團隊、全球團隊試圖在不同的背景下協(xié)同工作，所以溝通始終是一個難題。

現(xiàn)在比以前更難了，溝通不太好的代價非常高。事實上，我們進行了一項研究，發(fā)現(xiàn)僅在美國，單單一個年度內(nèi)，低效的溝通成本就達到了 1.2 萬億美元，這個數(shù)字只是一年前的數(shù)據(jù)，這個數(shù)字不會下降，而是上升，因為溝通的數(shù)量在增加，而溝通的效果在下降，這是一個很難解決的問題。

當我們真正解決了它時，情況會變得很棒，我們能夠準確地表達自己的意思，彼此理解，感覺在公司里可以更好地協(xié)作和完成任務(wù)，公司也會報告這一點，他們看到了更好的結(jié)果 —— 團隊處于流動狀態(tài)，工作更快，取得更好的成果，所以這是一個溝通問題，這是一個我們正在 Grammarly 中解決的問題。

2. R——責任、U——用戶控制

現(xiàn)在，每個人都知道生成式 AI 很重要，每個人都在研究生成式 AI ，我們在 Grammarly 一直在研究，大約 4 月份我們推出了生成式 AI 版本，一個名為“ GrammarlyGo ”的產(chǎn)品，為了將 GrammarlyGo 帶給我們的用戶，我們在全球有數(shù)百萬用戶。

我們使用了 TRUE 框架，那么讓我詳細地為你們解釋一下，在我們考慮我們剛剛推出的產(chǎn)品時，我們?nèi)绾嗡伎歼@個框架，如何將其應(yīng)用于我們的用戶呢？讓我們從信任開始，信任是確保你理解用戶對其數(shù)據(jù)的期望，這些問題是你正在收集什么數(shù)據(jù)？你對數(shù)據(jù)做了什么？你將其保留多長時間？實際上，在所有這些問題的根本上有一個基本的問題，那就是你的動機和我的動機是一致的還是不一致的？

在 Grammarly ，我們構(gòu)建了一個圍繞確保我們的動機和用戶的動機始終 100% 一致的業(yè)務(wù)和公司，這是一個非常簡單的決策過程，一個新的商業(yè)模式出現(xiàn)在我們面前，我們思考一下，有收入的潛力，這很有趣，但是它是否會導(dǎo)致我們在處理用戶數(shù)據(jù)的方式方面與用戶的興趣不一致？答案是肯定的，我們不會做。

用戶的一致性是至關(guān)重要的，這實際上是隱私的根本，是獲取理解一致性的關(guān)鍵，如果隱私是關(guān)于一致性以及你將如何處理用戶數(shù)據(jù)，那么安全性就是確保該數(shù)據(jù)免受損害、免受濫用；在 Grammarly ，多年來我們在安全方面投入了很多，我們擁有整個字母表的認證，包括 sock、HIPPA、CCPA，應(yīng)有盡有，而且這些事情不會很快發(fā)生，他們需要很長時間，需要很多投資來完成，而且在事后難以添加。

現(xiàn)在，隨著像 LLMs 這樣的新技術(shù)的出現(xiàn)，出現(xiàn)了新的威脅，對于 LLMs 這樣的威脅模型的全面了解尚未達到，所以應(yīng)對這種不確定性的最佳方式是真正擁有多層次的安全性策略。

不僅僅依靠一件事情的良好運作，而是依靠多種事物一起工作，采取組合方法，比如漏洞賞金計劃或者像紅隊一樣，紅隊的概念是你有一個團隊，我們在 Grammarly 就有這樣一個團隊，他們的工作是主動找出你系統(tǒng)中的漏洞，這樣我們就能夠在外部黑客之前找到并修復(fù)它們，所以真正投資于這種安全方法的組合是處理新技術(shù)的正確方式。

我想要給你們帶來的關(guān)于信任這個理念的一個主要觀點是，要贏得它非常困難，失去它非常容易，事后很難添加，所以當你們開始自己的職業(yè)，思考所有你們將要構(gòu)建的酷應(yīng)用、企業(yè)和技術(shù)時，要牢記信任，因為信任需要成為你們做其他一切的基礎(chǔ)，我們需要贏得和加強信任，使其成為基礎(chǔ)，在沒有這種基礎(chǔ)的情況下，要想使一家成功的公司擴展是非常困難的基礎(chǔ)。

放在那里，這就是信任，所以，在 GrammarlyGo 中，我們應(yīng)用了這個框架，這些技術(shù)，所有的投資，它們幫助我們推出GrammarlyGo ，保持了我們與用戶之間的信任關(guān)系。責任是確保我們專注于公平，專注于用戶安全。這里需要做很多技術(shù)性工作，例如評估并確保你的ML模型具有非常高質(zhì)量的訓練數(shù)據(jù)，確保數(shù)據(jù)沒有偏見，確保你可以跟蹤和查找敏感文本，比如仇恨言論。

例如，在 Grammarly 中，我們投資了敏感文本分類器。因此，你可以將 LLMs 生成的文本想象成，當我對文本進行分類時，我會捕捉到它并說，嘿，這是敏感文本，然后我們可以采取適當?shù)男袆印?/p>

例如，我們可以說，如果用戶看到這段文本，對他們來說體驗不會很好，我們不會向他們展示這段文本。因此，我們實際上可以保護我們的用戶免受這些模型可能造成的潛在傷害。所以我們在這些技術(shù)上投資，我強烈鼓勵每個人在考慮大規(guī)模構(gòu)建 AI 時，要深入思考如何做好這些事情。

質(zhì)量評估，敏感文本分類器來檢測這些問題。這些是需要正確解決的重要問題。但這不僅僅是關(guān)于技術(shù)，因為無論你做什么，無論你構(gòu)建什么，無論你的分類器有多好，當你的真實用戶在現(xiàn)實生活中使用你的產(chǎn)品時，總會遇到一些意想不到的問題。那么你打算怎么做呢？這是你必須提前考慮并在事后不是反應(yīng)的問題。

因此，在 Grammarly 我們處理這個問題的方式是，我們?yōu)橛脩粼诋a(chǎn)品中發(fā)送反饋提供了許多不同的途徑，例如電子郵件、客戶服務(wù)團隊。這不僅僅是給我們反饋，我們有一個流程，當我們收到反饋時，我們可以采取行動。

有人正在查看并說這是一個問題。我們必須解決這個問題，誰來解決？誰值班？讓我們解決它，讓我們發(fā)布修復(fù)，讓我們保護用戶安全。因此，責任的一個關(guān)鍵部分不僅僅是正在發(fā)生的技術(shù)創(chuàng)新，這是重要且偉大的，而且還要確保在你的真實用戶在他們的實際生活中使用你的產(chǎn)品時，你有一些計劃來應(yīng)對不可避免的意外事情，那么你的答案是什么？有答案是很重要的，它可能不會完全與 Grammrly 相同。

我們需要一些答案。所以這就是責任、用戶和控制：用戶應(yīng)該感覺他們對整個體驗有控制權(quán)，所以他們不會覺得技術(shù)是施加給他們的，他們覺得他們控制著體驗，他們正在推動過程，他們正在推動結(jié)果。

因此，對于 GrammarlyGo ，我們代表用戶生成文本。首先，我們希望確保用戶感覺 GrammarlyGo 生成的文本聽起來像他們，代表他們的聲音，因此，我們構(gòu)建了一個名為“My Voice”的功能，用戶可以控制他們的聲音，這不僅僅是模板化的通用文本，它反映了你想要的聲音，然后，整個體驗允許用戶看到發(fā)生了什么，我們提供提示，但最終我們總是讓用戶做決策，這不是偶然的。

這不僅僅是發(fā)生的事情，這是一個有意的設(shè)計選擇。因此，在設(shè)計和構(gòu)建這些功能和產(chǎn)品時，你會面臨這些選擇，我要把用戶引導(dǎo)進來嗎？還是不引導(dǎo)？

根據(jù)我的建議和我艱難的經(jīng)驗，將用戶引入其中，確保他們感覺他們對體驗有控制權(quán)，這是 TRUE 框架的一個部分。

3. E——同理心

最后一個部分是共情，這是一個理念。我們正在努力解決真正的用戶問題，這聽起來是一個顯而易見的事情，那就是你會做的事情，但實際上，在我職業(yè)生涯中反復(fù)看到的是很容易忽視這一點，因為有太多的干擾。

你忙于為你的產(chǎn)品和功能工作，最初是帶著最好的意圖開始的，這是用戶的問題，我要解決它，然后會發(fā)生一些事情，比如這邊的競爭對手做了另一件事情，我必須做出回應(yīng)，或者這里有一所學校，有了新技術(shù)，我必須讓它上市，讓我們看看會發(fā)生什么，所以很容易受到干擾。

你看了很多不同的事情，這些時間沒有花在用戶身上，當發(fā)生這種情況時，通常你的產(chǎn)品會偏離軌道。實際上不能幫助解決真正的用戶需求。因此，你必須有意地迫使自己返回來，并問自己一個問題，那就是用戶的需求是什么？我們正在為他們解決什么問題？我如何確信我的解決方案實際上是解決了他們真正遇到的問題？

而不僅僅是因為它很酷，以及你想出了這個點子，要把它推出去，看看會發(fā)生什么。所以在構(gòu)建和部署這些系統(tǒng)時，將共情不斷帶回到對話中是非常重要的，這就是 TRUE 框架，現(xiàn)在我們在 Grammarly 使用它，但這與 Grammarly 沒有特定的相關(guān)性。

我的希望是你們所有人都可以看到這個框架的價值，并在你們的工作中應(yīng)用它，在將來的工作中應(yīng)用它，在構(gòu)建應(yīng)用程序時考慮使用這個框架，想象一下如果真正的框架成為事實上的做事方式，會發(fā)生什么，想象一下在哪里？

所有應(yīng)用程序、所有行業(yè)、每個人都在使用這個真實的框架，那么那個世界會是什么樣子？讓我們試著通過這個可視化的練習來走一遍，這是一個人們能夠感到有能力做得更好、取得更好結(jié)果的世界，那是我們在大規(guī)模部署 AI 來幫助人們?nèi)〉酶媒Y(jié)果的世界，那是我想要的世界。

我們在開始時談到 AI 承諾的世界，如果你不經(jīng)過深思熟慮和刻意考慮，就會帶來所有問題.。

所以請記住我們有權(quán)力決定如何部署和構(gòu)建這項技術(shù)，你們都是科技領(lǐng)域的領(lǐng)袖，或者未來的科技領(lǐng)袖。

我的愿望和希望是，你們所有人都要深入思考如何使用這種權(quán)力；我的請求是請承諾使用這種權(quán)力來構(gòu)建能夠增強人類潛力的 AI ，讓人類能夠做得更好，提高我們的潛力、能力，賦予我們超能力。

三、Q&A

以下部分是Rahul 有啟發(fā)的 Q&A 分享：

并非每個人都像 Grammarly 一樣具有共情能力，是否認為僅僅有了這些框架就足夠了？對政府監(jiān)管的立場是什么？是否認為政府監(jiān)管有必要？

我認為我對政府監(jiān)管的看法是，這是一個重要的討論，就像我在一開始說的那樣，這是一個重要的討論，我認為對于這種強大的技術(shù)來說，政府的監(jiān)管是必要的，也是受歡迎的，但我想說的是，作為未來科技領(lǐng)域的領(lǐng)袖，應(yīng)該采取一種積極的責任態(tài)度，如果在有監(jiān)管并且有明確的指導(dǎo)的情況下，已經(jīng)在做所有正確的事情，已經(jīng)深入思考了如何在負責任的情況下大規(guī)模部署這些系統(tǒng)，而不僅僅是因為有監(jiān)管才去做。

正確的做法在市場上也會勝出嗎？如果市場上有一個無情的競爭對手，他們會在生成式 AI 領(lǐng)域戰(zhàn)勝一個有道德的對手嗎？

我相信會，因為我總是看到技術(shù)，產(chǎn)生困境，但技術(shù)總是找到一種擺脫困境的方式，技術(shù)總是創(chuàng)造出良好的結(jié)果，最終成為一種善的力量。我相信這對于 AI 也是如此，但這不是一條定律。但我想要確保大家理解的是，這不是先驗的事情，這不是自然法則，這是我們的行為和行動帶來了這些結(jié)果，所以關(guān)于好人是否會贏還是不會贏的問題，不是說有一種物理定律會實現(xiàn)那個結(jié)果，是我們的集體行動會使之成真與否，這就是為什么我實際上很高興與大家進行這次對話，因為我只是想確保你們都理解你們有權(quán)力來塑造這個結(jié)果。

我再問一個問題，然后我們會開放提問，但是它是否具有惡性影響？因為我們在幾周前邀請了Open AI 的首席科學官 Ilya 參加活動，如果你與Open AI 的人討論他們將來的戰(zhàn)略決策，這主要是由Sam，Ilya 通常會回答說，我們將問 AI 應(yīng)該做什么，現(xiàn)在 AI 已經(jīng)在流程中得到了如此緊密的整合，以至于我作為人類的終點在哪里？AI 的起點在哪里？界限可能會變得非常模糊，即使是你提到的反饋對你的利益和激勵產(chǎn)生了影響，甚至可以影響你的激勵和對齊的感知，如果生成式 AI 在產(chǎn)品開發(fā)過程中如此深入地整合進去，我們是否能夠與之保持分離？

我認為我們絕對應(yīng)該，這關(guān)乎用戶控制，這是一個很好的例子，讓我們使用 AI 來幫助我們，也許 AI 可以幫助我們創(chuàng)造出很棒的創(chuàng)意，并找出下一步要做什么？我的公司策略是什么樣的？如果 AI 幫助我找出 Grammaly 的公司戰(zhàn)略，那將是很好的，但最終我們必須掌控局面，我們不應(yīng)該放棄這種系統(tǒng)控制。

目前很多行業(yè)似乎有些驚慌，新聞業(yè)、音樂業(yè)等等，所以我們?nèi)绾纹胶?AI 助手的能力，使之不成為實際的內(nèi)容創(chuàng)作者？如何將權(quán)力交還給不同的行業(yè)？

我認為有很多不確定性和很多恐慌，我認為這是事實，每一項重大科技創(chuàng)新，如果你回溯到70年代，美國第一次大規(guī)模部署 ATM （自動取款機），銀行出納員開始恐慌，因為他們擔心 ATM ，認為我們的工作要完了。

實際上，ATM 機的出現(xiàn)讓人們感到恐懼，事實上，由于 ATM 的廣泛使用，開設(shè)銀行分行變得更便宜，因為不需要那么多人來員工，因此銀行出納員可以繼續(xù)從事更有意義、更復(fù)雜、更高層次的任務(wù)；在美國， ATM 投入使用之前的銀行出納員人數(shù)少于使用 ATM 之后的人數(shù)，科技總是找到幫助我們的方法，但我們需要確保這一點成為事實。假設(shè)你是 Google 的產(chǎn)品經(jīng)理，你構(gòu)建的東西對全球數(shù)十億人產(chǎn)生了真正的影響，所以請將這些原則牢記心中，考慮一下，你正在構(gòu)建一個非常重要的東西，不要把它僅僅作為一個產(chǎn)品扔掉。

我想表達的是有意識地進行設(shè)計，把用戶放在首位，確保你解決了用戶的問題，對用戶任務(wù)懷有同理心，確保用戶控制是核心，所以我們可以通過我們集體采取的行動來塑造這個未來，每個人的單個行動都會在成百上千的工程師和產(chǎn)品經(jīng)理致力于構(gòu)建的非?？岬臇|西中，合并在一起，這才是未來。

關(guān)于 Grammarly 如何訓練這個模型的？

我們在Grammaly Go推出時，這是一個非常快速發(fā)展的領(lǐng)域，我們使用了在Azure上運行的GPT 3.5 Turbo，我們所做的是應(yīng)用了我們所使用的所有其他部署，比如敏感文本分類器作為后處理步驟。

你可以查看生成的輸出并說這不好要更改，像我的聲音這樣的功能，將其視為對底層模型的提示工程，然后在未來，這些基礎(chǔ)模型的領(lǐng)域正在迅速變化，將來可能會有一些其他更好的模型，也許是更好的開源模型，也許是在設(shè)備上進行本地模型學習的更好的模型；我們在質(zhì)量評估方面投入了很多精力，如果出現(xiàn)新模型，我們已經(jīng)準備好了一個專家團隊，可以評估模型的質(zhì)量、偏見、公平性和安全性。因此，在這些模型發(fā)展演變時，我們準備進行相應(yīng)的更改。

關(guān)于LLM的問題的后續(xù)問題，特別是信任和安全等方面。

眾所周知，有關(guān)LLM的輸入數(shù)據(jù)以及數(shù)據(jù)的廣泛性和透明性存在很多討論，我認為你真正在問的是這實際上是系統(tǒng)設(shè)計的產(chǎn)物，而不是模型的訓練方式。作為用戶，很難理解哪些訓練數(shù)據(jù)用于生成特定的輸出。正如你所說，領(lǐng)域非常廣泛。因此，一個例子是，在 GrammarlyGo 中，你可以創(chuàng)建你自己的聲音，你可以說，這是我想要的聲音。這是我的聲音。因此，產(chǎn)品體驗使你可以控制輸入和輸出。因此，我認為解決這個用戶困境的方法是，如何解釋給用戶這么多復(fù)雜性是非常有深思熟慮的設(shè)計，用戶，這回到了用戶控制，這是非常重要的，用戶應(yīng)該感覺自己理解并有能力影響塑造體驗。

AI 在改善溝通方面能做什么？它現(xiàn)在還做不到什么？你認為它會如何發(fā)展？

GrammarlyGo 有一個叫做“快速回復(fù)”的功能。所以我每天都會收到很多郵件。也許有人給我發(fā)了一封郵件，說，“嗨，我想見面討論一些話題。”因此，gramalie go會理解郵件的內(nèi)容，理解郵件的意圖，并為我提供一些選擇，以回應(yīng)該郵件。有時候是接受，有時候是建議，有時候是禮貌地拒絕。

然后它會為我生成一封電子郵件，這是一封表面上的電子郵件，但它會在我的聲音中進行，而且充滿了完整的上下文。它會生成一封電子郵件，我實際上感到很高興和自豪地發(fā)送，而不是像機器人一樣的通用文本。我經(jīng)常使用這個功能，它對我來說是一個巨大的生產(chǎn)力技巧，幫助我在我的日常工作中。有很多事情現(xiàn)在還不能做到。但老實說，這個領(lǐng)域變化得太快了。

推理技能的模型似乎都是這些模型變得越來越大時的 emergent properties（新興特性），這似乎有點神秘，盡管我不是這個領(lǐng)域的研究人員，但從每一代模型中新出現(xiàn)的特性是什么，似乎仍然有點神秘，我不認為有人真正理解了這一點，所以我們也在學習的，過去的六個月是瘋狂的。

大多數(shù)人在六個月前根本不知道什么是 LLM，突然之間，它在六個月內(nèi)就占領(lǐng)了整個世界，真是太瘋狂了，在接下來的六個月、十二個月、二十四個月內(nèi)，這將如何發(fā)展，我不太確定。我想我們只能拭目以待。

如果我是斯坦福的學生，對生成式 AI 充滿激情，并且擁有充足的時間，我想我會這樣說專注于用戶問題。不能只是說，我要做生成式 AI ，這是我對此的看法。其他人可能會持有不同意見。我要解決一個用戶問題，我可以使用生成式 AI 來很好地解決它，在我的職業(yè)生涯中學到的一件事是，最好是喜歡上問題，但不要喜歡上解決方案，因為解決方案會隨著時間的推移而改變。通常情況下，我們最終會喜歡上解決方案而不是問題。你甚至意識不到這正在發(fā)生。然后當有更好的解決方案出現(xiàn)時，你會說，不，但我的東西，那太棒了。

實際上，最好不要過于依賴任何一個解決方案，所以我會說，我能給你的最好建議是找到那些問題，找到值得解決的問題，從那里開始，生成式 AI 將是解決這些問題的好方法。

Grammarly 實際上是一個產(chǎn)品體驗，但它適用于你使用的所有其他應(yīng)用程序，它不是一個定制的體驗，你可以認為它是一種疊加在你使用的每個其他產(chǎn)品上的產(chǎn)品，從全面的角度來看，我們將從今天開始擁有多個產(chǎn)品，我們有一個擴展，我們有移動產(chǎn)品，我們正在尋找原生應(yīng)用，而且在某個時候，我們將從一套產(chǎn)品轉(zhuǎn)變?yōu)橐粋€平臺，但現(xiàn)在我們非常專注于進入我們服務(wù)的入口，這項服務(wù)在人們寫作的地方都可以使用。

關(guān)于那個什么我和 AI 聊天的迷因，我討厭那個迷因，讓我們確保那個迷因不成為現(xiàn)實，讓我給你一些真實的數(shù)據(jù)點，我談過那個1.2萬億美元的損失的事情。事實是，美國的平均知識工作者在全球來看花費了超過一半的工作周在書面溝通，過去的12個月中這個數(shù)字增長了18%，所以這在增加，然而在同一個12個月的時間內(nèi)，書面溝通的效果下降了12%，所以數(shù)量在增加，質(zhì)量在下降，因此，我們無法擺脫這個問題，我們不能通過說做更多，來解決這個問題，如果我能在跑步機上跑得更快一點。

事實上，你做得越多，情況就越糟，所以真正的答案必須是，必須更好地溝通，不是更多，而是更好，因為數(shù)據(jù)就是這樣，我并不是憑空捏造的，這就是數(shù)據(jù)所說的，你必須弄清楚如何更好地溝通。

如果你想想，如果考慮一下生成式 AI ，我們已經(jīng)在如此多地進行溝通，對吧？我們已經(jīng)降低了溝通的質(zhì)量，然后你想想溝通成本或內(nèi)容成本的下降，現(xiàn)在只要使用生成式 AI ，就可以輕松地創(chuàng)建大量的博客文章等等，用生成式 AI 你可以做到這一點，這項技術(shù)使你能夠?qū)崿F(xiàn)這一點，但是那會有什么幫助呢？

你只會將這 18% 增加到 50%、60%，你會將這 12% 降到負 50%，那不會有任何幫助，這就是為什么你真的要回到用戶問題，而當你考慮如何使用生成式 AI 創(chuàng)業(yè)，如何使用它時，這就是你的座右銘，這會引導(dǎo)你找到正確的解決方案。

在 Grammarly 內(nèi)部，是如何決定或優(yōu)先考慮你的路線圖的呢？這是有一些技術(shù)、一些技巧可以使用，但歸根結(jié)底，這是一門藝術(shù)，而不是科學，因此有些事情你可以弄清楚，比如你正在解決什么用戶問題？為什么這些是最重要的用戶問題？我們有什么數(shù)據(jù)來支持它？我們與用戶交談，我們進行訪談。

因此，有很多輸入，以幫助我們了解問題領(lǐng)域，然后有一些事情，比如，隱私問題如何？我們是否保持一致？我們是否不保持一致？所以你可以在那里非常清楚地開始使用過濾器。然后你可以進行一些影響評估，比如這件事情做起來很好，但影響可能是邊緣的，另一件事情做起來需要同樣的時間，但實際上對我們的用戶產(chǎn)生了巨大的影響，所以讓我們專注于最大化影響，有一系列的這些東西，你可以放在那里作為指導(dǎo)方針和安全措施以及過濾器，但歸根結(jié)底，還是需要判斷和團隊花費了很多時間在 Grammarly 、 Google 以及每一家公司真的在辯論、討論和爭論路線圖和優(yōu)先事項，你知道，也許在某個時候， AI 會告訴我們該做什么，但現(xiàn)在我們真的必須在這方面進行很多辯論、討論。

關(guān)于在過濾潛在引發(fā)情感的言論; 審查以及這些 AI 限制訪問某些想法之間的界限是什么？

我們每天都在自問的問題，我不知道是否有任何完美的界線刻在石頭上或涂在油漆上，或者無論用什么比喻，我們有一支語言學家團隊，他們正在追蹤和研究權(quán)威來源，了解不同種類的偏見、仇恨言論是什么，然后我們試圖從這些來源中匯編出一系列規(guī)則，關(guān)于這個問題的思考是什么？有什么研究、什么學術(shù)成果？你如何在產(chǎn)品中有意義地應(yīng)用這些？這是在不斷變化的？

所以并不是像你做完了就說，好的，打鉤，我完成了，這是一個持續(xù)的評估過程，當疫情變得流行起來時，其中一個新情況就是以許多偏見的方式來稱呼疫情，這就成為一個問題；因此， Grammarly 的敏感文本分類器能夠捕捉到這些情況，并能夠向用戶提供建議，歸根結(jié)底，我們不能替你寫作，但我們會建議你，這是一個不斷變化和適應(yīng)的事情，我們正在努力盡可能與現(xiàn)狀保持一致。