谷歌內部人士對AI工具「巴德」多有不滿：花這麼多資源開發值得嗎？

原文來源：財聯社

圖片來源：由無界 AI 生成

幾個月來，Alphabet旗下的谷歌和Discord平臺一直在合作，提供了一個論壇供谷歌的產品經理、設計師和工程師等內部人士公開討論人工智慧（AI）工具的有效性和實用性。

但眼下，不乏有內部人士質疑，投入大量資源進行AI聊天機器人“巴德（Bard）”的開發是否值得。

谷歌在Discord平臺上Bard社區的兩名參與者分享了從7月到10月的一些細節。 據料將，即使是負責開發聊天機器人的公司高管也對該工具的潛力感到矛盾。

巴德的高級產品經理Dominik Rabiej在7月份的Discord論壇中寫道，“我的經驗法則是不相信大型語言模型（LLM）輸出的結果，除非我能獨立驗證它。 我很想把模型提高到這一水準，但現在還沒有達到。 ”

Rabiej建議將人們對Bard的使用限制在「創造性/頭腦風暴應用」。。 Rabiej還稱，使用Bard編碼也是一個不錯的選擇，“因為你不可避免地要驗證代碼是否有效”。

巴德用戶體驗主管Cathy Pearl今年8月在論壇上寫道，「我仍在考慮的最大挑戰是：LLM真正有用的地方是什麼？ 就像真的有所作為一樣還有待確定。 ”

都押給了「巴德」

對谷歌來說，確保其巴德的成功至關重要。 一直以來，谷歌在搜尋引擎領域遙遙領先，這也是其財務命脈，占母公司Alphabet收入的80%左右。

但隨著生成式AI的出現，谷歌在搜索領域的主導地位受到了挑戰，一些人預測，OpenAI和其他初創公司推出的新工具可能會顛覆谷歌在市場上的強大地位。

今年3月，谷歌推出了與ChatGPT相抗衡的AI聊天機器人“巴德”。 自那以後，谷歌為該產品添加了一系列穩定的新功能，包括讓這款AI工具分析照片，並對數十種語言的查詢生成回應。

上個月，谷歌還發佈了迄今為止最雄心勃勃的更新：推出了“巴德”的擴展程式Bard Extensions，將Bard與Gmail、Map、Docs和YouTube等最受歡迎的服務連接起來。

但隨著谷歌進一步將Bard整合到其核心產品中，該公司也收到了有關該工具會產生虛構事實並提供潛在危險建議的投訴。

在該公司上月為巴德推出應用擴展的同一天，它還宣佈了一個“Google It”按鈕，以幫助人們一鍵核查該工具生成的回答是否與搜尋引擎給出的結果相符。

負面評論鋪天蓋地

在巴德論壇上，有內部用戶質疑谷歌為什麼要使用薪資低、工作量大的合同工來完善“巴德”的回答。

儘管該公司公開表示，它不僅是依靠這些工人來改進為巴德提供動力的AI模型，還有許多其他方法可以提高其準確性和品質，但巴德的產品管理總監Tris Warkentin回應道，人工輸入對訓練巴德的演算法很重要。

Warkentin寫道，“人性化是至關重要的，這樣巴德才能成為每個人的產品... 我們不需要『象牙塔』產品，我們需要的是適合所有人的產品。 ”

7月中旬，一位使用者提到了「光輪計劃」 （Project Nimbus） ，這是谷歌和亞馬遜公司簽訂的一份價值 12 億美元的合同，為以色列軍方提供 AI 工具。 這名用戶質疑使AI成為致命武器，隨後他被禁止加入該論壇，理由是用戶必須在聊天中避免“政治、宗教或其他敏感話題”。

還有使用者還就維護LLM所需的巨大成本的後果提出了疑問。 Discord論壇上一位內部人士稱，「在降低LLM驚人的資源成本方面，有沒有採取任何措施？ 特別是用水量、以及對GPU的巨大需求等。 ”

巴德用戶體驗主管Cathy Pearl回應道，“我相信，我們將繼續找到用更少資源獲得同樣行為的方法。 ”

此外，巴德公司的用戶體驗設計師James在Discord社區表示，“從我對新一代AI可能產生的影響的普遍負面看法來看，我認為教育是這項技術最有趣、最可能'做得好的領域'之一。 ”

他認為，高等和高等教育機構可能會利用這項技術「幫助學生創造更豐富的體驗，因為它幾乎可以全天候獲得不同科目的支援。 ”