機(jī)器之心報(bào)道

編輯：小洲

(資料圖片)

事到如今，OpenAI 的 ChatGPT 在 AI 社區(qū)的統(tǒng)治地位已經(jīng)無需多言。特別是 OpenAI 開放 ChatGPT 的 API 之后，在開發(fā)者社區(qū)掌握了極大的話語權(quán)。

反觀谷歌那邊，在第一波發(fā)布 Bard 失利之后，一直處于沉默狀態(tài)。

但在今日，谷歌組織了第二波反擊：開放自家的大語言模型 API 「PaLM API」，此外今天谷歌還發(fā)布了一款幫助開發(fā)者快速構(gòu)建 AI 程序的工具 MakerSuite。谷歌表示，此舉是為了幫助開發(fā)者們快速構(gòu)建生成式 AI 應(yīng)用。

但略為遺憾的是，谷歌目前是向選定的開發(fā)人員提供這些工具，而非全面開放。

基于 PaLM 模型的 API

毫無疑問，PaLM API 是今天谷歌發(fā)布的公告的核心。

谷歌介紹稱，PaLM API 是 Google 大型語言模型的入口，可用于各種應(yīng)用程序。它將為開發(fā)者提供面向?qū)喗换ザ鴥?yōu)化的模型，如內(nèi)容生成與對(duì)話。它也能為開發(fā)者提供摘要、分類等多種任務(wù)的通用模型。

從名字可以開出，此次開放的大語言模型 API 是基于谷歌去年發(fā)布的 PaLM。這是谷歌基于 Pathways 系統(tǒng)訓(xùn)練的一個(gè) 5400 億參數(shù)的大型語言模型。

為了訓(xùn)練這個(gè)模型，谷歌動(dòng)用了 6144 塊 TPU，讓 Pathways 在兩個(gè) Cloud TPU v4 Pods 上訓(xùn)練 PaLM。

強(qiáng)大的系統(tǒng)和算力投入帶來了驚艷的結(jié)果。谷歌在數(shù)百個(gè)語言理解和生成任務(wù)上評(píng)估了 PaLM，發(fā)現(xiàn)它在大多數(shù)任務(wù)上實(shí)現(xiàn)了 SOTA 少樣本學(xué)習(xí)性能，可以出色地完成笑話解讀、bug 修復(fù)、從表情符號(hào)中猜電影等語言、代碼任務(wù)。

隨著規(guī)模的增加，模型在處理多個(gè)任務(wù)時(shí)的性能逐漸提高，而且還在不斷解鎖新的能力

關(guān)于 PaLM，讀者們可以查看論文《PaLM: Scaling Language Modeling with Pathways》。

此外，谷歌公告稱，后續(xù)會(huì)開放更多規(guī)模與功能不同的模型。PaLM 是谷歌選擇的第一個(gè)版本，所以后續(xù)我們也可以期待下 LaMDA API 等。

MakerSuite 工具

在過去的幾年里，谷歌一直在構(gòu)建和部署大型語言模型 —— 從將 MUM 引入搜索到在 AI Test Kitchen 中使用 LaMDA 構(gòu)建 APP。谷歌表示，開發(fā)人員必須使用不同的工具來完成任務(wù)，例如制作和迭代 prompt、生成合成數(shù)據(jù)以及精調(diào)自定義模型。

MakerSuite 是一種簡(jiǎn)化此工作流程的工具，讓用戶將能夠根據(jù) prompt 進(jìn)行迭代，使用合成數(shù)據(jù)擴(kuò)充數(shù)據(jù)集，并輕松調(diào)整自定義模型。當(dāng)你準(zhǔn)備好編程時(shí)，MakerSuite 允許將 prompt 導(dǎo)出為你最喜歡的語言和框架（如 Python 和 Node.js）的代碼。

谷歌表示，借助 MakerSuite，你能夠直接在瀏覽器中快速測(cè)試和迭代調(diào)整后的模型。

最后補(bǔ)充一句我們觀察到的結(jié)果：谷歌今日的兩篇博客發(fā)布后，似乎已經(jīng)引起了一些人的不滿：并非全面開放、也沒有定價(jià)。也許，可以說相比之前 ChatGPT API 的開放，谷歌這一波反擊，也略顯失敗。

關(guān)鍵詞：