馬斯克版ChatGPT背后開發(fā)工具上線！xAI產(chǎn)品兩連發(fā)，網(wǎng)友：交付速度太瘋狂
馬斯克版ChatGPT才剛吸引一波眼球，xAI第二款大模型產(chǎn)品就突然登場(chǎng)了！
就在剛剛，馬斯克旗下xAI官宣：推出PromptIDE。
一個(gè)用于提示工程和可解釋性研究的集成開發(fā)環(huán)境。
xAI表示，他們打造PromptIDE的最初目的，是加速其聊天AI機(jī)器人Grok的開發(fā)——
根據(jù)官方透露的信息，剛剛開啟內(nèi)測(cè)的Grok是xAI創(chuàng)始團(tuán)隊(duì)11人爆肝2個(gè)月打造的。
而PromptIDE緊跟著Grok推出，如此快速的產(chǎn)品發(fā)布節(jié)奏，也讓網(wǎng)友們不由驚呼：
xAI團(tuán)隊(duì)的交付速度太瘋狂了！
那么，PromptIDE具體有什么用？一起來看。
什么是PromptIDE
PromptIDE的主要功能包括：
- 用于提示工程的集成開發(fā)環(huán)境
- Python代碼編輯器和用于高級(jí)提示技術(shù)的SDK
- 可視化分析功能
先來看其核心組成部分，即Python代碼編輯器+SDK。
官方提到，基于SDK，用戶可以在PromptIDE里“優(yōu)雅地”實(shí)現(xiàn)復(fù)雜的提示技術(shù)。
比如，使用prompt()函數(shù)手動(dòng)將token添加到上下文中，或者使用sample()函數(shù)根據(jù)上下文生成token。
Python代碼解釋器是在單獨(dú)的Web Worker里運(yùn)行的。多個(gè)Web Worker可以同時(shí)跑，也就是說，開發(fā)者可以并行執(zhí)行多個(gè)提示。
另外，復(fù)雜提示技術(shù)還可以通過在同一個(gè)程序內(nèi)使用多個(gè)上下文來實(shí)現(xiàn)。這套操作主要是通過@prompt_fn裝飾器來完成。
這樣做的好處是，能夠設(shè)計(jì)一些更具挑戰(zhàn)性對(duì)話實(shí)驗(yàn)，讓聊天AI能理解和回答更加復(fù)雜的問題。
再來重點(diǎn)關(guān)注一下PromptIDE的可視化分析功能。
在執(zhí)行提示時(shí)，用戶可以在這個(gè)IDE中看到詳細(xì)的token分析，也就是能更清楚地get模型到底在輸出些什么。
從上圖中可以看到，窗口會(huì)顯示上下文的精確分詞（tokenization）和每個(gè)token的數(shù)字標(biāo)識(shí)符。
單擊token，還可以看到這個(gè)token更為詳細(xì)的分析信息。
其他方面，在PromptIDE中使用user_input()函數(shù)，界面中會(huì)彈出一個(gè)文本框，讓用戶能夠?qū)崿F(xiàn)交互式提示。
這使得快速搭建一個(gè)聊天機(jī)器人成為可能，只需要四行代碼：
await prompt(PREAMBLE)
while text := await user_input("Write a message"):
await prompt(f"<|separator|>\n\nHuman: {text}<|separator|>\n\nAssistant:")
await sample(max_len=1024, stop_tokens=["<|separator|>"], return_attentinotallow=True)另外，PromptIDE還支持上傳文件（每個(gè)文件最多5MiB，總大小不超過50MiB）。
更多細(xì)節(jié)，可以參考xAI官方博文。
簡(jiǎn)單總結(jié)起來，正如馬斯克自己所說，PromptIDE是“幫助開發(fā)人員改進(jìn)和理解大模型的工具”。
目前，已經(jīng)嘗鮮Grok的盆友，也可以獲得PromptIDE的體驗(yàn)資格。
這里再放一下Grok的體驗(yàn)渠道：
- 有藍(lán)勾認(rèn)證的賬號(hào)，可以到xAI官網(wǎng)排隊(duì)；
- 訂閱16美元/月的?? Premium+服務(wù)，內(nèi)測(cè)結(jié)束后會(huì)開放使用。
參考鏈接：
[1]官方博文：https://x.ai/prompt-ide/。
[2]https://twitter.com/xai/status/1721568361883279850。
