近年來，大模型的研究正在加速推進(jìn)，它逐漸在各類任務(wù)上展現(xiàn)出多模態(tài)的理解和時(shí)間空間上的推理能力。機(jī)器人的各類具身操作任務(wù)天然就對(duì)語言指令理解、場(chǎng)景感知和時(shí)空規(guī)劃等能力有著很高的要求，這自然引申出一個(gè)問題：能不能充分利用大模型能力，將其遷移到機(jī)器人領(lǐng)域，直接規(guī)劃底層動(dòng)作序列呢？

對(duì)此，ByteDance Research 基于開源的多模態(tài)語言視覺大模型 OpenFlamingo 開發(fā)了開源、易用的 RoboFlamingo 機(jī)器人操作模型，只用單機(jī)就可以訓(xùn)練。使用簡單、少量的微調(diào)就可以把 VLM 變成 Robotics VLM，從而適用于語言交互的機(jī)器人操作任務(wù)。

OpenFlamingo 在機(jī)器人操作數(shù)據(jù)集 CALVIN 上進(jìn)行了驗(yàn)證，實(shí)驗(yàn)結(jié)果表明，RoboFlamingo 只利用了 1% 的帶語言標(biāo)注的數(shù)據(jù)即在一系列機(jī)器人操作任務(wù)上取得了 SOTA 的性能。隨著 RT-X 數(shù)據(jù)集開放，采用開源數(shù)據(jù)預(yù)訓(xùn)練 RoboFlamingo 并 finetune 到不同機(jī)器人平臺(tái)，將有希望成為一個(gè)簡單有效的機(jī)器人大模型 pipeline。論文還測(cè)試了各種不同 policy head、不同訓(xùn)練范式和不同 Flamingo 結(jié)構(gòu)的 VLM 在 Robotics 任務(wù)上微調(diào)的表現(xiàn)，得到了一些有意思的結(jié)論。

• 項(xiàng)目主頁：https://roboflamingo.github.io
• 代碼地址：https://github.com/RoboFlamingo/RoboFlamingo
• 論文地址：https://arxiv.org/abs/2311.01378

研究背景

基于語言的機(jī)器人操作是具身智能領(lǐng)域的一個(gè)重要應(yīng)用，它涉及到多模態(tài)數(shù)據(jù)的理解和處理，包括視覺、語言和控制等。近年來，視覺語言基礎(chǔ)模型（VLMs）已經(jīng)在多個(gè)領(lǐng)域取得了顯著的進(jìn)展，包括圖像描述、視覺問答和圖像生成等。然而，將這些模型應(yīng)用于機(jī)器人操作仍然存在一些挑戰(zhàn)，例如如何將視覺和語言信息結(jié)合起來，如何處理機(jī)器人操作的時(shí)序性等。

為了解決這些問題，ByteDance Research 的機(jī)器人研究團(tuán)隊(duì)利用現(xiàn)有的開源 VLM，OpenFlamingo，設(shè)計(jì)了一套新的視覺語言操作框架，RoboFlamingo。其中 VLM 可以進(jìn)行單步視覺語言理解，而額外的 policy head 模組被用來處理歷史信息。只需要簡單的微調(diào)方法就能讓 RoboFlamingo 適應(yīng)于基于語言的機(jī)器人操作任務(wù)。

RoboFlamingo 在基于語言的機(jī)器人操作數(shù)據(jù)集 CALVIN 上進(jìn)行了驗(yàn)證，實(shí)驗(yàn)結(jié)果表明，RoboFlamingo 只利用了 1% 的帶語言標(biāo)注的數(shù)據(jù)即在一系列機(jī)器人操作任務(wù)上取得了 SOTA 的性能（多任務(wù)學(xué)習(xí)的 task sequence 成功率為 66%，平均任務(wù)完成數(shù)量為 4.09，基線方法為 38%，平均任務(wù)完成數(shù)量為 3.06；zero-shot 任務(wù)的成功率為 24%，平均任務(wù)完成數(shù)量為 2.48，基線方法為 1%，平均任務(wù)完成數(shù)量是 0.67），并且能夠通過開環(huán)控制實(shí)現(xiàn)實(shí)時(shí)響應(yīng)，可以靈活部署在較低性能的平臺(tái)上。這些結(jié)果表明，RoboFlamingo 是一種有效的機(jī)器人操作方法，可以為未來的機(jī)器人應(yīng)用提供有用的參考。

方法

本工作利用已有的基于圖像 - 文本對(duì)的視覺語言基礎(chǔ)模型，通過訓(xùn)練端到端的方式生成機(jī)器人每一步的 relative action。模型的主要模塊包含了 vision encoder，feature fusion decoder 和 policy head 三個(gè)模塊。Vision encoder 模塊先將當(dāng)前視覺觀測(cè)輸入到 ViT 中，并通過 resampler 對(duì) ViT 輸出的 token 進(jìn)行 down sample。Feature fusion decoder 將 text token 作為輸入，并在每個(gè) layer 中先將 vision encoder 的 output 作為 query 進(jìn)行 cross attention，之后進(jìn)行 self attention 以完成視覺與語言特征的融合。最后，對(duì) feature fusion decoder 進(jìn)行 max pooling 后將其送入 policy head 中，policy head 根據(jù) feature fusion decoder 輸出的當(dāng)前和歷史 token 序列直接輸出當(dāng)前的 7 DoF relative action，包括了 6-dim 的機(jī)械臂末端位姿和 1-dim 的 gripper open/close。

在訓(xùn)練過程中，RoboFlamingo 利用預(yù)訓(xùn)練的 ViT、LLM 和 Cross Attention 參數(shù)，并只微調(diào) resampler、cross attention 和 policy head 的參數(shù)。

實(shí)驗(yàn)結(jié)果

數(shù)據(jù)集：

CALVIN（Composing Actions from Language and Vision）是一個(gè)開源的模擬基準(zhǔn)測(cè)試，用于學(xué)習(xí)基于語言的 long-horizon 操作任務(wù)。與現(xiàn)有的視覺 - 語言任務(wù)數(shù)據(jù)集相比，CALVIN 的任務(wù)在序列長度、動(dòng)作空間和語言上都更為復(fù)雜，并支持靈活地指定傳感器輸入。CALVIN 分為 ABCD 四個(gè) split，每個(gè) split 對(duì)應(yīng)了不同的 context 和 layout。

定量分析：

RoboFlamingo 在各設(shè)置和指標(biāo)上的性能均為最佳，說明了其具有很強(qiáng)的模仿能力、視覺泛化能力以及語言泛化能力。Full 和 Lang 表示模型是否使用未配對(duì)的視覺數(shù)據(jù)進(jìn)行訓(xùn)練（即沒有語言配對(duì)的視覺數(shù)據(jù)）；Freeze-emb 指的是凍結(jié)融合解碼器的嵌入層；Enriched 表示使用 GPT-4 增強(qiáng)的指令。

消融實(shí)驗(yàn)：

不同的 policy head：

實(shí)驗(yàn)考察了四種不同的策略頭部：MLP w/o hist、MLP w hist、GPT 和 LSTM。其中，MLP w/o hist 直接根據(jù)當(dāng)前觀測(cè)預(yù)測(cè)歷史，其性能最差，MLP w hist 將歷史觀測(cè)在 vision encoder 端進(jìn)行融合后預(yù)測(cè) action，性能有所提升；GPT 和 LSTM 在 policy head 處分別顯式、隱式地維護(hù)歷史信息，其表現(xiàn)最好，說明了通過 policy head 進(jìn)行歷史信息融合的有效性。

視覺-語言預(yù)訓(xùn)練的影響：

預(yù)訓(xùn)練對(duì)于 RoboFlamingo 的性能提升起到了關(guān)鍵作用。實(shí)驗(yàn)顯示，通過預(yù)先在大型視覺-語言數(shù)據(jù)集上進(jìn)行訓(xùn)練，RoboFlamingo 在機(jī)器人任務(wù)中表現(xiàn)得更好。

模型大小與性能：

雖然通常更大的模型會(huì)帶來更好的性能，但實(shí)驗(yàn)結(jié)果表明，即使是較小的模型，也能在某些任務(wù)上與大型模型媲美。

指令微調(diào)的影響：

指令微調(diào)是一個(gè)強(qiáng)大的技巧，實(shí)驗(yàn)結(jié)果表明，它可以進(jìn)一步提高模型的性能。

定性結(jié)果

相較于基線方法，RoboFlamingo 不但完整執(zhí)行了 5 個(gè)連續(xù)的子任務(wù)，且對(duì)于基線頁執(zhí)行成功的前兩個(gè)子任務(wù)，RoboFlamingo 所用的步數(shù)也明顯更少。

總結(jié)

本工作為語言交互的機(jī)器人操作策略提供了一個(gè)新穎的基于現(xiàn)有開源 VLMs 的框架，使用簡單微調(diào)就能實(shí)現(xiàn)出色的效果。RoboFlamingo 為機(jī)器人技術(shù)研究者提供了一個(gè)強(qiáng)大的開源框架，能夠更容易地發(fā)揮開源 VLMs 的潛能。工作中豐富的實(shí)驗(yàn)結(jié)果或許可以為機(jī)器人技術(shù)的實(shí)際應(yīng)用提供寶貴的經(jīng)驗(yàn)和數(shù)據(jù)，有助于未來的研究和技術(shù)發(fā)展。