2024年4月2日，越疆推出 X-Trainer AI 機器人操作平臺。越疆對外展示雙臂機器人協(xié)同刷盤(pán)子視頻，以及在4月22日對外展示機器人自主疊衣服視頻，本質(zhì)上都是神經(jīng)網(wǎng)絡(luò )端到端控制能力的技術(shù)體現。

在最新的疊衣服視頻中，越疆展示了AI 機器人操作平臺 X-Trainer的技術(shù)內核，即雙臂遙操作模仿學(xué)習系統。借助該技術(shù)，機器人能夠加快模仿學(xué)習基礎量累計，結合強化學(xué)習后能快速實(shí)現機械臂訓練后的自主運行。

本次越疆進(jìn)一步展示端到端能力并公開(kāi)背后技術(shù)，機器人大講堂獨家采訪(fǎng)到了越疆聯(lián)合創(chuàng )始人郎需林，他對我們披露了越疆這套軟硬件系統背后的技術(shù)運行邏輯和具體參數情況。

技術(shù)框架內核拆解

此類(lèi)機器人的控制框架其實(shí)可以簡(jiǎn)單分為大模型（上層）+神經(jīng)決策網(wǎng)絡(luò )NNP（中層）+全身控制WBC（下層）。如今，這種多層級架構配合大模型賦能價(jià)值初顯，正為機器人帶來(lái)強大的感知及運動(dòng)任務(wù)能力水平，讓機器人直接將看到的、聽(tīng)到的信息，實(shí)現多模態(tài)融合并轉化為語(yǔ)言和行為結果，中間不需要經(jīng)過(guò)其他程序處理。

在這套機器人動(dòng)作執行的控制框架中，想要機器人實(shí)現低時(shí)滯、高魯棒性、高軌跡靈活性，就需要進(jìn)行機器學(xué)習訓練持續優(yōu)化動(dòng)作，而模仿學(xué)習的訓練關(guān)鍵來(lái)源于數據，數據則來(lái)源于采集。這使得能夠收集雙臂運動(dòng)數據的低成本全身遙操作系統，正在得到越來(lái)越多科研和產(chǎn)業(yè)研發(fā)人員的認同以及使用。

成熟的遙操作軟硬件體系，一方面可以驗證現階段硬件能否端對端靈活完成各項軟件算法和任務(wù)規劃，另一方面可以更好收集端到端神經(jīng)網(wǎng)絡(luò )所需的訓練數據，從而讓未來(lái)的機器人能夠自行執行任務(wù)，為更多細分場(chǎng)景開(kāi)拓帶來(lái)了新的可能性。

剝香蕉

切黃瓜

水果擺盤(pán)

打雞蛋

煎雞蛋

在越疆發(fā)布的視頻中，機器人根據語(yǔ)言命令自主刷盤(pán)子、疊衣服，背后同樣采用了視覺(jué)大語(yǔ)言模型+模仿學(xué)習神經(jīng)網(wǎng)絡(luò )的上層架構，其中的數據來(lái)源，則是借助遙操作系統訓練而來(lái)。

人們看到的視頻背后，首先由人類(lèi)遠程控制機器人進(jìn)行動(dòng)作演示，使得機器人能夠根據動(dòng)作快速模仿學(xué)習，大幅降低訓練時(shí)間，最終由雙臂機器人作為驗證平臺進(jìn)行執行，提升整個(gè)端到端訓練的質(zhì)量，最終實(shí)現行為克隆。

動(dòng)作軌跡優(yōu)化秘訣

這種更強大的端對端響應能力，與X-Trainer 主從遙操作系統帶來(lái)的高質(zhì)量數據采集能力有較大關(guān)系。

一般而言，人工智能的強弱表現，與數據量和數據質(zhì)量正相關(guān)，而二者都依托于數據采集能力。能否在短時(shí)間內采集到更多的高質(zhì)量數據并快速訓練，是機器人實(shí)現高效動(dòng)作執行的基礎。

越疆聯(lián)合創(chuàng )始人郎需林透露，越疆采用了同構型主從手設計，能直接復現記錄人類(lèi)進(jìn)行任務(wù)時(shí)的關(guān)節運動(dòng)和軌跡，這使得X-Trainer 平臺模仿學(xué)習的數據采集，可通過(guò)熟練的示范操作中學(xué)習而來(lái)，大幅提升機器人的圖像采集質(zhì)量，從而使得關(guān)節映射的精度、準確度、抖動(dòng)、柔順性等表現都非常優(yōu)質(zhì)，應對一些干擾的能力強勁。

低時(shí)延是越疆 X-Trainer平臺的顯著(zhù)優(yōu)勢之一。根據郎需林介紹，這是由于X-Trainer 平臺采用25Hz 頻率接收頂部和手部的三個(gè)攝像頭圖像并完成推理，通過(guò)高性能的在線(xiàn)運動(dòng)規劃接口生成 250Hz 的雙臂運動(dòng)，圖像到關(guān)節驅動(dòng)響應非常高效。

根據公開(kāi)信息，Figure 01 接收機載圖像網(wǎng)絡(luò )頻率為 10Hz，即100毫秒一張圖片，而X-Trainer 端到端高性能運動(dòng)接口頻率是25Hz ，相當于40毫秒一張圖片，這意味著(zhù)運行響應速度本質(zhì)上提升了150% ，強大的即時(shí)響應能力帶來(lái)更顯著(zhù)的運行平穩性。

從越疆發(fā)布的幾個(gè)視頻來(lái)看，無(wú)論是盤(pán)子上不規則污漬的擦凈，還是應對衣服折疊的過(guò)程中出現的不規則褶皺，機器人都能快速調整，高動(dòng)態(tài)響應能力大幅提升了機器人的適應性。這背后源于越疆強大的模仿學(xué)習方式，更接近于人類(lèi)視覺(jué)網(wǎng)絡(luò )的即時(shí)性反應，執行路徑和方式是人腦驅動(dòng)人手的動(dòng)作機理，因此相較單獨的圖神經(jīng)網(wǎng)絡(luò )識別的質(zhì)量更高。

X-Trainer 之所以能夠做到高質(zhì)量的數據采集，據郎需林介紹，因為越疆在這套遙操作系統中，主手硬件上采取了高性能低摩擦的電機，并且在結構的輕質(zhì)和傳動(dòng)的摩擦力方面進(jìn)行了大量的迭代和優(yōu)化，從而帶來(lái)了優(yōu)質(zhì)的柔順性和摩擦阻力，使得操作更為輕便，用戶(hù)疲勞感更弱，操作動(dòng)作完成度也更高，大幅提升了機器人還原度，數據量和數據質(zhì)量。

這套遙操作的從手，則是采取了高精度的 Nova 雙臂，這個(gè)工業(yè)級的訓練平臺，讓數據采集與動(dòng)作的精度大幅提升，保證了任務(wù)的效率和質(zhì)量，從而提供了保證了模仿學(xué)習的軌跡復現，為訓練數據在各類(lèi)場(chǎng)景落地提供了保證，最后才呈現出視頻里機器人驚人的執行力效果。

高初值帶來(lái)強化學(xué)習新范式

據悉，X-Trainer 這種高性能模仿學(xué)習神經(jīng)網(wǎng)絡(luò )遷移實(shí)現到機器人平臺，完成端到端圖像到動(dòng)作映射的算法，目前也具有一定泛化能力。

由于基于真實(shí)物理環(huán)境數據采集，這種模仿學(xué)習為強化學(xué)習提供了一個(gè)優(yōu)質(zhì)的訓練初值。不同于傳統強化學(xué)習需要經(jīng)過(guò)長(cháng)時(shí)間訓練、糾偏、優(yōu)化，才能在隨機環(huán)境獲取較好初始值的方法，高性能模仿學(xué)習本質(zhì)上加速了強化學(xué)習初值的獲取速度。例如Figure 01此前神經(jīng)網(wǎng)絡(luò )的訓練時(shí)間為 10 小時(shí)，而X-Trainer 通過(guò)人類(lèi)示范模仿學(xué)習，僅需2小時(shí)訓練即可自主刷盤(pán)子，并對實(shí)時(shí)干擾快速糾正。

這就是越疆在模仿學(xué)習的基礎上，通過(guò)物理引擎仿真以及環(huán)境建模，更快實(shí)現了初始軌跡的空間結構位置信息獲取，再加上強化學(xué)習后，能夠疊加隨機物理真實(shí)信息紋理等參數，從而實(shí)現多層級任務(wù)的學(xué)習，強化了算法在不同場(chǎng)景的泛化能力。

目前，機器人端到端任務(wù)執行的算法框架已經(jīng)基本穩定，但機器人從0-50基礎數據集的獲取依然耗費了研究者大量的時(shí)間。

模仿學(xué)習是一個(gè)機器人數據基礎框架和基礎能力獲取的加速器，可以說(shuō)是機器人學(xué)習的基石。因為在此基礎上，軌跡數量更加豐富且精確，數據集獲取也更為容易，研發(fā)者能夠聚焦場(chǎng)景泛化能力，注重機器人從50~10000強化學(xué)習能力的訓練。

據悉，X-Trainer 系統包括兩只主手、兩只從手，每臺機械臂上有一個(gè)3D攝像頭和夾爪，頂部也有一個(gè)3D的攝像頭，越疆自研的高性能主從控制和雙臂協(xié)同框架，保證了高數據量傳輸，全棧式提升這套端到端框架的運行可靠性。

在具體場(chǎng)景上，這套系統除了有望助力科研院所相關(guān)算法科研驗證，快速將學(xué)術(shù)研究的成果與下游應用需求鏈接，還有望幫助工業(yè)場(chǎng)景企業(yè)，加快對于3C電子、電池組裝等線(xiàn)束扎帶、柔性插拔等工藝的學(xué)習訓練效率，推動(dòng)人形機器人的進(jìn)化，真正做到從實(shí)驗室走向實(shí)際場(chǎng)景應用。

結語(yǔ)與未來(lái)

國際上，斯坦福等高校已針對模仿學(xué)習和強化學(xué)習能力展開(kāi)了大量相應研究，國內包括越疆等企業(yè)也找到了正確路徑。X-Trainer 這套系統，非常有望幫助國內更多科研機構、應用企業(yè)，加入數據基石建設的進(jìn)程中，加速?lài)鴥热诵螜C器人在多場(chǎng)景任務(wù)落地的可行性。

“我們正處于時(shí)代的風(fēng)口浪尖，中國企業(yè)正嘗試克服種種困難去迎接這個(gè)時(shí)代的挑戰，越疆希望用自己的努力，助力更多的人參與到中國機器人和具身智能的發(fā)展浪潮中，共建這個(gè)充滿(mǎn)想象力的未來(lái)。”郎需林對未來(lái)充滿(mǎn)信心。