忘記密碼
2022年北京冬奧會不久前落下帷幕,精彩的比賽、開幕式和閉幕式的“中國式浪漫”讓人記憶猶新。這場盛事不僅見證了運動員的高光時刻,也借助以AI為代表的全方位科技力量,讓時間、空間、語言、文化差異不再成為阻隔,實現了冬奧會“一起向未來”的愿景,成就了新冠疫情背景下一場前所未有的全球體育盛會。
正如科技部部長王志剛在總結“科技冬奧”所帶來的延展、滲透和長期的效果時所言,這些科技成果,包括在基礎研究方面、技術創新方面、應用驅動方面的一些成果,都會長期存在。
【智能感知與虛實融合:捕捉冰壺運動軌跡】
困難點:超大空間內精準捕捉小物體軌跡
創新點:視覺AI感知+深度學習+三維建模+空間定位
在科技部第三批科技冬奧專項支持下,科技公司和高校攜手推進“冰壺賽況的智能感知與虛實融合技術和平臺研究”課題項目,為北京冬奧會冰壺比賽打造“冰壺運動軌跡捕捉”技術,實時還原冰壺運動軌跡,幫助運動員了解冰壺分布情況,使線上線下觀眾更全面地了解冰壺運動的精髓。
“冰壺運動軌跡捕捉技術”應用于北京冬奧會冰壺比賽
“冰立方”是冬奧會歷史上體量最大的冰壺場館,冰壺比賽的每條賽道長40多米,各有兩支隊伍共8名運動員,技術團隊需要在人多、遮擋物多的情況下,捕捉到每一個小冰壺。
基于中國原創的SenseMARS火星混合現實平臺,通過視覺AI感知、深度學習、三維建模和空間定位等技術,團隊克服了在超大空間環境下基于遠視距對較小物體運動軌跡精準捕捉的難題,并通過對真實場景的數字化映射,實現對運動冰壺的檢測跟蹤和軌跡捕捉。
同時,團隊設計的系統精準還原冰壺軌跡,結合實時渲染、虛實同步技術,將當前比賽對戰信息、大本營虛擬畫面,以及運動中的冰壺軌跡曲線等畫面轉化為視頻流,同步輸出到“冰立方”現場170㎡大屏和“咪咕視頻”APP。
【3D+AI:讓谷愛凌再飛一會兒】
困難點:高速連續的實時動作捕捉
創新點:三維建模+時空定格技術
當首鋼大跳臺上空飛出奧運健兒們的爭金奪銀的矯健身影,現場觀眾歡呼的同時,收看央視轉播的觀眾也有如同身臨其境一樣的體驗。
這是因為這些高速連續型的比賽在轉播中都使用了“3D+AI”技術,通過模型將運動員們的滑行速度、騰空高度、落地遠度、旋轉角度等一系列運動數據與原始畫面疊加起來,并把時序的連續動作定格到3D空間,形成如《黑客帝國》中經典的“子彈時間”一樣的360°效果,讓觀眾可全方位看到選手的每一個動作細節。再加上專業解說的技術分析,讓原本對滑雪運動陌生的觀眾,也能基本了解不同動作的難度系數,以及裁判的評分標準。
“時空定格”將連續動作定格到3D空間
這項虛擬現實(VR)技術對首鋼大跳臺進行了三維重建,并切換日景、夜景、水景等不同的視覺效果,讓轉播觀眾們可以從多個景別自由觀賞大跳臺,擁有比現場觀眾更豐富的場景體驗。
【牽手冰墩墩實現奧運村遛彎自由】
困難點:動態復雜場景下的精準定位跟蹤
創新點:GPS與視覺融合的數據關聯和參數分塊優化+云端結合架構
運動員們共同生活的張家口冬奧村足有30萬平米,除了已經蜚聲國際的食堂外,還有很多人性化的設施。如何讓91支參賽隊伍準確尋找目的地,就是冬奧村專屬導航的目標。
借助“基于3D的實時精準定位技術、虛擬與現實結合的3D高精度識別的智慧AR導航系統研究”課題,SenseMARS火星混合現實平臺解決了動態復雜場景下實現精準定位跟蹤等難題,短時間內實現了大尺度場景下厘米級的三維地圖構建和部署,為張家口冬奧村打造創新的智慧AR導航應用。而且,通過AR導航虛實融合的數字世界,還可以和2022開年頂流共行,實現虛擬冰墩墩自由。
使用智慧AR導航,跟隨冰墩墩玩轉張家口冬奧村
這里的AR智慧導航主要面臨兩個技術挑戰:一是研發時間緊,要在極短時間內完成超過30萬平方米的大尺度場景高精度三維地圖構建,對數據采集和算法效率都提出了很高要求;二是場景視覺變化復雜,冬奧村內建筑群風格統一,各個地方存在大面積相似紋理,且常有冰雪覆蓋道路、植被和建筑,基于圖像精準的識別自身位置存在很大挑戰。
通過GPS與視覺融合的數據關聯方法和參數分塊優化方法,技術人員研發了云端結合架構實現云端全局定位和終端局部跟蹤的協同。全局定位綜合利用視覺、藍牙、GPS等信號解決相似場景的問題,并針對冰雪場景,訓練了不同天氣條件下魯棒的圖像特征;移動終端借助云端地圖信息和自身傳感器在web低算力的條件下實現了穩定的跟蹤,實現實時、精準的6自由度空間定位。
SenseMARS火星混合現實平臺實現張家口冬奧村厘米級高精度三維地圖重建
【金牌背后的“勞模”AI】
困難點:適配不同項目、動作影像模糊、復雜背景因素干擾
創新點:神經網絡模型+光流跟蹤技術
在這個奧運周期里,科技也被運用到了運動員們的日常訓練之中,加碼各個項目的奪金機會。
早在東京奧運會備戰期間,研究團隊就為了更高效地提升運動員訓練水平,有針對性地建立起適用于競技體育和一般生物力學研究的計算機系統——無反光點人體運動自動捕捉人工智能系統。如今,這個系統被沿用到國家速度滑冰和越野滑雪項目的冬奧會備戰項目內容中。
智能“私教”冬奧會顯身手
該系統利用基于人工智能技術中的深度學習原理,建立神經網絡模型,實現對動作視頻中人體關節點的計算機自動識別。在這些數據的基礎上,系統對滑冰與滑雪運動員的動作捕捉與技術分析,既能精準到具體細節,又能快速反饋分析結果。通過在常用的運動人體跟蹤算法中結合了光流跟蹤技術,有效規避快速運動造成的影像模糊,減少復雜背景等因素干擾,根據動作量的多少、動作幅度的大小來準確鎖定主ID(身份人物)。
在此基礎上,研究人員采用基于計算機視覺算法對滑冰運動員的動作、姿態、速度等信息進行智能分析對比,從定性、定量再到定制化分析每個運動員的特點,實現科學訓練,有效提升運動員訓練效果和競賽成績。
【虛擬手語人助力“全民冬奧”】
困難點:讓聽障人士實時參與冬奧會
創新點:手語翻譯引擎+自然動作引擎的數字人模型
在央視的冬奧轉播畫面中,突然出現了一個陌生的主持人。這位靚麗的女主播其實是采用3D高精超寫實的數字人AI模型,不僅進行新聞播報,還能隨時隨地進行賽事的手語直播,讓聽障人士參與冬奧盛會成為可能。
AI 手語翻譯官聆語上線央視視頻
數字人主播主要運用了兩個類別的AI技術:手語翻譯引擎和自然動作引擎。首先,技術團隊運用語音識別和自然語言處理等技術,將文字、語音和音視頻內容結合翻譯成《國家通用手語詞典》中的標準手語,構建了AI主播的手語翻譯引擎,然后再通過自然動作引擎的優化來驅動AI虛擬主播的手語動作,使其更加標準、流暢,和無聲的世界共享冬奧激情。