基於多模態交通數據理解的生成式預訓練交通大模型 (ARD/309)

自2016年起，應科院智慧出行技術（SMT）團隊一直致力於香港智能出行計劃的研究和發展。傳統上，智能移動解決方案依賴基於規則的方法或端到端特定任務的神經網絡來進行交通數據處理。這種方法固有的無窮無盡的長尾問題阻礙了路邊和車載感知和決策技術的商業部署。受近期大型預訓練人工智能模型發展的啟發，我們將開發具有多模式交通數據的大型預訓練模型，作為下一代智能移動解決方案的基礎。 在這個項目中，應科院SMT團隊將解決實現大流量模型預訓練的四個基本因素： - 大規模多模態交通數據集構建及數據影響力驗證。 - 可擴展的模型設計，可用於多模式交通數據輸入的數百萬至數十億個參數。 - 大型模型預訓練的自監督學習任務設計。 - 漸進式可行性計劃，基礎設施支持有限。 預訓練的大交通模型可以使眾多下游智能出行任務受益，例如異常檢測、駕駛員行為分析、數據驅動的交通模擬等。通過將通用知識編碼到大型基礎模型中，下游特定於任務的模型將有可能能夠處理罕見和未見過的情況，並降低道路事故或擁堵的風險。該項目所支持的技術是香港智能出行路線圖的關鍵。