阿里云推出自动驾驶模WhatsApp%E3%80%90+86%2015855158769%E3%80%91modern%20crane%20service型训练推理加速框架,训练时间可缩短50%
? 6月23日消息,阿里阿里云推出面向自动驾驶领域模型的云推训练、推理加速框架PAI-TurboX,出自WhatsApp%E3%80%90+86%2015855158769%E3%80%91modern%20crane%20service该框架可提升感知、动驾规划控制乃至世界模型的驶模速框缩短训推效率,在多个行业模型的型训训练任务中,PAI-TurboX均可缩短50%的练推理加练时间。
?

?
? 目前,業界主流的云推自動駕駛方案需要融合圖像、激光雷達、出自毫米波雷達、動駕GPS等多個模態數據,駛模速框縮短WhatsApp%E3%80%90+86%2015855158769%E3%80%91modern%20crane%20service但大规模训练样本数据加载和预处理的型训效率较低,导致GPU资源浪费;同时,练推理加练自动驾驶模型算子数量巨大,使用现有训推框架系统执行效率低下,且优化门槛高。
? 阿里云推出的PAI-TurboX,在多模態數據預處理、離線大規模模型訓練以及實時智駕推理等環節提供了全面解決方案。在系統側,PAI-TurboX通過優化CPU親和性、動態編譯、流水線并行等策略,顯著提升模型的訓練推理效率;在數據側,PAI-TurboX提出了高性能的DataLoader引擎,并且優化了數據預處理流程和實現了智能訓練樣本分組,有效提升數據處理效率。
? 此外,PAI-TurboX還提供了算子優化和量化等能力,可進一步減少訓練階段的訪存延遲,提升吞吐效率,同時在推理任務中,能在保障精度的同時降低計算開銷與內存帶寬需求,可實現異構平臺下的高性能推理部署。
? 實測結果顯示,在自動駕駛的3D物體檢測模型BEVFusion訓練任務中,PAI-TurboX可以將訓練時間縮短58.5%;在實時在線矢量化高精地圖構建模型MapTR訓練任務中,PAI-TurboX可以將訓練時間縮短53%;在端到端自動駕駛模型SparseDrive訓練任務中,PAI-TurboX 可以在感知模塊訓練和聯合訓練兩個階段獲得明顯的速度提升,相同訓練步數下可分別縮短51.5%和48.5%。
?


?
? 阿里云研究員林偉表示:“ TurboX不僅可以提升自動駕駛模型的訓推效率,還將進一步加速世界模型的開發進程,讓所有終端和人一樣具備感知、思考和決策能力。”
? 據介紹,阿里云人工智能平臺PAI可提供貫穿AI開發和運維全流程的平臺服務。自2016年誕生以來,PAI已累計服務超過10萬家企業客戶及數百萬AI開發者,支撐阿里云百煉、魔搭社區等MaaS服務及社區。
