ICC訊 據獲悉,騰訊云TI-ONE平臺在數據接入、模型訓練、模型服務等階段為企業提供全鏈路的技術優化方案,并在模型訓練、推理階段提供TI-ACC加速工具,幫助客戶節省50%硬件成本。
隨著數字化轉型進程不斷加速,人工智能技術的發展更加關注與行業應用、社會需求的深度融合。其中,技術服務商如何提供“開箱即用”的AI能力,讓企業更好聚焦業務本身,提高 AI應用的開發效率,成為行業關注的主要問題。
今年9月,騰訊一站式AI開發服務平臺TI平臺全面升級,并推出TI-ACC加速工具、TI-OCR訓練平臺、TI-ONE訓練平臺、工業質檢訓練平臺、智能視頻分析平臺、媒體內容中臺/媒體AI中心等服務板塊。其中,TI-ACC的推理加速性能較原生框架提升100%以上,可用于大模型加速等場景。
目前,依托于數據訓練模型、深度學習網絡的分布式大規模機器訓練,成為企業提升業務效能的主要途徑。然而,數據量龐大、訓練推理環境搭建復雜、訓練周期長、推理時延高等問題,中小企業的人力成本和硬件成本不斷攀升。
以AI商品識別服務商掌控科技為例。隨著業務規模不斷擴大,高精度模型所需的GPU資源成本不斷提高。在騰訊云TI-ONE的助力下,客戶將由TI-ACC加速優化后的模型部署在生產環境,推理性能提升100%,硬件成本降低50%。
TI-ACC在推理階段所呈現的高性能,得益于底層的TNN基礎框架。據了解,TNN是騰訊優圖實驗室向行業開源的部署框架,TI-ACC在TNN接口基礎上進行產品化封裝,提供一鍵式推理加速功能。
此外,TI-ACC支持各類主流模型格式接入,無需轉換。另覆蓋CV、NLP、推薦等場景,功能豐富,能夠滿足客戶的多樣化需求。
使用層面,客戶只需將保存的模型包上傳到模型倉庫,將優化后的模型在TI-ONE平臺發布服務并通過API條用,即可享受到TI-ACC推理加速帶來的高性能體驗。
作為前沿技術的探索,騰訊一直通過向各行業提供 AI 技術助力,推動人工智能技術高水平應用,目前已在金融、媒體、政務、工業和醫療等多個行業受到客戶認可。未來,騰訊也將持續深入行業,更好發揮AI技術的長期價值,助力實體經濟高質量發展。