(香港文匯報記者 郭瀚林 北京報道)16日,中國信息通信研究院(以下簡稱「中國信通院」)等機構聯合舉辦的「高質量詞元(Token)服務研討會」在京召開。來自政府機構、互聯網企業、電信運營商、算力廠商、雲廠商的近200位專家和業內人士參會。會議集中發布了Token服務多項重磅成果,涵蓋平台建設、案例徵集、趨勢分析、標準和報告解讀等方面,系統展現了中國信通院聯合業界各方在推動Token服務高質量發展方面的最新進展。各項成果精準對接行業發展需求,為Token服務技術演進、產品升級與規模應用提供助力。
「Token的價值不取決於產生了多少,而取決於流向哪裏、解決什麼問題、形成什麼判斷、創造什麼結果。」中國信通院副總工程師許志遠致辭指出,當前大模型應用正在從「示範場景」走向「產業現場」。高質量Token服務向上連接模型訓練與推理優化,向下賦能千行百業應用落地,對釋放人工智能應用價值具有重要意義。他指出,低質量Token只是算力的噪聲,而高質量Token才是智能的信用。推動高質量Token服務發展,需要完善能力評價體系、加強性能監測、健全安全保障、提升運營效能,真正釋放Token服務的技術價值、產業價值和經濟價值。中國信通院始終堅持技術創新、標準引領、生態協同等方向,圍繞Token服務發展的新趨勢、新需求和新挑戰開展系列工作,助力行業打造開放協同、務實創新的高質量Token服務產業生態。
會上,中國信通院人工智能研究所正式發布「大模型Token服務性能監測平台(石景山)」。該平台實時對國內外30多個平台上百餘款大模型Token服務的調用成功率、輸出速度(TPS)、首詞時延(TTFT)等幾十項核心指標,開展每日多時、多地持續性監測,可為行業應用提供選型指引、為詞元(Token)服務商能力提升提供標尺、為政府機構提供平台部署及詞元(Token)監測服務。

評論(0)
0 / 255