单志广:AI正从训练阶段全面迈入推理阶段,Token调用量指数级增长
在人工智能+生态大会(AIEC 2026)上,国家信息中心信息化和产业发展部主任单志广表示,人工智能正从训练阶段全面迈入推理阶段,Token调用量的指数级增长,是AI规模化应用最直接的量化标志。本届大会由清华大学全球产业研究院主办,中关村科学城管委会支持。
Token调用量:AI规模化应用的量化“标尺”
单志广所指的Token调用量,即AI模型在处理文本时切分的最小语义单元数量。在训练阶段,模型通过海量Token学习规律;而在推理阶段,每次用户交互均需调用大量Token,其调用量增速直接反映出AI应用的普及程度。
“人工智能正从训练阶段全面迈入推理阶段,Token调用量的指数级增长,是AI规模化应用最直接的量化标志。”
产业视角:从“训练算力”转向“推理算力”
单志广的发言从产业趋势角度指出,AI基础设施重心正从侧重训练算力向侧重推理算力转移。这一转变意味着AI技术已从实验室走向真实场景,各行业对实时、低成本推理能力的需求将成为下一阶段竞争焦点。
- 训练阶段:模型学习识别规律,调用Token是为了“理解”数据。
- 推理阶段:模型根据用户输入生成答案,每次交互均需实时计算大量Token。
- Token调用量指数级增长:表明AI应用的用户规模与使用频次正在爆发式扩大。
中国AI进入规模应用临界点:Token经济兴起,企业组织面临Humagent转型
在近期一场由国家信息中心、IDC、阿里云、腾讯等机构与企业参与的高级别研讨会上,多位专家围绕“人工智能+”从战略部署迈向产业实践的关键路径展开深入讨论。与会者普遍认为,全球人工智能产业正进入自互联网浪潮以来最强劲的IT增长超级周期,中国AI发展已从技术突破进入规模化落地前的临界点。
Token成为新型经济单元,AI评价标准转向实效
国家信息中心信息化和产业发展部主任单志广在主论坛上指出,Token不再只是大模型处理文本的技术单位,而是贯通电力、算力、模型服务和应用价值的新型经济单元。他认为,这一转变推动AI基础设施的评价标准从追求算力峰值,转向单位能效、成本效益与场景服务能力。
“凭借算力和能源基础设施、丰富的产业场景、活跃的开放生态等综合优势,伴随‘人工智能+’行动深化,中国有望率先实现AI从技术突破到规模化落地的跨越,构建全链条产业竞争优势。”——单志广
什么是Token? 在AI大模型领域,Token是模型处理文本的最小单位,可以理解为一个词或一个字符片段。模型通过计算Token数量来衡量工作负载与成本,Token调用量越高,意味着AI处理的任务越复杂。
IDC:2029年中国生成式AI市场将接近千亿美元
IDC 中国区总裁霍锦洁则从全球产业趋势角度指出,本轮增长由AI算力建设和应用落地同步驱动。一端是数据中心、GPU等基础设施持续扩张,支撑大规模推理需求;另一端是企业AI应用从试验走向生产,智能体开始跨系统调用数据、规则、API和工作流,推动企业软件从“人的操作界面”转向“智能体可调用的业务能力集合”。
IDC预计,到2029年,中国生成式AI市场规模将接近千亿美元,2024—2029年复合增长率达68%。这意味着中国将成为全球最活跃的AI应用市场之一。
组织变革:从管理Human到管理Humagent
浪潮信息董事长彭震在主题演讲中提出,AI产业革命不仅改变工具,更改变了“劳动者”的定义。随着智能体成为企业生产力的重要组成部分,企业面临的真正挑战不在技术,而在组织。
彭震提出Humagent(Human+Agent)组织概念,即企业需要将智能体正式纳入组织管理体系,推动管理对象从传统的人、财、物,扩展到人、数字员工、数据和智能能力。这要求企业重新定义岗位、角色、权限、责任边界和绩效评价,以最大限度释放AI的智力贡献,同时保障运营的稳健、高效与低成本。
算力服务加速向Token服务转型
在同期举办的“智算中心与Token服务”分论坛上,多家企业的技术负责人围绕Token服务的商业化实践、多元算力落地、智能体规模化应用等议题展开探讨。随着AI Agent爆发式增长,全球Token调用量持续攀升,算力服务正加速向Token服务转型。
- 九章云极AI首席科学家缪旭提出“自进化的Token工厂”概念,通过强化学习和模型蒸馏技术,可将Token成本降低70%以上。
- 积算科技首席架构工程师郑彬玙分享了构建企业级Token工厂的实践,通过自有算力资源池和统一API接口,帮助企业解决模型选型与部署难题。
- 并行科技MaaS业务技术总监梁奇元指出,当前Token市场存在API质量不稳定、定价不透明等问题,其平台通过算力直连、计费透明、智能路由实现统一管理,目前已接入近百款主流模型。
- 太初元碁技术总监夏忠谋表示,国产算力在推理场景已具备替代能力,基于申威异构众核架构,目前已能满足80%-90%的推理场景需求。
- 提尔科技技术经理刘迎森表示,能耗占Token生产成本的40%,其全浸没式液冷方案可将智算中心PUE降至1.08,实现单机柜120千瓦高密度部署,并通过余热回收实现“算力+热力”双收益。
