央视《对话》| 曦望要做AI产业“损益优化师” | 心星 PORTFOLIO
把单位Token的价格打下来
“AI的下一场仗,不是比谁更聪明,而是比谁能更稳定、更便宜地交付智能。”
10月17日,央视财经CCTV-2《对话》走进杭州“新八骏”——曦望Sunrise 联席CEO王湛在节目中表示,当下客户最关心AI业务能否用得起、用得稳、跑得快。
“曦望要做AI产业的损益优化师,致力于降低单位Token成本。”
为什么把“All-in推理”写进公司战略
“在国产GPU公司中,我们是第一个吃螃蟹的。”
“2024年,我们发现客户使用启望S2的业务场景,绝大多数都落在推理侧。”王湛说,可以预见,AI推理的重要性会持续提升,推理算力的整体规模很快将超越训练。
“我们进一步看到,智能正在首次成为可按需采购的标准化商品,普通用户也有机会用上顶尖的AI能力。影响智能普惠最核心的因素将是,谁能更稳定、更便宜地生产出智能。”

为什么要做AI产业损益优化师
“Token费用和水费、电费一样,会列在每个人、每家企业的账单上。”
“从当下到未来十年,我们将正式进入人机共生时代,平均一个人有2~3个Agent来提供服务。”王湛判断,未来Agent数量有望超过人类,Token需求的增长才刚刚开始,人类不再是消耗Token的主力。
大家要开始为Token算账,主动寻找更好的性价比。但算力缺口正在越来越大。Token需求量指数级攀升,算力供给线性增长。王湛判断,未来5年内算力缺口都很难缓解。
“所以我们曦望要做一家专注推理算力的国产GPU公司,解决AI普惠的最后一公里难题。”

什么样的算力底座才算够格
“对用户来说就三个词:用得起、用得稳、跑得快。”
这是曦望技术创新的出发点。
“今年1月推出的S3和主流GPU不同,只做推理,不追求训推一体。”王湛介绍,第一,精简训练模块,将节省的晶体管和功耗预算更多用于提升推理效率。第二,换内存。率先采用LPDDR6方案,舍弃传统HBM方案。第三,重写互联架构,同时原生支持FP4低精度,进一步提升推理效率。“据我们测算,相比上一代S2,启望S3推理性能提升约5倍,单位Token推理成本下降约90%。”
“为什么超节点今天很重要?现在大模型已经来到万亿参数级别,未来还会做得更大。”曦望的256卡超节点,依托高速互联架构,让256张卡实现一级互联,像一台超大GPU协同工作。“这是一台推理巨兽。”王湛说。

“只有把单位Token的成本打下来,大量智能应用才会在千行百业中真正跑起来,实现智能普惠。”这就是曦望希望带来的改变。


心资本成立于2022年,是一家专注于投资中国早期科技创业企业的风险投资基金。
心资本的团队主要由光速中国的创始合伙人、核心投资人以及来自产业的资深投资人组成。团队过往投资案例包括沐曦股份(688802.SH)、小鹏汽车(NYSE:XPEV,09868.HK)、满帮集团(NYSE:YMM)、商米科技(06810.HK)、速腾聚创(02498.HK)、Ambiq Micro(NYSE: AMBQ)、汉朔科技(301275.SZ)、信也科技(NYSE:FINV)、奇梦岛集团(NASDAQ:HERE),以及蓝箭航天、微纳星空、百川智能、运满满冷运、环世物流、樊登读书、蓝湖等。
心资本扎根中国,放眼全球,致力于早期陪伴和支持有潜力成为中国科技领域未来世界级公司的创业团队。心资本倡导“心”的价值,相信科技可以成为链接心灵的桥梁。心资本期待陪伴更多中国年轻企业家走向世界。
