开云深耕kaiyun领域，用心服务每一位用户。
GPT-5.6 的发布在即，其推理速度达到了惊人的每秒 750 个 Token，据称该模型将在 Cerebras 的定制硬件上运行，可能跨越 100 张晶圆。
关于 GPT-5.6 的信息近日在 X（原 Twitter）上引发热议。OpenAI 于 6 月 26 日正式对外公布了 GPT-5.6 系列。在官方博客中，OpenAI 提到计划在本月于芯片制造商 Cerebras 的定制硬件上部署 GPT-5.6 Sol，并强调其推理速度可达每秒 750 个 Token。
这意味着过去需要数分钟才能完成的复杂 Agent 操作，现在将可在瞬间完成。OpenAI 在硬件与模型协同设计方面似乎已采取了突破性举措。此外，近期首次亮相的自研 AI 推理芯片 Jalapeño，也暗示了 OpenAI 意欲构建一个完整的 AI 生态系统的雄心。
750 Tokens/s 的速度优势
每秒 750 个 Token 的处理能力，相当于人类一秒钟阅读并输出约 500 至 600 个汉字。GPT-5.6 Sol 能够在极短时间内完成文本生成。开发者 Caleb Shepherd 在 X 上表示，GPT-5.6 Sol 在 Cerebras 硬件上的运行速度不仅提升了代码编写效率，更带来了计算机使用体验的根本性改变，消除了等待 AI 执行操作的漫长时间。
尽管大型模型的能力不断增强，但“推理延迟”一直是实现实时多步 Agent 任务的关键瓶颈。当模型参数量达到万亿级别时，传统的 GPU 集群在节点间通信方面面临物理限制。OpenAI 的解决方案是实现硬件与模型的深度融合，而非让模型去适应硬件。
根据初步信息，GPT-5.6 Sol 将于 7 月份开始面向部分客户提供有限服务，并逐步扩大产能。这项服务无疑将成本高昂，主要面向愿意为速度支付更高费用的企业级用户。
3 万亿参数模型的部署方式
关于 GPT-5.6 Sol 在 Cerebras 硬件上运行的细节，LLM Arena 的负责人 Peter Gostev 提出了疑问。他指出，GPT-5.6 Sol 似乎是包含多模态能力的完整模型，而非经过简化的版本。然而，Cerebras 的单芯片容量似乎不足以容纳如此庞大的模型。这引发了关于模型规模、新型芯片或多芯片协同技术的猜测。
资深技术专家 Bleys Goodson 提出了一种可能的解释：GPT-5.6 Sol 并非运行在单个芯片上，而是分布在 70 到 100 张 Cerebras 晶圆级芯片上。
“一晶圆，一层网络”的部署策略
业内专家估计，GPT-5.6 Sol 的参数量高达约 3 万亿，激活参数约 1500 亿，网络层数在 70 到 90 层之间。为了实现高效的推理服务，OpenAI 和 Cerebras 采用了将每一层神经网络独立部署在一张 Cerebras 晶圆上的方式。
有观点认为，通过增加流水线阶段并将晶圆连接起来，理论上可以扩展到任意规模的模型，而不影响 Token 的生成速度，仅可能对首个 Token 的生成时间（TTFT）产生轻微影响。
轻量化 KV Cache 的架构重构
Cerebras 芯片的特点是拥有大量高速但容量有限的片上 SRAM。如果 GPT-5.6 Sol 沿用传统的 KV 缓存方案，将迅速消耗宝贵的 SRAM 带宽。因此，此次合作的核心在于围绕特定硬件进行模型重构。
Bleys Goodson 推测，OpenAI 可能放弃了传统的注意力机制缓存方案，转而采用了更先进的轻量化设计，例如类似 DeepSeekV4 的优化缓存占用架构，或者结合 Mamba 等线性复杂度模型的混合 SSM 设计，以摆脱对 KV Cache 的依赖。
开发者 John Lam 则提出，OpenAI 可能将注意力计算交给传统 GPU 处理，而利用 Cerebras 晶圆进行前馈神经网络的计算。此前，Cerebras 在博客中曾提到，在 CS-3 系统上部署 Kimi K2.6 模型时，通过 4-bit 权重存储、16-bit 浮点计算、多晶圆权重分布以及晶圆间激活值传输，并利用其晶圆上的网络结构进行层间通信，其带宽远超 Nvidia NVLink，能够以接近 1000 tokens/s 的速度运行万亿参数的 MoE 模型。
Cerebras 的 CS-3 系统据称能够支持扩展到 24 万亿参数的模型。这一部署方式可能打破了人们对模型规模的固有认知。
OpenAI 自研芯片 Jalapeño
OpenAI 近期还发布了其首款自研芯片 Jalapeño。该芯片的出现解释了 OpenAI 与 Cerebras 合作的深层原因：通过在第三方硬件上的实践，OpenAI 掌握了专用推理架构的设计精髓，并将其转化为自身可控的基础平台。
Jalapeño 是一款专为大模型推理设计的 ASIC 芯片，其设计目标是优化大模型运行效率。该芯片不仅能运行 OpenAI 自家的模型，还兼容行业内的其他 LLM，显示了其平台化野心。该芯片的设计和流片仅用了 9 个月，背后是 OpenAI、博通（负责芯片实现与互联）和 Celestica（负责系统集成）的强大产业联盟。
OpenAI 的全栈 AI 帝国构想
通过自主训练模型、设计芯片、优化推理和控制部署，OpenAI 正朝着构建一个庞大的全栈 AI 帝国迈进。其独特的优势在于利用 AI 加速 AI 基础设施的建设，再利用更强大的基础设施驱动更先进的 AI。
根据 OpenAI 的规划，首批 GW 级超级数据中心将从 2026 年底开始与微软等合作伙伴共同部署，届时将消耗相当于一座中型城市的用电量来驱动 Jalapeño 及后续芯片的推理。
GPT-5.6 Sol 在 Cerebras 晶圆上实现 750 Tokens/s 的速度，预示着参数规模与推理速度的物理限制有望被突破。
15条评论
体育爱好者A
2026年5月10日开云官网，不仅是信息的汇聚，更是对体育精神的传递。我们关注赛场内外，为您呈现真实、生动的体育世界。
回复赛事分析师B
2026年5月8日探索最新体育热点，发现您钟爱的赛事。开云官网，让您与全球体育脉搏同步。
回复资深球迷C
2026年5月5日深入了解您关注的体育项目，从历史到未来，从规则到策略，尽在开云官网。
回复运动达人D
2026年4月28日体验开云官网的便捷与专业，获取您所需的一切赛事信息。
回复发表您的看法