正义的伙伴

携手SK电讯:SK海力士展示首个基于CXL的计算内存解决方案_我的网站

相约星期六

A |     (via TechPowerUp)SK 海力士希望借此展示下一代高性能基础设施解决方案,并试图从客户角度看待。

B | 在 CMS 加持下,下一代服务器平台有望大举提升系统性能和能源效率。据悉,CLX 全称为“Compute eXpress Link”。作为一项新颖的互连技术,其旨在提升 GPU、AI 加速器和内存等各种解决方案的效率。    家人们,就在刚刚,Google正式发布了Gemini 3.6 系列模型!          这次登场的一共三个模型:          面向普通用户和开发者推出的通用模型 Gemini 3.6 Flash:               输出 token 消耗减少了约 17%,在 DeepSWE 上最高减少 65%          输入:1.50 美元/百万 token          输出:7.50 美元/百万 token               主打低成本和高吞吐的 Gemini 3.5 Flash-Lite:               输入 $0.30/百万 token          输出 $2.50/百万 token               面向网络安全场景的 Gemini 3.5 Flash Cyber:      定价还没曝光,目前只给政府和还有Google定的受信任的合作伙伴限量开放               在正式开始详细介绍前,先给大家打一针预防针:          如果只看跑分,这次更新可能没有想象中那么炸裂—Gemini 3.6 Flash 的综合智能水平与上一代基本持平,代码能力也没有横扫同级模型,但是效率绝了!          Gemini 3.6 Flash          Gemini 3.6 Flash 是 Gemini 3.5 Flash 的升级版,也是这次发布的主角。

C | 不过最让业界关注的,还是其在容量扩展上的灵活性。         根据 Artificial Analysis 的发布前测试,Gemini 3.6 Flash 在 Intelligence Index 上拿到了50 分,与 Gemini 3.5 Flash 持平(Ps:从综合智能表现来看,可以说完全没有实现代际跃升):          在Gemini最擅长的知识类工作的基准GDPval-AA v2 上取得 1421 Elo,比上一代高 72 分:          它真正值得一说的提升,在速度和效率上。         Gemini 3.6 Flash 完成单项任务的平均时间从 2.7 分钟降至 1.3 分钟,缩短了一半以上;输出速度达到 每秒 304 个 token。因为 CXL 允许通过附加的 GPU / SSD 等组件,轻松改变系统的内存容量和其它资源。与此同时,它的输出 token 消耗减少约 17%,在 DeepSWE 等特定任务上,降幅最高可达 65%。但就 SK 海力士而言,该公司还是更关注 CXL 内存支持和加速器的技术特性。通过快人一步的研发规划,为广大客户提供最新的集成解决方案。         虽然没有更聪明,但是确实做到了能用更少的 token、更短的时间完成同样水平的工作。

D | SK 海力士内存系统研究负责人 Park Kyoung 指出,CXL 为内存供应商创造了一个巨大的机遇。

E | CMS 技术不仅可以尽享 CXL 的优势,还能够为大数据分析、机器学习、数据过滤计算等应用场景提供有力的支撑。此外该解决方案缓解了 CPU 执行效率低下、或在 CPU 之间传输数据期间的高能耗操作。         Gemini 3.5 Flash-Lite          Gemini 3.5 Flash-Lite 面向的是另一类需求:高并发、低延迟和大批量任务。         它在 Intelligence Index 上取得 36 分,相比 Gemini 3.1 Flash-Lite 的 25 分提升了 11 分。         进步最明显的是智能体相关评测:GDPval-AA v2 提高 498 分,TerminalBench v2.1 提高 22.5 个百分点,Tau3-Banking 提高 7.8 个百分点。

F |          速度同样是它的核心卖点,平均每任务用时从 1 分钟降至 0.6 分钟,输出速度达到 每秒 350 个 token。至于后续的研发规划,考虑到现阶段的原型,Park Kyoung 希望通过计算功能的内化,让 CMS 在特定计算上实现较数十个 CPU 核心快数倍的性能,并且有意扩展到大数据等其它应用场景。         不过,Gemini 3.5 Flash-Lite 的单次任务成本不降反升,从 0.04 美元增至 0.09 美元。         主要原因是输入和输出价格分别从每百万 token 0.25 美元和 1.50 美元,上调至 0.30 美元和 2.50 美元。在将新技术及其解决方案推向市场时,SK 海力士也意识到了从客户角度证明其价值的重要性。

G | 尽管平均每任务的输出量已从 2 万 token 降至 1.3 万 token,但仍不足以抵消价格上涨带来的成本增加。好消息是,与 SK 电讯的深度合作,为 SK 海力士提供了一个千载难逢的早期机会。         Gemini 3.5 Flash Cyber          除了两款通用模型,Google 这次还公布了一个更垂直的成员:Gemini 3.5 Flash Cyber。可知为了有效处理大量数据,SK 电讯有开发、并在各种商业服务中运行自家的 Lightning DB 内存数据分析平台,而 SK 海力士与之携手开发了迎合 CMS 应用的版本。通过这项合作,SK 海力士能够发现并应用客户所需的计算功能,而 SK 电讯也能够极大地增强其平台的竞争力。最后,除了 OCP 全球峰会上的首次亮相,上述软硬件原型方案也将在 11 月初的韩国 SK 技术峰会上进行展示。         CodeMender 是 Google 的代码安全代理,主要任务就是是在代码中发现安全漏洞,并进一步生成和验证修复方案。这次出的Gemini 3.5 Flash Cyber 将作为CodeMender的核心模型,服务于漏洞查找与修复流程。         按照 Google 的说法,它在代码安全任务上的表现达到了非常具有竞争力的前沿水平,并且运行成本也低于体量更大的模型。         Gemini 3.5 Flash Cyber 更像是 Google 对“专业模型+智能体”路线的一次验证: 以更轻量的 Flash 为底座,通过安全领域优化和专用代理,把模型能力集中到一个明确的高价值任务上。         安全代理往往需要持续扫描大型代码库、分析大量上下文,并反复验证修复结果。

H | 相比一味调用最强、最大的通用模型,针对网络安全任务优化的轻量模型,更有可能在能力、响应速度和运行成本之间取得平衡。不过,Gemini 3.5 Flash Cyber 暂时不会向所有开发者开放。它将通过 CodeMender 独家提供,仅面向受信任的合作伙伴开展有限访问试点。

I |          单看代码表现          在 Arena 公布的前端代码竞技场排名中,Gemini 3.6 Flash 以 1537 分位列第 12 名,相比 Gemini 3.5 Flash 的第 21 名有明显进步。         结语          目前,Gemini 3.6 Flash 和 Gemini 3.5 Flash-Lite 正在 Gemini App 中陆续上线,开发者也可以通过 Google AI Studio 和 Android Studio 的 API 使用新模型。         至于正在内测的 Gemini 3.5 Pro,以及已经开始训练的 Gemini 4,或许才是 Google 留给下一次能力跃升的真正看点。

J |          最后,关于 Google 这次发布,我还有几句话想说          过去的大模型发布,最容易传播的是跑分又涨了多少,但是这几次跟Google家感觉已经不恋战了。

K | 它已经不太愿意继续纠缠于单纯的跑分竞争了。         Gemini 3.6 Flash 交出的依然还是近两年非常具有Google味儿的答卷:          综合智能分数可以不变,只要任务速度翻倍、token 用量减少、输出价格下降,模型依然能够获得非常实际的竞争力。         可能有人会问:是不是 Google 已经卷不动了?          但在我看来,这更像是大模型竞争进入下半场的一个信号。         当头部模型之间的能力差距逐渐缩小时,开发者真正关心的问题会越来越具体:同一个任务需要等多久?一次调用要花多少钱?长上下文是否稳定?能不能支撑大规模并发?          从这个角度看,Gemini 3.6 Flash 是 Google 又一次明确面向落地效率的升级。

Current article:http://s4epzwa.cuozubeishenjingli.cfd/list_2tfj1/m0ge8q.html

Published on:07:41:39


我的网站最近更新

我的网站热门资讯