爱否科技2025-08-26 21:07:03早些时间,型号显示为 “ RMX6699” 的真我新机通过了国家无线电测试,综合多个消息源的爆料来看,该...
2025-08-27 0
IT之家 8 月 26 日消息,英特尔官方今日宣布,Gaudi 2E AI 加速器现已为 DeepSeek-V3.1 提供深度优化支持。
IT之家查询获悉,英特尔 Gaudi 2E 采用 7nm 制程,配备 96GB HBM2E 内存、48MB SRAM,具备 2.4TB 总内存带宽,针对随机访问、线性访问场景进行深度优化,有效避免了 AI 训练或推理任务的延迟。
英特尔表示,Gaudi 2E 具备 24 个完全可编程的张量处理器核心(TPC)、2 个矩阵乘法引擎(MME),拥有卓越的可扩展能力,提供 24 个 100 GbE 端口,支持多卡互联,为用户提供了灵活的、可定制化的解决方案,满足其不断变化的 AI 需求。
英特尔表示,实测数据显示,在英特尔 Gaudi 2E 的支持下,DeepSeek-V3.1 无论是在问答还是编码上,能力都有着显著提升:
在部署了 8 张英特尔 Gaudi 2E 的一体机服务器上运行 DeepSeek-V3.1 模型,在输入 / 输出 token 长度均为 1k、多用户并发数为 30 的条件下,每个并发 token 生成速率达到每秒 10 token;
在输入 / 输出 token 长度均为 2k、多用户并发数为 28 的条件下,每个并发 token 生成速率达到每秒 10 token。
相关文章
爱否科技2025-08-26 21:07:03早些时间,型号显示为 “ RMX6699” 的真我新机通过了国家无线电测试,综合多个消息源的爆料来看,该...
2025-08-27 0
外交部:中方不接受日方无端指责,已驳回所谓“抗议”8月26日,外交部发言人郭嘉昆主持例行记者会。法新社记者提问,日本向中国提出抗议,称中方正试图开发东...
2025-08-27 0
亲,这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特别好,总是好牌,而且好像能看到-人的牌一样。所以很多小伙伴就怀疑这...
2025-08-27 0
作为全国首个大型折扣超市业态,京东折扣超市全国首店在河北涿州开业一周以来,每日客流量持续爆满,呈现出供销两旺、持续火爆的良好态势,成为涿州零售市场的一...
2025-08-27 0
世上有些人,总是分开容易,再见太难。尤其在革命年代,聚与散,压根由不得人。1930年代,一对红军夫妻走散在长征路上;1981年,时隔整整46年,他们在...
2025-08-27 0
信息来源:https://www.myscience.org/en/news/2025/chemists_develop_molecule_for_i...
2025-08-27 0
在一场于广东外语外贸大学“著名教授讲坛”上发表的演讲中,中国顶尖的人工智能学者、中国科学技术大学教授陈小平对近期人工智能的飞速发展提出了深刻而审慎的见...
2025-08-27 0
您好:这款游戏是可以开挂的,软件加微信【添加图中微信】确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特别好,总是好牌,而且好像能看到其他人...
2025-08-27 0
发表评论