3.9 分钟训完 GPT-3,英伟达 H100 再次刷新 MLPerf 六项纪录
发表于:2024-10-22 作者:千家信息网编辑
千家信息网最后更新 2024年10月22日,CTOnews.com 11 月 9 日消息,英伟达今天发布新闻稿,表示旗下的 H100 GPU 在 MLPerf 基准测试中创造了 6 项新记录。CTOnews.com今年 6 月报道,3584 个
千家信息网最后更新 2024年10月22日3.9 分钟训完 GPT-3,英伟达 H100 再次刷新 MLPerf 六项纪录
CTOnews.com 11 月 9 日消息,英伟达今天发布新闻稿,表示旗下的 H100 GPU 在 MLPerf 基准测试中创造了 6 项新记录。
CTOnews.com今年 6 月报道,3584 个 H100 GPU 群在短短 11 分钟内完成了基于 GPT-3 的大规模基准测试。
MLPerf LLM 基准测试是基于 OpenAI 的 GPT-3 模型进行的,包含 1750 亿个参数。
Lambda Labs 估计,训练这样一个大模型需要大约 3.14E23 FLOPS 的计算量。
英伟达最新的 Eos AI 超级计算机配备了 10752 个 H100 Tensor Core GPU 和 NVIDIA 的 Quantum-2 InfiniBand 网络,训练完 GPT-3 仅仅只需要 3.9 分钟,比 6 月的测试结果整整快了 7 分钟。
英伟达在帖中的另一项创纪录的成就是在"系统扩展"方面取得的进步,通过各种软件优化,效率提高到了 93%。
高效扩展在行业中非常重要,因为实现高计算能力需要使用更多的硬件资源,如果没有足够的软件支持,系统的效率会受到大幅影响。
测试
英伟
基准
效率
模型
系统
软件
训练
重要
参数
大规模
成就
新记录
新闻
新闻稿
方面
旗下
是在
更多
消息
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
网络安全施法时间
金融信息技术与数据库有关系吗
我的世界服务器映射
数据库的维护简介
服务器启动ssh
奉贤区大型网络技术售后保障
信息网络技术都学什么
软件开发语言英语
一站式软件开发项目管理
怎么复制云服务器
下载一个数据库多少钱
儿童网络安全普及
机动车检验机构网络安全员
高职计算机网络技术课件
三级网络技术知识点百度云
全世界著名软件开发有哪些
成都web前端软件开发报价
16核32g20m云服务器
无法连接云服务器当前网络
山西省公安厅网络安全保卫处
网络安全教育机制
数据库怎么远程登陆
数据库2010如何分类
服务器 万兆网卡
软件开发哪些是违法的
正定网络安全检查
火星时代网络技术真假
学校信息安全网络安全整改表
各大网络安全事件
校园网络安全事件典型案例
相关文章
- 25 周年纪念作,情怀拉满但诚意欠缺:《勇者斗恶龙 怪物仙境 3》
- 联想拯救者 Y700 2023 平板推送 ZUI 15.0.723 系统灰度测试:新增“USB 网络共享”,优化底部小白条
- Streacom 推出 SG10 高端被动散热机箱:可解热 600W,1300 美元
- 3D 角色扮演策略游戏《少女前线 2:追放》公测开启,安卓、iOS、PC 多端互通
- 新能源车市:价格战开局,价值战结束
- 雪天这样拍,照片更为味道
- Cybertruck:未来物种重新定义汽车
- 2022 年我国未成年网民规模突破 1.93 亿,普及率达 97.2%
- 上映 7 天,《名侦探柯南:黑铁的鱼影》内地票房破亿、豆瓣 6.6 分
- 小岛工作室推出《死亡搁浅》联名手机手柄,预计明年发售