Nvidia推出了其GH100，这是第一款基于全新“Hopper”架构的GPU，它同时针对HPC和AI工作负载，重要的是后者支持8位FP8浮点处理格式。两个月后，竞争对手英特尔推出了其第二代AI训练芯片Gaudi2，该
Nvidia推出了其 GH100，这是第一款基于全新“Hopper”架构的 GPU，它同时针对 HPC 和 AI 工作负载，重要的是后者支持 8 位 FP8 浮点处理格式。两个月后，竞争对手英特尔推出了其第二代 AI 训练芯片Gaudi2，该芯片也采用 FP8 格式。
FP8 格式之所以重要的原因有很多，其中最重要的是，到目前为止，AI 推理之间存在一种分裂，以整数格式（通常为 INT8，但有时为 INT4）以低精度完成，与 AI 训练以 FP16、FP32 或 FP64 精度完成，HPC 以 FP32 或 FP64 精度完成。英伟达和英特尔都认为 FP8 不仅可以用于推理，在某些情况下还可以用于 AI 训练，从而从根本上提高其加速器的有效吞吐量。
这很重要，因为在浮点格式和整数格式之间来回切换是一件令人头疼的事情，而让所有内容都停留在浮点中要容易得多。此外，在未来的某个时候，如果推理转向 8 位 FP8 甚至可能是 4 位 FP4 格式，这意味着专用于整数处理器的宝贵芯片空间可以被释放并用于其他用途。
在后摩尔定律的世界里，每一个晶体管都是神圣的，每一个时钟周期都值得珍惜。在处理速度的进步与过去一样快的时候，公司正在寻找更有效的方法来运行 AI 作业。组织需要弄清楚如何利用当前可用的能力来提高处理能力——尤其是培训能力。较低精度的数据格式会有所帮助。
人工智能芯片制造商正在看到这些优势。6 月，Graphcore 发布了一项长达30 页的研究，该研究不仅展示了低精度浮点格式相对于类似大小的缩放整数的卓越性能，而且还展示了降低训练计划中功耗的长期好处，包括快速增长的模型尺寸。
研究人员写道：“低精度数字格式可能是大型机器学习模型的关键组成部分，可提供最先进的准确性，同时减少对环境的影响。” “特别是，通过使用 8 位浮点算术，相对于 float-16 算术，能量效率可以提高多达 4 倍，相对于 float-32 算术可以提高多达 16 倍。”
现在 Graphcore 正在鼓动 IEEE 采用供应商为 AI 设计的 FP8 格式作为其他所有人都可以使用的标准。该公司本周进行了宣传，Graphcore 联合创始人兼首席技术官 Simon Knowles 表示，“8 位浮点的出现为 AI 计算提供了巨大的性能和效率优势。这也是行业确定单一开放标准的机会，而不是引入竞争格式的混乱组合。”
AMD 和高通也支持 Graphcore 的计划，Qualomm 产品管理高级总监 John Kehrli 表示，该提议“已成为 8 位浮点计算的一种引人注目的格式，为推理和计算提供了显着的性能和效率提升。可以帮助降低云和边缘的训练和推理成本。”
AMD 预计将在即将推出的 Instinct MI300A APU中支持 FP8 格式，它将 AMD GPU 和 Epyc 7004 处理器塞进一个封装中。我们预计也会有普通的 MI300 独立 GPU，并且它们也将支持 FP8 数据和处理。
创业项目群，学习操作 18个小项目，添加 微信：niuben22 备注：小项目！
如若转载，请注明出处：https://www.35chat.cn/53708.html
相关推荐
-
玫琳凯产品目录大全（玫琳凯产品目录大全2020）
本文来源：时代财经作者：郭少圳疫情之下，当有的消费品牌基于成本与效益等因素考量、开始收缩战线之时，有的却在积极拥抱机遇、逆势扩张，展现出了良好的成长势头。据赢商大数据监测，2022年上半年，12个重点城市约300个购物中心（5万平方米以上）中，新开店超6400家，新关店约7400家，开关店比仅为0.86，远低于2021上半年（1.21）及下半年（1.43）
-
esim卡(esim卡怎么取消)
eSIM卡是什么？eSIM卡是2014年苹果推出的一种概念SIM卡，eSIM卡的概念就是将传统SIM卡直接嵌入到设备芯片上，而不是作为独立体单独配备。它本质上还是一张SIM卡，只不过它是内嵌在智能手机或者智能硬件等设备主板中，无需安装SIM卡，只要通过无线开通就可以使用。简单来
-
小刀电动车限速解法（小刀电动车限速解法视频）
浓厚的春节喜庆气息还未彻底消散，各个行业就迎来了兔年春节后的开工上班。伴随着各行业开工、各地中小学生开学，两轮电动车的需求量也在逐步上升。面对新春销售热潮，电动车头部品牌小刀电动车以雷霆万钧之势，四大基地六大工厂全面复工，营销团队火力全开，势夺2023春季开门红，市场势能全面爆发。早在2023年开年之际，小刀电动车
-
僵尸片排行榜前十名火（僵尸片排行榜前十名火林正英）
说起僵尸片，就不得不提到林正英，一代僵尸片鼻祖，拍了很多僵尸类型的电影和电视剧，小时候是不敢一个人看的，必须要有大人陪同才敢接着往下看，很多童年阴影就是在那时候留下的，虽然很害怕，但是基本上所有僵尸都是大同小异，剧情也都差不多，看多了也就不那么怕了，题材上没什么新意，但是也是他开创了僵尸片的市场，以至于后面跟风拍了很多僵尸类型的电影和剧集，就是在那个时候播出了一部《
-
信用卡预授权(信用卡预授权冻结资金怎么解开)
关于神州租车刷信用卡预授权的问题还有就是需要找个担保人，但是这个担保人也需要有信用卡，而且很恶心的是一定要有一定的信用额度（好像最低要3000）。另外就是自己去办一张信用额度较高的信用卡，麻烦得要死！我最近也为这个问题感到头疼。神州租车的服务一点也不周到，完全没从顾客（承租方
-
哄女孩子睡觉的话(你是如何哄女孩子睡觉的)
大家好，今天来为大家解答哄女孩子睡觉的话这个问题的一些问题点，包括你是如何哄女孩子睡觉的也一样很多人还不知道，因此呢，今天就来为大家分析分析，现在让我们一起来看看吧！如果解决了您的问题，还望您关注下本站哦，谢谢~本文目录女朋友睡不着觉，非要我讲故事给她听，该讲什么样的故事好怎么哄女闺蜜睡觉哄女孩子午睡的暖话怎么哄有好感的女生睡觉你是如何哄女孩子睡觉的女朋友睡不着觉，非要我讲故事给她听，该讲什么样的
-
贵州挖出4吨大蛇是真的吗（贵州挖出4吨大蛇是真的吗吗）
7月12日晚，贵州省毕节市大方县消防救援大队接到报警称：大方县一宿舍楼电梯口出现一条蛇，工作人员不敢靠近，需要消防救援人员处置。接到报警后，大方县消防救援大队消防救援人员迅速赶往现场。消防救援人员到达现场后，经询问
-
pokemon图鉴网站（pokemon图鉴app）
＃001妙蛙种子妙蛙种子，种子宝可梦，出生时便有一粒种子长在背上。那种子还会随着宝可梦长大，所以专家们仍未能肯定它是植物类还是动物类。妙蛙种子＃002妙蛙草妙蛙草，种子宝可梦，是妙蛙种子的进化形，背上背着花苞，当花苞吸取养分之后，就会开出巨大的花朵。妙蛙草＃003妙蛙花
-
三月份什么花开(三月份什么花开得最好)
三月份开什么花三月份开的花主要有；三色堇金盏菊水仙花虞美人风信子郁金香山茶白玉兰贴梗海棠榆叶梅杜鹃花。3月份都开了什么花1.连翘:翘（拉丁学名：Forsythiasuspensa）：落叶灌木，是木樨科连翘属植
-
奇迹mu私服(这年头还有没有奇迹MU私服了)
大家好，今天给各位分享奇迹mu私服的一些知识，其中也会对这年头还有没有奇迹MU私服了进行解释，文章篇幅可能偏长，如果能碰巧解决你现在面临的问题，别忘了关注本站，现在就马上开始吧！奇迹MU怎么输入中文如果是端游奇迹MU，首先你的电脑里