若是您但愿不错时时碰面,宽容标星保藏哦~
起原:实质编译自tomshardware,谢谢。
几年前,Meta 是首批为 AI 推理打造基于 RISC-V 的芯片的公司之一,旨在裁减本钱并减少对 Nvidia 的依赖。据路透社报谈,该公司更进一步瞎想了(可能是在博通的匡助下)用于 AI 检修的里面加快器。若是该芯片简略闲暇 Meta 的主见,它可能会减少对高端 Nvidia AI GPU(如H100 / H200和B100 / B200)的依赖,以检修高档大型话语模子。
据该报谈,Meta 和博通已与台积电协作,完成了 Meta 的首款 AI 检修加快器的坐褥。台积电坐褥了这些芯片的首批职责样品,协作伙伴已成效推出该确立。现在,Meta 已启动有限部署该加快器,在扩大坐褥和部署之前评估其性能。现在尚不明晰 Meta 的工程师是否正在对新芯片进行基准测试。该芯片一经部署并发挥了一些作用。
该芯片的规格尚不明晰,但往往情况下,AI 检修芯片遴荐一种称为“脉动阵列”的瞎想。该架构由按行和列胪列的换取解决单位 (PE) 的结构化网络构成。每个单位解决波及矩阵或向量的筹备,数据按限定流经网络
由于该解决器专为 AI 检修而瞎想(这意味着要解决无数数据),因此瞻望该解决器将配备 HBM3 或 HBM3E 内存。沟通到咱们正在解决定制解决器,Meta 界说了其复旧的数据步调和教唆,以优化芯片尺寸、功耗和性能。至于性能,该加快器必须提供与 Nvidia 最新的 AI GPU(举例 H200、B200 以及可能的下一代B300)相忘形的每瓦性能特点。
该芯片是 Meta 的 Meta 检修和推理加快器 (MTIA) 花样的最新成员。该花样曾濒临多样繁难,迪士尼彩乐园软件下载包括在相似阶段住手开荒。
举例,在有限的部署测试中,Meta 里面推潜入决器未能达到性能和功率主见,因此停产。这一失败导致 Meta 在 2022 年改革了战术,无数订购 Nvidia GPU,以闲暇其即时的 AI 解决需求。
从当时起,Meta 就成为 Nvidia 最大的客户之一,购买了数万台 GPU。这些确立关于检修用于推选、告白和 Llama Foundation 模子系列的 AI 模子至关进攻。据路透社报谈,这家绿色公司的 GPU 还用于推理经过,复旧 Meta 平台上率先 30 亿逐日用户的互动。
https://www.tomshardware.com/tech-industry/artificial-intelligence/meta-is-reportedly-testing-its-first-rsic-v-based-ai-chip-for-ai-training
半导体佳构公众号推选
专注半导体界限更多原创实质
爱护环球半导体产业动向与趋势
*免责声明:本文由作家原创。著述实质系作家个东谈主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或复旧,若是有任何异议,宽容相干半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第4061期实质,宽容爱护。
在此之前,OpenAI已投资了igure AI、1X、Physical Intelligence三家机器人公司,副总裁Peter Welinder还曾表示,通过与Figure等公司合作,OpenAI希望探索在大型多模态AI模型支持下,人形机器人的智能化水平能够达到何种程度。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID:icbank
心爱咱们的实质就点“在看”共享给小伙伴哦