7月22日,SemiAnalysis研究机构披露了Meta公司定制的AMD Instinct MI450显卡加速器的详细信息。该定制版本与市场上的标准MI455显卡在设计上存在显著差异。
Meta定制的MI450显卡包含4个基于台积电N2制程的计算芯片,相较于标准MI455的8个计算芯片,其计算单元数量减半。同时,该定制版本配备的HBM4内存堆栈也从标准版的12个12-Hi36GB降级为6个8-Hi24GB,总显存容量减少至1/3。SemiAnalysis分析认为,Meta的这一定制设计旨在提高机架级系统中CPU与GPU的算力比例,并改善内存带宽的效费比,以优化其在推荐系统RecSys上的表现。
然而,这种设计调整对于大型语言模型(LLM)的训练和推理负载并不利。Meta的这一定制显卡加速器可能会在特定应用场景下表现出色,但在需要大规模并行计算和高显存容量的任务中,其性能可能会受到限制。
