中金公司5月17日研报指出，GPT-4o部分功能的免费开放，Gemini能力的提升或对单位算力成本下探提出要求，AIInfra面临大幅优化。当下行业对算力硬件性能、成本的衡量以训练导向逐渐转为推理导向。除了芯片端、网络硬件端（如光模块）持续升级外，系统工程能力也正不断强化：为获得更低的硬件利用率，降低推理成本，优化显存、实施算子融合/算子实现优化、低精度（量化）推理、分布式推理均是主流实现方式。算力硬件市场有望随应用落地步入以价换量时代，市场规模或将持续增长。

文章转载自：界面新闻网 非本站原创