Tiny Corp:AMD已缩小与CUDA差距、NVIDIA失误一代或丢主导地位
在AI领域,NVIDIA凭借其强大的CUDA生态长期占据主导地位,当然AMD也在凭借ROCm迅速追赶。Tiny Corp是一家专注于开发消费端AI解决方案的公司,该公司认为AMD在软件方面的进步已经使其接近NVIDIA的水平。
Tiny Corp表示,AMD正在快速缩小与NVIDIA CUDA的差距,甚至可能在NVIDIA出现一次技术失误的情况下,超越其在AI市场的主导地位:
“就像Intel在CPU领域一样,如果NVIDIA一代产品犯错误,AMD就能获得大部分市场份额,并且市场份额的转移比游戏领域更容易。”
AMD在6月的“Advancing AI”活动中推出了ROCm新版本,支持了包括vLLM v1、llm-d、SGLang在内的多种增强框架,并专注于分布式推理、预填充等优化功能。
AMD的ROCm 7主要关注推理工作负载,带来了明显的性能提升,特别是在DeepSeek的R1 FP8吞吐量和增强训练性能方面,甚至声称其性能优于NVIDIA的CUDA。
AMD还计划在今年晚些时候在基于锐龙的笔记本和工作站上开放ROCm支持,并提供Linux和Windows的全面支持,这也意味着AMD希望其ROCm能够被更多的用户使用。