在AI领域，NVIDIA凭借其强大的CUDA生态长期占据主导地位，当然AMD也在凭借ROCm迅速追赶。Tiny Corp是一家专注于开发消费端AI解决方案的公司，该公司认为AMD在软件方面的进步已经使其接近NVIDIA的水平。

Tiny Corp表示，AMD正在快速缩小与NVIDIA CUDA的差距，甚至可能在NVIDIA出现一次技术失误的情况下，超越其在AI市场的主导地位：

“就像Intel在CPU领域一样，如果NVIDIA一代产品犯错误，AMD就能获得大部分市场份额，并且市场份额的转移比游戏领域更容易。”

AMD在6月的“Advancing AI”活动中推出了ROCm新版本，支持了包括vLLM v1、llm-d、SGLang在内的多种增强框架，并专注于分布式推理、预填充等优化功能。

AMD的ROCm 7主要关注推理工作负载，带来了明显的性能提升，特别是在DeepSeek的R1 FP8吞吐量和增强训练性能方面，甚至声称其性能优于NVIDIA的CUDA。

AMD还计划在今年晚些时候在基于锐龙的笔记本和工作站上开放ROCm支持，并提供Linux和Windows的全面支持，这也意味着AMD希望其ROCm能够被更多的用户使用。