亚马逊推出新一代AWS P4 GPU实例

摘要:

亚马逊云服务(AWS)今日推出了基于 GPU 的新 P4 实例,此时距离该公司的首套 GPU 集群实例上线已有十年。具体说来是,P4 实例采用了英特尔 Cascade Lake 处理器 + 8 路 Nvidia 100 TensorFlow Core GPU 的方案。AWS 承诺新实例提供的深度学习性能是前一代的 2.5 倍,模型训练的性价比也有 60% 的优势。

1.png

(来自:Amazon

目前 AWS P4 GPU 实例仅提供了一种选项(p4d.12xlarge),8 路 @ Nvidia GPU 通过 NVLink 接口实现通信连接,此外也提供了对 GPUDirect 接口的支持。

凭借 320GB 的高带宽 GPU 显存和 400 Gbps 网络,再加上 96 个 CPU 核心、1.1 TB 系统内存、以及 8TB SSD 存储,这套平台的性能也是相当惊人。

2.png

按需使用的话,AWS P4 GPU 实例的价格为 32.77 美元 / 小时。如果长期使用,那年费平均下来 < 20 美元 / 小时(三年平均 11.57 美元 / 小时)。

Announcing the New Amazon EC2 P4d Instances(via

在极端情况下,用户最高可选将 4000+ GPU 组合到一个 EC2 UltraCluster 集群中。但考虑到实际运算的成本,也只有少数企业客户能够承担得起,比如参与早期测试的丰田研究院、GE Healthcare 和 Aon 。

查看评论
created by ceallan