就在昨天,NVIDIA GTC 2020中国线上大会正式拉开序幕,NVIDIA研究院负责人Bill Dally了分享关于AI、计算机图形学、HPC、医疗、边缘计算、自动化机器和GPU集群加速等领域最新的研究成果。在演讲中Dally提到:“在‘摩尔定律’失效的当下,如果我们想观察计算机性能提升,‘黄氏定律’ (Huang’s Law)就是一项重要指标,且在可预见的未来都将一直适用。”
“黄氏定律”主要是对AI性能的提升作出预测:AI性能将逐年翻倍。而作为一家专注于GPU芯片的公司,这个定律也主要是预测:GPU将推动AI性能实现逐年翻倍。在这张图片中我们可以看到:在8年的时间里,英伟达将单芯片AI推理能力提高了317倍,既在每一年里面实现了AI性能翻倍。
在历史上,摩尔定律长时间的引导了半导体的发展,而黄氏定律能否被人们记住还要看整个GPU市场的发展。但这应该是第一个对AI性能的提升给出了明确预测,考虑到英伟达在GPU领域里的地位,如果真能够保持这样的进步速度,我们也会记住这条定律。
NVIDIA作为全球知名的GPU制造商,在提高性能上一直算努力,比如今年的5月4日英伟达英伟达首款基于安培架构的A100 GPU,台积电7nm工艺制造,核心面积达到了826平方毫米,规格非常夸张。相比上代的V100核心,它的INT8推理、FP32训练性能提升20倍,FP64计算性能提升2.5倍,是历史上进步最大的一次。
这张A100 GPU迅速被多个大客户采用,包括我们所熟知的阿里云、百度智能云、滴滴云、腾讯云等多家云服务提供商,一些具体的使用场景包括:淘宝使用 NVIDIA GPU 计算平台,为直播和基于 AI 的推荐系统提供加速,从而为观众带来个性化体验;快手针对低分辨率短视频,利用 GPU 做超分辨率处理,提高视频分辨率到720p或1080p。