技术的革新与承载它的计算能力息息相关，如今的人工智能技术正逐步从研究实验走向应用与生产，在这一过程中，AI计算系统设计与优化的重要性愈发明显。

在不久的将来，AI计算系统将要面临计算平台优化设计、复杂异构环境下计算效率、计算框架的高度并行与扩展、AI应用计算性能等挑战。算力的发展对整个计算需求所造成的挑战会变得更大，提高整个AI计算系统的性能与效率迫在眉睫。

算力是人工智能的痛点

目前的人工智能，更多的是代表智能的个体，能够通过自身的持续学习能力，智能的完成单点决策。

机器经验需要由大量的历史数据来得出，所以数据收集无处不在，数据的增长会是几何级数的。使用当前集中式的存储和集中式的通信模式，在未来是无论如何都无法通过一个巨型单点支撑如此大的体量，存储和通信能力都是瓶颈，而且效率会非常低下。

不仅如此，算力成本也是人工智能行业的一大痛点。现在的人工智能企业的硬件投入非常大。人工智能对计算的需求非常大，因此对高性能计算定制深度学习芯片要求很高，意味着很多企业要花很多钱买算力、建很多计算中心，造成了很大的资源浪费。

AI计算能力愈发重要

全球人工智能市场商业价值一直处于高速增长趋势，到2018年，所催生的商业价值会达到1．3万亿美元，而未来将会达到接近5万亿美元。从技术成熟度曲线可以看到，未来2到5年会有大量AI技术实现从创新期到成长期的过渡，现在仍有很多AI技术处于爬坡发展阶段。

在推动AI发展过程中，有三大要素起着主导作用，除算力、数据外，计算方面也越来越重要。2021年计算方面的投资将占到整个AI投资的近一半以上，2017年至2022年将会达到近6倍的增长。

传统服务器难以满足AI算力需求

摩尔定律失效，CPU性能提升遭遇瓶颈。Intel宣布正式停用“Tick－Tock”处理器研发模式，未来研发周期将从两年周期向三年期转变。单颗CPU性能的提升在放缓，传统服务器难以满足并行算力需求，服务器CPU出货量增长停滞。

AI计算系统设计迫在眉睫

AI计算发展趋势演变过程中面临着巨大的挑战：随着模型所需的精度越高，所需的计算量也会呈现增长趋势。对于未来的，算法的发展对整个计算需求所造成的挑战会变得更大，提高整个AI计算系统的性能与效率显得尤为重要。

围绕整个应用、算力、模型、网络的特点，例如有的模型参数比较密集，对系统通信要求比较高，有的计算性能要求比较高，则需要围绕性能方面考虑如何提升整个系统性能的能力。

推理方面的复杂性比训练方面更高，它不仅体现在性能方面，更关心的是用户的体验。当对于大规模进行部署云计算时，需要考虑到它的运维成本，需要低功耗平台架构来做支撑。

AI算力和需求都日趋壮大

语音识别、虚拟现实与机器视觉已从导入期进入成长期。标准化的数据集丰富。语音与图像数据较易标签化。15年图像识别准确率变已超过人类。CNN、RNN等神经网络基础算力成熟。根据Imagenet测试结果，语音识别与机器识别准确率均已在90％以上。

如今，AI面临着巨大的计算挑战，提高AI计算系统性能与效率变得尤为重要，需要从系统的角度进行综合考虑。

自2012年以来，在大型AI运算中用到的计算量呈指数式上升，并且3．5个月计算量就会翻一倍。从2012年以来，这一指标已经增长了30万倍。计算力的提升是AI进步的一大重要因素，所以只要这一趋势仍然延续，就值得为AI未来的发展努力下去。

AI算力决定芯片崛起

在理论层面，基于大数据和深度学习的人工智能技术高度依赖于系统的数据处理与学习能力。因此，硬件的计算能力成为继数据、算力之后，另一制约人工智能发展的主要瓶颈，硬件计算能力与能效对于人工智能技术主要影响云端和边缘端两大主要领域的应用。

单CPU的发展已经不能满足实际应用的需求，AI时代必须要依靠并行计算。目前，并行计算的主流架构是异构并行计算平台。

以协同过滤算力为例，它是一种非常重要的推荐系统算力，为此设计了两个计算核，一个是计算相似度，一个是计算平均值，把这些核心计算全部都在GPU上进行计算来加速算力。

未来AI算力的发展

自2012年以来，人工智能训练任务中使用的算力正呈指数级增长，其目前速度为每3．5个月翻一倍。

自2012年以来，人们对于算力的需求增长了超过300，000倍，如果是以摩尔定律的速度，只会有12倍的增长。在此期间，硬件算力的提升一直是人工智能快速发展的重要因素。因此，如果目前的发展趋势持续下去，就需要为实现远超当前方法负载的全新系统做好准备。

从应用场景来看，AI计算热门行业场景覆盖了互联网、政府、医疗和金融四大行业，同时，根据市场潜力和时间发展成熟度，报告还对AI典型应用场景进行了评估，并预计未来2－3年，人工智能在生物识别和智慧城市建设领域的应用将会率先步入商业应用的成熟期；预计在未来5－10年，人工智能产业在智能家居和工业制造领域的应用也将逐步步入高速发展的产业窗口。