冯·诺依曼的技术挑战

AI芯片需要满足高效的数据访问，以及深度学习下的新的计算范式，AI芯片在发展上，也遇到了一些瓶颈问题，特别是冯·诺依曼瓶颈。

在传统“冯·诺依曼架构”中，计算模块和存储单元互相分离，数据从处理单元外的存储器提取，处理完之后再写回存储器。每一项任务，如果有十个步骤，那么CPU会依次进行十次读取、执行，再读取、再执行，这就造成了延时，以及大量功耗花费在了数据读取上。

大部分针对AI，特别是加速神经网络处理而提出的硬件架构创新都是在和这个问题做斗争。概括来说，目前的解决思路包括减少访问存储器的数量，降低访问存储器的代价。

AI芯片中的新兴计算技术

新兴计算技术包括近内存计算、存内计算，以及基于新型存储器的人工神经网络和生物神经网络。

对于冯·诺依曼、CMOS工艺和器件瓶颈形成的AI芯片存储、计算间的问题，神经形态计算是一种新的路径。近些年，神经形态计算也用来指采用模拟、数字、数模混合VLSI以及软件系统实现的神经系统模型。其将数字处理器当作神经元，把内存作为突触，内存、CPU和通信部件完全集成在一起，采用模拟人脑神经元结构来提升计算能力。

而针对CMOS工艺瓶颈的解决思路，可以通过开发提供大量存储空间的片上存储器技术，并探索利用片上存储器去构建未来的智能芯片架构。

神经形态芯片的最终方向

借鉴生物脑的互联结构，神经形态芯片可以实现任意神经元间的互联。即在指定规模的仿生神经网络下，任意一个神经元都可以把信息传递给指定的另一个或多个神经元。如此强大的细粒度互联能力是其他神经网络／深度学习芯片目前还无法做到的。

神经形态芯片在智能城市、自动驾驶的实时信息处理、人脸深度识别等领域都有出色的应用。如IBMTrueNorth芯片可以用于检测图像中的行人、车辆等物体，且功耗极低（65mW）。它也可被用于语音、图像数据集识别等任务，准确性不逊于CNN加速器芯片。此外，在线学习能力也是神经形态芯片的一大亮点。

AI芯片的存储技术将被颠覆

近期，面向数字神经网络的加速器（GPU、FPGA和ASIC）迫切需要AI友好型存储器。

中期，基于存内计算的神经网络可以为规避冯·诺依曼瓶颈问题提供有效的解决方案。

后期，基于忆阻器的神经形态计算可以模拟人类的大脑，是AI芯片远期解决方案的候选之一。

人工智能芯片如果能有统一的终极算法出现，那么我们很可能会看到一个终极芯片出现。AI芯片是整个人工智能技术发展的基础，也将是推动整个半导体领域技术进步的最重要的力量之一。

随着人工智能和物联网的持续快速发展，越来越多的应用需求和应用场景将不断涌现。需求驱动的AI芯片技术创新将促进创新链与产业链更加紧密结合，推动开放合作、共享共赢的产业生态形成。

CMOS技术与新兴信息技术的交叉融合，开源软件到开源硬件的潮流渐显，预示着我们将迎来一个前所未有的协同创新机遇期。

国内国外的AI芯片将成大趋势

今年，国际、国内已经有多家芯片巨头公布AI芯片计划，也有多家AI芯片的研发公司获得融资。

由寒武纪科技公司领头，已经完成1亿美元A轮融资，并由国投创业（A轮领投方），阿里巴巴创投、联想创投、国科投资、中科图灵、元禾原点（天使轮领投方）、涌铧投资（天使轮投资方）联合投资，这轮融资之后，寒武纪科技已经成为全球AI芯片领域第一家独角兽公司。

英特尔、英伟达和三星，Facebook、微软、Google、IBM、苹果、华为等科技公司都在积极布局AI芯片。芯片巨头英特尔收购Nervana、Altera。其中，收购Nervana一举被认为是要与英伟达开战。英伟达在芯片领域的表现越来越好，为了研发AI芯片，还聘请了专门研究AI芯片的Clément Farabet。可见专业的AI芯片将是未来很长时间的大趋势。