这节课的讲师是刘少礼,来自寒武纪科技。寒武纪科技主要的定位是在这些应用的背后,为大家提供精芯片层面的技术支持,我今天要和大家分享的是《智能硬件之芯》。
智能终端需要专业的智能芯片
先来问一个问题,为什么在智能终端需要专用的智能芯片?

随着智能算法的快速发展和智能应用场景的日渐丰富,对智能终端的本地化计算提出了越来越多的需求,主要体现在以下三个方面:
第一:智能硬件的低功耗和低延时的需求。
第二:智能运用的隐私性需求。
第三:智能算法的高算力需求。
传统的CPU、GPU和DSP无法满足这些需求,需要专用的AI芯片来应对一些AI的应用。
除了上述三个方面的需求之外,终端的智能处理还有一个新的发展的趋势:多模态识别。

所谓多模态识别是指语音识别、图像处理和自然语言处理等多种不同的智能处理任务,需要在智能终端上同时运行。
这对智能处理器的通用性和实时性提出了更高的需求。由于算法发展快,硬件研发周期长,这就需要芯片设计之初,跟算法人员紧密的沟通来分析算法未来可能的发展趋势,以及和芯片研发人员来协同优化。
寒武纪科技发展历程
寒武纪公司和科大讯飞很早就开始了深入合作,寒武纪公司去年三月刚刚注册成立,科大讯飞是我们天使轮投资人之一,早在14年,我们的深度学习处理器产品设计之初,讯飞就在算法方面给予了我们很多指导。
虽然寒武纪是一个非常年轻的公司,但是我们作为一个科研团队,在智能硬件和智能算法的领域已经专研了快十年。
08年的时候,我们在中科院计算所成立了一个10人的学术团队,在2013年的时候我们提出了国际上首个深度学习处理器架构DianNao。
2014年发表在了ASPLOS上获得了最佳论文奖,这个是亚洲的学术机构有史以来第一次获得体系结构领域里的最佳论文奖,在14年我们又提出了多核处理器深度学习处理器架构,获得了当年的MICRO最佳论文奖。

在15年的时候,我们在之前的学术研究成果的基础上,展开了产业化过程,研制成功了首个深度学习专用的处理器芯片。
寒武纪科技在注册成立的同时,我们发布了深度学习处理器IP产品,即寒武纪1A处理器。
寒武纪1A后来被集成到了华为的麒麟970的处理芯片里面, 为mate10的手机提供了强大的智能处理的能力,而在前不久寒武纪公司也刚刚完成了A的融资。
寒武纪公司的智能处理器产品
接下来我来简单介绍一下,寒武纪公司主要的智能处理器产品。
寒武纪1A处理器是我们去年发布的一款深度计算处理器的产品。它的峰值分为两种模式,一种是普通的分析师模式,可以达到512GFlops的半精度浮点的能力,运用了信息化的基础之后,可以加速到等效的2TFlops左右的峰值。
虽然寒武纪1A是诞生于2016年,但是在2017年即将过去的今天,寒武纪1A依然是市场上最完备、最有前瞻性的处理器IP产品。

它可以支持不同的多模态智能处理任务,可以支持从上古时代到最新的各类神经网络模型,各种类型的算子。
寒武纪1A可以达到四核通用CPU 25倍以上的性能和50倍以上的能效,而且靠的不实蛮力堆运算器。
我们的稠密模型峰值只有500GOPS,但是依靠稀疏化技术,四两拨千斤打败了强大的苹果A11处理器。
这是我们的新一代的IP产品:寒武纪1H16,它跟1A相比有三个主要特点:性能更强;能耗更低;功能更完备。
除了寒武纪1H16处理器之外,我们还出了另外一款针对视觉处理的专用处理器寒武纪1H8。
它的主要特点是低成本、低功耗,可以为计算机视觉领域提供成本合理的AI硬件方案,它的性能功耗比更提升至以前的2.3倍,并提供了4中国不同的运算能力配置供选择。

现在介绍一下我们的软件平台的情况,我们的自己开发了全套的工具链,可以支持TensorFlow、mxnet这样的开放框架,包括未来还会兼容安卓nn接口。
在这框架之下,我们又开发了像高性能函数库、编辑器、汇编器,用户可以很方便的通过runtime和驱动透过OS去调用寒武纪处理器。
我们软件系统大概包括了三个主要部分,一个是软件开发工具包,一个是功能调试工具包,以及性能调优工具包。
最后说一下,我们寒武纪科技秉持着端云一体的发展战略,指令集、软件开发平台一直是跨平台应用移植的壁垒,为了让研发人员快速高效地开发和部署人工智能应用,我们认为端和云应该使用统一的指令集和开发平台。
这样有什么好处呢?一是应用【迁移】非常方便,甚至不要重新编译就迁移过去了;二是端云可以【协同】起来,做更细粒度、自由度更大的任务切分,整体提供更强大的智能处理能力。

过去国内企业特别芯片行业的起步较晚,一直是国外的行业的跟随者,也付出了一些教训,得到了一些经验。
在智能时代大家都在同样的起跑线上,我们希望能够跟国内的公司,特别像科大讯飞这样的优秀的企业,一起来对构建属于我们中国的智能软件生态。
我想只要我们大家共同努力,自底向上共同构建软硬件生态,一定会创造中国智能产业美好的明天。
评论留言