2年多前,一场去职风波将当时作为百度杰出科学家的吴韧推上风口浪尖,吴韧离开了百度。2个月后,回到硅谷的吴韧创立了一家AI芯片公司——异构智能 NovuMind。 

这家初创公司在国内发声较少,真正了解它的人不多。从2015年7月成立至今,异构智能已经走过两年多的时间,主要为智能为汽车、安防、医疗、金融等领域提供ASIC芯片(Application Specific Integrated Circuit),并提供训练模型的全栈式AI解决方案。 在2016年12月A轮融资获得洪泰基金、宽带资本、真格基金等投资的1500万美元后,异构智能即将开始第二轮筹款,这也是吴韧最近出现在北京的原因。

吴韧,是异构计算领域顶尖科学家,游走于世界知名实验室。曾先后担任AMD异构系统首席软件架构师,惠普实验室 CUDA 研究中心首席研究员,百度公司杰出的科学家,荣誉光环无数。 

如今,低调神秘的异构智能终于在媒体面前揭开了面纱,而时间档口刚好是在AI芯片大火,巨头争相混战,创业公司融资不断的节点。那么这家由大牛牵头的芯片技术公司,想做的事情到底有何不同?人工智能时代又到底需要怎样的芯片?吴韧就公司与芯片行业情况与36氪等媒体进行了沟通访谈。

异构智能主打AI最专用芯片,试与巨头“硬碰硬”

放眼当下芯片江湖,群雄四起。英伟达GPU凭借其处理深度学习任务性能优势雄踞领跑者地位;向来不惧啃技术硬骨头的谷歌不甘示弱推出号称AI芯片颠覆者的自家TPU;PC时代芯片霸主英特尔联盟Facebook等巨头合力开发AI专用芯片……已是混战一片,创业公司如何弯道超车,与巨头“硬碰硬”。

高性能-低功效,这是异构智能为人工智能所设计的芯片。

“在公平的世界,有得就有失,要扔掉一些东西才能得到一些东西。”吴韧说到。回顾当年,GPU赢过CPU就是因为GPU比CPU专用,如今异构智能也是这样的思路。 

异构智能的核心计算是三维张量的卷积计算,小立方体和大立方体重合的部分做点乘。多数芯片公司不在三维层面上进行操作,DSP是在一维上做操作,TPU与GPU在两维做操作,而异构智能的芯片在三维层面做操作,并且有四项专利保护。第一项专利是三维张量的卷积,人工智能最重要的操作,可以用硬件直接实现。其他三项专利是对数据的调度与分配,归并,处理器间的协作。 

举一个形象的例子,吃冰激凌。吃冰激凌可以用手沾着吃,但没有效率。也可以拿吸管吃,但是效率也不是很高,再厉害一点用一个小平面吃,但也不是最优。最好的是用一个为吃冰淇淋而专门设计的三维的勺子。

做某一件事情的时候最好为某件事情设计一个最专用的工具,这和三维张量的卷积计算例子是相通的。

这款为人工智能做极端定制化的芯片,不会用来上网或者一些其他计算。它擅长的是在三维上做卷积张量的计算,把人工智能的计算加速,把人工智能应用的计算力求比别人好。

物联网是伪命题,要把AI的能力从云端拉到终端 

“物联网是伪命题,是难以实现的。”吴韧第一次提出这个说法是在2015年乌镇,如今再一次强调。 

在吴韧看来,物联网看似可以魔术般的连起来,但实际如果打开看就会发现,要通过很多海底光缆或者地下光缆来连接起来,是从分支道路到主干道连接的。 

主干道是国家资源,需要国家的投资才能持续扩大。物联网接入数的增长是指数级增长,可能是4K或者8K摄像头,或者其他种种。这种增长远远超过了主干道增长的速度。 

对此的解决方法就是,将人工智能的能力从云端拉到终端,让终端的小的物体同样具备思考的能力,把它们思考的结果通过网络与世界连接。

 “I2OT(智联网)是未来唯一的可能。”

大多数AI公司多希望在某个领域把事情做得更好,异构智能则希望能够看到水平面。 

异构智能拥有芯片,模型,超级计算机,希望将模型脱离云端,带到本地和终端,让终端变得智能。超级计算机可以训练模型,让模型和芯片进行配合,让芯片最后可以做某一个模块的功能。凭借这些芯片NovuBrain希望进入各行各业,进入生活。 

吴韧曾多次提到为人工智能公司及传统公司赋能,“英伟达为其他人工智能公司提供计算能力,异构智能为甚至为非人工智能公司,提供计算,或者智能的能力,帮助人工智能落地,使得这些公司可以把其他事情做的更好。” 

异构智能第一个AI芯片(原型)预计会在今年圣诞节前推出,到明年2月份,应用程序基本会准备就绪,并能够在该芯片上实现耗能不超过5瓦进行15万亿次浮点运算。

异构智能的第二个芯片,耗能将不超过1瓦,也将计划在2018年中期面世。 

如今,异构智能积极在医疗、安防等领域展开合作,与华西医大、HP的合作也都正式启动。隐身了两年的异构智能,现在将要展示技术能力和研究方向。

吴韧相信,未来的世界一定是智能物联网领先。而他对于异构智能的定位是,让万物互联转到万物智能,为转折提供所有的技术,随着智联网的长大,公司也将长大,成为伟大的公司。

以下是媒体和吴韧交流的部分内容,经36氪整理如下:

1、异构智能说要赋能,又不做平台,那具体赋能的方式是什么?

吴韧:平台是搭一个东西,然后别人可以来做一点,大家都获利。做平台就是做一个标准,平台要大而全,要满足每个人的要求,因此会有额外的负担,异构智能要做的就是优化这些额外的负担。那没有平台怎么赋能?两种可能性,第一是训练一些常见的模型,与芯片组合,直接就是一个模块。其他公司要是想在上边做什么,也可以但不是平台,是非常定制化的产品,这些公司可以在一点点API上用好。不会把所有应用都放进来,那不是异构智能想要达到的目标。

2、芯片目前在哪儿生产?

吴韧:将在台积电生产,异构智能核心能力是芯片,专注的市场是用芯片给其他的赋能,其他的考虑入生产芯片等不适优先级,会给设计让位。异构智能目前不会考虑良品率不高或者需要试验的产品线。

3、认为人工智能发展到现在有什么行业壁垒,异构智能遇到了什么,有哪些解决思路?

吴韧:人工智能的应用有几个前提:第一是数据,AI本轮的进步基于数据。大数据和大计算是人工智能的根本。当一个行业发展得比另一个行业更快,很多情况是这个行业的数据是开放的,从业者可以很快训练到很好的模型。然而数据的不通用性是壁垒,数据是资源,收集有用数据是公司日常运转中重要的一点。异构智能不考虑拿数据,因为数据是别人的资产,赋能公司让其他公司数据更有价值。这一轮人工智能进步把人类本能的直觉能力进行重现。自动驾驶看起来和直觉没关系,但是人会用眼睛和手的观察和反应。世界上很多的感受信息,要做出反应就是靠直觉。不过人工智能在应用层次还有很多的路要走,应用场景在每个行业都有很多可用。占优的大player有多愿意把能力引入各个行业影响行业发展。Computer vision已经被deep learning颠覆了,人类动物的本能直觉,有能力在这一轮完美的呈现,我们离应用成熟还有很远。

4、现在各个大公司都在内部成立实验室,异构智能与国内巨头竞争还是合作?

吴韧:异构智能有两个核心能力,芯片和训练。芯片方面肯定是合作,训练方面那些大厂也是要买别人的东西,所以应该也很愿意合作。曾经和王小川讨论过很多计算能力方面的东西。在AK的应用上,大家感受到了计算能力是瓶颈,并且在成本上考虑,如果语音识别不用gpu,可能要用上万个机器才能加速。异构智能有很强的计算的能力和算法的能力,过几个星期会有一篇文章结果比谷歌好很多,这也并不是一个稀奇的事情,在push front tier,在推动state of art 的进步方面很愿意与其他公司合作。异构智能希望与其他公司是赋能的关系,而不是竞争。

5、英伟达发力自动驾驶,我们相遇怎么办?

吴韧:Xavier是英伟达的重中之重,他们30W30T的芯片是主推产品。但是他们对无人驾驶的判断不够精确,原来想centralized process,但是所有人都低估了其中的难度。30TOPs可能不够自动驾驶,自动驾驶可能需要分布式的计算。无人驾驶汽车有雷达,毫米波雷达,摄像头,可能这些里的每个东西都要一个处理器,然后把处理的结果都传到核心进行计算。当有很多芯片的时候,异构智能和英伟达的区别就体现出来了。

离开百度蛰伏2年的吴韧,要打造对标英伟达、谷歌的AI最专用芯片

发表评论

电子邮件地址不会被公开。 必填项已用*标注