2018全球最值得关注的AI芯片创业公司

波动计算

Wave Computing在2018取得了很多进展,推出了第一个数据流处理单元,收购了MIPS,创建了MIPS Open,并向少数客户交付了第一批系统。虽然Wave架构有一些非常有趣的功能,但我们期待用户大规模的真实体验反馈。

Wave不是插在服务器上的加速器,它是图形计算的独立处理器。这种方法有利有弊。积极的一面是,Wave不会受到GPU等加速器所面临的内存瓶颈的影响。负面来说,安装Wave设备将是一次全新的升级,需要彻底取代传统的X86服务器,使其成为所有服务器厂商的竞争对手。

我不认为Wave能从某一点上打败NVIDIA,但是架构设计的非常好,公司已经表示很快会有客户反馈。

图1: Wave是从上面显示的4节点“DPU”构建的系统。波动计算

图表核心

Graphcore是一家英国独角兽创业公司,资金雄厚(融资31亿美元,目前估值1.7亿美元),团队遍布全球。它正在建立一个新的图形处理器架构,其内存和逻辑单元位于同一个芯片上,这应该能够实现更高的性能。团队的产品发布日期暂时不清楚,但他们在去年4月份的时候表示“差不多准备发布了”,最新的5438+2月份的信息表示很快就会开始生产。

Graphcore的投资者名单令人印象深刻,包括红杉资本、宝马、微软、博世和戴尔科技。

我了解了公司的结构,印象非常深刻。从边缘设备到“巨像”双芯片封装,用于数据中心的训练和推理。在最近的NeurIPS活动中,Graphcore展示了其RackScale IPU Pod,它在一个32服务器机架中提供了超过16 petaflops的计算能力。虽然该公司经常声称,它将提供比同类最佳GPU高出100倍的性能。

根据Graphcore的说法,4“巨像”GC2 (8芯片)服务器可以提供500 TFlops(每秒万亿次运算)的混合精度性能。单个NVIDIA V100可以提供125 TFlops,所以理论上四个V100可以提供相同的性能。

和往常一样,细节上也能发现区别。V100的峰值性能只有在重构代码执行TensorCore的4x4矩阵乘法时才可用,这是Graphcore架构巧妙避免的限制。更不用说V100消耗300瓦电和大量现金。

此外,Graphcore支持片内互连和“处理器内存”(on-chip memory)方法,可以获得超越TFlops基准认可的优异性能。在一些神经网络中,例如生成对抗网络,记忆是瓶颈。

同样,我们将不得不等待真正的用户用真正的应用程序来评估这个架构。尽管如此,Graphcore的投资者、专家名单和台湾的天价估值告诉我,这可能是一件好事。

图2: Graph Core显示了ImageNet数据集处理的照片。可视化可以帮助开发人员知道他们的训练过程在处理周期中占据了什么位置。

哈瓦那实验室

以色列初创公司Habana Labs在去年9月的首届AI硬件峰会上宣布,它准备推出第一款用于推理的芯片,其创纪录的性能被用于卷积神经网络图像处理。结果显示,该处理器在Resnet50图像分类数据库中每秒分类65,438+05,000幅图像,比英伟达T4高出约50%,功耗仅为65,438+000瓦。

2018年2月,哈瓦那实验室最新一轮融资由英特尔风险投资领投,WRV资本、贝塞麦风险投资伙伴和Battery Ventures跟投,公司融资较之前的4500万美元增加了7500万美元。

据悉,Habana Labs新融资的一部分将用于流式传输其第二个名为Gaudi的芯片,该芯片将专注于训练市场,据说将扩展到超过65,438+0,000个处理器。

其他创业公司

我知道世界上有40多家公司在设计人工智能的训练和推理芯片。我发现大部分公司都在做简单的FMA(浮点乘累加)和混合精度数学(整数8位和浮点16位和32位)。我不会感到意外,因为这种方法相对容易实现,会得到一些结果,但不会为英伟达、英特尔和少数创业公司做出不同的架构提供持久的架构优势。

以下是一些引起我注意的公司:

中国人工智能芯片初创公司

中国一直试图找到摆脱美国半导体的方法,人工智能加速器可能提供了它一直在寻求的机会。中国制定了2030年打造价值数万亿美元的人工智能产业的目标。自2012以来,投资者已经向创业公司投资了超过40亿美元。

寒武纪科技,估值25亿美元,是中国的独角兽公司,发布了第三代AI芯片。寒武纪声称它可以以更低的功耗提供比NVIDIA V100更好的AI性能,他们还出售其AI IP,安装在华为麒麟970和麒麟980的处理器中作为AI加速硬件。

商汤科技可能是最有价值的人工智能初创公司,因在中国推广智能监控摄像头而闻名。这些安全摄像头的数量超过6543.8+750亿,包括其他公司生产的摄像头。商汤科技成立于香港,最新一轮融资金额达6亿美元,由阿里巴巴领投。据报道,这家初创公司的价值目前为45亿美元。

商汤科技已经与阿里巴巴、高通、本田甚至英伟达等大公司建立了战略合作伙伴关系。该公司今天有一台超级计算机,运行大约8000件(可能是英伟达提供的?)GPU,并计划再建造5台超级计算机,处理数百万个摄像头收集的面部识别数据。

雷锋。com,通过福布斯