2018年全球最值得关注的AI芯片初创公司

Wave Computing

Wave Computing在2018取得了不少进展，推出其第一个DataFlow处理单元，收购MIPS，创建MIPS Open，并将首批系统交付给少数客户。虽然Wave架构有一些非常有趣的功能，但我们更期待用户的大规模真实体验反馈。

Wave不是插入到服务器的加速器，它是用于图形计算的独立处理器。这种方法有利有弊。从积极的方面看，Wave不会受到GPU等加速器面临的内存瓶颈影响。从消极方面来说，安装Wave设备将是新的升级，需要完全替换传统的X86服务器，也让其成为所有服务器制造商的竞争对手。

我不认为Wave能从某个点击败NVIDIA，但该架构的设计的非常好，该公司已经表示它很快就会有客户的反馈。

图1：Wave是从上面显示的4节点“DPU”构建的系统。Wave Computing

Graphcore

Graphcore是一家资金雄厚（融资3.1亿美元，目前估值为17亿美元）的英国独角兽创业公司，拥有全球化的团队。它正在构建一种新型的图形处理器架构，其内存与其逻辑单元位于同一芯片上，这应该能够实现更高的性能。该团队产品的发布时间暂不明确，不过他们去年四月表示“几乎准备好发布”了，12月的最新信息表明它将很快开始生产。

Graphcore的投资者名单令人印象深刻，包括红杉资本、宝马、微软、博世和戴尔 科技 。

我了解了该公司的架构，它非常令人印象深刻。从边缘设备扩展到用于数据中心的训练和推理的“Colossus”双芯片封装。在最近的NeurIPS活动中，Graphcore展示了其RackScale IPU Pod，它在一个32台服务器的机架中提供超过16 petaflops的算力。虽然该公司经常声称它将提供比同类最好GPU强100倍的性能。

Graphcore表示，4“Colossus”GC2（8芯片）服务器可提供500 TFlops（每秒数万亿次操作）的混合精度性能。单个NVIDIA V100可提供125 TFlops，因此理论上4 个V100就可提供与其相同的性能。

与往常一样，细节更能发现差别，V100峰值性能仅在重构代码执行TensorCore的4x4矩阵乘法时才可用，这是Graphcore架构巧妙避免的限制。更不用说V100消耗了300瓦的电能和大量现金这一事实。

此外，Graphcore支持片上互连和“处理器内存”（片上存储器）方法，可以得到超出TFlops基准所认可的优秀性能。在一些神经网络中，如Generative Adversarial Networks，内存是瓶颈。

再次强调，我们将不得不等待真实的用户用实际应用程序来评估此体系结构。尽管如此，Graphcore的投资者名单、专家名单和台天价估值告诉我，这可能是一件好事。

图2：GraphCore展示了ImageNet数据集处理的照片。 可视化可帮助开发人员了解其训练处理占用处理周期的位置。

Habana Labs

Habana Labs是一家以色列创业公司，去年9月在第一次AI硬件峰会上宣布它已经准备好推出其首款用于推理的芯片，其创纪录的性能用于卷积神经网络图像处理。结果显示在Resnet50图像分类数据库中该处理器每秒分类15,000张图像，比NVIDIA的T4高出约50％，功耗仅为100瓦。

在2018年12月，Habana Labs的最新一轮融资由英特尔风险投资（Intel Venture Capital）领投，WRV Capital，Bessemer Venture Partners和Battery Ventures跟投，该公司的融资也由此前的4500万美元增加了7500万美元。

据悉，Habana Labs新的融资将部分用于流片其名为“Gaudi“的第二款芯片，该芯片将专注于训练市场，据称可扩展到1000多个处理器。

其它创业公司

我知道世界上有超过40家公司在为人工智能设计训练和推理芯片。我发现大多数公司都在进行简单的FMA（浮点乘法累加）和混合精度数学（整型8位和浮点16位和32位）。对此我不会感到惊讶，因为这种方法相对容易实现并且会获得一些成果，但它不会为像NVIDIA，英特尔以及少数初创公司做出不一样的架构提供持久的架构优势。

以下是一些引起我注意的公司：

中国AI芯片初创公司

中国一直试图找到一条摆脱美国半导体的方式，人工智能加速器可能会提供它一直在寻求的机会。中国设定了2030年要建立一个价值数万亿美元的人工智能产业的目标，自2012年以来，投资者已经向创业公司投入了超过40亿美元的资金。

寒武纪 科技 估值为25亿美元，是已经发布了第三代AI芯片的中国独角兽公司。寒武纪称它可以用更低的功耗提供比NVIDIA V100更好的AI性能，他们还销售其AI IP，搭载在华为麒麟970和麒麟980的处理器当中，作为AI加速硬件。

商汤 科技 也许是估值最高的AI创业公司，以在中国推广智能监控摄像头而闻名。这些安防摄像头数量超过1.75亿，包括其他公司生产的摄像头。商汤 科技 在香港成立，最近一轮融资数额达6亿美元，由阿里巴巴领投。据报道，这家初创公司的价值目前为45亿美元。

商汤 科技 与阿里巴巴、高通、本田甚至NVIDIA等主要公司建立了战略合作伙伴关系。该公司今天拥有一台超级计算机，运行大约8000块（可能是NVIDIA提供？）GPU，并计划再建造5台超级计算机来处理数百万个摄像头采集的面部识别数据。

雷锋网编译，via forbes

理解视频中的动态行为是AI未来的关键发展方向。这对于AI用其软件理解世界至关重要，也有助于AI在医疗、娱乐和教育等领域的广泛应用。

理解图像 还要理解动作行为

解释视频的AI系统，包括自动驾驶汽车中的系统，常常依赖于识别静态框架中的对象，而非对行为进行解释。谷歌最近发布了一种能识别视频中对象的工具，并纳为云平台的一部分，该平台包含用于处理图像、音频和文本的AI工具。

但对AI来说，能理解猫为何会骑着Roomba扫地机器人在厨房与鸭子追逐嬉戏，才是彰显其能力之处。

因此，科学家面临的下一个挑战可能是教会机器不仅理解视频包含了什么内容，还要理解镜头中发生了什么。这可能带来一些实际的好处，比如带来强大的搜索、注释和挖掘视频片段的新方法，也可以让机器人或自动驾驶汽车更好地理解周围的世界如何运转。

各出奇招 用视频训练计算机

目前，科学家使用一些视频数据集来训练机器，以使其更好地理解真实世界中的行为，麻省理工学院（MIT）和IBM目前正携手进行相关研究。

去年9月，IBM与MIT宣布组建“IBM—MIT脑启发多媒体机器理解实验室”，双方将合作开发具有高级视听能力的AI。

前不久，MIT和IBM发布了一个庞大的视频剪辑数据集，这个名为“时间数据集时刻”的视频数据集囊括了从钓鱼到霹雳舞在内的许多动作的3秒钟片段。该项目负责人、MIT首席研究科学家奥德·奥利瓦说，世界上许多事情瞬息万变。如果你想明白为什么有些事情会发生，运动会给你提供很多信息。

之所以把视频长度定成3秒，是因为大部分时候，人类需要3秒时间，去观察并理解一个动作意图，比如，风吹树动，或者一个物体从桌上掉落下来等。

无独有偶，谷歌去年也发布了一套由800万个做了标记的YouTube视频组成的视频集YouTube-8M；脸谱正在开发名为“场景“操作”和“对象”集的注释数据集。

普林斯顿大学助理教授奥尔加·鲁萨克维斯基专门从事计算机视觉工作。他表示，此前科学家认为，很难开发出有用的视频数据集，因为它们需要比静止图像更多的存储和计算能力。他说：“我很高兴能使用这些新的数据集，3秒的时长很棒——它提供了时间上下文，同时对存储和计算的要求也比较低。”

还有其他机构在研究更具创造性的方法。位于多伦多和柏林的创业公司“二十亿神经元（Twenty Billion Neurons）”创造了一个定制数据集。该公司联合创始人罗兰梅·尼塞维奇称，他们还使用了专门处理时间视觉信息的神经网络，“用其他数据集训练的AI可以告诉你，视频中显示的是足球比赛还是派对；用我们的定制数据集训练的神经网络可以告诉你，是否有人刚刚进入房间。

转移学习 人工智能的未来

按照IBM的解释，人类能够观看一段简短的视频并轻松地描绘出视频内容，甚至能预测后续事件的发生，而这样的能力对机器来说依然是可望而不可及的。因此，IBM和MIT要做的就是，解决机器在认知和预测上的技术难题，在这一基础上开发出一套认知系统。

IBM的丹尼·古特弗罗因德说，有效识别行为要求机器学习某个行动，并将获得的知识应用于正在进行同样行动的情境中，这一领域的进步，即转移学习，对于AI的未来非常重要；而且，这项技术在实际中大有用途，“你可以用它来帮助改善对老年人和残疾人的护理，比如告诉护理人员是否有老人跌倒，或者他们是否已经吃过药等等。”

MIT和IBM也表示，一旦机器能够看懂视频，具备视觉能力的高级计算机认知系统将能用于各种行业，不仅仅是医疗，还有教育、娱乐等领域，包括对复杂的机器进行保养和维修等。