本文来自雷锋网,作者:包永刚。
美光(MU.US)作为存储巨头,在大数据以及人工智能的时代率先获益。不过,存储器的市场正处于周期的低点,这对于美光的投资者而言或许是个不错的机会。更值得注意的是,美光进入了AI加速器的领域,他们的目的何在?
人工智能时代已经来临
人工智能时代已经来临,根据研究机构Gartner的数据,到2022年,人工智能和机器学习有可能创造3.9万亿美元的价值。咨询公司麦肯锡(McKinsey)表示,在接受调查的企业中,有82%从AI投资中获得了正回报,包括高好的客户满意度和生产力,金融公司更好的欺诈检测等。研究公司IDC估计,人工智能和认知系统的支出在2018年至2022年间将增加两倍以上,预计从240亿美元增加到776亿美元,复合年增长率为37.3%。
很多科技公司都希望从这一市场分一杯羹,包括拥有庞大的数据中心的云计算公司、提供可处理大量数据的CPU、GPU和FPGA 的芯片公司,应用数据并编写AI程序的软件公司,以及帮助大企业部署这些系统的IT顾问。
这其中,内存和存储这样的基本组件AI的重要核心。根据硬盘制造商Seagate(希捷(STX.US))的数据,2002年产生了23 EB的数据(用大家更熟悉的说法是230亿GB。)但到2020年,每5小时就将产生23 EB的数据。这些海量的数据需要存储在使用NAND闪存的硬盘或固态硬盘上,然后通过动态随机存取存储器(DRAM)传输至处理器。
美光显然也受益于大数据和人工智能的时代。
AI时代飙升的存储器需求
美光的产品组合涵盖了NAND闪存和DRAM,其中DRAM是全球仅存的三家提供商之一。美光首席执行官Sanjay Mehrotra在去年的分析师日演讲中指出,人工智能服务器所需的固态存储器和DRAM的数量是标准服务器的两倍。由于我们仍处于AI发展的早期阶段,还面临着众多挑战,但从长远来看,AI对NAND和DRAM的需求应该会飙升。
此外,美光和英特尔(INTC.US)是唯一能够生产一种称为3D Xpoint的新型内存的公司,这种内存是类似于NAND闪存的非易失性存储,不过速度要快得多,缺点是价格昂贵,但许多AI应用程序都可以从其独特功能中受益。
10月24日,美光宣布首款3D Xpoint SSD X100发布,这款产品的速度是基于最新NAND闪存SSD的三倍,使用寿命是11倍。
美光入局AI
相比于存储器,美光的人工智能布局更值得关注。去年,美光收购了一家基于FPGA技术的初创公司,名为FWDNXT。它还在2015年收购了FPGA初创公司Pico Computing,此后就一直在努力寻找可重编程设备合适的应用,以及将哪些数据放到内存中能够获得更高的性能。
FWDNXT的技术是美光开发新型深度学习加速器的核心,该架构与AI市场上的架构相似。具备面向矩阵向量乘法的大量乘法/累加单元,并且具有执行某些关键非线性传递函数的能力。美光让FWDNXT平台解决了一些棘手的问题,并致力于在内存中构建张量原函数。他们还利用这个平台从FPGA编程角度(仅指定神经网络)构建了一个软件框架。
美光科技希望通过解决核心问题来实现更高的能源效率,即以更好的内存带宽实现数据搬运。美光通过与FWDNXT共同努力,更好地了解如何创建更好的内存。
“很明显,如果我们要构建理想的内存和存储解决方案,需要提出最佳解决方案,而不是仅仅投入一袋芯片并希望它能起作用。”美光公司高级技术副总裁Steve Pawlowski解释说。“我们正在学习在内存和存储中需要做些什么,以使其适合未来的神经网络中的各种难题,尤其是在边缘端。”
Pawlowski是美光在创建诸如Automata之类的专业或新架构方面幕后的领导者之一。他之前曾在英特尔领导架构研究,其中一部分工作是研究原型芯片如何以有趣的方式解决新出现的问题,以及这些架构是否具有前景或竞争价值。在此过程中,他以一种新的方式在美光建立新程序,该程序采用了研究概念,并测试其在使用或改进存储设备方面的可行性和作用。
“由于无法在计算端观察到各种网络,我们只能猜测我们构建到内存中的工作是否有用。” Pawlowski说。“我们要获得神经网络执行方式的可观察性的唯一方法就是获得整个执行流程,这样我们就可以对其中的每一条进行检测。这样我们才能最终获得更好的内存。”
他补充说,通过研究一些最复杂的问题,以获得一些基础的知识,包括癌症的检测,这其中准确性是最大的挑战。我们还一直在与“超大型高能物理实体”合作,这也是芯片性能和延迟性能的驱动力。在这些研究和产品化研究期间,美光能了解了快速增长的一组工作负载(如AI)的未来内存需求。
有趣的是,他们正在学习的东西是几年前已经作为产品构建的内在价值,尽管它具有巨大的潜力,但竞争激烈。那就是混合存储多维数据集(HMC),美光专注于存储器的堆叠,下一步将其折叠为一种产品。
在边缘神经网络逻辑单元上堆积的存储器可能会复兴。未来几年,更高内存带宽将变得更加重要。Pawloski补充说:“还需要减少存储器互连的功耗,我相信会有一天,采用HMC的架构将是正确的选择。届时,它可能不仅是存储设备,还可能是加速器。随之而来的还有其他功能,例如更好的ECC。”
很难判断美光对新芯片或AI加速器的研究会在哪里结束,但这种研究在哪里结束商业潜力就从哪里开始。
(编辑:张金亮)