近日,英特尔宣布将在2020年上半年推出第三代英特尔至强可扩展处理器,AI训练性能将比上一代提升60%,进一步满足数据中心客户对工作负载的AI能力需求。
在CES 2020期间,我们与英特尔公司数据中心事业部副总裁兼英特尔至强处理器和数据中心营销总经理Lisa A. Spelman聊了聊,就英特尔在中国数据中心市场的重点合作计划、过去几年英特尔在数据中心大的战略变化、至强系列产品的市场表现及发展规划等问题进行深入交流。
Lisa表示,目前英特尔在数据中心领域有超过200亿美元的业务,并希望未来业务规模能在总体潜在市场上达到2000多亿美元。
英特尔公司数据中心事业部副总裁兼英特尔至强处理器和数据中心营销总经理Lisa A. Spelman
重点关注中国数据中心市场的三类客户
数据中心的需求是全球性的,无论哪个国家的客户,都会清楚地告诉英特尔团队他们所期望获得的产品性能。有时,出于独特的约束条件和环境,如地理位置、访问权限、工作负载、所服务客户的独特性等等,不同市场会给出不同的反馈。
Lisa认为,英特尔中国的客户在推动大量惊人的在游戏、社交、电信、5G先进理念等方面一直处于前沿位置,发挥了很大的领导作用。
当智东西问及英特尔接下来在中国数据中心市场的合作和投资计划时,Lisa表示,英特尔目前暂时还没有具体投资计划的消息,但英特尔在中国有着悠久的合作历史,有生产设施、产品研发和强大的软件团队来支持中国本地的客户。
在中国数据中心领域,英特尔真正关注的是三个不同的市场:云服务供应商、电信运营商和企业领域。
云服务供应商
英特尔认为,英特尔通过与中国的云服务供应商合作,为他们获得惊人的增长打下了坚实的根基,阿里巴巴、百度、腾讯、今日头条等等都是英特尔关注的合作伙伴。
英特尔从很早起就开始陪伴这些公司不断成长,并从这些客户那里得到很多有关工作负载的反馈。英特尔秉持客户至上的原则,与客户保持密切关系,根据客户提出的问题去做更多的优化和升级。
电信运营商
英特尔关注在5G基础设施标准制定过程中,将有哪些参、何时进行基准测试工作、需要什么样的软件才能在至强上运行工作负载。
在网络领域,有许多工作负载是在定制的专用芯片ASIC上运行的,这可能不是数据爆炸中最为经济的解决方法。英特尔必须做一些工作,以确保这些工作负载在至强上可以运行,并且相比定制ASIC仍能提供高质量的服务。
过去10多年来,英特尔解决这一问题的方法,是逐个工作负载推动网络功能虚拟化,将其转移到至强,在需要的地方构建ASIC。除此之外,英特尔将它转移到至强上并不断地完成堆栈。
企业领域
企业对高性能计算的独特需求可能与云服务供应商截然不同。
比如像银行这样的机构,关乎人们的金融资产,对准确性、正常运行时间等等指标都非常严苛,它和向移动终端提供游戏服的工作负载需求就有很大差异。
英特尔接受和理解企业不同的需求,与许多中国的企业团队和客户进行合作。
英特尔在数据中心大的战略变化
过去几年,英特尔数据中心业务营收持续增长,在英特尔整体营收中的所占份额也逐渐扩大,那么这其中又贯穿着英特尔怎样的战略变化?
作为英特尔数据中心事业部核心负责人之一,Lisa分别从硬件和软件的角度来谈英特尔过去几年中在数据中心大的战略变化。
一方面,英特尔最重要的战略已经不仅是发展CPU,更重要的是布局CPU以外的领域,以满足所有不同种类的工作负载。
另一方面,英特尔将软件能力视为一项战略资产,英特尔建立和发展的世界级软件团队正在做大量工作来发掘硬件优点。
英特尔认识到AI将贯穿从边缘到数据中心的每一个工作负载,并基于此做了一系列布局。
当前英特尔的客户对AI技术有不同的掌握程度和需求。像一些大型云服务提供商、大型企业等的客户,他们的AI技术已经非常成熟,并且在持续更进探索;有些客户的AI技术刚刚起步;还有些用户虽然自己不开发AI,但已经通过将AI算法构建到自身应用程序的方式,从AI技术中受益。
这些需求,使得构建跨越整个数据传输的途径变得更加重要,无论是自身的工作负载还是从第三方获取应用程序,都要具备处理AI的能力。
正是基于对AI的认知,以及对市场趋势和客户需求的理解,英特尔做出了很多改变。例如向至强中添加AI加速能力,收购了一些公司来帮助英特尔解决边缘推理、数据中心推理以及网络相关的工作负载等。
英特尔从基础平台开始,在硬件中添加AI功能,用框架处理软件,随后添加免费赠送的芯片,来满足更复杂的客户需求以及复杂的工作负载。
除数据中心外,边缘同样是英特尔雄心勃勃的领域。Lisa表示,由于不同边缘环境的需求可能大相径庭,边缘计算可能非常困难。
这不只是在边缘上放一些传感器,或是减少摄像头之类的设备那么简单,而是如何处理所有这些设备,如何将需要的数据返回数据中心,如何在高效便捷地在内容创建或内容获取时处理需要的内容,进而从这些数据中为客户发掘洞察和提供价值。
英特尔正努力探索和思考如何通过其现有产品和技术,为用户提供更便捷的产品、服务,使边缘计算更容易实现。
除了硬件创新外,过去几年的主要变化还有将软件能力视为英特尔及其客户的一项战略资产。英特尔此前提及的将新一代至强处理器AI性能提升14倍,其中2倍来自硬件,其余的提升部分来自于对TensorFlow、PaddlePaddle等主流框架进行的软件优化工作。
芯片内核和频率指标不是唯一标准
在CES开幕前夕,英特尔披露了三代至强可扩展处理器的AI性能升级过程。
进入2020年,英特尔将继续推动英特尔第二代至强可扩展处理器,并将在2020年年中推出第三代至强可扩展处理器(代号Cooper Lake),将包含内置AI训练加速的全新英特尔DL Boost扩展指令集,着重改善训练性能。
英特尔将持续专注于AI和高性能计算,并致力于将其第一个10nm数据中心的至强CPU Ice Lake推向市场,这是英特尔将在下半年推向市场的第一个至强产品,此后英特尔还会有其他10nm的数据中心产品陆续问世。
Lisa管理至强平台已经4年有余,回顾过去一年至强的成绩,她看到在更为激烈的竞争环境中,英特尔第二代至强可扩展处理器展示出令人振奋的出货能力。
过去一年,英特尔与客户合作的另一个方面是充分利用所有这些平台组件。比如,第二代至强可扩展处理器Cascade Lake也有傲腾数据中心级持久内存。
至强和傲腾数据中心级持久内存组合将提供优越的工作负载的性能,以及更大工作负载所需的持久性,无论用于数据库或其他载体,都能带来更好的总拥有成本。英特尔与客户共同验证概念,然后进入部署阶段。
“为此,我们做了数百个概念证明,现在它们都开始进入部署阶段。我们的概念转化率高达90%以上,这是闻所未闻的。”Lisa表示。
在她看来,英特尔不是说只聚焦在一个芯片有多少核心、多高频率,而是利用英特尔所拥有的产品和技术的广度,从工作负载和客户用例的角度来服务客户。
在推广第一代以及第二代至强可扩展处理器的过程中,英特尔花了一年的时间与客户深入沟通,使用产品和提升使用产品的体验。Lisa认为,如果赢得了客户的信任,那么就是有了“制胜法宝”。
英特尔通过持续与客户合作,以及长达20多年在基础设施领域的投入,旨在为每个工作负载提供无与伦比的性能。其中包含基准测试,还有在实际部署并尝试处理单个或多个工作负载时将看到的内容。
英特尔依靠软件专家向客户展示他们能做什么。比如,客户可以比较两个产品,一个是英特尔的产品,另一个是拥有同等内核数甚至更多内核、同频率的竞品,然后将它们放到同一个AI案例或应用程序中,内置AI训练加速的至强处理器表现会非常出色;再比如在高性能计算应用领域,英特尔会和客户合作,确保他们的软件能充分发挥AVX 512的优势,最终看到巨大的性能差异。
携手数据中心伙伴、推进高速互联新标准
建立行业协会等方面的工作也是英特尔持续推动行业创新的方式之一。
英特尔在数据中心领域牵头创立了开放合作联盟(Compute Express Link,CXL)标准组织,这是一个系统间互联组织,用于实现CPU与GPU、FPGA等多种专用加速芯片间的快速互联,从而进一步提升下一代数据中心的性能。其标准开放开源,允许联盟成员共享。
从边缘到云端到网络有很多工作负载需要处理,尽管至强可以处理一切工作负载中的数据,但在某些特定需求下,仅靠至强不足以带来好的总拥有成本或好的性能表现。
而CXL旨在成为至强附加计算能力或网络能力连接点的一部分,并帮助提升至强及协处理器两者的计算能力。
英特尔努力使至强能处理尽可能多的工作负载,然后与客户讨论它需要怎样规模、复杂性或容量的工作负载,按需增加GPU、FPGA等额外的加速功能,这些客户的最终选择往往是定制的,但这些芯片解决方案均出自英特尔提供的同一个产品集合。
据Lisa介绍,CXL已经获得英特尔客户、生态合作伙伴及竞争对手的认可,现在它已经成为该领域真正的发展标准之一。
英特尔也希望能从中受益,提高自身产品的性能和能力。由于英特尔了解创新的复杂性和面临的巨大的挑战,因此他们希望通过与行业一同合作的方式来解决和应对。
英特尔不会将自己描述成系统级公司
随着人们逐渐意识到软硬协同已经成为AI芯片领域的一大趋势,过去一年,我们看到很多AI芯片玩家宣称自己不是芯片公司,而是系统级公司。英特尔又是怎样看待自身的定位?
对此,Lisa表示,英特尔不会将自己描述成系统级公司,英特尔正在一个更大的平台、系统和解决方案层面上发挥作用,根据客户整体数据中心系统的需求交付产品和相应功能。
Lisa强调说,英特尔不会认为某个单一行动会是英特尔在数据中心最重要的行动,英特尔为AI领域的客户打造软硬件组合是他们持续在做的最普遍的事情。
英特尔在这一领域已经取得很大进步,并将持续投资硬件功能、推进软件工作和改善工作负载,而这些将潜移默化地影响数据中心的未来。
英特尔公司数据中心事业部副总裁兼英特尔至强处理器和数据中心营销总经理Lisa A. Spelman
重点关注中国数据中心市场的三类客户
数据中心的需求是全球性的,无论哪个国家的客户,都会清楚地告诉英特尔团队他们所期望获得的产品性能。有时,出于独特的约束条件和环境,如地理位置、访问权限、工作负载、所服务客户的独特性等等,不同市场会给出不同的反馈。
Lisa认为,英特尔中国的客户在推动大量惊人的在游戏、社交、电信、5G先进理念等方面一直处于前沿位置,发挥了很大的领导作用。
当智东西问及英特尔接下来在中国数据中心市场的合作和投资计划时,Lisa表示,英特尔目前暂时还没有具体投资计划的消息,但英特尔在中国有着悠久的合作历史,有生产设施、产品研发和强大的软件团队来支持中国本地的客户。
在中国数据中心领域,英特尔真正关注的是三个不同的市场:云服务供应商、电信运营商和企业领域。
云服务供应商
英特尔认为,英特尔通过与中国的云服务供应商合作,为他们获得惊人的增长打下了坚实的根基,阿里巴巴、百度、腾讯、今日头条等等都是英特尔关注的合作伙伴。
英特尔从很早起就开始陪伴这些公司不断成长,并从这些客户那里得到很多有关工作负载的反馈。英特尔秉持客户至上的原则,与客户保持密切关系,根据客户提出的问题去做更多的优化和升级。
电信运营商
英特尔关注在5G基础设施标准制定过程中,将有哪些参、何时进行基准测试工作、需要什么样的软件才能在至强上运行工作负载。
在网络领域,有许多工作负载是在定制的专用芯片ASIC上运行的,这可能不是数据爆炸中最为经济的解决方法。英特尔必须做一些工作,以确保这些工作负载在至强上可以运行,并且相比定制ASIC仍能提供高质量的服务。
过去10多年来,英特尔解决这一问题的方法,是逐个工作负载推动网络功能虚拟化,将其转移到至强,在需要的地方构建ASIC。除此之外,英特尔将它转移到至强上并不断地完成堆栈。
企业领域
企业对高性能计算的独特需求可能与云服务供应商截然不同。
比如像银行这样的机构,关乎人们的金融资产,对准确性、正常运行时间等等指标都非常严苛,它和向移动终端提供游戏服的工作负载需求就有很大差异。
英特尔接受和理解企业不同的需求,与许多中国的企业团队和客户进行合作。
英特尔在数据中心大的战略变化
过去几年,英特尔数据中心业务营收持续增长,在英特尔整体营收中的所占份额也逐渐扩大,那么这其中又贯穿着英特尔怎样的战略变化?
作为英特尔数据中心事业部核心负责人之一,Lisa分别从硬件和软件的角度来谈英特尔过去几年中在数据中心大的战略变化。
一方面,英特尔最重要的战略已经不仅是发展CPU,更重要的是布局CPU以外的领域,以满足所有不同种类的工作负载。
另一方面,英特尔将软件能力视为一项战略资产,英特尔建立和发展的世界级软件团队正在做大量工作来发掘硬件优点。
英特尔认识到AI将贯穿从边缘到数据中心的每一个工作负载,并基于此做了一系列布局。
当前英特尔的客户对AI技术有不同的掌握程度和需求。像一些大型云服务提供商、大型企业等的客户,他们的AI技术已经非常成熟,并且在持续更进探索;有些客户的AI技术刚刚起步;还有些用户虽然自己不开发AI,但已经通过将AI算法构建到自身应用程序的方式,从AI技术中受益。
这些需求,使得构建跨越整个数据传输的途径变得更加重要,无论是自身的工作负载还是从第三方获取应用程序,都要具备处理AI的能力。
正是基于对AI的认知,以及对市场趋势和客户需求的理解,英特尔做出了很多改变。例如向至强中添加AI加速能力,收购了一些公司来帮助英特尔解决边缘推理、数据中心推理以及网络相关的工作负载等。
英特尔从基础平台开始,在硬件中添加AI功能,用框架处理软件,随后添加免费赠送的芯片,来满足更复杂的客户需求以及复杂的工作负载。
除数据中心外,边缘同样是英特尔雄心勃勃的领域。Lisa表示,由于不同边缘环境的需求可能大相径庭,边缘计算可能非常困难。
这不只是在边缘上放一些传感器,或是减少摄像头之类的设备那么简单,而是如何处理所有这些设备,如何将需要的数据返回数据中心,如何在高效便捷地在内容创建或内容获取时处理需要的内容,进而从这些数据中为客户发掘洞察和提供价值。
英特尔正努力探索和思考如何通过其现有产品和技术,为用户提供更便捷的产品、服务,使边缘计算更容易实现。
除了硬件创新外,过去几年的主要变化还有将软件能力视为英特尔及其客户的一项战略资产。英特尔此前提及的将新一代至强处理器AI性能提升14倍,其中2倍来自硬件,其余的提升部分来自于对TensorFlow、PaddlePaddle等主流框架进行的软件优化工作。
芯片内核和频率指标不是唯一标准
在CES开幕前夕,英特尔披露了三代至强可扩展处理器的AI性能升级过程。
进入2020年,英特尔将继续推动英特尔第二代至强可扩展处理器,并将在2020年年中推出第三代至强可扩展处理器(代号Cooper Lake),将包含内置AI训练加速的全新英特尔DL Boost扩展指令集,着重改善训练性能。
英特尔将持续专注于AI和高性能计算,并致力于将其第一个10nm数据中心的至强CPU Ice Lake推向市场,这是英特尔将在下半年推向市场的第一个至强产品,此后英特尔还会有其他10nm的数据中心产品陆续问世。
Lisa管理至强平台已经4年有余,回顾过去一年至强的成绩,她看到在更为激烈的竞争环境中,英特尔第二代至强可扩展处理器展示出令人振奋的出货能力。
过去一年,英特尔与客户合作的另一个方面是充分利用所有这些平台组件。比如,第二代至强可扩展处理器Cascade Lake也有傲腾数据中心级持久内存。
至强和傲腾数据中心级持久内存组合将提供优越的工作负载的性能,以及更大工作负载所需的持久性,无论用于数据库或其他载体,都能带来更好的总拥有成本。英特尔与客户共同验证概念,然后进入部署阶段。
“为此,我们做了数百个概念证明,现在它们都开始进入部署阶段。我们的概念转化率高达90%以上,这是闻所未闻的。”Lisa表示。
在她看来,英特尔不是说只聚焦在一个芯片有多少核心、多高频率,而是利用英特尔所拥有的产品和技术的广度,从工作负载和客户用例的角度来服务客户。
在推广第一代以及第二代至强可扩展处理器的过程中,英特尔花了一年的时间与客户深入沟通,使用产品和提升使用产品的体验。Lisa认为,如果赢得了客户的信任,那么就是有了“制胜法宝”。
英特尔通过持续与客户合作,以及长达20多年在基础设施领域的投入,旨在为每个工作负载提供无与伦比的性能。其中包含基准测试,还有在实际部署并尝试处理单个或多个工作负载时将看到的内容。
英特尔依靠软件专家向客户展示他们能做什么。比如,客户可以比较两个产品,一个是英特尔的产品,另一个是拥有同等内核数甚至更多内核、同频率的竞品,然后将它们放到同一个AI案例或应用程序中,内置AI训练加速的至强处理器表现会非常出色;再比如在高性能计算应用领域,英特尔会和客户合作,确保他们的软件能充分发挥AVX 512的优势,最终看到巨大的性能差异。
携手数据中心伙伴、推进高速互联新标准
建立行业协会等方面的工作也是英特尔持续推动行业创新的方式之一。
英特尔在数据中心领域牵头创立了开放合作联盟(Compute Express Link,CXL)标准组织,这是一个系统间互联组织,用于实现CPU与GPU、FPGA等多种专用加速芯片间的快速互联,从而进一步提升下一代数据中心的性能。其标准开放开源,允许联盟成员共享。
从边缘到云端到网络有很多工作负载需要处理,尽管至强可以处理一切工作负载中的数据,但在某些特定需求下,仅靠至强不足以带来好的总拥有成本或好的性能表现。
而CXL旨在成为至强附加计算能力或网络能力连接点的一部分,并帮助提升至强及协处理器两者的计算能力。
英特尔努力使至强能处理尽可能多的工作负载,然后与客户讨论它需要怎样规模、复杂性或容量的工作负载,按需增加GPU、FPGA等额外的加速功能,这些客户的最终选择往往是定制的,但这些芯片解决方案均出自英特尔提供的同一个产品集合。
据Lisa介绍,CXL已经获得英特尔客户、生态合作伙伴及竞争对手的认可,现在它已经成为该领域真正的发展标准之一。
英特尔也希望能从中受益,提高自身产品的性能和能力。由于英特尔了解创新的复杂性和面临的巨大的挑战,因此他们希望通过与行业一同合作的方式来解决和应对。
英特尔不会将自己描述成系统级公司
随着人们逐渐意识到软硬协同已经成为AI芯片领域的一大趋势,过去一年,我们看到很多AI芯片玩家宣称自己不是芯片公司,而是系统级公司。英特尔又是怎样看待自身的定位?
对此,Lisa表示,英特尔不会将自己描述成系统级公司,英特尔正在一个更大的平台、系统和解决方案层面上发挥作用,根据客户整体数据中心系统的需求交付产品和相应功能。
Lisa强调说,英特尔不会认为某个单一行动会是英特尔在数据中心最重要的行动,英特尔为AI领域的客户打造软硬件组合是他们持续在做的最普遍的事情。
英特尔在这一领域已经取得很大进步,并将持续投资硬件功能、推进软件工作和改善工作负载,而这些将潜移默化地影响数据中心的未来。