大家好，今天来为大家分享英特尔至强可扩展处理器助力本土业务创新加速的一些知识点，和的问题解析，大家要是都明白，那么可以忽略，如果不太清楚的话可以看看本篇文章，相信很大概率可以解决您的问题，接下来我们就一起来看看吧！

七大算力神器之外，再添vRAN Boost1月11日，英特尔正式推出第四代英特尔至强可扩展处理器（代号“Sapphire Rapids”）。与上一代产品相比，第四代英特尔至强可扩展处理器采用英特尔7代制程技术制造，集成了高性能核心，更多核心，七大算力神器：英特尔AMX、英特尔IAA、英特尔QAT、英特尔DLB 、Intel DSA、Intel SGX、Intel Xeon CPU MAX系列，以及业界领先的DDR5、CXL1.1、PCIe 5.0共同构成了新一代产品的最大特点。

发布后不到八周，英特尔将vRAN Boost 添加到七大“算力神器”中。英特尔营销集团副总裁、中国区数据中心销售总经理、中国运营商销售总经理庄丙汉表示，英特尔vRAN Boost使运营商能够将所有基站层集成在一个通用虚拟化平台上。未来客户将使用通用处理器来实现基站功能，可以带来巨大的性价比提升。

庄丙汉指出，随着“双碳”、新基建、“东方数字数据、西方计算”的发展，未来数据中心对能源消耗的需求日益严格，绿色计算已成为发展趋势。可持续发展的重要推动力。为此，第四代英特尔至强可扩展处理器可以通过内置加速器以更低的能耗更高效地处理日益复杂的工作负载。他强调，第四代英特尔至强可扩展处理器包含丰富的内置加速器，有助于提高能效和性能，是英特尔最可持续的数据中心处理器。此外，通过电源管理解决方案，可以更好地提高处理器运行时的能效比。

目前，大多数主流OEM和ODM厂商都在出货基于该处理器的系统设计，排名前十的云服务提供商今年也将部署基于该处理器的云实例。在越来越多的应用中使用新处理器的同时，一些使用新处理并利用新处理器优势和特性的案例也浮出水面。

引入AMX加速器，最强大的AI通用处理器在第四代英特尔至强可扩展处理器中，笔者最关心的是AMX加速器。

AMX加速器支持两种计算精度：INT8和BF16，两者都使用非常频繁。其中，INT8常用于推理。众所周知，在日常生产环境中，推理的频率远高于训练的次数。比如，每次刷脸完成身份验证，都是一个推理的过程。社交软件中每次语音转文本、文本转语音，都是推理。过程。

混合精度浮点BF16也常用于训练场景，并且近年来使用频率逐渐增加。其主要优点是在保持高精度的同时可以提高计算速度并减少存储空间。与AVX-512相比，每个计算周期的计算性能都有很大提升。

与上一代相比，第四代至强处理器的推理性能提升了5.7-10倍

与上一代相比，第四代Xeon处理器的训练性能提升了3.5-10倍

在AMX加速引擎的帮助下，英特尔至强不仅可以用于推理，还可以用来处理一些机器学习训练工作负载，这也使得英特尔至强成为最适合机器学习的通用x86处理器。由于它同时支持INT8 和BF16 计算精度，这意味着Xeon 处理器实际上可以覆盖很多场景。

为多种场景提速，推动AI应用迈上新台阶AMX加速器在互联网场景、OCR场景、以及生成模型和大语言模型上有多种应用案例。

AMX加速器应用于腾讯太极机器学习平台，支持搜索和广告服务，解决搜索量大、搜索延迟要求高的问题。太极机器学习平台支持的搜索业务部署在腾讯云上。所使用的云主机基于新一代Intel Xeon构建。通过软件优化，不仅减少了CPU的使用数量，而且性能也提高了2到3倍。

AMX加速器应用于阿里巴巴淘宝业务。它采用INT8精度和软件优化技术，支持淘宝的“地址标准化”服务。该服务涉及到语义分析等技术，AMX提升了语义分析的性能。此外，阿里巴巴还利用AMX的BF16计算精度在手机淘宝首页进行个性化推荐。通过软件级优化，每天承载高达1亿次请求。得益于AMX带来的改进，其最终性能达到了原值的3倍。

亚信科技开发的电信智慧营业厅解决方案中，通过OCR识别客户提交的身份证件和工商营业执照图片。 OCR推理负载的需求非常大，每年大约需要2000万次服务。将业务迁移到第四代Xeon可扩展处理器并针对AMX进行优化后，性能提升了3.94倍。

用友企业ERP软件中有一个OCR模块。该模块主要用于识别办公、财务领域的发票内容。该业务每年需要支持3000 万个服务请求。迁移到第四代Xeon可扩展处理器后，结合AMX的优势，实际性能达到原来的3.83倍。

此外，AMX加速器还用于生成模型和大语言模型。英特尔技术专家通过Stable Diffusion的案例进行了详细的介绍。据了解，Stable Diffusion的技术构成大量使用了注意力机制，而注意力机制需要矩阵乘法和指数计算能力。新一代Intel Xeon的AMX BF16可用于加速矩阵计算，AVX-512可用于加速指数计算。经过测试发现，使用Stable Diffusion配合Intel PyTorch扩展插件，生成512x512图像的吞吐性能提升了3.82倍，720P图像的吞吐性能提升了5.26倍。

不难发现，由于AMX加速器的加持，机器学习的效率和经济性都达到了一个新的水平，也将使第四代英特尔至强成为最适合人工智能负载的通用x86处理器在市场上。