基于TensorFlow PluggableDevice接口的异构、高性能深度学习扩展插件，将英特尔XPU (GPU、 CPU

基于TensorFlow PluggableDevice接口的异构、高性能深度学习扩展插件，将英特尔XPU (GPU、 CPU 等)设备带入TensorFlow 开源社区，用于AI工作负载加速 | #插件

【英特尔GPU取经路能否“通关”？】英特尔“老将”Rohit Verma将从AMD回到英特尔，担任英特尔GPU部门首席产品架构师

【英特尔GPU取经路能否“通关”？】英特尔“老将”Rohit Verma将从AMD回到英特尔，担任英特尔GPU部门首席产品架构师。在过去的八年间，Rohit Verma在AMD参与了台式机和笔记本的独显设计以及CPU、GPU、电源等更广泛的SoC架构设计。 #抽屉IT

英特尔将其 Python NPU 加速库开源

英特尔将其 Python NPU 加速库开源 英特尔长期以来一直在开发 iVPU Linux 内核驱动程序，该驱动程序位于内核上游，用于从 Meteor Lake 开始支持英特尔 NPU（以前称为 VPU）。这个 NPU 加速库是一个方便的 Python 库，可以充分利用 NPU 的潜力。英特尔神经处理单元库支持 8 位量化、Float16 支持、torch.compile 支持、静态形状推理和其他功能。NPU 加速库可从 GitHub 下载，也可通过 PIP 方便地安装： NPU 加速库 GitHub 页面上的 Python 代码示例展示了在 NPU 上进行单矩阵乘法运算、为 NPU 编译模型，甚至在 NPU 上运行 Tiny-Llama 模型。随着人工智能时代的到来以及 NPU 在更多英特尔处理器上的应用，这个库将变得越来越重要。 ... PC版： 手机版：

Intel® Extension for Transformers 是一种创新工具包，可在英特尔平台上加速基于 Transfor

Intel® Extension for Transformers 是一种创新工具包，可在英特尔平台上加速基于 Transformer 的模型，尤其适用于第 4 代英特尔至强可扩展处理器 Sapphire Rapids（代号为 Sapphire Rapids）。 该工具包提供以下主要功能和示例： 通过扩展Hugging Face transformersAPI 和利用英特尔® Neural Compressor，在基于 Transformer 的模型上进行模型压缩的无缝用户体验 高级软件优化和独特的压缩感知运行时（与 NeurIPS 2022 的论文Fast Distilbert on CPUs and QuaLA-MiniLM: a Quantized Length Adaptive MiniLM和 NeurIPS 2021 的论文Prune Once for All: Sparse Pre-Trained Language Models 一起发布） 优化的基于 Transformer 的模型包，例如Stable Diffusion、GPT-J-6B、GPT-NEOX、BLOOM-176B、T5、Flan-T5和端到端工作流程，例如基于 SetFit 的文本分类和文档级情感分析（ DLSA） NeuralChat ，一个定制的聊天机器人，通过对领域知识的参数高效微调PEFT在 Intel CPU 上训练 | #工具