英特尔将其 Python NPU 加速库开源
英特尔将其PythonNPU加速库开源英特尔长期以来一直在开发iVPULinux内核驱动程序,该驱动程序位于内核上游,用于从MeteorLake开始支持英特尔NPU(以前称为VPU)。这个NPU加速库是一个方便的Python库,可以充分利用NPU的潜力。英特尔神经处理单元库支持8位量化、Float16支持、torch.compile支持、静态形状推理和其他功能。NPU加速库可从GitHub下载,也可通过PIP方便地安装:https://github.com/intel/intel-npu-acceleration-library英特尔NPU加速库GitHub页面上的Python代码示例展示了在NPU上进行单矩阵乘法运算、为NPU编译模型,甚至在NPU上运行Tiny-Llama模型。随着人工智能时代的到来以及NPU在更多英特尔处理器上的应用,这个库将变得越来越重要。...PC版:https://www.cnbeta.com.tw/articles/soft/1422025.htm手机版:https://m.cnbeta.com.tw/view/1422025.htm
在Telegram中查看相关推荐
![](https://soso.news/wp-content/uploads/2023/09/coin-300x85.png)
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人