用 ORPO 将 Llama 3 的性能提升到新高度 | 详文

用ORPO将Llama3的性能提升到新高度ORPO(OddsRatioPreferenceOptimization)是一种新的微调技术，可以将传统的监督微调和偏好对齐阶段合并为一个过程，从而减少计算资源和训练时间。ORPO通过修改语言建模目标，将负对数似然损失与比值(OR)项相结合，以弱化被拒绝的响应并强化被选择的响应，让模型同时学习目标任务和人类偏好。文章使用TRL库中的ORPOTrainer在Llama38B模型上进行ORPO微调，数据集包含DPO偏好对，共1000个样本。尽管由于样本量少仅训练了1个epoch，但微调后的模型在Nous的基准测试中表现良好，所有指标上均优于Llama3原模型。ORPO展现了作为新的微调范式的潜力，未来在更大规模的偏好数据集上进行充分训练将产生更好的效果。选择高质量的数据集也非常重要。当前是开源社区的活跃时期，正在发布越来越多高质量的开源模型，开源模型与专有模型的差距正在缩小，微调是获得最佳性能的关键。

2023年机械硬盘排行榜：希捷银河X20 20TB性能、性价比双王

2023年机械硬盘排行榜：希捷银河X2020TB性能、性价比双王性能最好的是希捷银河X2020TB，作为企业产品级在随机性能方面一骑绝尘，突破了1000IOPS，是普通硬盘的三倍左右，功耗也控制到位低于8W。关键是价格也很给力，北美289美元，国内2949元左右，性价比在整个榜单上高居第二。性价比最高的也来自希捷，酷鱼8TB，国内只需1250元左右，而且功耗超低只需5W，但代价就是性能最差，毕竟是SMR叠瓦盘，而且只有5400RPM转速。同样希捷、同样8TB，酷玩版本的性价比又是最低的，但好在性能也不错，尤其是随机性能达到了909IOPS，仅次于企业级的银河X20，而且有CMR传统磁记录、7200RPM转速、256MB缓存。...PC版：https://www.cnbeta.com.tw/articles/soft/1403827.htm手机版：https://m.cnbeta.com.tw/view/1403827.htm

RISC-V冲出地球：NASA已选中SiFive的下一代高性能航天计算处理器

RISC-V冲出地球：NASA已选中SiFive的下一代高性能航天计算处理器RISC-V计算创始者兼领导者SiFive,Inc.刚刚宣布，其已被美国宇航局（NASA）挑选为该机构的下一代高性能航天计算（HPSC）处理器提供核心CPU。从月球探索到火星登陆，采用8个SiFiveIntelligenceX280RISC-V矢量内核+另外四个SiFiveRISC-V内核的HPSC可提供百倍于当前太空计算机的算力，且有希望被用于NASA未来的几乎所有太空任务。得益于计算性能的大幅提升，下一代HPSC将开辟各种新的可能——比如可自主行驶的漫游车、视觉处理、太空飞行、制导系统、以及通讯等应用。SiFive业务发展高级副总裁JackKang表示：作为业内领先的一家美国RISC-V半导体公司，SiFive非常自豪于能够被世界首屈一指的航天机构给选中、并为其最为关键的任务应用程序提供支撑。在科学与空间工作负载中，X280带来了较竞品高出多个数量级的性能提升。SiFive的RISC-VIP，使得NASA能够利用快速增长的全球生态系统支持、灵活性和长期生存能力。我们总是说，SiFive的未来毫不设限，并且很高兴看到我们的创新影响力可突破当前所在的这颗星球。据悉，X280是一款多核RISC-V处理器，具有矢量/SiFive智能扩展、并针对边缘人工智能（AI）/机器学习（ML）计算加以优化。X280非常适合需要高吞吐量、单线程性能，同时又受到严重功率限制的应用程序。而RISC-V的开放与协作特性，又能够极大地获益于广泛的学术与科学软件开发社区所贡献的相关算法和应用程序。同时作为强大且长期的软件生态系统的一部分，社区着力于优化诸多数学函数、过滤器、变换、神经网络、以及其它软件库。综上所述，HPSC处理器和X280计算子系统，有望在工业自动化、边缘计算、ratificationintelligence、以及航空航天等领域发挥重要的作用。PC版：https://www.cnbeta.com/articles/soft/1313463.htm手机版：https://m.cnbeta.com/view/1313463.htm

RISC-V无剑联盟成立 阿里达摩院玄铁RISC-V处理器出货超40亿颗

RISC-V无剑联盟成立阿里达摩院玄铁RISC-V处理器出货超40亿颗在联盟成立环节，还发布了RISC-V技术及应用的成果，其中提到目前达摩院玄铁处理器已授权300多家企业，出货量超过40亿颗，成为RISC-V领域最受欢迎的处理器IP之一。据了解，在2019年，阿里巴巴在发布玄铁首款产品“玄铁910”不就，发布芯片版图的又一重要产品——SoC芯片平台“无剑”。据介绍，无剑是面向AIoT的一站式芯片设计平台，能够帮助芯片设计企业将设计成本降低、设计周期压缩。作为系统芯片开发的基础共性技术平台，无剑由SoC架构、处理器、各类IP、操作系统、软件驱动和开发工具等模块构成，能够承担AIoT芯片约80%的通用设计工作量，让芯片研发企业专注于剩余20%的专用设计工作，降低系统芯片的研发门槛，提高研发效率和质量，让定制化芯片成为可能。...PC版：https://www.cnbeta.com.tw/articles/soft/1423645.htm手机版：https://m.cnbeta.com.tw/view/1423645.htm

性能超ARM A76 国产第二代“香山”RISC-V开源处理器最快6月流片

性能超ARMA76国产第二代“香山”RISC-V开源处理器最快6月流片得益于指令精简、模块化、开源等优势，RISC-V一直被视为x86、ARM之外最有潜力的第三大CPU架构，同时也被视为中国芯片产业的第三条路。在日前举行的2023年中关村论坛“RISC-V开源处理器芯片生态发展论坛”上，第二代“香山”（南湖架构）开源高性能RISC-V处理器核正式发布。PC版：https://www.cnbeta.com.tw/articles/soft/1362077.htm手机版：https://m.cnbeta.com.tw/view/1362077.htm