macOS Sequoia 将 Mac 生产力与智能化提升至全新高度

macOSSequoia将Mac生产力与智能化提升至全新高度苹果今日发布macOSSequoia预览版，这一全球领先的桌面操作系统迎来重要升级，为Mac带来全新工作方式与变革性的智能化功能。macOSSequoia满载一系列震撼人心的新功能，包括进一步扩展了连续互通的iPhone镜像，用户可以直接从Mac上完全访问并控制iPhone。Safari浏览器得到重大更新，全新的Highlights功能让用户在浏览网页时更轻松地找到所需信息。新Passwordsapp集所有密码和凭证于一处，方便用户取用和管理。Mac游戏体验更具沉浸感，同时有众多全新游戏佳作登陆Mac，包括《刺客信条：影》和《Frostpunk2》等更多作品。——

用 ORPO 将 Llama 3 的性能提升到新高度 | 详文

用ORPO将Llama3的性能提升到新高度ORPO(OddsRatioPreferenceOptimization)是一种新的微调技术，可以将传统的监督微调和偏好对齐阶段合并为一个过程，从而减少计算资源和训练时间。ORPO通过修改语言建模目标，将负对数似然损失与比值(OR)项相结合，以弱化被拒绝的响应并强化被选择的响应，让模型同时学习目标任务和人类偏好。文章使用TRL库中的ORPOTrainer在Llama38B模型上进行ORPO微调，数据集包含DPO偏好对，共1000个样本。尽管由于样本量少仅训练了1个epoch，但微调后的模型在Nous的基准测试中表现良好，所有指标上均优于Llama3原模型。ORPO展现了作为新的微调范式的潜力，未来在更大规模的偏好数据集上进行充分训练将产生更好的效果。选择高质量的数据集也非常重要。当前是开源社区的活跃时期，正在发布越来越多高质量的开源模型，开源模型与专有模型的差距正在缩小，微调是获得最佳性能的关键。