微软刚刚发布了 Phi-3 Mini，而且开源了。目前看它几乎所有基准测试中都表现更好。

微软刚刚发布了Phi-3Mini，而且开源了。目前看它几乎所有基准测试中都表现更好。您可以在本地电脑搭建和免费使用它，喜欢倒腾的铁子可以按以下步骤试试看：第一步：下载LMStudio。它是免费的开源软件，可让您运行任何开源AI模型。转至http://lmstudio.ai，然后下载并安装适合您操作系统的版本。第二步：获得Phi-3。在主页上搜索“Phi-3”。选择“microsoft/Phi-3-mini-4k-instruct-gguf”，然后在右侧列表中下载4K版本。4K版本更轻、更快，但比“fp16”损失更大一些。第三步：开始使用Phi-3。单击左侧菜单中的聊天选项卡和“NewChat”。选择在顶部栏中选择的Phi-3模型。然后写下并发送您的提示！

AI 开源开发平台 Hugging Face 存在托管的恶意代码

AI开源开发平台HuggingFace存在托管的恶意代码安全公司JFrog的研究人员周四在一份报告中表示，上传到人工智能开发平台HuggingFace的代码在用户计算机上秘密安装了后门和其他类型的恶意软件。研究人员表示，他们总共发现大约100个提交内容在下载并加载到最终用户设备上时执行了隐藏的和不需要的操作。大多数被标记的机器学习模型（所有这些模型都没有被HuggingFace检测到）似乎是研究人员或好奇的用户上传的良性概念证明。研究人员表示，其中大约10个是“真正恶意的”，因为它们在加载时执行的操作实际上损害了用户的安全，例如创建一个可以从互联网远程访问并完全控制用户设备的反向Shell。HuggingFace已删除了所有JFrog标记的模型。这是继PyPI,NPM和GitHub之后又一个被发现受到水坑攻击（WateringHoleAttack）的开发平台，虽然并不让人太意外。——

DeepMind 开源了 AlphaGo 和 AlphaZero 的核心

DeepMind开源了AlphaGo和AlphaZero的核心Mctx是一个具有JAX原生实现的蒙特卡洛树搜索(MCTS)算法（例如AlphaZero、MuZero和GumbelMuZero）的库。为了加快计算速度，该实现完全支持JIT编译。Mctx中的搜索算法是针对批量输入并行定义和操作的。这允许充分利用加速器，并使算法能够与由深度神经网络参数化的大型学习环境模型一起工作。

- HumanEval：Python代码补全任务，（Chen等人，2021），零-shot评估通过率@1。

-HumanEval：Python代码补全任务，（Chen等人，2021），零-shot评估通过率@1。-数学：中学和高中的数学问题以LaTeX格式编写，（Hendrycks等，2021），使用固定的4个提示进行提示。在这些基准测试中，Grok-1展现出了强大的结果，超过了其所属计算级别中的所有其他模型，包括ChatGPT-3.5和Inflection-1。它只被那些使用了大量训练数据和计算资源进行训练的模型所超越，比如GPT-4。这展示了我们在xAI方面以卓越的效率训练LLM模型所取得的快速进展。由于这些基准测试可以在网络上找到，我们不能排除我们的模型无意中是在这些基准测试上进行训练的，因此我们对我们的模型（以及Claude-2和GPT-4）进行了手动评分，评估的是2023年5月底发布的匈牙利国家高中数学期末考试，这是在我们收集数据集之后发布的。Grok在考试中获得了C（59%），而Claude-2获得了相同的成绩（55%），GPT-4获得了B（68%）。所有模型都在温度为0.1且相同的提示下进行评估。值得注意的是，我们没有为这次评估进行任何调整。这个实验是对我们的模型从未明确调整过的数据集进行的“现实生活”测试。我们在模型卡中提供了Grok-1的重要技术细节摘要。xAI的工程技术在深度学习研究的前沿，可靠的基础设施必须像数据集和学习算法一样慎重构建。为了创建Grok，我们基于Kubernetes、Rust和JAX构建了一个定制的训练和推理框架。LLM培训就像一辆疾驰的货运火车，如果其中一节车厢出轨，整个火车都会脱轨，使得重新恢复正常运行变得困难。GPU的故障方式多种多样：制造缺陷、松动的连接、配置错误、降级的内存芯片、偶发的随机位翻转等等。在训练过程中，我们需要在数万个GPU之间进行计算同步，而由于规模的扩大，所有这些故障模式都变得更加频繁。为了克服这些挑战，我们采用了一套自定义的分布式系统，确保每一种故障都能立即被识别并自动处理。在xAI，我们将最大化每瓦有用计算作为我们努力的重点。在过去几个月中，我们的基础设施使我们能够将停机时间降至最低，并在硬件不可靠的情况下保持高模型浮点运算利用率（MFU）。Rust已被证明是构建可扩展、可靠和易维护基础设施的理想选择。它提供高性能、丰富的生态系统，并防止了分布式系统中通常会遇到的大多数错误。考虑到我们团队规模较小，基础设施的可靠性至关重要，否则维护将会抑制创新。Rust让我们有信心，任何代码修改或重构都有可能产生可运行数月且需要最少监督的程序。我们现在正在为我们下一次模型能力的跃升做准备，这将需要可靠地协调数万个加速器上的训练运行，运行互联网规模的数据管道，并将新的能力和工具集成到Grok中。如果这听起来令人兴奋，请申请加入我们的团队。xAI的研究我们为Grok提供了搜索工具和实时信息的访问权限，但是像所有基于下一个标记预测训练的LLM一样，我们的模型仍然可能生成错误或矛盾的信息。我们相信实现可靠的推理是解决当前系统限制的最重要的研究方向。在这里，我们想要强调一些在xAI最令人兴奋的有前途的研究方向。-可扩展的工具辅助监督。人类反馈至关重要。然而，在处理冗长的代码或复杂的推理步骤时，提供一致准确的反馈可能具有挑战性。人工智能可以通过查找不同来源的参考资料、使用外部工具验证中间步骤，并在必要时寻求人类反馈来协助可扩展的监督。我们的目标是在我们的模型的帮助下，最有效地利用我们的人工智能导师的时间。-将正式验证与安全性、可靠性和基础结合起来。为了创建能够深入思考现实世界的AI系统，我们计划在较少歧义和更可验证的情况下开发推理能力。这使我们能够在没有人类反馈或与现实世界的互动的情况下评估我们的系统。这种方法的一个主要即时目标是为代码正确性提供正式保证，特别是关于AI安全的可验证方面。-长上下文理解和检索。训练模型以高效地在特定上下文中发现有用的知识是打造真正智能系统的核心。我们正在研究能够在需要时发现和检索信息的方法。-对抗性鲁棒性。对抗性示例表明，优化器可以轻易地利用人工智能系统的漏洞，无论是在训练还是服务期间，从而导致系统犯下严重错误。这些漏洞是深度学习模型长期存在的弱点。我们特别关注提高LLMs、奖励模型和监控系统的鲁棒性。-多模态能力。目前，Grok没有其他感官，比如视觉和听觉。为了更好地帮助用户，我们将为Grok配备这些不同的感官，以实现更广泛的应用，包括实时互动和协助。我们相信人工智能对于为社会做出重大科学和经济贡献具有巨大潜力，因此我们将努力开发可靠的防范措施，以防止恶意使用带来的灾难性后果。我们坚信要尽最大努力确保人工智能始终成为一种正能量。如果你和我们一样乐观，并且想为我们的使命做出贡献，请申请加入我们的团队。Grok的早期访问我们正在向美国地区的一部分用户提供机会，让他们尝试我们的Grok原型，并提供宝贵的反馈意见，以帮助我们在正式发布之前改进其功能。您可以在这里加入Grok的等待列表。这次发布只是xAI的第一步。展望未来，我们有一个令人兴奋的路线图，并将在未来几个月推出新的功能和特性。https://x.ai/

尝试了一下Dashtoon 这个 AI 漫画生成应用，发现做的挺成熟的，该有的功能都有，可以一次性生成也给了充分的编辑和自定义空

尝试了一下Dashtoon这个AI漫画生成应用，发现做的挺成熟的，该有的功能都有，可以一次性生成也给了充分的编辑和自定义空间。国内的很多小说视频还是手工用各种AI工具拼凑的阶段，可以借鉴一下这个产品的实现方式，是个机会。他的人物一致性是通过内置的非常多人物Lora实现的，目前来看这确实是最稳定的方案。具体的生成逻辑是你输入大概的故事描述，他会为你生成很多个场景描述，你修改确认之后就会根据文字场景描述生成图片和漫画的对话。后两张是我一次性生成的漫画。这里尝试：

LLocalSearch 一个开源的完全本地化的AI搜索工具，无需 OpenAI 或 Google API 密钥。

LLocalSearch一个开源的完全本地化的AI搜索工具，无需OpenAI或GoogleAPI密钥。过去24小时增长了一千颗星星。感兴趣的话可以部署一下试试。项目特点：完全本地化运行，不需要连接到外部API，因此无需API密钥。适用于性能相对较低的大型语言模型硬件，例如在演示视频中使用的是7b模型。提供详细的进度日志，这有助于用户更好地理解搜索和处理过程。支持用户提出后续问题，以便深入探讨或解决问题。界面对移动设备友好，适合在手机或平板电脑上使用。使用DockerCompose工具，可以快速且轻松地部署此服务。提供网络界面，使用户可以从任何设备轻松访问和使用。该服务提供精心设计的用户界面，支持浅色和深色模式，满足不同用户的视觉偏好。项目地址：https://github.com/nilsherzig/LLocalSearch