Gemini Pro 1.5 超长上下文之后，配合 GPTs ，会让制作虚拟角色 AI Bot 进入工业化时代。以《撒野》这本

GeminiPro1.5超长上下文之后，配合GPTs，会让制作虚拟角色AIBot进入工业化时代。以《撒野》这本90万字东北严肃文学为例，主要就两步：1.直接在GoogleAIStudio里上传小说全文，要求它扮演PromptEngineer，生成用于扮演主人公之一的Prompt。2.把GeminiPro1.5生成的Prompt放进GPTs里做微调，再把小说全文作为知识库上传上去作为记忆。如果不用GPTs，而是在coze里，加一些结构化知识库效果会更好，也可以让GeminiPro来根据小说全文生成对话样例。复制小说中的角色可能涉及版权和道德问题，所以这个GPTs我是不会发布的，我只是讲讲方法。

OpenAI 遥遥领先 —— GPT-4 与 Claude 2.1 的长上下文精度对比

OpenAI遥遥领先——GPT-4与Claude2.1的长上下文精度对比GregKamradt对GPT-4(128K)与Claude2.1(200K)进行了名为"大海捞针"的长上下文精度测试。实验了两个AI在接收不同长度的上下文时，对文档中不同位置的内容，有何记忆上的差异。测试结果:*AI更容易记住(无论长度):文本后半部分。*AI更不容易记住(90K长文时):文本前半部分。*AI近乎100%记住(无论长度):文本开头&文本结尾。*越少的上下文=越高的准确性。*测试的API调用成本约为1016美元。投稿：@ZaiHuaBot频道：@TestFlightCN

谷歌发布了Gemini 1.5模型，最主要的升级是支持了高达 100 万的上下文长度，秒杀了所有模型。#ai##llm#

谷歌发布了Gemini1.5模型，最主要的升级是支持了高达100万的上下文长度，秒杀了所有模型。Gemini1.5基于Transformer和MoE架构的研究和工程创新，提高了训练和服务的效率。Gemini1.5Pro是一个中等规模的多模态模型，适用于多种任务，并引入了在长上下文理解方面的实验性特性。它标准的上下文窗口为128,000个Token，但现在已经可以通过AIStudio和VertexAI向开发者和企业客户提供高达100万个Token的私人预览。1.5Pro可以一次处理大量信息——包括1小时的视频、11小时的音频、包含超过30,000行代码的代码库或超过700,000个单词。Gemini1.5Pro在文本、代码、图像、音频和视频评估的综合面板上的性能超过了Gemini1.0Pro，并且与1.0Ultra在同样的基准测试上表现相当。此外，Gemini1.5Pro在进行长上下文窗口的测试中表现出色，在NIAH评估中，它在长达100万个Token的数据块中99%的时间内找到了嵌入的文本。了解更多：#context-window