百川智能发布Baichuan2-192K大模型 | 详情

百川智能发布Baichuan2-192K大模型上下文窗口长度高达192K，是目前全球最长的上下文窗口，能够一次处理约35万个汉字。官方宣称：Baichuan2-192K不仅在上下文窗口长度上超越Claude2，在长窗口文本生成质量、长上下文理解以及长文本问答、摘要等方面的表现也全面领先Claude2。10项长文本评测7项取得SOTA，全面领先Claude2Baichuan2-192K在Dureader、NarrativeQA、LSHT、TriviaQA等10项中英文长文本问答、摘要的评测集上表现优异，有7项取得SOTA，显著超过其他长窗口模型。此外，LongEval的评测结果显示，在窗口长度超过100K后Baichuan2-192K依然能够保持非常强劲的性能，而其他开源或者商用模型在窗口长度增长后效果都出现了近乎直线下降的情况。Claude2也不例外，在窗口长度超过80K后整体效果下降非常严重。Baichuan2-192K正式开启内测，已落地法律、媒体等诸多真实场景Baichuan2-192K现已正式开启内测，以API调用的方式开放给百川智能的核心合作伙伴，已经与财经类媒体及律师事务所等机构达成了合作，将Baichuan2-192K全球领先的长上下文能力应用到了传媒、金融、法律等具体场景当中，不久后将全面开放。

百川智能披露 To B 技术路线：看好搜索增强大模型，文本获取规模增至 1 亿汉字

百川智能披露ToB技术路线：看好搜索增强大模型，文本获取规模增至1亿汉字百川智能今日首次对外介绍了公司ToB技术路线，同时宣布开放基于搜索增强的Baichuan2-Turbo系列API，包含Baichuan2-Turbo-192K及Baichuan2-Turbo。在支持192K超长上下文窗口的基础上，还增加了搜索增强知识库的能力。据王小川介绍，通过长窗口+搜索增强的方式，百川智能在192K长上下文窗口的基础上，将大模型能够获取的原本文本规模提升了两个数量级，达到5000万tokens——相当于1亿汉字。通过搜索增强，模型可以先根据用户的Prompt在海量的文档中检索出最相关的内容，再将这些文档与Prompt一起放到长窗口中，有效节省了推理费用和时间成本。（新浪科技）

OpenAI 遥遥领先 —— GPT-4 与 Claude 2.1 的长上下文精度对比

OpenAI遥遥领先——GPT-4与Claude2.1的长上下文精度对比GregKamradt对GPT-4(128K)与Claude2.1(200K)进行了名为"大海捞针"的长上下文精度测试。实验了两个AI在接收不同长度的上下文时，对文档中不同位置的内容，有何记忆上的差异。测试结果:*AI更容易记住(无论长度):文本后半部分。*AI更不容易记住(90K长文时):文本前半部分。*AI近乎100%记住(无论长度):文本开头&文本结尾。*越少的上下文=越高的准确性。*测试的API调用成本约为1016美元。投稿：@ZaiHuaBot频道：@TestFlightCN

从通用人工智能（AGI）创业公司北京月之暗面科技有限公司获悉，该公司推出的Kimi智能助手已支持200万字超长无损上下文，预计今

从通用人工智能（AGI）创业公司北京月之暗面科技有限公司获悉，该公司推出的Kimi智能助手已支持200万字超长无损上下文，预计今年将开启商业化模式。月之暗面创始人杨植麟表示，通往通用人工智能，无损的长上下文将会是一个很关键的基础技术。历史上所有的模型架构演进，本质上都是在提升有效的、无损的上下文长度。上下文长度可能存在摩尔定律，但需要同时优化长度和无损压缩水平两个指标，才是有意义的规模化。（澎湃）

百川智能宣布推出 OpenAI 零成本迁移计划！免费赠送 1 千万 token

百川智能宣布推出OpenAI零成本迁移计划！免费赠送1千万token6月26日凌晨消息，OpenAI今日宣布将终止对中国提供API服务，百川智能今日宣布特别推出OpenAI零成本迁移计划，将为参与用户免费赠送1千万token，同时宣布AssitantsAPI免费使用。据介绍，目前百川智能开放平台接口已完全兼容OpenAIAPI，支持零成本迁移，功能更丰富。借助百川技术专家随时答疑，开发者五分钟即可完成API迁移。（新浪科技）

LLM得上下文越来越长，模型搜寻信息的能力却未必线性提升

LLM得上下文越来越长，模型搜寻信息的能力却未必线性提升总体而言，模型会更注意开头的文本准确性方面，有时上下文更长的Claude100k表现不如ChatGPT16k利用ChatDoc/ChatPDF来获取信息并帮助模型筛选信息块、或重新排序信息块也能提升效果最后，价格高贵的GPT4效果拔群https://arxiv.org/pdf/2307.03172.pdfhttps://t.co/oL91J2TVAm