Vector Search in 200 Lines of Rust：用200行Rust代码写一个向量搜索数据库

：用200行Rust代码写一个向量搜索数据库由于人工智能/机器学习的快速发展，向量数据库随处可见。虽然它们可以支持复杂的人工智能/机器学习应用，但向量搜索本身在概念上并不那么困难。这篇文章描述了Vector数据库的工作原理，并用不到200行Rust代码构建一个简单的VectorSearch库。所有代码都可以在这个Githubrepo中找到。在这里使用的方法基于流行的库annoy中使用的称为“局部敏感散列”的一系列算法。本文的目的不是介绍一种新奇的算法/库，而是描述矢量搜索如何使用真实的代码片段进行工作。

无需前端经验用Python写web应用的框架

无需前端经验用Python写web应用的框架没有HTML/Javascript。使用纯Python构建复杂的多页向导式工作流程和演练。更少的代码。注重保持应用程序代码的简单、简明和清晰。简单性。页面流程遵循代码流程。简洁性。用最少的代码行数来表达对一个特定问题的解决方案。清晰性。编写应用程序时无需跳过回调、请求处理程序或事件处理程序。最小的API。只有三个函数：view()、box()、option()，以及用于布局的可选行()和列()。包含电池。庞大的复杂的、无障碍的小工具和数据可视化库。库。Nitro是一个库，而不是一个服务器。与Django、Flask、Starlette、Tornado、Uvicorn和其他流行的框架集成。可以集成到你现有的应用程序中。原型设计到生产。精心设计的API可以快速建立新想法的原型，然后随着时间的推移逐步改善展示和美学，而不影响最初的实施的简单性，或牺牲控制。Unix哲学。试图做一件事，并把它做好：显示交互式用户界面。带上你自己选择的网络应用程序/服务器，并遵循其关于托管、部署、安全、监控、度量和数据管理的建议。广泛的文档。运行nitrodocs可以访问交互式文档和150多个实时示例。#框架

腾讯大模型的绝活 居然是发布会上没吹的写代码？

腾讯大模型的绝活居然是发布会上没吹的写代码？方案中包含了很多行业大模型，只不过当时腾讯的通用大模型依旧还很神秘。后续的各种消息、报道里，腾讯也在内部不断打磨混元大模型。所以这也让差评君对混元的期待值，越来越高。毕竟上一个用“hunyuan”名号的，可是打了一整套闪电五连鞭。话不多说，下面就开始新一轮大模型测试。本次测试和混元同场竞技的是，大模型界的老学长ChatGPT。整个测试环节将分：常规语义理解、复杂问题理解、连续对话与角色扮演能力、学习能力、代码能力、数学能力、长文总结，以及大家喜闻乐见的弱智吧问答等8个维度。这次我们一反常态，把长文总结能力的测评放在了第一位。因为我们让大模型总结的，就是这篇测评本身（除长文总结能力部分）。至于能不能当成省流版，往下看你就懂了。混元的总结非常精练，但过于精练，以至于我很难从这个总结得出有效的信息。但当我让他展开讲讲的时候其实还行，但可惜无中生有了“长文总结”这个模块。而ChatGPT由于输入字数限制，被我人为分成了两部分输入，不确定这有没有没影响它的总结能力。在回答中，它莫名克扣了对自己的所有评测，甚至没在总结里写出混元的数学能力、弱智吧问答挑战和差评君的观点，也不好用。向上滑动看来，这俩大模型总结得都没那么完美，想看看两家到底什么水平，大家还得仔细往下看正文。首先我们做的测试是常规的语义理解问题。问题是理解“原来谁都看不上，现在谁都看不上”。这句话混元理解得挺好，基本解释了我对单身这事的调侃，两个“看不上”都解释上了。但ChatGPT说的依旧很ChatGPT，说最多的话，犯最蠢的错。他本来解释得相当到位，特别是分析这句话是用幽默的方式来调侃单身，还带着一丝无奈情绪，很高级。但它完全没品出这前后两个“看不上”里，带有反转的幽默感，遗憾。向上滑动接下来我们看混元的复杂问题理解能力。问题是魂穿到官渡之战中袁绍身上，时间节点是骂完许攸之后。既要回答怎么破局赢下官渡之战，还要提供进一步统一全国的规划。要给大家稍微讲下这题为啥是复杂提问。因为要回答这题，首先得熟悉三国这些人物历史背景、相关故事，特别是骂完许攸这个时间节点很微妙。因为在这之后许攸投靠曹操，献计火烧袁绍囤积在乌巢的粮草。最终以少胜多击败袁绍，随后几年内彻底吞下冀北逐渐统一北方。而进一步设想里的统一全国，更是曹操本人都没能实现。所以大模型们要完美理解并回答这个问题，那网文作者们基本可以宣告失业了。AI浪潮下的网文作者现状经过测试，两个大模型的回答都很一般。从一开始，二者都没能理解自己穿越扮演袁绍角色的指令。混元急哄哄地给袁绍出主意，ChatGPT则是以为我要穿越，教我做事。至于两个给的回答，既没有get到我提出这个微妙时间节点的用意，也没有什么行之有效的战略规划，都是些泛泛而谈的车轱辘话。相对而言，个人感觉混元的稍胜一筹。毕竟ChatGPT可是希望袁绍去和曹操建立互利共赢的关系，哈哈哈。向上滑动▼既然一个复杂指令两个考试都理解不好，那干脆简单点，让两者去角色扮演一个婚礼主持人，一点点诱导进行连续对话。结果立马就能发现混元和ChatGPT，就像理科生和文科生的区别。混元的回答简单不啰嗦，但有的时候过于生硬。你说有错吧，谈不上，你要说给高分肯定不可能。而ChatGPT就是不管对不对，先把字写满再说。看里面的描述啥的都很好，但其实从中间就已经理解错意思，搞混了我的意图。所以两者都不完美，都有待改进。向上滑动▼然后我们还重点考验了下大模型的文字学习能力。搬出了当年的火星文，给两个考生上上强度。先是丢了一篇火星文版的朱自清《背影》名场面给大模型学习。然后让他们分别用这种风格写一篇养金毛心得。结果就是，混元不愧是本土大模型，背靠火星文鼻祖发源地QQ空间就是有优势，火星文的熟练度相当不错。第一眼就悟到了火星文的精髓，非常顺利地学习了火星文的创作手法。而ChatGPT虽然意识到火星文是一种不标准的中文形式，但他实在学不会这种方式，最后甚至直接承认自己不行了。向上滑动▼接下来就到了代码能力的考核。这次出的题目是，写一个现代极客风格的925活动抽奖页面，页面中必须有醒目的925标志。说起来，因为混元发布时对代码能力基本没咋提，所以本来我们对混元的代码能力没啥期待。但论这个题目，混元的效果相当不错，黑白配色的极客风有了，页面逻辑也没啥问题。甚至还预留了给我们替换logo的位置满足我们有925醒目标志的区域，相当成熟。对比之下，ChatGPT甚至把极客风理解成了925极客活动……整个抽奖界面也非常毛胚。混元页面效果ChatGPT页面效果除了代码问题，数学就是另一个大模型的老大难了。这次我们也挑了不少数学问题给两个考生做，从小学1年级一直做到了初一。最终混元大模型在六年级时挑战失败，到了初一开始胡言乱语，也让我们彻底放弃测试了。而ChatGPT明显还有余力。5年级测试题向上滑动6年级测试题向上滑动初一测试题向上滑动当然，最后也少不了网友们喜闻乐见的“弱智吧”精选套餐。这次我们更新了题库，用上了今年上半年最新的弱智吧精选问题，我们发现可能AI最后的图灵测试可能还真是弱智吧。因为在大部分测试里，混元和GPT基本都不够弱智而无法正确理解问题，这点上，人类遥遥领先！向上滑动除了以上这些常规测试外，混元发布会后的媒体采访上，很多媒体也在询问腾讯这么晚掏出大模型，那和市面上的竞品们有什么优势。腾讯方面则是说，混元大模型在大模型饱受诟病容易受诱导、典型的大模型幻觉（胡言乱语）等通病上，有了针对性的改善。所以我们在实际测试时，也专门留心感受了这两块内容。不得不说，混元的大模型幻觉减少较为明显，这大概也和他惜字如金有关系，毕竟说多错多还是很有道理的。但容易受诱导这方面的改善其实并不明显，一些该跳的坑还是很难避免，只能说千防万防，人心难防。而且作为一个刚上市的大模型，一些小问题比起同期早已发布的前辈们还是有待改进。比如“重新生成”答案经常性会失灵，甚至有的时候重启重新输入问题都没法解决。而当你发现混元说错了某个回答希望他改正，他总是倔强地虚心认错，死不悔改。还有就是，他对一些比较简单的提问，反而有时候会抽风，有点像抓关键词一样作答，很让人抓狂，只能不停修改提示词才会好点。再吹毛求疵一点的话，这个生成问题时的头像动效，有种二胡卵子的异样美感，咱也不知道这是高级呢还是可爱呢？这些小问题其实还挺频繁，真要列起来又有点太稀碎，大家还是自己体验后会有更深刻的理解。不过这些小毛病，后续的更新迭代倒也简单，等用户数多了，相信很快就能优化。总的来说，混元和ChatGPT在中文环境下的PK中，二者其实水平差不多，放到国产大模型梯队里，也能有个平均水平。只是在用了这么多大模型后，我们感觉混元特别之处是给人的感觉，它更像个理工科直男，主打一个废话少说。而GPT为首的其它大模型们则是典型的文科小编，主打能水就水，油多不坏菜。而这种感觉也更贴合腾讯对混元大模型“实用级”的定义。毕竟谁也不想在急着用的时候还要在长篇大论里找关键信息吧。那对于差评君来说，混元...PC版：https://www.cnbeta.com.tw/articles/soft/1382633.htm手机版：https://m.cnbeta.com.tw/view/1382633.htm

以前我们是赞美草根的，一个农村里出来的小姑娘，一个大山里出来的男孩子，因为参加了「达人秀」或者「好男儿」，大家给到的是掌声和祝福

以前我们是赞美草根的，一个农村里出来的小姑娘，一个大山里出来的男孩子，因为参加了「达人秀」或者「好男儿」，大家给到的是掌声和祝福，一个成绩不好的高中生写得一手好文章，让许多中学生都倾慕他的才华，想成为他。而现在主流都是鄙视草根的，大家怀揣着小红书式的慕强，B站式的清高，没人看得起中专生。精英是很割裂的，他们一边呼吁要关怀外卖小哥、专车司机，一边又看不起他们，甚至在他们威胁到精英利益的时候要联合起来打压他们，我想「关怀底层」本身就是精英人士的时尚单品吧。「每当你想批判别人的时候，要记住这世界上并不是所有人，都有你拥有的那些优势」。

专家说经常用AI写论文会变蠢？吓得我赶紧打开ChatGPT查一下

专家说经常用AI写论文会变蠢？吓得我赶紧打开ChatGPT查一下但AI的能力远不止降重这么简单，小到写一篇论文，大到通过司法考试，它都能做到。沃顿商学院教授发现，ChatGPT在MBA课程运营管理中的考试成绩超过了不少学生。而能力更强的GPT4，刚发布时，就以平均分75的成绩通过了美国法考，超过了90%的人类考生。面对拥有超能力的AI，大家也是来者不拒。有些人甚至直接用AI写的内容投稿，改都不改。今年4月的一篇医学论文《成功治疗4个月大女婴的医源性门静脉及肝动脉损伤：病例报告及文献综述》中，直接出现了“我是一个AI大模型，所以没有真实的病人数据”这样的内容。但ChatGPT能力再强，其本质也只是对已有的内容进行模仿重复，用它来写论文和考试作弊没什么区别。不少期刊已经开始不鼓励或者拒绝AI生成的学术内容。我国在学位法(草案)中，直接将人工智能代写论文定义为学术不端行为。但无论如何禁止学生使用AI写论文，总有人会冒险，只有让学生自发的，从心底里抗拒用AI作弊才行。就像疫情期间为了让所有人都戴上口罩，专家跑出来说病毒会影响性功能一样。巴基斯坦国立计算机与新兴科学大学(正经大学，2023年QS全球排名421)的学者MuhammadAbbas，另辟蹊径，做了个严谨的实验，试图证明用AI写论文会导致智商下降，让学生拒绝使用AI写作业。Abbas表示：“在过去一年里，我观察到我的学生们在完成我布置的各项作业和项目时，越来越多地、不加批判地依赖生成式AI工具。这促使我深入探究他们使用这些工具的根本原因和后果”。该研究分为两个阶段进行。首先，研究人员开发了一个变量表，用来衡量学生在学习上使用ChatGPT情况。变量表的类目包括“我使用ChatGPT来完成课程作业”“我依赖ChatGPT来帮助我的学习”“ChatGPT是我校园生活的一部分”等。这一块是想测量到底有多少学生会使用AI来完成学业，并且是否依赖AI。此表为了检测变量是否相关，简单来说就是作者在学术上为了证明这张表不是胡编的第二阶段，研究者调查影响学生使用ChatGPT的原因，包括学术工作量、时间压力、对成绩的担心程度以及对内容质量的感知程度等。测量后，研究者会评估使用ChatGPT对学生在拖延症、记忆力是否减退和学习成绩等方面的影响，并每隔一至两周进行复查。作者的研究模型研究发现，高强度的学术工作量(H1)和时间压力(H2)是ChatGPT使用量增加的主要因素，这意味着在面临高学业负担和时间紧迫的情况下，学生更有可能求助于AI工具。这很好理解，作业都快做不完了，AI这根救命稻草能抓牢还是要抓一下的，当然，也有可能是因为大学生天然就有拖延症属性。而更担心成绩的学生则不太愿意使用ChatGPT，他们担心使用AI工具可能会危害分数。这是什么隔壁小孩式的发言？对于老师不允许做的事情，他们不敢越雷池一步。有趣的是，研究并没有发现质量敏感性与使用ChatGPT之间的显著关系(H4)，这表明学生对学术内容质量的重视程度并不一定会影响其使用AI工具。也就是说，学生其实并不在意AI做出来的东西质量高不高，能交差就行。此表是呈现什么原因会导致学生使用ChatGPT，以及使用ChatGPT的后果简单解释一下这张表(同下表)，Path列代表路径，比如H1行中，学术工作量(Workload)会导致学生使用ChatGPT。系数(Coefficient)代表两个因素之间的关系，以H1的0.133为例，代表学生的学术工作量越大，就越会使用ChatGPT。T和P列，是为了在学术上证明这个研究假设在统计学上成立不成立。其实！我们直接看最后一列Status就好了，统计量大小对于看乐子的我们没多大影响。再来看一下，使用ChatGPT会对学生学习表现会造成什么影响(H5、H6、H7)。一句话，研究发现使用ChatGPT对学生个人能力和学业成绩都会产生显著的不利影响。越依赖ChatGPT的学生，越容易拖延，记忆障碍也更频繁出现，并对学业成绩产生负面影响。原因也很简单，不论AI给出的回答是好是坏，都让作业变得更简单了，全权交给AI完成，而不用自己的脑子思考，怎么还会有心思规划作业进度、复习知识点呢？想想也是啊，反正作业考试都有AI帮忙，学生学习的时候也不会认真，课后也缺乏思考。作者对学生使用ChatGPT的原因，以及对学业表现的影响做了更深度的分析。此表是呈现学生因为各种原因使用ChatGPT后，对学习表现的影响作者发现了一个连锁反应：那些被作业和时间紧迫感压得喘不过气来的学生，更容易一头扎进ChatGPT的怀抱，同时也更容易染上拖延的恶习。这就像是开启了一个恶性循环，记忆力随之每况愈下，学习成绩自然也就一落千丈。而担心成绩的学生则相反，他们不太使用ChatGPT，因此拖延和记忆力衰退的程度更低，但这种自我约束对学业成绩并没有显著影响。既然作业多、时间紧，那是不是老师不布置那么多学业任务就好了？(这才是重点)看完后硅基君发现，这研究是针对学生的，打工人完全不用担心了？！当然不是，Abbas表示：“普通人应该认识到过度使用生成式AI的阴暗面。虽然这些工具提供了便利，但它们也可能导致负面后果”。同月《神经心理学》杂志发表了一篇关于AI可能影响人类认知发展的论文。狠狠打了硅基君的脸。该论文的作者同样表达了对学生利用AI工具的担忧，“像ChatGPT这样工具的出现，让我担心学生可能会使用它来完成任务，从而阻止对认知功能的刺激”。作者提出了一个论点，AI可以充当“认知假体(cognitiveprosthesis)。即AI可以代表人类去执行认知任务，就像假肢替代失去的肢体一样，不仅仅包括计算、安排时间等简单任务，还扩展到了更复杂的认知功能，例如决策、解决问题等人类特有的能力。短期来看，生成式AI增强决策的功能可以帮助个人更快更好做出选择，更专注于重要任务，但是长期来看可能会带来潜在风险。关键问题就在于“认知卸载(cognitiveoffloading)”。简单来说过度依赖AI会导致我们独立执行认知任务的能力下降。就像肌肉不锻炼会萎缩一样，人们不经常使用认知能力，它也会逐渐退化。也就是说，如果人们不“卸载”，一直使用AI，是不是就不会有问题了？(来自硅基君的垂死挣扎)总而言之，AI对于人类认知的影响可不单单作用在学业上，任何人过度使用AI工具的负面影响都不容小觑。自ChatGPT诞生之后，AI工具就已经成为了学生们的新型“学习伙伴”。早在去年1月，根据在线课程供应商Study.com对美国1000名18岁及以上的学生进行的一项调查，每10个学生中就有超9个知道ChatGPT，超过89%的学生承认使用ChatGPT来帮助完成家庭作业。让学生完全禁止使用AI工具似乎不太可能，面对AI的潜在风险，我们能做到也许只有保持自己的大脑不断运转。想象中AI像个家庭教师，为每个学生提供个性化教学，但现实是，AI帮学生写作业。当然，这两项研究告诉我们的不仅仅是学生该谨慎使用AI，而是我们每个人都要注意不能过分依赖AI。别在AI替代人类之前，人类就已经成为了技术的奴隶了。...PC版：https://www.cnbeta.com.tw/articles/soft/1425817.htm手机版：https://m.cnbeta.com.tw/view/1425817.htm

一个500行Python代码构建的AI搜索工具，而且还会开源，试了一下麻雀虽小该有的都有。

一个500行Python代码构建的AI搜索工具，而且还会开源，试了一下麻雀虽小该有的都有。后端是Mixtral-8x7b模型，托管在LeptonAI上，输出速度能达到每秒大约200个token，用的搜索引擎是Bing的搜索API。作者还写了一下自己的经验：(1)搜索质量至关重要。优质的摘要片段是形成精准概括的关键。(2)适当加入一些虚构内容实际上有助于补充摘要片段中缺失的“常识性信息”。(3)在进行内容概括时，开源模型表现出了卓越的效果。这里尝试：https://search.lepton.run/