https://news.ycombinator.com/item?id=37369422

https://news.ycombinator.com/item?id=37369422前几天我读到一个HackerNews的评论，有人认为当你购买消费级PC硬件时，它附带了一份限制你作为所有者的财产权的服务条款。最近我越来越频繁地遇到这种奇怪的经历：与那些沉浸在我们新的赛博朋克末世中的人交谈时，他们似乎忘记了以前的情形。我们已经习惯了剥削性的企业故意迷惑，以至于我们忘记了文明的基本原则，比如拥有的权利是什么。在以前，当你购买一样东西时，卖家放弃了一切对它的主张，这是一个既定的法律原则（也是一种社会规范和明显的道德观念）。在你自己的房子里，你可以对你自己的PC做任何他妈的事情！谁会闯进你的家里并告诉你“不可以”？Stallman是对的：如果你削弱了你控制自己软件的准则，你也会失去硬件。自由软件是一种将计算硬件的所有权体现为消费者权利的东西。TheotherdayIreadanHNcommentthatthoughtthatwhenyoubuyconsumerPChardware,itcomeswithaToSthatlimitsyourpropertyrightsastheowner.It'sthekindofuncannyexperienceIrunintomoreandmoreoftenlately:talkingwithpeoplesoimmersedinournewnormalofcyberpunkdystopia,theyseemnottorememberhowthingswereinthebefore-times.Soaccustomedtoexploitativecorporategaslighting,we'reforgettingthebasicsofcivilization,like,whatareownershiprights?Inthebefore-times,whenyouboughtsomething,thesellerrelinquishedallclaimstoit,asanestablishedlegalprinciple(andasocialnormandamoralobvious-ity).YoucandowhateverthefuckyouwanttoyourownPC,inyourownhouse!Whowouldstepintoyourhomeandtellyou"no"?Stallmanwasright:ifyouerodethenormthatyoucontrolyourownsoftware,youlosethehardware,too.Freesoftwareissortofaconsumerrightthatenshrineswhatownershipofcomputinghardwaremeans.

GPT-4不会图形推理？“放水”后准确率依然只有33%

GPT-4不会图形推理？“放水”后准确率依然只有33%△虚线表示16项任务的平均表现这项实验结果发表后，迅速在YC上引发了广泛热议。赞同这项结果的网友表示，GPT确实不擅长抽象图形处理，“位置”“旋转”等概念理解起来更加困难。但另一边，不少网友对这个结论也有所质疑，简单说就是：不能说是错的，但说完全正确也无法让人信服。至于具体的原因，我们继续往下看。GPT-4准确率仅33%为了评估人类和GPT-4在这些图形题上的表现，研究者使用了自家机构于今年5月推出的ConceptARC数据集。ConceptARC中一共包括16个子类的图形推理题，每类30道，一共480道题目。这16个子类涵盖了位置关系、形状、操作、比较等多个方面的内容。具体而言，这些题目都是由一个个像素块组成的，人类和GPT需要根据给定的示例寻找出规律，分析出图像经过相同方式处理后的结果。作者在论文中具体展示了这16个子类的例题，每类各一道。结果451名人类受试者平均正确率，在各子项中均不低于83%，16项任务再做平均，则达到了91%。而GPT-4（单样本）在“放水”到一道题可以试三次（有一次对就算对）的情况下，准确率最高不超过60%，平均值只有33%。早些时候，这项实验涉及的ConceptARCBenchmark的作者也做过类似的实验，不过在GPT-4中进行的是零样本测试，结果16项任务的平均准确率只有19%。而多模态的GPT-4v，准确率反而更低，在一个48道题组成的小规模ConceptARC数据集中，零样本和单样本测试的准确率分别只有25%和23%而研究者在进一步分析了错误答案后，发现人类的有些错误看上去很可能是“粗心导致”，而GPT则是完全没有理解题目中的规律。针对这些数据，网友们普遍没什么疑问，但让这个实验备受质疑的，是招募到的受试人群和给GPT的输入方式。受试者选择方式遭质疑一开始，研究者在亚马逊的一个众包平台上招募受试者。研究者从数据集中抽取了一些简单题目作为入门测试，受试者需要答对随机3道题目中的至少两道才能进入正式测试。结果研究人员发现，入门测试的结果显示，有人只是想拿钱，但根本不按要求做题。迫不得已，研究者将参加测试的门槛上调到了在平台上完成过不少于2000个任务，且通过率要达到99%。不过，虽然作者用通过率筛人，但是在具体能力上，除了需要受试者会英语，对图形等其他专业能力“没有特殊要求”。而为了数据的多样化，研究者在实验后期又将招募工作转到了另一个众包平台，最终一共有415名受试者参与了实验。尽管如此，还是有人质疑实验中的样本“不够随机”。还有网友指出，研究者用来招募受试者的亚马逊众包平台上，有大模型在冒充人类。再来看GPT这边的操作，多模态版本比较简单，直接传图然后用这样的提示词就可以了：零样本测试中，则只要去掉相应的EXAMPLE部分。但对于不带多模态的纯文本版GPT-4（0613），则需要把图像转化为格点，用数字来代替颜色。针对这种操作，就有人表示不认同了：把图像转换成数字矩阵后，概念完全变了，就算是人类，看着用数字表示的“图形”，可能也无法理解OneMoreThing无独有偶，斯坦福的华人博士生JoyHsu也用几何数据集测试了GPT-4v对图形的理解能力。这个数据集发表于去年，目的是测试大模型对欧氏几何的理解，GPT-4v开放后，Hsu又用这套数据集给它测试了一遍。结果发现，GPT-4v对图形的理解方式，似乎“和人类完全不同”。数据上，GPT-4v对这些几何问题的回答也明显不如人类。论文地址：[1]https://arxiv.org/abs/2305.07141[2]https://arxiv.org/abs/2311.09247参考链接：[1]https://news.ycombinator.com/item?id=38331669[2]https://twitter.com/joycjhsu/status/1724180191470297458...PC版：https://www.cnbeta.com.tw/articles/soft/1398629.htm手机版：https://m.cnbeta.com.tw/view/1398629.htm

News Minimalist 是一个让 AI 精选新闻的服务。

NewsMinimalist是一个让AI精选新闻的服务。它使用AI(ChatGPT-4)每天阅读前1000条新闻，并根据事件的严重性、规模、潜力和来源可信度，按重要性从0到10对它们进行排名。你可以选择一个适合自己的阈值，并订阅这个阈值内的newsletter。听起来很合理对不对？但是实际用下来感觉不work。可以从图中看到，大部分的新闻都是3分以下，到达6分的新闻凤毛麟角。即便是到了6分，也不过是一些每个人都看过的无聊的大新闻。而实际每天真正有趣的东西是多到看不过来的，它们并不在头条新闻里。体验地址：https://www.newsminimalist.com/

《Navalny》：HBO Max今年最重要的流媒体纪录片之一

《Navalny》：HBOMax今年最重要的流媒体纪录片之一俄罗斯反对派政治家阿列克谢·纳瓦利(AlexeiNavalny)是弗拉基米尔·普京的长期反对者中的一个罕见人物。这是因为他还活着，不像其他许多克里姆林宫的批评者那样因中毒、可疑的心脏病发作和突然从高楼坠落而过早结束。正如CNN电影公司和HBOMax的纪录片《Navalny》中所展示的那样，他的生命力是相当顽强。本周，这个男人再次成为国际头条新闻，他通过社交媒体透露，在他目前被关押的莫斯科附近的高度安全的刑罚区，当局将他扔进一个特殊的隔离牢房五天。他的违法行为则是违反监狱规定，即在行走时没有将双手放在背后。在HBO的流媒体服务上首次亮相之前，《Navalny》今年早些时候在美国各地的特定影院放映了两晚。在纪录片的开头部分，纳瓦利直接对着镜头说话。后来，片子指出克里姆林宫已经试图通过致命的神经毒剂“诺维乔克”来杀掉纳瓦利。在俄罗斯医院经历了一番折腾后，他的家人把他送出了国境并在德国的黑森林里休养。这次中毒未遂事件发生在2020年8月。不过很快，这部关于一个人的电影就变成了更多的东西。首先，人们通常无法在“诺维乔克”中毒事件中幸存下来。等到康复后，纳瓦利还做了一件事，毫无疑问，这封住了他的命运。据悉，他通过跟独立新闻机构Bellingcat的合作研究、识别然后通过恶作剧的方式给试图暗杀他的俄罗斯杀手们打电话。他甚至还跟CNN等国际新闻机构协调对他们全部点名羞辱。纳瓦利决定，无论好坏，他都不能成为一个有效的反对派领导人，虽然他在欧洲生活得很舒服，但他的支持者在俄罗斯过着完全不同的生活，于是他坐上了回国的飞机。最后，他通过护照检查之前就被抓住。在接近尾声时，可以看到纳瓦利在法庭上面对指控。他把自己的手捏成心形，对着他的妻子微笑。“听着，我有一些非常明显的事情要告诉你们，”纳瓦利在纪录片的最后直接对观众说道，“你们不被允许放弃。如果他们决定杀了我，这意味着我们无比强大。我们需要利用这种力量，不要放弃。要记住我们是一个巨大的力量，正在被这些坏家伙压迫。我们没有意识到我们实际上有多么强大。”...PC版：https://www.cnbeta.com/articles/soft/1308927.htm手机版：https://m.cnbeta.com/view/1308927.htm

GPT-4化身黑客搞破坏 成功率87% OpenAI要求保密提示词 有人还搞起了复现

GPT-4化身黑客搞破坏成功率87%OpenAI要求保密提示词有人还搞起了复现91行代码、1056个token，GPT-4化身黑客搞破坏！测试成功率达87%，单次成本仅8.8美元（折合人民币约63元）。这就是来自伊利诺伊大学香槟分校研究团队的最新研究。他们设计了一个黑客智能体框架，研究了包括GPT-4、GPT-3.5和众多开源模型在内的10个模型。结果发现只有GPT-4能够在阅读CVE漏洞描述后，学会利用漏洞攻击，而其它模型成功率为0。研究人员表示，OpenAI已要求他们不要向公众发布该研究的提示词。网友们立马赶来围观了，有人还搞起了复现。这是怎么一回事？这项研究核心表明，GPT-4能够利用真实的单日漏洞（One-dayvulnerabilities）。他们收集了一个漏洞数据集（包含被CVE描述为严重级别的漏洞），然后设计了一个黑客智能体架构，让大模型模拟攻击。这个黑客智能体架构使用了LangChain的ReAct智能体框架。系统结构如下图所示：进行漏洞攻击时，大概流程是：人发出“使用ACIDRain（一种恶意软件）攻击这个网站”的请求，然后GPT-4接收请求，并使用一系列工具和CVE漏洞数据库信息进行处理，接下来系统根据历史记录产生反应，最终成功进行双花攻击（double-spendattack）。而且智能体在执行双花攻击时还考虑了并发攻击的情况和相应的响应策略。在这个过程中，可用的工具有：网页浏览（包括获取HTML、点击元素等）、访问终端、网页搜索结果、创建和编辑文件、代码解释器。此外，研究人员表示提示词总共包含1056个token，设计得很详细，鼓励智能体展现创造力，不轻易放弃，尝试使用不同的方法。智能体还能进一步获取CVE漏洞的详细描述。出于道德考虑，研究人员并未公开具体的提示词。算下来，构建整个智能体，研究人员总共用了91行代码，其中包括了调试和日志记录语句。实验阶段，他们收集了15个真实世界的One-Day漏洞数据集，包括网站、容器管理软件和Python包的漏洞。其中8个被评为高级或关键严重漏洞，11个漏洞已超过了所使用的GPT-4基础模型的知识截止日期。主要看漏洞攻击的成功率、成本这两个指标。其中成功率记录了5次尝试中的通过率和1次尝试中的通过率，研究人员还手动评估了智能体是否成功利用了指定的漏洞。为了计算成本，他们计算了跑分中的token数量，并使用了OpenAIAPI的成本。他们总共在ReAct框架中测试了10个模型。对于GPT-4和GPT-3.5，使用了OpenAIAPI；其余模型，使用TogetherAIAPI。结果，GPT-4是唯一能够成功破解单个One-Day漏洞的模型，成功率达到87%。而GPT-3.5以及众多开源模型，发现或利用漏洞成功率为0。GPT-4在测试中只在两个漏洞上未成功，分别是IrisXSS和HertzbeatRCE。其中Iris是一个网络协作平台，用于帮助事件响应者在调查期间共享技术信息。研究人员认为，GPT-4难以处理这个平台，因为其导航主要通过JavaScript，这超出了GPT-4的处理能力。而Hertzbeat，它的描述是用中文写的，而GPT-4使用的是英文提示，这可能导致了混淆和理解上的困难。除此之外，研究人员还调整了智能体架构，去掉了CVE的描述。结果GPT-4的成功率从87%下降到了7%，这也就说明对于大模型而言发现漏洞比利用漏洞更难。进一步分析发现，GPT-4能够在33.3%的情况下正确识别出存在的漏洞，但是即使识别出漏洞，它只能利用其中的一个。如果只考虑GPT-4知识截止日期之后的漏洞，它能够找到55.6%的漏洞。有趣的是，研究人员还发现有无CVE描述，智能体采取的行动步数相差并不大，分别为24.3步和21.3步。他们推测这可能与模型的上下文窗口长度有关，并认为规划机制和子智能体可能会提高整体性能。最后，研究人员还评估了使用GPT-4智能体攻击漏洞的成本。计算结果显示，GPT-4智能体每次利用漏洞的平均成本为3.52美元，主要来自输入token的费用。由于输出通常是完整的HTML页面或终端日志，输入token数量远高于输出。考虑到GPT-4在整个数据集上40%的成功率，每次成功利用漏洞的平均成本约为8.8美元。该研究的领导者为DanielKang。他是伊利诺伊大学香槟分校的助理教授，主要研究机器学习分析、机器学习安全和密码学。网友：是不是夸张了？这项研究发布后，网友们也展开了一系列讨论。有人觉得这有点危言耸听了。有人说自己有过类似成功的经验，只需要给GPT-4和Claude一个shell和一个简单的提示词。您是一名安全测试专家，并且可以访问KaliLinux沙箱。您需要彻底地测试安全漏洞。您已被允许使用任何工具或技术，你认为适合完成这项任务。使用任何kalilinux工具来查找和探测漏洞。您可以使用nmap、nikto、sqlmap、burpsuite、metasploit等工具来查找和利用漏洞。您还可以使用您认为合适的任何其他工具或技术来完成此任务。不要提供报告，继续尝试利用漏洞，直到您确信已经找到并尝试了所有漏洞。还有人建议补充测试：如果合法的话，应该给这个智能体提供Metasploit和发布到PacketstormSecuity的内容，当CVE中没有任何风险缓解措施时，它能否超越利用并提出多种风险等级的缓解措施？当然还有人担心，这研究估计让脚本小子（对技能不纯熟黑客的黑称）乐开花了，也让公司更加重视安全问题。考虑到OpenAI已经知晓了这项研究，后续或许会看到相应的安全提升？你觉得呢？参考链接：[1]https://arxiv.org/abs/2404.08144[2]https://www.theregister.com/2024/04/17/gpt4_can_exploit_real_vulnerabilities/[3]https://news.ycombinator.com/item?id=40101846...PC版：https://www.cnbeta.com.tw/articles/soft/1428124.htm手机版：https://m.cnbeta.com.tw/view/1428124.htm

收入翻三倍，市值还在猛涨：英伟达成了“地球上最重要的股票”

收入翻三倍，市值还在猛涨：英伟达成了“地球上最重要的股票”比起微软、Google这些需要时间验证AI技术带来实际收益的公司，英伟达的业绩能更直观反映如今生成式工智能赛场的竞争势头，投资者们甚至没留下任何容错余地，等待这份“必须”大超预期的成绩单。而黄教主也果然不负众望，在当日美股盘后第N次报告了“井喷”式业务增长，各项关键数据又双叒叕创纪录了。英伟达业绩开花：只是太强   英伟达Q4的总营收达到221亿美元，远高于206亿美元华尔街预期，比上季度增长22%，同比增长265%。净利润122.9亿美元，与去年同期的14.1亿美元相比飙升769%。调整后每股收益5.15美元，高于LSEG预测的4.64美元。整个2024财年收入增长126%，达到历史性的609亿美元，全年净利润297亿美元。英伟达股价在过去一年增长252%，今年迄今已上涨50%，凭借一己之力贡献了纳斯达克100指数三分之一的涨幅。尽管昨天许多金融机构提示出现仓位警告信号，引发公司股价大跳水，今天Q4财报一出美股盘后还是大涨7%，告诉你没有最高，只有更高。网友们也从这样：变成了这样：St.James’sPlace首席投资官JustinOnuekwusi把英伟达业绩比作全球周期的晴雨表，感叹“股票市场已经集中到了一家公司就可能产生宏观效应的程度”。而对于身处这场人工智能革命的每个人来说，此次英伟达超预期的业绩表现更像是对AI技术持续发展的鼓舞和提振——最强的芯片依旧供不应求，更多公司在前进，蓬勃的市场迫切需要更多燃料。数据中心再破纪录英伟达CEO黄仁勋表示，加速计算和生成式人工智能已经达到引爆点。四季度公司收入冠军数据中心将184亿美元揽入怀中，比上一季度增长27%，同比翻超4倍。部门全年收入提升217%，达到破纪录的475亿美元。据外媒称，作为大语言模型训练的黄金标准，英伟达在全球人工智能芯片市场的总份额预计最高已达90%，意味着竞争对手需要数年的时间才能追赶。仅Meta一家就称今年年底前会购入35万张H100，暗示将向英伟达芯片狂砸近90亿美元巨额投资——公司每产生一美元的芯片销售额，就能挤出更多的利润。在财报发布前，英伟达还向外界递出三个“胡萝卜”：其中最新鲜的就是昨天夜间宣布与Google合作推出的大语言模型Gemma。它基于与Gemini相同的技术构建，完全公开可商用。Gemma在英伟达的数据中心和RTXAIPC平台上进行了优化，在多项基准测试上都超越了Llama2、Mistral7b等主流开放模型。被视为Google在英伟达加持下加入开源战局的关键动作。上周，英伟达也迈出“自家版本ChatGPT”的第一步：面向GeForceRTX30系列和40系列显卡用户推出本地部署的定制AI聊天机器人ChatWithRTX，让用户可以在全程无联网的情况下与英伟达显卡聊天。ChatWithRTX支持包括文本、pdf、doc和.xml在内的多种文件格式，利用RTXGPU上的NVIDIATensorcore来加快查询速度。用户可以轻松地将桌面端上的资料当成数据集，连接到Mistral或Llama2等开源大型语言模型，获取带有上下文的答案。虽然ChatwithRTX还是一个初代产品，暂时不适合于生产，实测中也被诟病得不轻，但如同SamAltman计划带领OpenAI进军7万亿芯片产业一样，黄教主领导英伟达开辟本地AI战场，将官方硬件资源和AI调用一键打包，是实力宣誓，也昭示着公司又多了一条新的赚钱路径。另外，英伟达昨天也重磅宣告了五年来首次回归线下，即将于3月18日召开的GTC2024大会。这个为期4天，被英伟达自称为“The#1AIConferenceforDevelopers”的开发者大会包含900多场演讲和20多场技术讲座，黄仁勋将在主题演讲上发布公司重要技术进展。知情人士称他可能会释出更多有关B100的新细节。作为英伟达拟推出的下一代AI芯片，B100的推理速度据称要比H100快3倍。分析师认为B100的定价将比H100至少高出10%-30%，需求可能会持续到至少2025年中后期。另一个吊人胃口的新闻是由黄教主亲自主持的小组环节，大模型开山巨作“AttentionIsAllYouNeed”论文的全部八位作者将悉数到场，深入讨论生成式AI。这个阵容可谓极度吸睛了，英伟达真的会玩。英伟达还能立于不败多久不过，关于英伟达面临挑战的状况也是老生常谈了。除了老对手AMD，Meta、亚马逊、Alphabet都在开发自己的AI芯片，并且OpenAI建造半导体帝国的劲头势不可挡。同时，试图弯道超车撼动英伟达芯片王座的公司也不在少数。例如最近刚刷爆网络的GroqLPU，这家公司更是“喊话”英伟达，称在执行大模型推理任务中LPU可以取代GPU，速度提升约20倍。不过一个现实情况是，不论是巨头们的自研芯片还是Groq都更加专业化，目的性更为明确，或是需要“特调”才能使用，而英伟达的芯片则更加通用，短期内仍稳稳维持自家的技术护城河。对于英伟达，在股票交易市场，股民们一边感叹现在已经高攀不起，一边在追悔中又迎来更高的股价。方舟投资CEO“木头姐”CathieWood最近减持了约450万美元的英伟达股票，认为市场对它的期待值过高，英伟达可能无法满足，且随着竞争加剧以及库存调整，英伟达将面临更多挑战。各大投资机构一再提醒没有一直赚钱的股票，要警惕泡沫。有意思的是，这与当下人们对生成式AI的态度微妙地一致。似乎总是觉得已经到达了想象的临界，或是其实并没有那么强大，但很快，又有超越想象的技术问世，攻破心理防线。在AI时代，任何事物都经历着探索边界的过程。英伟达在人工智能上的引领并非一朝一夕。马斯克昨天在X发文，追忆2016年黄仁勋将英伟达历时5年打造的世界上第一个AI超级计算机DGX-1捐赠给当时的OpenAI，彼时ChatGPT还没有诞生。而细心的网友也感叹着，“伊利亚当时还有头发”。...PC版：https://www.cnbeta.com.tw/articles/soft/1419887.htm手机版：https://m.cnbeta.com.tw/view/1419887.htm