人类棋手击败了AI围棋机器人，使用的战术是由探测AI系统弱点的计算机程序建议的

人类棋手击败了AI围棋机器人，使用的战术是由探测AI系统弱点的计算机程序建议的一名人类棋手在棋盘游戏围棋中全面击败了排名第一的人工智能系统，这与2016年被视为人工智能崛起里程碑的计算机胜利大相径庭。美国选手KellinPelrine比顶级业余选手排名低一级，他利用另一台计算机发现的先前未知的缺陷击败了机器。但他赢得15场比赛中的14场的正面交锋是在没有直接计算机支持的情况下进行的。这一此前未曾报道过的胜利凸显了当今大多数广泛使用的人工智能系统所共有的最佳围棋计算机程序的弱点，包括总部位于旧金山的OpenAI创建的ChatGPT聊天机器人。让人类重新登上围棋棋盘榜首的策略是由一个计算机程序提出的，该程序探索了人工智能系统以寻找弱点。该程序建议的计划随后被佩林所采用。“我们利用这个系统出奇地容易，”设计该程序的加利福尼亚研究公司FARAI的首席执行官AdamGleave说。他补充说，该软件与顶级围棋系统之一的KataGo进行了超过100万场比赛，以找到人类棋手可以利用的“盲点”。——

人类对AI的研究可能正在快速接近危险边缘。不管是OpenAI，还是Anthropic或Deepmind，都在强调AI的align

人类对AI的研究可能正在快速接近危险边缘。不管是OpenAI，还是Anthropic或Deepmind，都在强调AI的alignment和safety，昨天ChatGPT的插件系统发布后，这一点变得更加迫切了。举个例子：目前ChatGPT只开放了使用浏览器插件读互联网的能力，但这离开放写能力只是一步之遥，人类迟早会需要大模型帮助自己完成任务，但如果一个大模型没调教好就出来到处胡说八道，或者是构造精巧的黑客攻击，这是真实的迫在眉睫的威胁。我们面对文心一言画的“驴肉火烧”“胸有成竹”哈哈大笑，是因为我们还看得出其中的荒谬。但文字内容领域的“驴肉火烧”，就不那么容易看出来了。作为一家负责任的AI公司，是不应该还在这种事情上想坏事变好事，借着出圈做负面PR宣传的。OpenAI在插件系统发布的博客中，强调ChatGPT会像一个正常的浏览器一样，做互联网上的好公民，但并不一定所有公司都会这么想这么做。为了竞争，有多少人会选择做维德，“不择手段地前进”？接下来AI安防也会变成非常重要的领域。可以看到OpenAI最近的发布都有做红队对抗测试。但显然我们对这个领域的研究才刚开始。目前的防守都还是在对抗人类的攻击，可如果攻击来自于AI本身呢？有朋友说，之前觉得AI可以只看表现不看内心，因为圣人论迹不论心。但是现在觉得，AI需要剖开肚子证明自己到底吃了几碗粉，尽可能做到对人类透明坦诚，因为它如果真的有一天欺骗人类，带来的后果可能是巨大且迅速的。

Meta AI 发布 SAM 图像物体分离模型，可以一键分离图和视频中的所有的东西，不管是人还是动物还是其他物体。

MetaAI发布SAM图像物体分离模型，可以一键分离图和视频中的所有的东西，不管是人还是动物还是其他物体。MetaAI: Todaywe'rereleasingtheSegmentAnythingModel(SAM)—asteptowardthefirstfoundationmodelforimagesegmentation.SAMiscapableofone-clicksegmentationofanyobjectfromanyphotoorvideo+zero-shottransfertoothersegmentationtasks