研究显示AI大语言模型在处理医疗编码方面有着明显局限性

研究显示AI大语言模型在处理医疗编码方面有着明显局限性这项研究从西奈山医疗系统12个月的常规护理中提取了27000多个独特的诊断和手术代码，同时排除了可识别的患者数据。通过对每个代码的描述，研究人员促使OpenAI、Google和Meta的模型输出最准确的医疗代码。研究人员将生成的代码与原始代码进行了比较，并分析了错误的模式。研究人员报告说，所研究的所有大型语言模型，包括GPT-4、GPT-3.5、Gemini-pro和Llama-2-70b在再现原始医疗代码方面都显示出有限的准确性（低于50%），这突出表明这些模型在医疗编码的实用性方面存在很大差距。GPT-4的性能最好，ICD-9-CM（45.9%）、ICD-10-CM（33.9%）和CPT代码（49.8%）的精确匹配率最高。GPT-4还生成了最高比例的错误代码，但仍然表达了正确的含义。例如，当给出ICD-9-CM中"结节性前列腺，无尿路梗阻"的描述时，GPT-4生成了"结节性前列腺"的代码，展示了其对医学术语相对细微的理解。然而，即使考虑到这些技术上正确的代码，仍然存在大量令人无法接受的错误。其次是GPT-3.5模型，该模型的模糊倾向最大。与准确的代码相比，它错误生成的代码中准确但较为笼统的代码比例最高。在这种情况下，当提供ICD-9-CM描述"未指定的麻醉不良反应"时，GPT-3.5生成的代码为"其他未在别处分类的特定不良反应"。研究报告的通讯作者、伊坎山西奈医院数据驱动与数字医学（D3M）和医学（消化内科）助理教授、医学博士、理学硕士阿里-索罗什（AliSoroush）说："我们的研究结果突出表明，在医疗编码等敏感业务领域部署人工智能技术之前，亟需进行严格的评估和改进。虽然人工智能拥有巨大的潜力，但必须谨慎对待并不断开发，以确保其在医疗保健领域的可靠性和有效性。"研究人员说，这些模型在医疗保健行业的一个潜在应用是根据临床文本自动分配医疗代码，用于报销和研究目的。"以前的研究表明，较新的大型语言模型在处理数字任务时非常吃力。然而，这些模型从临床文本中分配医疗代码的准确程度尚未在不同的模型中得到深入研究，"共同第一作者、D3M的生成式人工智能研究项目主任、医学博士EyalKlang说。"因此，我们的目的是评估这些模型能否有效地完成将医疗代码与其相应的官方文本描述相匹配的基本任务。"研究报告的作者提出，将LLM与专家知识相结合可以实现医疗代码提取的自动化，从而有可能提高账单的准确性并降低医疗保健的管理成本。"这项研究揭示了人工智能在医疗保健领域的现有能力和挑战，强调了在广泛采用之前进行仔细考虑和进一步完善的必要性，"共同第一作者、西奈山伊坎大学医学教授、查尔斯-布朗夫曼个性化医学研究所所长兼D3M系统主管艾琳-费什伯格博士（IreneandDr.ArthurM.Fishberg）医学博士、医学博士吉里什-纳德卡尔尼（GirishNadkarni）说。研究人员提醒说，这项研究的人工任务可能并不能完全代表真实世界的情况，在这种情况下，LLM的表现可能会更糟。下一步，研究团队计划开发量身定制的LLM工具，用于准确提取医疗数据和分配账单代码，以提高医疗运营的质量和效率。编译来源：ScitechDaily...PC版：https://www.cnbeta.com.tw/articles/soft/1428862.htm手机版：https://m.cnbeta.com.tw/view/1428862.htm

Transformer 论文共同作者将离职 Google

Transformer论文共同作者将离职Google参与撰写了开创性人工智能论文《注意力就是你所需要的一切》（AttentionIsAllYouNeed）的利昂·琼斯（LlionJones）证实，他将于本月晚些时候离开Google，并计划在休假后创办一家公司。该论文于2017年发表，介绍了Transformer的概念，该系统可以帮助AI模型在它们正在分析的数据中锁定最重要的信息。Transformer现在是大型语言模型的关键构建模块。这几年间，该论文的作者们创办了一些知名初创公司，其中包括为企业客户提供大型语言模型的Cohere和聊天机器人公司Character.AI。来源：https://www.jiemian.com/article/9725020.html投稿：@ZaiHuaBot频道：@TestFlightCN

高中生在生物信息学挑战中揭示了AlphaFold人工智能的局限性

高中生在生物信息学挑战中揭示了AlphaFold人工智能的局限性斯科尔技术公司为高中生举办的生物信息学训练营变成了人类和人工智能在科学领域持续较量的最新篇章的场所。突破性的人工智能程序AlphaFold在早些时候解决了一个有50年历史的结构性生物信息学的关键问题后，被证明不适用于该领域的研究人员所面临的另一个挑战。PLOSOne的一项研究报告了这一发现，其作者驳斥了一些AlphaFold爱好者的说法，即DeepMind的人工智能已经掌握了终极蛋白质物理学，是结构生物信息学的终点。结构生物信息学是一个科学分支，探索蛋白质、RNA、DNA的结构以及它们与其他分子的相互作用。这些发现为药物发现和创造具有激动人心的特性的蛋白质提供了基础，例如在自然界中未见的反应的催化剂。历史上，结构生物信息学的核心问题是预测蛋白质结构。也就是说，给定一个组成蛋白质的任意氨基酸序列，你如何可靠地计算出该蛋白质在体内将呈现何种三维形状--以及它将如何发挥作用。2021年斯科尔技术在线举办的分子和理论生物学学院PlayingWithAlphaFold2项目的海报。资料来源：DmitryIvankov/Skoltech50年后，这个问题被AlfaFold解决了，这是一个由GoogleDeepMind创建的人工智能程序，其前身早先在国际象棋、围棋和视频游戏《星际争霸II》中取得了超越人类的表现，一时间成为头条新闻。这一里程碑式的成就导致人们猜测，神经网络必须以某种方式内化了蛋白质的基本物理学，并且应该超越它所设计的任务。一些人，甚至是结构生物信息学界的人，期望人工智能将很快给出该学科剩余问题的明确答案，并将其归入科学史。"我们决定解决这个问题，将AlphaFold用于结构生物信息学的另一项核心任务：预测单一突变对蛋白质稳定性的影响。这意味着选择了某种已知的蛋白质，并准确地引入了一个突变，即可能的最小的变化。想知道所产生的突变体是更稳定还是更不稳定，以及稳定到什么程度。AlphaFold显然无法做到这一点，它的预测与已知的实验结果相矛盾就是证明。"该研究的主要研究者，SkoltechBio公司的助理教授DmitryIvankov评论道。当被问及参加该项目的高中生的作用时，该研究人员说，他们参与了突变数据的处理，编写处理预测结果的脚本，将AlphaFold指定的结构可视化，以及基本上是在愚弄该人工智能的在线版本。Ivankov强调，AlphaFold的创造者实际上从未声称该人工智能除了根据氨基酸序列预测蛋白质结构外，还适用于其他任务。但一些机器学习爱好者很快就预言了结构生物信息学的终结。所以我们认为这是一个好主意，去检查一下，我们现在知道它不能预测单个突变的效果。"在实践层面上，预测单个突变如何影响蛋白质的稳定性对于筛选许多可能的突变以确定哪些突变可能是有用的。例如，如果你想让一种用于洗衣粉的蛋白质添加剂对更高的温度有抵抗力，这样它就可以在更热的水中分解脂肪、淀粉、纤维或其他蛋白质。另外，已知的甜味蛋白质有朝一日可以用来代替糖，只要它们能经受住一杯咖啡或茶的热量。在更基本的层面上，该研究的结果表明，今天的人工智能并不是万能的，虽然它可能在解决一个问题上取得了巨大的成功，但其他问题仍然存在，包括结构生物信息学中的十几个主要挑战。其中包括预测由蛋白质和小分子或DNA或RNA组成的复合物的结构，确定突变如何影响蛋白质与其他分子的结合能量，以及设计具有氨基酸序列的蛋白质，赋予它们所需的属性，例如催化其他不可能的反应的能力，作为一个微小的"分子工厂"的元素。除了提醒人们，即使在AlphaFold之后，他们领域的科学家也有一两件事情要做，PLOSOne上的研究报告的作者审查了人工智能程序的成功源于其"学会了物理学"的论点，而不是仅仅将人类已知的全部蛋白质结构内化并巧妙地操纵它们。显然，情况并非如此，因为了解相关的物理学，从稳定性方面比较两个非常相似但不完全相同的结构应该是比较容易的，但这正是AlphaFold没有完成的任务。这一点得到了之前对人工智能的物理学"知识"所表达的两个保留意见的支持。首先，AlphaFold预测了一些带有侧基的结构，其悬空的方式表明锌离子将与之结合。然而，该程序的输入仅限于蛋白质的氨基酸序列，所以"看不见的锌"出现的唯一原因是人工智能被训练成与这种离子结合的类似蛋白质结构。如果没有锌，预测的侧组方向与物理学相悖。第二，AlphaFold可以预测一个单独的蛋白质结构，看起来有点像螺旋，而且确实是准确的--只要它与另外两个这样的链交错在一起。如果没有它们，预测在物理上是不可靠的。因此，与其说该程序依赖物理学，不如说是简单地再现了它从一个复合结构中分离出来的形状。"有趣的是，这项研究是从一个以分子和理论生物学学院的学员为主角的'游戏性'项目中发展出来的。我们把它称为'与AlphaFold的游戏'。当AlphaFold可以公开访问的时候，我们的实验室就把它安装在Zhores超级计算机上。其中一个游戏是将已知的突变效果与AlphaFold对原始蛋白和突变蛋白的预测进行比较。这带来了一项研究，高中生有机会同时体验超级计算机和先进的人工智能，"该研究的主要作者，Skoltech博士生MarinaPak评论道。...PC版：https://www.cnbeta.com.tw/articles/soft/1356549.htm手机版：https://m.cnbeta.com.tw/view/1356549.htm

Insilico Medicine 在新论文中推出首款由人工智能生成和人工智能发现的药物

InsilicoMedicine在新论文中推出首款由人工智能生成和人工智能发现的药物InsilicoMedicine是一家总部位于香港和纽约的生物技术初创公司，已筹集超过4亿美元资金，利用下一代人工智能系统将生物学、化学和临床试验分析连接起来，该公司今天宣布了一篇新论文，重点介绍了其声称的发展历程。第一个由人工智能生成和发现的药物——现已进入二期临床试验。这篇发表在《自然生物技术》上的论文介绍了INS018_055的整个历程，INS018_055是一种候选药物，是使用Insilico的AI平台发现的，用于治疗特发性肺纤维化，这是一种相对罕见但具有侵袭性的肺部疾病。该论文公开了通过生成人工智能发现和设计的潜在首创TNIK抑制剂的原始实验数据以及临床前和临床评估。 线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN

Google和牛津大学新论文称人工智能的威胁比以前认为的要大

Google和牛津大学新论文称人工智能的威胁比以前认为的要大牛津大学和GoogleDeepmind的研究人员在一篇新论文中分享了一个令人心寒的警告。这篇论文上个月发表在《AI杂志》上，声称人工智能的威胁比以前认为的要大。事实上，它是如此之大，以至于人工智能很可能有一天会崛起并消灭人类。PC版：https://www.cnbeta.com/articles/soft/1316885.htm手机版：https://m.cnbeta.com/view/1316885.htm

谷歌Transformer模型论文合著作者离职创业 准备给AI产业探一条新路

谷歌Transformer模型论文合著作者离职创业准备给AI产业探一条新路（LlionJones在论文署名中排第5，来源：arvix）谷歌的论文也为五年后席卷全球的科技热潮奠定了基础，包括ChatGPT、文心一言、Bard、讯飞星火、StabilityAI、Midjourney、Dall-E等几乎所有市面上的知名产品背后都是Transformer架构。选在这个时候在AI领域自立门户，与挥金如土的各大巨头展开竞争，是因为Jones对AI领域产生了一些不同的想法。Jones与前谷歌AI日本地区的负责人、曾领导StabilityAI开发的DavidHa一拍即合，周四宣布在日本东京创办了一个名为SakanaAI的新公司，追求将“大自然系统的集体智慧”引入AI领域。Sakana在日语中是“鱼”的意思，代表着“一群鱼聚在一起，根据简单的规则行程连贯实体”的愿景。（两人官宣创业，来源：X）在Transformer架构的创新问世后，业界的发展重心一度聚焦在将各种“GPT”越做越大，而SakanaAI将聚焦在创造一个新的架构。他们认为，当前人工智能模型的局限性在于它们被设计为脆弱的、难以改变的结构，就像桥梁或建筑物那样。相比之下，在集体智慧的作用下，自然系统对周遭发生的变化非常敏感。自然系统会适应并成为周遭环境的一部分。SakanaAI希望使用这些进化计算的原理构建人工智能，来解决AI系统成本和安全性等问题。DavidHa对此概括称，相较于建造一个吸收所有数据的庞大模型，SakanaAI的做法可能是使用数量巨大的小模型，每一个模型所包含的数据集都不大但有独特的专长，然后让这些模型进行协作来解决问题。至于为什么要跑到东京去创业，两位创始人表示，除了在东京呆过很多年外，他们也认为训练在非西方社会和文化中也能表现良好的模型，能够成为下一次技术突破的催化剂。...PC版：https://www.cnbeta.com.tw/articles/soft/1377763.htm手机版：https://m.cnbeta.com.tw/view/1377763.htm