开源 AI 公司 Hugging Face 确认在中国无法访问该平台

开源AI公司HuggingFace确认在中国无法访问该平台AI初创公司HuggingFace告诉Semafor，当中国封锁了该平台的访问权限后，该公司已经知道在中国存在“令人遗憾的可访问性问题”。该平台托管着超过365,000个开源人工智能模型。HuggingFace的发言人在周五的一封电子邮件中表示：“中国的人工智能社区非常出色，我们希望他们能更好地访问HF，但我们目前对于政府的规定无能为力。”目前尚不清楚HuggingFace这家价值45亿美元的初创公司何时首次受到了中国的审查。早在今年五月起，中国用户就在该公司的论坛上抱怨连接问题。时事通讯ChinaTalk周三报道称，至少从9月12日起，HuggingFace在中国就完全无法使用。——

Hugging Face 推出开源版 GPTs 免费定制人工智能助手

HuggingFace推出开源版GPTs免费定制人工智能助手开源社区平台HuggingFace日前推出开源版GPTs，不但允许用户定制人工智能助手，而且费用全免。HuggingFace技术总监兼LLM负责人菲利普·施密德表示，开源版GPTs名为“HuggingChatAssistants”，用户只需点击2下，就能定制个人的人工智能助手，用法与OpenAI的GPTs类似。——

AI 开源开发平台 Hugging Face 存在托管的恶意代码

AI开源开发平台HuggingFace存在托管的恶意代码安全公司JFrog的研究人员周四在一份报告中表示，上传到人工智能开发平台HuggingFace的代码在用户计算机上秘密安装了后门和其他类型的恶意软件。研究人员表示，他们总共发现大约100个提交内容在下载并加载到最终用户设备上时执行了隐藏的和不需要的操作。大多数被标记的机器学习模型（所有这些模型都没有被HuggingFace检测到）似乎是研究人员或好奇的用户上传的良性概念证明。研究人员表示，其中大约10个是“真正恶意的”，因为它们在加载时执行的操作实际上损害了用户的安全，例如创建一个可以从互联网远程访问并完全控制用户设备的反向Shell。HuggingFace已删除了所有JFrog标记的模型。这是继PyPI,NPM和GitHub之后又一个被发现受到水坑攻击（WateringHoleAttack）的开发平台，虽然并不让人太意外。——

Hugging Face发布生成式AI健康任务测试基准

HuggingFace发布生成式AI健康任务测试基准人工智能初创公司HuggingFace在最新发布的名为OpenMedical-LLM的基准测试中提出了一种解决方案。OpenMedical-LLM是与非营利组织开放生命科学人工智能（OpenLifeScienceAI）和爱丁堡大学自然语言处理小组的研究人员合作创建的，旨在对生成式人工智能模型在一系列医疗相关任务中的性能进行标准化评估。OpenMedical-LLM本身并不是一个全新的基准，而是将现有的测试集（MedQA、PubMedQA、MedMCQA等）拼接在一起，旨在探究医学常识和相关领域（如解剖学、药理学、遗传学和临床实践）的模型。该基准包含要求医学推理和理解的选择题和开放式问题，借鉴了美国和印度医学执照考试和大学生物试题库等材料。HuggingFace在一篇博文中写道："[开放医学-LLM]使研究人员和从业人员能够识别不同方法的优缺点，推动该领域的进一步发展，并最终促进更好的患者护理和治疗效果。"HuggingFace将该基准定位为对医疗领域生成式人工智能模型的"稳健评估"。但社交媒体上的一些医学专家告诫说，不要对OpenMedical-LLM抱有过高期望，以免导致不明智的部署。阿尔伯塔大学神经病学住院医生利亚姆-麦考伊（LiamMcCoy）在"X"上指出，医学答疑的"人为环境"与实际临床实践之间的差距可能相当大。博文的共同作者、"HuggingFace"研究科学家ClémentineFourrier对此表示赞同。"这些排行榜只应作为针对特定用例探索哪种[生成式人工智能模型]的第一近似值，但随后始终需要进行更深入的测试阶段，以检验模型在真实条件下的局限性和相关性，"Fourrier在X上回答说，"医疗[模型]绝对不应该由患者自行使用，而应该经过培训，成为医学博士的辅助工具。"这不禁让人想起Google在泰国尝试将糖尿病视网膜病变的人工智能筛查工具引入医疗系统时的经历。Google创建了一个深度学习系统，可以扫描眼睛图像，寻找视网膜病变的证据，视网膜病变是导致视力丧失的主要原因。但是，尽管理论上具有很高的准确性，该工具在实际测试中被证明并不实用，结果不一致，与实际操作普遍不协调，令患者和护士都感到沮丧。美国食品和药物管理局迄今已批准了139种与人工智能相关的医疗设备，其中没有一种使用了生成式人工智能，这很能说明问题。要测试生成式人工智能工具在实验室中的表现如何转化到医院和门诊中，或许更重要的是测试其结果如何随时间变化，这异常困难。这并不是说OpenMedical-LLM没有用处或信息量不大。结果排行榜可以提醒人们，模型对基本健康问题的回答有多么糟糕。但是，OpenMedical-LLM以及其他任何基准都无法替代经过深思熟虑的真实世界测试。...PC版：https://www.cnbeta.com.tw/articles/soft/1427874.htm手机版：https://m.cnbeta.com.tw/view/1427874.htm

谷歌与 Hugging Face 合作，帮助开发人员训练 AI 模型

谷歌与HuggingFace合作，帮助开发人员训练AI模型谷歌云与AI模型托管平台HuggingFace建立了新的合作伙伴关系，让开发人员无需支付谷歌云订阅费用即可构建、训练和部署AI模型。现在，使用HuggingFace平台的外部开发人员将能够“经济高效”地访问谷歌的张量处理单元(TPU)和GPU超级计算机，其中包括数千台Nvidia的热门且出口受限的H100。谷歌表示，HuggingFace用户可以在“2024年上半年”开始使用人工智能应用构建平台VertexAI和Kubernetes引擎，帮助训练和微调模型。一一

Hugging Face称检测到对其人工智能模型托管平台的"未经授权访问"

HuggingFace称检测到对其人工智能模型托管平台的"未经授权访问"HuggingFace在一篇博文中说，这次入侵与Spaces秘密有关，即作为解锁账户、工具和开发环境等受保护资源的密钥的私人信息。作为预防措施，HuggingFace已撤销了这些机密中的一些令牌（令牌用于验证身份）。令牌被撤销的用户已经收到了电子邮件通知，并建议所有用户"刷新任何密钥或令牌"，并考虑改用细粒度访问令牌，HuggingFace声称这种令牌更安全。目前还不清楚有多少用户或应用程序受到潜在漏洞的影响。"我们正在与外部网络安全取证专家合作，调查这一问题，并审查我们的安全政策和程序。我们还向执法机构和数据保护机构报告了这一事件，"HuggingFace在帖子中写道。"我们对此次事件可能造成的干扰深表遗憾，并理解它可能给您带来的不便。我们承诺将以此为契机，加强我们整个基础设施的安全性"。HuggingFace的发言人在一封电子邮件声明中说："在过去几个月里，我们看到网络攻击的数量明显增加，这可能是因为我们的使用量大幅增长，人工智能正成为主流。技术上很难知道有多少Spaces机密被泄露了。"HuggingFace是最大的人工智能和数据科学项目合作平台之一，拥有超过一百万个模型、数据集和人工智能驱动的应用程序，在其安全实践方面面临越来越多的审查。今年4月，云安全公司Wiz的研究人员发现了一个漏洞（已被修复），攻击者可以在HuggingFace托管应用程序的构建时间内执行任意代码，从而检查机器上的网络连接。今年早些时候，安全公司JFrog发现有证据表明，上传到HuggingFace的代码在终端用户机器上暗中安装了后门和其他类型的恶意软件。安全初创公司HiddenLayer发现，HuggingFace表面上更安全的序列化格式Safetensors有可能被滥用来创建破坏性的人工智能模型。HuggingFace最近表示，它将与Wiz合作，使用该公司的漏洞扫描和云环境配置工具，"目标是提高我们平台和整个AI/ML生态系统的安全性"。...PC版：https://www.cnbeta.com.tw/articles/soft/1433141.htm手机版：https://m.cnbeta.com.tw/view/1433141.htm