安全专家认为可截图一切的Windows AI功能堪称"安全灾难"

安全专家认为可截图一切的Windows AI功能堪称"安全灾难" Recall 的设计目的是利用本地人工智能模型截取你在电脑上看到或做过的所有事情，然后让你能够在几秒钟内搜索和检索任何内容。你甚至可以滚动浏览可探索的时间轴。Recall 中的所有内容都被设计为在设备上保持本地和私密，因此不会使用任何数据来训练微软的人工智能模型。尽管微软承诺提供安全加密的 Recall 体验，但网络安全专家凯文-博蒙特（Kevin Beaumont）发现，这项由人工智能驱动的功能存在一些潜在的安全漏洞。博蒙特曾于 2020 年在微软短暂工作过，他在过去一周对 Recall 进行了测试，发现该功能以纯文本形式将数据存储在数据库中。这使得攻击者可以轻而易举地使用恶意软件提取数据库及其内容。"每隔几秒钟就会截图。这些截图由 Azure AI 自动 OCR，在你的设备上运行，并写入用户文件夹中的 SQLite 数据库，"博蒙特在一篇详细的博文中解释道。"这个数据库文件以纯文本的形式记录了你在电脑上浏览过的所有内容"。博蒙特分享了 X 上纯文本数据库的一个示例，斥责微软告诉媒体，黑客无法远程渗出 Recall 活动。该数据库存储在 PC 本地，但如果你是 PC 的管理员，则可以通过 AppData 文件夹访问该数据库。两名微软工程师最近在 Build 大会上演示了这一点，博蒙特声称，即使不是管理员也可以访问该数据库。"人们担心的是，Recall 会让恶意软件和攻击者更容易窃取信息。InfoStealer 木马早已经存在，可以从个人电脑中窃取凭证和信息，黑客目前也在传播这类恶意软件，以窃取和出售信息。"博蒙特说："Recall 能让威胁行为者在几秒钟内自动搜索你浏览过的所有内容。"博蒙特从自己的 Recall 数据库中提取了信息，并创建了一个网站，用户可以上传数据库并立即进行搜索。他说："在微软推出该功能之前，我故意隐瞒了技术细节，因为我想给他们时间做一些事情。"微软目前计划在 Copilot Plus PC 上默认启用 Recall。在对 Recall 预发布版本的测试中，当用户设置新的 Copilot Plus PC 时，该功能默认是启用的，而且在设置过程中没有禁用该功能的选项，除非你勾选一个选项，然后打开设置面板。据报道，微软正在讨论是否要更改这一设置过程。微软的"Recall"公告引起了迅速的反响，隐私保护运动者称这是一场潜在的"隐私噩梦"，英国信息专员办公室也介入调查微软使用人工智能功能的情况。微软坚持认为，Recall 是一种可选的体验，它已在该功能中内置了隐私控制功能。你可以禁用某些 URL 和应用程序，而且 Recall 不会存储任何受数字版权管理工具保护的资料。微软在其解释性常见问题页面上说："Recall 也不会对某些类型的内容进行快照，包括 Microsoft Edge、Firefox、Opera、Google Chrome 浏览器或其他基于 Chromium 的浏览器中的 InPrivate 网页浏览会话。"不过，Recall 并不进行内容审核，因此不会在截图中隐藏密码或财务账号等信息。微软也曾警告说："这些数据可能存在于存储在你设备上的快照中，尤其是当网站不遵循标准互联网协议（如隐蔽密码输入）时。Recall 不过，微软的常见问题页面并没有提到恶意软件试图窃取 Recall 数据库的可能性。微软表示："Recall 快照保存在 Copilot Plus PC 本身的本地硬盘上，并使用设备上的数据加密和（如果您使用的是 Windows 11 Pro 或企业级 Windows 11 SKU）BitLocker 进行保护。""磁盘加密只适用于某些情况。"博蒙特解释说："当你登录电脑并运行软件时，系统会为你解密。静态加密只有在有人到你家偷走你的笔记本电脑时才会有用，而黑客犯罪分子不会这么做"。事情发生到现在微软很可能会发现自己需要重新设计 Recall，或者说干脆"Recall Recall"。因为它的数据存储方式显然存在一些明显的漏洞，需要加以解决。Recall 的推出正值微软首席执行官萨蒂亚-纳德拉（Satya Nadella）呼吁员工将安全作为微软的"头等大事"之后几周，即使这意味着安全优先于新功能。纳德拉此前在一份内部备忘录中说："如果你面临安全和其他优先事项之间的权衡，你的答案很明确：选择安全。在某些情况下，这意味着安全优先于我们所做的其他事情，例如发布新功能或为遗留系统提供持续支持。" ... PC版： 手机版：

微软目前计划在 Copilot Plus 电脑上默认启用 Recall 功能。

微软目前计划在 Copilot Plus 电脑上默认启用 Recall 功能。 微软即将推出一个新的 AI 驱动的“Recall”（回忆/记忆）功能，它会截图你在电脑上做的所有事情。“Recall”是新款 Copilot Plus 电脑的一部分，将于 6 月 18 日首次亮相，但已经测试过该功能的专家警告说，“Recall”功能可能会成为网络安全的“灾难”。 该功能旨在使用本地 AI 模型截取你在电脑上看到或做的一切，然后让你能够在几秒钟内搜索和检索任何内容。你甚至可以滚动浏览一个可探索的时间轴。Recall 中的所有内容都设计为保存在本地设备上，保持私密性，因此不会有数据被用来训练微软的 AI 模型。 尽管微软承诺提供一个安全且加密的 Recall 体验，但网络安全专家凯文·博蒙特发现这个由 AI 驱动的功能存在一些潜在的安全漏洞。博蒙特曾在 2020 年短暂在微软工作过，过去一周他一直在测试 Recall，发现这个功能将数据以明文形式存储在数据库中。这可能使攻击者很容易使用恶意软件提取数据库及其内容。 “每隔几秒钟就会截一次屏。这些截图会自动通过运行在你设备上的 Azure AI 进行光学字符识别（OCR），然后写入用户文件夹中的 SQLite 数据库，”Beaumont 在一篇详细的博客文章中解释道。“这个数据库文件以纯文本的形式记录了你在电脑上看过的所有内容。” 博蒙特在 X 平台上分享了一个纯文本数据库的例子，批评微软对媒体说黑客无法远程提取 Recall 活动。这个数据库是存储在本地电脑上的，但如果你是电脑的管理员，可以从 AppData 文件夹访问。最近在 Build 大会上，两位微软工程师演示了这一点，而博蒙特声称即使你不是管理员也能访问这个数据库。 人们担心的是，Recall 让恶意软件和攻击者更容易窃取信息。InfoStealer 木马已经存在，用于从电脑中窃取凭证和信息，而黑客目前正在分发这种类型的恶意软件来窃取和出售信息。Beaumont 说：“Recall 使得威胁行为者能够在几秒钟内自动抓取你曾经查看过的所有内容。” 博蒙特已经提取了他自己的 Recall 数据库，并，你可以上传数据库并立即搜索。他说：“我故意不透露技术细节，直到微软发布这个功能，因为我想给他们时间去做一些事情。” 微软宣布Recall功能的消息引起了迅速反应，隐私保护人士称其可能成为“隐私噩梦”，英国信息专员办公室也介入，向微软询问其使用人工智能功能的情况。 标签: #微软 #Recall #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

[评论]微软新版 Windows 11 Recall 堪称隐私噩梦

[评论]微软新版 Windows 11 Recall 堪称隐私噩梦 虽然它目前只能在运行骁龙 X ARM 处理器的 Copilot+ PC 上使用，但微软表示，他们正在与英特尔和 AMD 合作开发兼容的 CPU。Recall 的工作原理是每隔几秒钟对活动窗口进行截图，记录你在 Windows 中的所有操作，默认情况下最长可持续三个月。这些快照将由设备上的神经处理单元（NPU）和人工智能模型进行分析，以提取截图中的数据。这些数据将保存在语义索引中，Windows 用户可以浏览快照历史记录或使用人类语言查询进行搜索。微软表示，所有这些数据都使用与用户 Windows 账户绑定的 BitLocker 进行了加密，不会与同一设备上的其他用户共享。虽然这听起来很有趣，但它立即引起了人们对明显的隐私风险以及微软是否打算吞噬所有这些数据的担忧。不过，微软表示，Recall 的设计使所有数据都以加密格式直接保存在用户的设备上，用户可以完全控制该功能，包括是否启用以及可以截图哪些应用程序："Recall是Copilot+ PC与众不同的关键部分，微软从一开始就将隐私融入Recall的设计中。在搭载 Snapdragon X 系列处理器的 Copilot+ PC 上，首次激活设备后，您将看到 Recall 任务栏图标。您可以使用该图标打开 Recall 的设置，并对 Recall 在设备上收集和存储的快照进行选择。您可以限制 Recall 收集的快照；例如，您可以选择在支持的浏览器中访问的特定应用程序或网站，将其从快照中过滤掉。此外，您还可以通过系统托盘中的 Recall 图标按需暂停快照，清除已存储的部分或全部快照，或删除设备中的所有快照。"微软还表示，它不会为 Microsoft Edge 的 InPrivate 窗口（以及其他基于 Chromium 的浏览器）或受 DRM 保护的内容创建截图。不过，他们尚未确认是否会支持其他浏览器的私人模式，如 Firefox。在周一的新闻发布会上，公司副总裁兼消费者首席营销官 Yusuf Mehdi 向记者保证，微软对 Recall 采取了非常保守的态度。梅赫迪说："我们将在设备上保持你的 Recall 索引的私密性、本地性和安全性。我们不会使用任何信息来训练任何人工智能模型，而且我们让你完全掌控，你可以编辑和删除所捕获的任何信息"。此外，微软还向 BleepingComputer 重申，Recall 的数据只能在本地使用，不会存储在云中，该公司再次重申"微软不会访问数据"。微软还开始分享更多的技术细节，例如可用于在全公司范围内禁用"Recall"功能的组策略，以及最终用户如何禁用该功能。网络安全专家和普通用户仍感担忧微软的承诺并没有让网络安全社区或其客户放心多少，bleepingcomputer关于这项新功能的推文收到了 90 多条评论，全部都是负面的。那么，为什么大多数网络安全专家、研究人员和分析师都如此担心这一功能呢？首先，大公司利用用户数据牟利的行为屡见不鲜，当微软表示不会访问 Recall 数据时，用户很难相信他们。英国数据保护机构信息专员办公室（ICO）也正在与微软联系，以确保用户的数据得到妥善保护，不被公司使用。"希望各组织在如何使用用户数据方面对用户保持透明，并且只在实现特定目的所必需的范围内处理个人数据。行业必须从一开始就考虑数据保护问题，并在将产品推向市场之前严格评估和降低对人们权利和自由的风险。我们正在向微软公司了解保护用户隐私的保障措施"。即使我们承认微软不会访问 Recall 数据，该产品仍会对安全和隐私造成巨大影响。微软承认，该功能不对内容进行任何节制，这意味着它会吞噬它看到的任何东西，包括密码管理器中的密码或银行网站上的账号。或者，如果你在 Word 中撰写机密协议，那么该内容的截图也会被创建。 如果你只有一台电脑，并与他人共享，那么你可能要小心你所看的图片或视频，因为，你猜怎么着，这些也会被记录下来。虽然可以通过该功能阻止应用程序被截屏，但大多数人都会让它运行，而不会去管该功能的设置。所有这些信息现在都存储在 Windows 11 的语义索引中，无论授权与否，任何可以访问您 PC 的人都可以轻松搜索到这些信息。不过，这只是冰山一角。如果威胁行为者或恶意软件入侵了你的设备，所有这些数据都会被 Bitlocker 解密，从而使黑客可以访问这些数据。例如，威胁行为者或恶意软件可以简单地窃取 Recall 数据库并将其上传到自己的服务器进行分析，然后利用这些信息敲诈用户，或者在凭证暴露的情况下入侵用户的账户。众所周知，网络安全专家凯文-博蒙特（Kevin Beaumont）有时会直言不讳地批评微软，他也对这一功能如何产生巨大的攻击面表示担忧，并将其比喻为"嵌入 Windows 的键盘记录器"。博蒙特在一篇新的博文中解释说："如果你看看历史上发生的信息窃取恶意软件（潜入个人电脑的恶意软件），它已经转向自动窃取本地存储的浏览器密码。换句话说，如果恶意威胁行为者进入系统，他们已经窃取了本地存储的重要数据库。他们只需将其扩展到窃取 Copilot Recall 功能记录的信息即可。"不仅是窃取信息的恶意软件，像 TrickBot 这样以企业为目标的恶意软件以前也曾包含一些模块，可以 窃取域的 Active Directory 数据库，用于离线破解凭证。 没有什么能阻止恶意软件采取类似的方法，窃取 Recall 数据库。对于漏洞和攻击，微软一直采取的立场是，一旦设备被入侵，一切都完了，安全边界也被抛到九霄云外。基本上，只要感染了病毒或中了社交工程攻击的圈套，所以所有这些坏事都会发生在你身上，这都是你的错。然而，由于微软是消费者数据和计算安全的最大管理者之一，在已经充满风险的环境中引入额外风险似乎是不负责任的。虽然我们可以继续表达这项功能如何带来巨大的隐私风险，但我还是要把微软最近承诺将安全放在首位的这段话留给大家。"如果你面临安全与其他优先事项之间的权衡，答案很明确：确保安全。在某些情况下，这意味着安全优先于我们所做的其他事情，比如发布新功能或为传统系统提供持续支持，"微软首席执行官萨蒂亚-纳德拉（Satya Nadella）在给微软员工的一封电子邮件中说。"这是提高我们平台质量和能力的关键，这样我们才能保护客户的数字财产，为所有人建立一个更加安全的世界。"编译自/bleepingcomputer ... PC版： 手机版：

微软研究院科学家在被问及Windows Recall隐私问题时未作回答

微软研究院科学家在被问及Windows Recall隐私问题时未作回答 微软大张旗鼓地宣传Recall，这是新 Copilot+ PC 将推出的主要功能之一。它的工作原理是不断对你在电脑上所做的一切进行截图，向用户展示一个可滚动的过去活动时间轴。这样做的目的是，借助人工智能的力量，用户可以很容易地找到他们之前正在处理/查看的内容。虽然微软表示，所有 Recall 数据都会保留在本地电脑上，而且是私人数据，用户可以暂停或删除日志记录，但微软也承认，它不会隐藏密码或支付详情等敏感数据。本周早些时候，安全研究员 Kevin Beaumont警告说，Recall 存在"可以驾驶飞机通过"的安全漏洞，因为每个快照的 OCR（光学字符识别）数据都存储在明文 SQLite 数据库文件中。微软研究院首席科学家兼技术研究员詹姆-蒂文（Jaime Teevan）似乎并不十分担心Recall的安全影响。斯坦福大学数字经济实验室（Stanford Digital Economy Lab）主任埃里克-布林约尔松（Erik Brynjolfsson）在一次人工智能会议上接受采访时，强调了"Recall"功能公布后引起的反响以及围绕该功能的隐私挑战。Brynjolfsson 请 Teevan 谈一谈 Recall 的优点和缺点，以及它带来的一些风险。他的回答并不令人放心。"是的，这是个很好的问题，埃里克。整个上午都在讨论这个问题数据的重要性。我们现在所处的这场人工智能革命正在真正改变我们理解数据的方式，"Teevan 说。在谈及微软帮助企业管理数据后，Teevan 说："作为个人，我们也有重要的数据，即我们一直在互动的数据，现在有机会开始思考如何做到这一点，开始思考能够捕捉和使用这些数据意味着什么。当然，我们也在重新思考数据的含义，以及我们如何使用数据、如何重视数据、如何使用数据。Recall因此，这些回应实际上根本没有打消有关 Recall 的安全疑虑。但 Teevan 重申，该功能捕获的任何内容都不会进入云端，但她没有提供任何新信息。上个月有消息称，一位 Windows 爱好者成功地让 Recall 在一台使用较旧的基于 Arm 的 CPU（即没有 NPU 的 CPU）的笔记本电脑上运行。 ... PC版： 手机版：

微软详细介绍 Windows 11 Recall AI 的隐私和安全性：它会记录屏幕内容

微软详细介绍 Windows 11 Recall AI 的隐私和安全性：它会记录屏幕内容 根据官方的硬件要求，Windows 11 的 Recall AI 不能在现有硬件上使用。需要使用骁龙 X PC，因为英特尔和 AMD PC 达不到 40 TOPs（每秒万亿次运算）NPU（专用于在设备上处理人工智能的芯片）的最低要求。之所以需要 NPU，是因为 Recall 会记录你所做的一切，并将"快照"存储在本地。微软表示，有了 Recall，它可以将你以前的操作变成"可搜索的快照"，让你可以搜索过去的操作并与之互动。Recall 在后台运行，依靠 NPU 芯片记录你的屏幕。在 Windows 11 Copilot+ PC 中，Recall AI 如何工作？Recall 一直在后台运行。它能记录你在电脑上所做的一切，包括应用程序、电影、文档、电子邮件、浏览历史、浏览器标签等。不过，微软不会记录受 DRM 保护的内容、密码、私人浏览或其他敏感信息。Recall 可以理解您的屏幕，然后根据上下文提供建议，它由 NPU 芯片驱动，并将数据存储在本地存储器中。Windows 11 回顾时间轴界面如上截图所示，"Recall"可以作为一个类似时间轴界面的应用程序打开。通过该界面，您可以滚动浏览不同的活动快照。例如，搜索"查找红色谷仓"会出现 PowerPoint、Excel 和 Teams 的结果，显示显示红色谷仓内容的实例。这并不意味着"红色谷仓"必须出现在内容中。例如，如果您之前在 WhatsApp、Messenger、Telegram 或任何应用程序上与朋友分享了一张红色谷仓的图片，Recall AI 就能找到它并将其显示在搜索结果中。这是因为 Recall 不仅能记录，还能理解您的屏幕。Windows 11 回顾时间轴界面如上截图所示，Recall 已被用于搜索"Alice 的韩国餐厅"。Recall 搜索可以匹配 WhatsApp、网站和地图等各种应用程序中的关键词。这显示了 Recall 实时扫描记录数据的能力。听起来很有趣，但有些人可能会问，"开始"菜单的搜索功能无法在 Windows 中搜索信息，而 Recall 却能如此出色。与当前版本的 Windows Search 不同，Recall 由 Windows Semantic Index 提供支持，并使用多模态小语言模型。NPU 为整个体验提供动力，因此也带来了很大的不同。Recall & Snapshots 设置 | 图片来源：WSJ：华尔街日报Windows 11 的人工智能集成如何？它对隐私友好吗？简短的回答是肯定的，但这取决于你如何看待问题。Recall 会记录屏幕上的所有内容，将其压缩并存储到本地存储中，然后使用 BitLocker 进行加密。Windows 11 24H2默认在新安装或设备上开启了"设备加密"功能。该功能还可用于加密 AI 快照。微软表示，用户可以打开"隐私与设置"页面，导航到"Recall"设置，查看设备上收集和存储了哪些快照。可以清除所有快照并重新启动 Recall。也可以清除部分快照。或者完全禁用 Recall。如上截图所示，你也可以手动将应用程序或浏览器列入黑名单。Windows 11 AI 集成有多安全？以下是详细说明：微软确认 Recall 不会记录某些类型的内容。这可能包括 Microsoft Edge 和其他 Chromium 浏览器的隐身模式。Windows 11 Recall 无法录制 Netflix、迪斯尼、Prime 或其他提供受保护媒体（DRM）的流媒体服务。如何知道 Recall 能否录制应用程序？只需打开"剪切工具"并尝试截取屏幕截图或录制视频。如果"剪切工具"可以捕获应用程序的内容，那么 Recall 也可以做到这一点。Recall 不会记录通过 WhatsApp、Telegram 客户端 Unigram 等应用程序发送的一次性图像（私人图像）。Recall 可能不会录制某些视频，这取决于应用程序的隐私设置。数据不会上传到 Microsoft 服务器/云。微软不会在您的数据上训练模型。如果您可以信任自己的电脑，那么您也可以信任 Windows 11 AI 集成。不过，微软表示，Recall 无法对内容本身进行审核。这意味着，如果应用程序或浏览器不遵守行业标准，Recall 就能捕捉屏幕并创建敏感信息的快照。例如，假设某个应用程序未隐藏密码输入或未遵循标准互联网协议、隐私或安全规则。在这种情况下，Windows 11 Recall 会在设备本地内存中记录并保存敏感信息。其中包括您的照片、密码、金融账户号码、信用卡等。不过，这种情况只有在应用程序不遵守标准互联网协议（如隐蔽密码输入）时才会发生。总结：Recall AI 会在本地磁盘上存储"快照"，也就是屏幕录像，并使用加密技术对其进行保护。如果您使用的是Windows 11 家庭版，您的数据将使用"设备加密"进行保护/加密。微软使用 BitLocker 加密 Windows 11 Pro 和企业版上的 Recall 快照。Recall 使用 BitLocker/设备加密功能进行加密。调用快照存储在本地，可以完全删除或禁用所有内容。召回与用户配置文件相关联，微软不会与使用同一台电脑的其他人共享数据。其他应用程序和服务无法访问调用。Recall AI 确实很有趣，但它仅限于配备 40 TOPs NPU 的硬件，即 Snapdragon X Elite 和 X Plus PC。 ... PC版： 手机版：

OpenRecall：为所有设备带来Windows 11备受争议的"Recall"功能

OpenRecall：为所有设备带来Windows 11备受争议的"Recall"功能 尽管微软承诺会保护隐私，但事情还是迅速升级，变成了一场真正的公关噩梦。但是，就在微软可能会失败的地方，第三方开发者却在蓬勃发展。现在已经有了 Recall 的第三方替代品，可以让你在现有硬件上尝试这个想法。OpenRecall 就是这样一种选择，它承诺在开源和免费的基础上为每个人提供相同的功能。与 Recall 一样，OpenRecall 通过快照（带有额外数据的美化屏幕截图）存储你在电脑上所做的一切，然后对其进行处理、OCR 化和结构化，以便快速搜索。你可以滚动存储的快照，回到任何捕捉到的瞬间。OpenRecall 可通过定期拍摄的快照（本质上就是屏幕截图）捕捉您的数字历史。这些截图中的文本和图像经过分析后可用于搜索，让您可以在 OpenRecall 中键入相关关键字，快速查找特定信息。您还可以手动回滚历史记录，重温过去的活动。OpenRecall 的与众不同之处在于它是完全开源和跨平台的，因此可以在 Windows、macOS 和 Linux 上使用。此外，它不需要新硬件，在没有高级神经处理单元（NPU）的现有计算机上也能运行。开发人员还声称该项目注重隐私，虽然数据是在本地存储和处理的，但目前还没有对其进行密码保护和加密的选项。因此一样需要注意使用第三方开发者制作的工具（即使是开源工具）存储你在电脑上所做的一切的潜在风险。简而言之，客户向微软提出的有关 Recall 的疑虑和问题仍然适用于 OpenRecall。如果你想试试 OpenRecall，请前往其 GitHub 库查看。 ... PC版： 手机版：