苹果AI计划新进展：将为云端数据创造"黑匣子"来保护用户隐私

苹果AI计划新进展：将为云端数据创造"黑匣子"来保护用户隐私不过，由于隐私是苹果工作的核心原则，它正在尽其所能保护用户。根据TheInformation的消息来源，苹果打算在一个虚拟黑盒中处理来自人工智能应用的数据。这一概念在内部被称为"数据中心中的苹果芯片"（AppleChipsinDataCenters），它将只使用苹果的硬件在云中执行人工智能处理。其目的是控制服务器上的硬件和软件，从而设计出更安全的系统。虽然设备上的人工智能处理具有很高的私密性，但这一举措可以使苹果客户的云处理同样安全。由于无需将数据传输到云端，因此设备上的处理本质上是私有的。问题是，与云处理相比，它可能要慢得多。不过，云处理的功能可以强大得多，尽管需要牺牲隐私。这正是苹果想要避免的。...PC版：https://www.cnbeta.com.tw/articles/soft/1432826.htm手机版：https://m.cnbeta.com.tw/view/1432826.htm

苹果计划为机密计算开发定制芯片 以保护用户隐私

苹果计划为机密计算开发定制芯片以保护用户隐私据报道，当苹果高管出席6月中旬的年度开发者大会时，预计他们将公布苹果将如何整合人工智能、Siri虚拟助手和其他产品的细节。一个大问题是，它将如何做到这一点，同时仍然履行其保护用户个人数据的承诺。据参与该项目的四名前苹果员工透露，苹果计划在一个虚拟黑匣子中处理来自人工智能应用程序的数据，使其员工无法访问这些数据。在过去的三年里，苹果公司一直致力于一个秘密项目，内部称为苹果数据中心芯片(ACDC)，该项目将允许这种黑匣子处理。它的方法在概念上类似于机密计算，这是一个行业术语，意思是数据即使在处理过程中也是保密的。

苹果人工智能服务器将使用“机密计算”技术来处理数据 保护用户隐私

苹果人工智能服务器将使用“机密计算”技术来处理数据保护用户隐私据四名参与该项目的前苹果员工称，苹果公司计划在虚拟黑匣子中处理来自人工智能应用程序的数据，使其员工无法访问这些数据。过去三年来，该公司一直在开展一个秘密项目，内部称为“苹果数据中心芯片”(ACDC)，该项目将允许进行此类黑匣子处理。其方法在概念上类似于“机密计算”，这是一个行业术语，意味着即使在处理数据时，数据也是保密的。借助“机密计算”方法，苹果公司将能够在云端处理人工智能相关数据，同时即使在数据泄露的情况下，黑客也很难解密访问数据。这还将减轻苹果公司在政府或执法部门要求时必须交出其服务器中的个人数据的负担。——

【Nansen分析师：链上数据显示Binance的财务状况是个“黑匣子”】

【Nansen分析师：链上数据显示Binance的财务状况是个“黑匣子”】数据分析公司Nansen的一位分析师说，按交易量计算的顶级加密货币交易所Binance可能"资本雄厚"，但其财务状况在很大程度上仍是一个“黑匣子”。尽管该交易所已经公布它在链上持有550亿美元的客户存款，“除此之外，我们对他们的实体没有太多的链上或任何形式的财务访问或透明度。”根据Nansen的分析，交易公司JumpTrading是将资金从Binance转移出去的最大实体之一。

科学家们为照亮人工智能的"黑匣子"而创造了一套决策评估方法

科学家们为照亮人工智能的"黑匣子"而创造了一套决策评估方法这种新方法揭示了所谓的"黑匣子"人工智能算法的神秘工作原理，帮助用户了解什么会影响人工智能产生的结果，以及这些结果是否可以信任。这在对人类健康和福祉有重大影响的情况下尤其重要，例如在医疗应用中使用人工智能。这项研究在即将出台的欧盟人工智能法案的背景下具有特别的意义，该法案旨在规范欧盟内部人工智能的发展和使用。这些研究结果最近发表在《自然-机器智能》杂志上。时间序列数据--代表信息随时间的演变无处不在：例如在医学上，用心电图记录心脏活动；在地震研究中；跟踪天气模式；或在经济学上监测金融市场。这些数据可以通过人工智能技术进行建模，以建立诊断或预测工具。人工智能的进步，特别是深度学习--包括使用这些非常大量的数据训练机器，目的是解释它并学习有用的模式为越来越准确的诊断和预测工具开辟了道路。然而，由于没有深入了解人工智能算法的工作方式或影响其结果的因素，人工智能技术的"黑匣子"性质提出了关于可信度的重要问题。"这些算法的工作方式至少可以说是不透明的，"共同指导这项工作的UNIGE医学院放射学和医学信息学系主任兼HUG医学信息科学部主任ChristianLovis教授说。''当然，赌注，特别是经济上的赌注是非常高的。但是，如果不了解机器的推理基础，我们怎么能相信它？这些问题是至关重要的，特别是在医学等部门，人工智能驱动的决策可以影响人们的健康甚至生命；在金融领域，它们可以导致巨大的资本损失。"可解释性方法旨在通过破译人工智能为什么和如何达成一个特定的决定以及其背后的原因来回答这些问题。''知道在特定情况下哪些因素使天平倾向于支持或反对一个解决方案，从而允许一些透明度，增加对它们的信任，''新加坡国立大学设计与工程学院MathEXLab主任GianmarcoMengaldo助理教授说，他共同指导了这项工作。"然而，目前在实际应用和工业工作流程中广泛使用的可解释性方法在应用于同一任务时提供了明显不同的结果。这就提出了一个重要的问题：既然应该有一个唯一的、正确的答案，那么什么可解释性方法是正确的？因此，对可解释性方法的评价变得和可解释性本身一样重要"。区分重要的和不重要的辨别数据在开发可解释性人工智能技术方面至关重要。例如，当人工智能分析图像时，它专注于一些特征属性。洛维斯教授实验室的博士生和该研究的第一作者HuguesTurbé解释说：''例如，人工智能可以区分狗的图像和猫的图像。同样的原则适用于分析时间序列：机器需要能够选择一些元素--例如比其他元素更明显的峰值--来作为其推理的基础。对于心电图信号，这意味着调和来自不同电极的信号，以评估可能的不协调，这将是特定心脏疾病的标志。"在所有可用于特定目的的方法中选择一种可解释性方法并不容易。不同的人工智能可解释性方法往往产生非常不同的结果，即使是应用于相同的数据集和任务。为了应对这一挑战，研究人员开发了两种新的评估方法，以帮助了解人工智能如何做出决定：一种用于识别信号中最相关的部分，另一种用于评估它们对最终预测的相对重要性。为了评估可解释性，他们隐藏了一部分数据以验证它是否与人工智能的决策有关。然而，这种方法有时会在结果中造成错误。为了纠正这一点，他们在一个包括隐藏数据的增强型数据集上训练人工智能，这有助于保持数据的平衡和准确。然后，该团队创建了两种方法来衡量可解释性方法的工作情况，显示人工智能是否使用正确的数据进行决策，以及所有数据是否被公平考虑。"总的来说，我们的方法旨在评估将在其操作领域内实际使用的模型，从而确保其可靠性，"HuguesTurbé解释说。为了进一步研究，该团队已经开发了一个合成数据集，他们已经向科学界提供了该数据集，以轻松评估任何旨在解释时间序列的新人工智能。在医学应用的未来展望未来，该团队现在计划在临床环境中测试他们的方法，那里对人工智能的忧虑仍然很普遍。MinaBjelogrlic博士解释说，他是Lovis教授部门的机器学习团队的负责人，也是这项研究的第二作者，"建立对人工智能评估的信心是在临床环境中采用它们的关键步骤。我们的研究侧重于对基于时间序列的AI的评估，但同样的方法可以应用于基于医学中使用的其他模式的AI，如图像或文本。"...PC版：https://www.cnbeta.com.tw/articles/soft/1358077.htm手机版：https://m.cnbeta.com.tw/view/1358077.htm

苹果的AI训练"突破"保护了隐私 同时让LLM的学习更灵活

苹果的AI训练"突破"保护了隐私同时让LLM的学习更灵活该公司本周早些时候在研究网站arxiv.org上发布的一篇研究论文显示，苹果公司使用了一种所谓的"精心混合"图像字幕、交错图像文本和纯文本数据来训练LLM。视觉和语言数据的混合使模型能够处理智能地为图像添加标题或推断自然语言含义等任务。研究发现，图像编码器的选择及其处理图像的分辨率对性能的影响比视觉语言连接器的设计更大。在一个使用300亿参数MM1模型的实例中，研发人员发现了强大的上下文学习能力。这一发现意味着，只需很少的"思维链"提示，它就能对多幅图像进行多步骤推理。据Venturebeat报道，在突破性技术方面，苹果公司正在延续其"快速追随者"而非"先行者"的传统。首席执行官蒂姆-库克（TimCook）最近承认，公司每年花费10亿美元将"人工智能"融入现有技术。库克表示，公司将在今年晚些时候分享"我们正在进行的人工智能工作的细节"。预计苹果公司将在今年6月的WWDC大会上宣布一些进展情况。在使用人工智能相关技术方面，该公司正在追赶竞争对手。它还在开发既能保护用户隐私，又能增强现有机器学习能力的方法。后一种对隐私和安全的担忧并不是现有"聊天机器人"类型服务的特点，这也增加了苹果面临的挑战。苹果公司对神经网络的多模型训练很感兴趣，并因此获得了最先进的性能，可以进行多步推理。这表明，该公司已经找到了一条快速提升机器学习能力并赋予其高级"智能"能力的道路。阅读文献了解更多：https://arxiv.org/abs/2403.09611...PC版：https://www.cnbeta.com.tw/articles/soft/1424016.htm手机版：https://m.cnbeta.com.tw/view/1424016.htm