SEC警告人工智能恐将引发“几乎不可避免”的金融危机

SEC警告人工智能恐将引发“几乎不可避免”的金融危机美国证券交易委员会主席加里·詹斯勒(GaryGensler)向英国《金融时报》表示，人工智能系统的日益广泛使用几乎肯定会导致未来十年内金融市场崩溃。Gensler警告说，由于对科技公司开发的人工智能模型的依赖，几乎不可避免的危机将会发生。他还指责金融机构目前用于监控市场、提供建议、自动开户等的人工智能工具缺乏多样性。Gensler表示，解决方案是引入监管，监督生成式人工智能模型以及华尔街实体如何使用它们，这些实体自今年年初以来一直在大量采用该技术。但美国证券交易委员会负责人承认，这将是一个“跨监管挑战”。“坦率地说，这是一个艰巨的挑战，”詹斯勒告诉英国《金融时报》。“这是一个很难解决的金融稳定问题，因为我们的大部分监管都是针对个体机构、个体银行、个体货币市场基金、个体经纪人；这正是我们所做工作的本质。这是一个横向[问题]，许多机构可能依赖相同的底层基础模型或底层数据聚合器。”詹斯勒的情景并不是科技第一次导致金融市场崩溃。早在2010年，一名英国交易员就从其父母位于伦敦的地下室向芝加哥商品交易所发出大量虚假订单，非法操纵市场，引发了一场“闪电崩盘”。这导致美国股市价值蒸发近1万亿美元，然后立即反弹。监管机构表示，高频交易算法是导致崩盘的原因之一。到目前为止，人工智能公司已同意自我监管和管理其技术带来的风险，但政府呼吁加强监管。欧盟正在制定的《人工智能法案》可能会迫使生成型人工智能工具的开发商在全面发布之前将其提交审查。与此同时，美国政府仍在审查该技术，以确定哪些方面需要监管。美国证券交易委员会(SEC)在7月提出了新规则，要求经纪交易商和投资顾问采取某些措施来解决与使用预测分析与投资者互动相关的利益冲突。目的是防止公司将自身利益置于投资者利益之上。虽然摩根士丹利和摩根大通等公司正在使用人工智能模型来帮助交易员和财务顾问，但高盛、德意志银行和美国银行今年早些时候都禁止员工在工作中使用ChatGPT。...PC版：https://www.cnbeta.com.tw/articles/soft/1392029.htm手机版：https://m.cnbeta.com.tw/view/1392029.htm

美SEC主席警告：十年内或看到人工智能引发的金融危机

美SEC主席警告：十年内或看到人工智能引发的金融危机Gensler呼吁人工智能监管规则既要解决科技公司如何构建底层人工智能模型的问题，也要解决华尔街如何处理这些模型的问题。他表示，这是一个跨监管的挑战，因为大部分监管都是针对个体机构、银行、货币基金或者经纪商，但人工智能是横向的问题，很多机构可能使用相同的底层模型或底层数据聚合器。羊群效应Gensler指出，人工智能模型的大规模应用极易出现“羊群效应”，例如抵押贷款机构可能都会使用一家科技公司的人工智能系统来评估信用度，但若该模型存在缺陷，这将导致违约激增并威胁房地产市场。而这种情况并非危言耸听。人工智能一直有一个理论，即使用某一系统的公司越多，该模型收集的数据越多，其预测效果就很高。这就创造了一个赢家通吃的环境，造成一两个模型主导一个行业的风险。Gensler还担忧大型科技公司之间在人工智能供应上的整合。谷歌、亚马逊和微软等公司拥有强大的云服务来托管复杂的人工智能模型，但美国没有多少云服务提供商。在Gensler忧心忡忡的同时，华尔街已经摩拳擦掌地开始部署人工智能。投行摩根士丹利上个月推出了基于OpenAIGPT-4模型的人工智能助手，用以帮助员工收集市场信息。而另一家金融巨头摩根大通则已经申请了一项名为IndexGPT的人工智能模型专利，该技术将帮助交易者选择证券产品。截至目前，美国尚未建立人工智能监管体系，国会仍处于审慎评估之中。而确保人工智能的稳定性可能是美国，乃至全球监管机构未来几年最复杂的测试之一。...PC版：https://www.cnbeta.com.tw/articles/soft/1390611.htm手机版：https://m.cnbeta.com.tw/view/1390611.htm

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险称：OpenAI的人工智能系统已经接近人类智能水平，通用人工智能AGI有50%的可能性在2027年就会问世，而不是此前预测的2050年！这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。签署公开信的多位OpenAI前任雇员曾从事人工智能安全工作，为公开信背书的业内大佬则有“人工智能教父”GeoffreyHinton、因开创性AI研究而获得图灵奖的YoshuaBengio，以及AI安全领域的顶尖专家StuartRussell。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

耶伦警告金融风险，包括人工智能和对冲基金

耶伦警告金融风险，包括人工智能和对冲基金美国财长耶伦周四表示，美国监管机构将把人工智能及其可能构成的威胁作为2024年的首要任务。在美国金融稳定监督委员会发布年度报告之前，耶伦表示，该委员会将专注于监控不断发展的技术和相关风险。该委员会在年度报告中概述了人工智能可能在金融机构引入或放大的一些风险，包括它在贷款中应用歧视性偏见的可能性，尤其是对于像“黑箱”一样运行的人工智能程序，它们的输出结果很难解释。耶伦还提到了该委员会正在密切关注的金融稳定的其他几个风险，从高利率到气候变化和网络威胁。她还特别提到了“金融体系中杠杆率正在上升的领域”，这句话明显指向对冲基金。（环球市场播报）

美国财长耶伦：在金融体系中采用人工智能或带来“重大风险”

美国财长耶伦：在金融体系中采用人工智能或带来“重大风险”根据一份耶伦的演讲摘录，她先是承认了人工智能“为金融体系提供了巨大的机会”。多年来，人工智能的预测能力为预测和投资组合管理提供了支持。人工智能检测异常的能力有助于打击欺诈和非法融资。许多客户支持服务已经实现了自动化。在相当多用例中，我们已经看到，如果使用得当，人工智能可以提高效率、准确性和获取金融产品的途径。同时，摘录中还提到了人工智能相关风险急需被监管，称这是此次会议议程的重中之重。特定的漏洞可能来自人工智能模型的复杂性和不透明性、人工智能的风险管理框架不够完善、以及诸多市场参与者依赖相同数据或模型从而产生的关联性。摘录内容对此做出了解释，如果太多的市场参与者依赖相同的人工智能模型和数据以及云服务提供商，可能会强化现有的人工智能“偏见”或让其产生新的“偏见”，从而影响金融市场的决策。此外，数据不足或错误也可能使人工智能的金融决策过程中产生新的“偏见”。提高监管能力尽管存在这些挑战，但耶伦仍表示，人工智能驱动的工具可以帮助扩大金融服务的获取渠道，同时使消费者更能负担得起金融服务费用。自然语言处理、图像识别和生成式人工智能的进步，创造了新的机会，使金融服务成本更低、更容易获得。据耶伦透露，美国国税局目前正在使用人工智能来“加强欺诈检测”。此外摘录中还提出，FSOC将“继续支持努力建立监管能力，以更好地了解相关风险”。她提到了使用情景分析的方式。情景分析经常被企业和政府用来理解不确定性背景下的机会和风险。“考虑到人工智能技术的发展速度之快，以及金融公司和市场参与者快速发展的潜在用例，情景分析可以帮助监管机构和公司识别未来潜在的漏洞，并告知我们可以采取哪些措施来增强抵御能力。”相关文章:美联储耶伦：AI与全球化正在消除美国中产阶级耶伦警告金融风险包括人工智能和对冲基金...PC版：https://www.cnbeta.com.tw/articles/soft/1433783.htm手机版：https://m.cnbeta.com.tw/view/1433783.htm

教皇警告人工智能风险：要防止暴力和歧视危害

教皇警告人工智能风险：要防止暴力和歧视危害（方济各声明）方济各提到：“不公正和不平等加剧了冲突和对立。迫切需要以负责任的方式指导人工智能的概念和使用，以便为人类服务，保护我们共同的家园，这就需要将道德反思扩展到教育和法律领域。”方济各的言论与一些人工智能专家的观点相吻合，他们呼吁确保算法在开发过程中适当“协调”，以支持人权和其他被广泛认可的价值观。其他行业专家和政策制定者担心，人工智能可能会助长欺诈、错误信息、网络攻击的传播，甚至可能创造出生物武器。上述声明是在方济各宣布2024年世界和平日主题为“人工智能与和平”之后发布的，他希望引起公众对人工智能可能产生的影响的关注。他表示，保护人的尊严，并关心整个人类大家庭的命运，是技术发展促进世界正义与和平的必要条件。值得注意的是，方济各本人一直是人工智能深度伪造的对象。今年早些时候，一张方济各身穿白色羽绒服、脖子挂着十字架的图像在网上疯传，但这张图片并非真实的照片，而是用一个名为Midjourney的人工智能图像生成器制作的。早在2015年，方济各承认自己对技术“一窍不通”，但他也称互联网、社交网络和短信是“上帝的礼物”，前提是它们被明智地使用。就在6月底，教皇还与美国圣克拉拉大学的研究机构成立了技术、伦理和文化研究所（ITEC）。这个研究所的第一项工作就是发布了一份长达140页指导手册，对人工智能等新技术涉及的伦理道德问题提供了详细的指导。...PC版：https://www.cnbeta.com.tw/articles/soft/1376027.htm手机版：https://m.cnbeta.com.tw/view/1376027.htm