英国官员警告谨慎使用AI驱动的聊天机器人

英国官员警告谨慎使用AI驱动的聊天机器人 英国官员警告各公司谨慎将人工智能驱动的聊天机器人整合到业务中，称越来越多的研究显示它们可能会被用于执行有害任务。 路透社报道，英国国家网络安全中心（NCSC）星期三（8月30日）发布的博客文章中说，专家们尚未完全掌握与生成类似人类响应的算法相关的潜在安全问题，这些算法被称为大语言模型。 这些AI驱动的工具被用作聊天机器人，不仅可以替代互联网搜索，还可以替代客服和销售电话。 各国当局正在应对大语言模型的崛起，例如ChatGPT，企业正在将其整合到各种服务中，包括销售和客户服务。 NCSC说，这可能带来风险，特别是如果这些模型被插入到公司的业务流程中。学者和研究人员发现了通过向聊天机器人输入恶意指令或欺骗它们绕过内置防护措施的方法。 例如，如果黑客成功更改了它的询问，一家银行的AI驱动的聊天机器人可能会被欺骗进行未经授权的交易。 NCSC说：“使用大语言模型构建服务系统的组织需要谨慎，就像使用测试版产品或代码库一样。他们可能不会允许该产品代表客户进行交易，而且不会完全信任它。”

【Snapchat将推出基于ChatGPT的自有聊天机器人】

【Snapchat将推出基于ChatGPT的自有聊天机器人】 2月28日消息，Snapchat将推出一款由OpenAI最新版ChatGPT提供支持的聊天机器人，这款名为“MyAI”的机器人将被固定在应用界面的聊天选项卡上。

网络犯罪分子正在利用Telegram内的自动化功能，如机器人执行恶意软件计划

网络犯罪分子正在利用Telegram内的自动化功能，如机器人执行恶意软件计划 Intel 观察到网络犯罪分子利用这些信息应用来传播他们自己的恶意软件的几种不同方式。主要是与信息窃取者一起使用，网络犯罪分子已经找到方法，利用这些平台来托管、分发和执行各种功能，最终使他们能够从毫无戒心的用户那里窃取证书或其他信息。 Intel 研究人员发现了几个可供自由下载的信息窃取器，它们的功能依赖于Discord或Telegram。... 此前，Intel 观察到网络犯罪地下服务的上升，这些服务允许攻击者利用Telegram机器人，努力拦截一次性密码（OTP）令牌。恶意行为者继续建立这些服务，在各种网络犯罪论坛上出售对它们的访问。 Intel 研究人员在月份观察到的一个机器人，被称为Astro OTP，允许运营商获得OTP和短信息服务（SMS）验证码。据称，运营商可以通过Telegram界面执行简单的命令直接控制该机器人。 访问该机器人的费用非常便宜，美元可以买到一天的订阅，美元可以买到终身订阅。

网络犯罪分子正在利用Telegram内的自动化功能，如机器人执行恶意软件计划

网络犯罪分子正在利用Telegram内的自动化功能，如机器人执行恶意软件计划 Intel 471观察到网络犯罪分子利用这些信息应用来传播他们自己的恶意软件的几种不同方式。主要是与信息窃取者一起使用，网络犯罪分子已经找到方法，利用这些平台来托管、分发和执行各种功能，最终使他们能够从毫无戒心的用户那里窃取证书或其他信息。 Intel 471研究人员发现了几个可供自由下载的信息窃取器，它们的功能依赖于Discord或Telegram。... 此前，Intel 471观察到网络犯罪地下服务的上升，这些服务允许攻击者利用Telegram机器人，努力拦截一次性密码（OTP）令牌。恶意行为者继续建立这些服务，在各种网络犯罪论坛上出售对它们的访问。 Intel 471研究人员在4月份观察到的一个机器人，被称为Astro OTP，允许运营商获得OTP和短信息服务（SMS）验证码。据称，运营商可以通过Telegram界面执行简单的命令直接控制该机器人。 访问该机器人的费用非常便宜，25美元可以买到一天的订阅，300美元可以买到终身订阅。

ChatGPT开始被用于创建恶意软件

ChatGPT开始被用于创建恶意软件 Check Point 研究中心的研究人员报告说，在ChatGPT推出的几周内，网络犯罪论坛的成员（一些几乎没有编程经验的人）正在大量使用该聊天机器人来编写恶意软件。 在没有编写一行代码的情况下，他们还成功地创建了一个勒索软件加密器，一个漏洞利用脚本，一个可以隐藏在Excel文件中的恶意宏，并生成了一个相当有说服力的钓鱼电子邮件。 尽管ChatGPT的条款禁止将其用于非法或恶意目的，但研究人员可以通过设置查询以轻松规避这些限制。 正如研究人员所指出的："欢迎来到人工智能的奇妙新世界。现在要知道它对未来的确切影响还为时过早。但可以肯定的是，它只会加剧防御者和攻击者之间的军备竞赛”。 #Cybersecurity #Cyberattacks #Chatbots

聊天机器人ChatGPT网页支持高级语音模式

聊天机器人ChatGPT网页支持高级语音模式 OpenAI 公司正在将 ChatGPT 的高级语音模式功能扩展到网页端，让用户可以直接通过浏览器与人工智能聊天机器人对话。公司首席产品官凯文·韦尔在 X 上宣布推出此功能。该功能使 ChatGPT 的对话更加自然，本周将向 ChatGPT 的付费客户推出，这意味着用户需要成为 Plus、Enterprise、Teams 或 Edu 订阅者才能使用该功能。高级语音模式利用 OpenAI 的 GPT-4o 原生音频功能，支持用户与 ChatGPT 之间进行自然、实时的对话。该聊天机器人能够理解并响应非语言线索，包括用户的语速等。聊天机器人还能带有情感地进行回应。凯文·韦尔表示，OpenAI 将在未来几周内向免费用户推出该功能。 Techcrunch-电报频道- #娟姐新闻:@juanjienews