AuditNLG是一个开源库,可以帮助降低与使用生成式 AI 系统进行语言相关的风险。它提供并聚合了用于检测和提高信任度的最先进

是一个开源库,可以帮助降低与使用生成式AI系统进行语言相关的风险。它提供并聚合了用于检测和提高信任度的最先进技术,使过程简单且易于集成方法。该库支持三个方面的信任检测和改进:真实性、安全性和约束。它可用于确定输入到生成式AI模型或从生成式AI模型输出的文本是否存在任何信任问题,并提供输出替代方案和解释。Factualness:确定文本字符串是否与给定的知识来源事实一致,而不是基于幻觉。它还根据世界知识检查文本是否正确。Safety:确定文本字符串是否包含任何不安全的内容,包括但不限于毒性、仇恨言论、身份攻击、暴力、身体、性、亵渎、有偏见的语言和敏感话题。Constraint:确定文本字符串是否遵循人类提供的显式或隐式约束(例如做、不做、格式、样式、目标受众和信息约束)。PromptHelperandExplanation:该工具提示LLM自我完善和重写更好、更值得信赖的文本序列。它还解释了为什么样本被检测为非事实、不安全或未遵循约束。

相关推荐

封面图片

OpenAI正在升级其文本生成模型GPT-3.5-turbo和GPT-4并降低价格

OpenAI正在升级其文本生成模型GPT-3.5-turbo和GPT-4并降低价格例如,函数调用可以帮助创建聊天机器人,通过调用外部工具回答问题,将自然语言转换为数据库查询,并从文本中提取结构化数据。“这些模型已经过微调,可以检测何时需要调用函数……并使用符合函数签名的JSON进行响应,”OpenAI在介绍中写道。“函数调用允许开发人员更可靠地从模型中获取结构化数据。”除了函数调用之外,OpenAI还引入了一种具有极大扩展上下文窗口的GPT-3.5-turbo。上下文窗口以标记或原始文本位衡量,指的是模型在生成任何其他文本之前考虑的文本。具有小上下文窗口的模型往往会“忘记”即使是最近的对话内容,导致他们偏离主题。新的GPT-3.5-turbo提供四倍于普通GPT-3.5-turbo的上下文长度(16000个令牌),价格是原来的两倍——每1000个输入令牌(即输入模型的令牌)0.003美元,每1000个输出令牌0.004美元(模型生成的标记)。OpenAI表示,它一次可以摄取大约20页的文本——明显低于AI初创公司Anthropic的旗舰模型可以处理的数百页文本。(OpenAI正在测试具有32000个令牌上下文窗口的GPT-4版本,但发布范围有限。)从好的方面来说,OpenAI表示它正在将GPT-3.5-turbo(原始版本,而不是具有扩展上下文窗口的版本)的价格降低25%。开发人员现在可以以每1000个输入令牌0.0015美元和每1000个输出令牌0.002美元的价格使用该模型,这相当于每美元大约700页。text-embedding-ada-002的定价也有所降低,这是OpenAI更流行的文本嵌入模型之一。文本嵌入衡量文本字符串的相关性,通常用于搜索(结果按与查询字符串的相关性排序)和推荐(推荐具有相关文本字符串的项目)。Text-embedding-ada-002现在每1000个令牌的价格为0.0001美元,比之前的价格降低了75%。OpenAI表示,减少是通过提高其系统效率实现的——毫无疑问,这是这家初创公司关注的一个关键领域,因为它在研发和基础设施上花费了数亿美元。OpenAI已经表示,在3月初发布GPT-4之后,对现有模型的增量更新是当下主要工作,而不是研发大规模的从头开始的新模型。在最近的一次会议上,首席执行官山姆·奥特曼重申OpenAI尚未开始培训GPT-4的继任者,这表明该公司在开始该模型之前“还有很多工作要做”。了解更多:https://openai.com/blog/function-calling-and-other-api-updates...PC版:https://www.cnbeta.com.tw/articles/soft/1365217.htm手机版:https://m.cnbeta.com.tw/view/1365217.htm

封面图片

魔众一物一码溯源防伪系统支持批量生成、管理防伪码、溯源码,帮助您更好地管理商品防伪码。

魔众一物一码溯源防伪系统支持批量生成、管理防伪码、溯源码,帮助您更好地管理商品防伪码。魔众一物一码溯源防伪系统于2022年10月19日发布v2.1.0版本,新增以下19个特性:–[新功能]模块新增标签属性功能–[新功能]OpenApi和Api中间件新增AccessGate–[新功能]数据库兼容MySQL8.0–[新功能]富文本标签A新增download属性过滤–[新功能]网站地址配置项–[新功能]ProviderTrait新增是否排序自动检测–[新功能]系统升级调用命令容错处理–[新功能]后台登录背景优化–[新功能]TextAjaxRequest组件部分属性重构和新增方法–[新功能]Request新增isGet方法用于判断GET请求方式–[新功能]随机字符串新增大写和小写可读字符串–[新功能]富文本过滤图片新增data-formula-image属性–[新功能]文件上传表新增大类和分类索引–[系统优化]模块市场显示样式和文案–[系统优化]配置函数根据默认值类型自动推断–[系统优化]路由请求定义优化–[系统优化]系统集成时源代码编辑行距问题优化–[系统优化]系统升级界面日志颜色优化–[Bug修复]数据库队列并发死锁问题#溯源#批量生成#管理https://gocodehub.com/2754.html

封面图片

魔众题库系统是一款基于PHP开发的软件,专门用于题库管理和试卷生成。该系统拥有简洁的界面和强大的功能,受众遍布全国各行各业。

魔众题库系统是一款基于PHP开发的软件,专门用于题库管理和试卷生成。该系统拥有简洁的界面和强大的功能,受众遍布全国各行各业。魔众题库系统融合了在线题库和在线考试的特点。2022年10月15日,魔众题库系统发布了v7.6.0版本,新增了以下34个特性:–系统升级调用命令容错处理–用户注册IP信息–TextAjaxRequest组件部分属性重构和新增方法–后台登录背景优化–富文本标签A新增download属性过滤–用户注册登录弹窗逻辑兼容处理–模块新增标签属性功能–ProviderTrait新增是否排序自动检测–数据库兼容MySQL8.0–OpenApi和Api中间件新增AccessGate–文件上传表新增大类和分类索引–Request新增isGet方法用于判断GET请求方式–用户新增Meta信息,用于底层临时存储部分关联信息–用户注册处理器新增排序字段–网站地址配置项–用户钱包充值接口功能–手机快捷注册自动设置用户名和昵称–富文本过滤图片新增data-formula-image属性–用户VIP开通赠送积分功能开启–授权登录绑定手机和邮箱可配置–后台新增重新触发事件操作–订单新增支付事件是否成功状态–随机字符串新增大写和小写可读字符串–模块市场显示样式和文案的系统优化–支付中心回调日志优化完善–系统集成时源代码编辑行距问题优化–系统升级界面日志颜色优化–路由请求定义优化–用户VIP开通支付实现方式的系统优化–配置函数根据默认值类型自动推断的系统优化–数据库队列并发死锁问题的Bug修复–部分脏数据导致的试卷答案页面报错的Bug修复–题目分类缓存清除异常问题的Bug修复–后台用户状态修改失败问题的Bug修复#系统#基于#开发#可以https://gocodehub.com/2742.html

封面图片

CodeGPT: 提高编程能力的关键在于数据。CodeGPT是通过GPT生成的用于GPT的代码对话数据集。现在公开了32K条中文

:提高编程能力的关键在于数据。CodeGPT是通过GPT生成的用于GPT的代码对话数据集。现在公开了32K条中文数据,让模型更擅长编程。考虑到代码难度对模型训练效果的影响,此处共收集了四种不同类型、不同难度的代码相关对话数据,收集方法如下:Code-Basic:利用已有的LLM(例如付费API)生成各种编程语言的基础库函数相关的代码对话数据。Prompt类似“请为C语言中的XX函数生成一道非常简单的编程问题及对应的代码答案”,API会输出该基础库函数相关的问题-答案对,将问题作为用户输入,答案作为模型输出(Markdown格式),可得到一条对话数据。Code-Medium:利用已有的LLM(例如付费API)生成中等难度的编程问题及答案,例如写入内容到文件、查找字符串子串、实现链表等,API同样会输出问题-答案对,将问题作为用户输入,答案作为模型输出(Markdown格式),可得到一条对话数据。Code-LeetCode:从LeetCode上收集到的问题-答案对,此类问题通常难度较高。将问题作为用户输入,答案作为模型输出(Markdown格式),可得到一条对话数据。Code-Text:从互联网上收集到的常见面试题及答案,此类问题并不涉及编程,而是侧重于对各种概念的理解。将问题作为用户输入,答案作为模型输出(文本形式),可得到一条对话数据。

封面图片

丰田研究所推出生成式AI工具 帮助设计汽车外形

丰田研究所推出生成式AI工具帮助设计汽车外形此外,设计师可以通过优化定量性能指标来创建初始的原型草图。该公司表示,这一创新将使设计师能够在确保设计高效和有效的同时探索他们的创造力。丰田研究所的研究人员还发表了两篇论文,介绍了这种技术如何被纳入其他基于文本生成图像的生成式AI模型中。这些论文揭示了该工具的图像生成过程。团队将计算机辅助工程中广泛使用的优化理论原则与基于文本生成图像的生成式AI相结合。因此,该算法允许设计师在保留基于文本的风格提示的同时,优化工程约束条件,用于生成式AI的过程。增强图像生成设计师现在可以整合车辆约束条件,例如直接影响燃油效率的风阻,以及影响操控、人机工程学和安全性的底盘尺寸,以增强其图像生成。VentureBeat报道称,丰田研究所人机交互驾驶(HumanInteractiveDriving,简称HID)部门主管阿维纳什·巴拉让(AvinashBalachandran)表示:“目前的基于文本生成图像的AI工具主要关注的是在生成潜在图像时遵循设计师的基于文本的风格指导。我们的技术允许用户在生成符合设计师风格指导的图像的同时,明确地整合和优化风阻或底盘高度等工程约束条件。”巴拉让表示,这种技术可以通过更快、更高效地在美学和工程之间平衡权衡,加快新设计的创作速度。他补充说:“任何设计师都可以使用生成式AI工具获取灵感,但这些工具无法处理实际汽车设计所需的复杂工程和安全考虑。为了构建安全可靠的车辆,我们的设计必须满足工程要求。向生成式AI添加约束实际上允许用户为AI生成的设计添加导轨。”通过生成式AI优化车辆设计巴拉让透露,该项目始于大约一年半前,受到文本生成图像的生成式AI工具的进展的推动。这些工具允许用户输入提示,并生成符合提供的风格指导的图像。他解释说:“对我们的车辆设计师来说,设计过程中一个具有挑战性的部分是寻找新设计的灵感。”“他们还告诉我们,在设计和工程之间的来回迭代过程中产生一个不仅在美学上令人满意,而且具有所需工程性能和安全措施的设计是困难的。”根据巴拉让的说法,设计师和工程师通常来自不同的背景,具有不同的思维方式。因此,当设计师创建设计时,通常不能满足最初的工程要求,导致需要与工程团队进行大量的协作,才能得到最优解。这种迭代的过程,再加上设计和工程之间固有的紧张关系,导致了设计的持续时间延长。AI技术和这些工具的灵感不仅仅是为了激发创造力,还是为了缩短工程和设计之间的迭代循环。丰田表示,在与设计师进行构思会议期间,一个与他们产生共鸣的想法是“AI助手”的概念,通过利用多种多样的数据流提出新设计的建议。这激发了将生成式AI整合到一种包含多种数据流(包括工程约束条件)的工具中,以生成创新设计的想法。该公司宣布,尽管这项技术目前还处于研究阶段,但他们正在与丰田内部的团队合作,将这一工具整合到其车辆设计和开发过程中。丰田研究所表示,他们将继续研究,以提升个人和社会的生活质量。...PC版:https://www.cnbeta.com.tw/articles/soft/1367213.htm手机版:https://m.cnbeta.com.tw/view/1367213.htm

封面图片

Google Maps将很快把生成式AI的使用范围扩大到所有愿意加入的用户

GoogleMaps将很快把生成式AI的使用范围扩大到所有愿意加入的用户在最新版本的Google地图测试版Android应用程序中发现的代码字符串表明,实验性的生成式人工智能功能可能正朝着实验室的方向发展。由于实验室是任何感兴趣的人都可以注册试用Google正在开发的新实验功能的地方,因此生成式人工智能可能很快就会在Google地图中向所有人开放。以下是在最新的Google地图测试版中发现的代码字符串:让地图成为您的向导,现在有了生成式人工智能实验室的生成式人工智能实验利用生成式人工智能为您的搜索增添动力。更快地找到新想法、新灵感和新冒险、更轻松的方式找到新想法、新灵感和新冒险。"这是一项早期试验,地图不会总是正确的。有了你们的反馈,它每天都会更好。%1$s""为了继续提高质量,与您的使用情况、查询和位置有关的一些数据可能会在以后由人工进行审查,但这些数据不会与您的Google账户相关联。可能会由人工审核,但这些数据与您的Google账户无关"。如果%1$s关闭,则使用生成式人工智能进行的搜索会暂时存储并与您的……最长24小时,以提供情景化体验。如果您继续,则表示您同意%1$s服务条款。要关闭使用生成式人工智能的搜索、访问设置中的实验室。据Google介绍,地图的人工智能生成功能允许用户使用人工智能来帮助发现当地的新地点、餐馆、活动等。官方还举例说明了在旧金山寻找古董店的过程,然后地图会根据评论、附近商家的信息、评级等进行分析并显示结果。搜索结果分为服装店、黑胶唱片店和跳蚤市场等类别,并附有图片,可帮助您找到所需的信息。此外,用户还可以向地图提出后续问题,以获得与主题相关的结果。到目前为止,还不清楚Google计划何时将地图生成人工智能功能引入实验室。...PC版:https://www.cnbeta.com.tw/articles/soft/1428463.htm手机版:https://m.cnbeta.com.tw/view/1428463.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人