OpenAI有一个工具可以判断你是否使用ChatGPT作弊但它不会发布它
OpenAI于2022年11月发布了ChatGPT的第一个公开版本。此后不久,学校开始禁止使用该版本,因为担心学生会使用AI作弊。主要问题是ChatGPT能够在几秒钟内生成任何主题的文本,这为作弊开辟了道路。学生可以撰写任何主题的论文并提交,而不必担心被抓住。OpenAI没有可以识别AI生成的文本的工具。
此后两年,OpenAI开发了一款ChatGPT“文本水印”工具。有报道称,该工具至少已经准备就绪一年,可以以99.9%的准确率检测ChatGPT文本。然而,一项调查显示,如果实施反作弊措施,大约三分之一的ChatGPT用户将停止使用该聊天机器人,因此OpenAI不敢发布该工具。
这篇报道来自《华尔街日报》,该报看到了描述该工具的文件。其中一位知情人士告诉该报,使用该工具只需“按下按钮”即可。
该工具非常有效。它能够检测99.9%的ChatGPT生成的文本。该工具会以人类无法辨别的方式给文本添加水印:
ChatGPT由一个人工智能系统驱动,该系统可以预测句子中接下来应该出现什么单词或单词片段(称为token)。OpenAI正在讨论的反作弊工具将略微改变token的选择方式。这些变化将留下一种称为水印的模式。
报告解释称,OpenAI于2023年4月委托开展了一项研究,结果显示全球范围内都支持一款能够检测ChatGPT文本的工具。调查中,有四人希望有这样一款工具,而另一人则不愿意。
然而,同月另一项OpenAI研究显示,69%的ChatGPT用户发现作弊检测技术会导致虚假指控。更重要的是,30%的受访者表示,如果ChatGPT部署了竞争对手AI聊天机器人所没有的水印系统,他们将减少使用ChatGPT。
自那时起,OpenAI员工一直在讨论向公众提供反作弊工具的优点。这不仅仅是为了扩大ChatGPT用户群。
另外,OpenAI发现反作弊工具不会影响ChatGPT文本生成的质量。这可能是避免向公众发布该工具的一个原因。
据《华尔街日报》报道,一个挑战是确定谁有权使用该工具。如果太多人拥有该工具,坏人就会发现水印技术。那么,它基本上就没用了。一个建议是让教育工作者或公司可以使用该工具,帮助学校识别人工智能编写的内容。
OpenAI告诉《华尔街日报》,其ChatGPT反作弊工具将影响某些人群,例如非英语母语人士。这是OpenAI在5月份博客文章更新中提出的观点,该文章介绍了使用其AI模型生成的图像水印。该更新是在《华尔街日报》报道之后发布的。
OpenAI解释说,其水印工具很容易被防御,并提供了如何禁用它的示例:
虽然它在抵御局部篡改(例如释义)方面具有很高的准确性,甚至很有效,但它对全局篡改的防御能力较弱;例如使用翻译系统,用另一个生成模型改写,或者要求模型在每个单词之间插入一个特殊字符,然后删除该字符——这使得恶意行为者可以轻松规避。
该公司表示,正在开发用于ChatGPT生成的文本的文本元数据水印工具:
例如,与水印不同,元数据是经过加密签名的,这意味着不会出现误报。我们预计,随着生成的文本量增加,这一点将变得越来越重要。虽然文本水印的误报率较低,但将其应用于大量文本会导致大量的误报。
不过,目前还不清楚OpenAI何时会发布这样的工具。与此同时,谷歌有一个水印工具,可以检测用GeminiAI编写的文本。它被称为SynthID,但尚未广泛使用。毕竟,谷歌刚刚告诉孩子们,使用GeminiAI制作每个人都讨厌的奥运会广告的完美字母是可以的。在遭到强烈反对后,谷歌撤下了那则广告。
这些公司还在致力于标记视觉AI生成的内容。上述更新的OpenAI博客文章重点介绍了图像水印。这是可以理解的,因为AI生成的照片可用于误导目的。但希望所有genAI聊天机器人都能很快将这种水印技术也作为文本的标准。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
亚马逊的气候友好承诺认证(Climate Pledge Friendly),俗称绿标认证,是平台对环保产品的权威认可。获得...浏览全文>>
-
亚马逊气候承诺友好认证(Climate Pledge Friendly)是平台为响应全球减碳趋势推出的战略性计划,旨在通过绿色...浏览全文>>
-
截至2024年,大众探岳GTE的售价可能会因地区、配置和促销活动而有所不同。一般来说,2024款探岳GTE的价格可能...浏览全文>>
-
关于2025款途观L的价格信息,目前还没有官方发布。不过,根据以往的市场规律和车型更新周期,我们可以大致推测...浏览全文>>
-
根据您提供的信息,2024款广东东莞威然的最低售价为22 99万元起。关于具体的落地价,需要考虑以下因素:1 ...浏览全文>>
-
根据您的描述,生活家PHEV 2025款的最低售价为 63 98万元起。如果目前有促销活动或优惠政策,建议尽快咨询...浏览全文>>
-
奔腾T99作为一汽奔腾旗下的旗舰SUV车型,凭借其大气的外观设计、丰富的科技配置以及出色的性能表现,吸引了众...浏览全文>>
-
当然可以!以下是一个简单的试驾预约流程,帮助您轻松开启智蓝G5新能源的试驾之旅:1 确定需求- 车型选择...浏览全文>>
-
特斯拉的赛博越野旅行车(Cybertruck)自发布以来就引发了广泛关注。这款车型结合了皮卡的实用性、SUV的多功能...浏览全文>>
-
江淮悍途EV是一款纯电动皮卡,如果您想预约试驾,通常需要满足以下条件和准备以下信息:1 基本条件 - 年...浏览全文>>
- 山东济南途观L新能源价格大公开,买车不花冤枉钱
- 东莞途岳最新价格2025款全分析,买车不踩坑
- 济南探岳GTE新车报价2024款,换代前的购车良机,不容错过
- 郑州ID.7 VIZZION多少钱 2024款落地价,配置升级,值不值得买?
- 郑州途锐新能源最新价格2024款,优惠购车,最低售价67.98万起
- 瑞虎7 PLUS新车报价2025款,买车前的全方位指南
- 广东东莞揽巡价格走势,市场优惠力度持续加大
- 轩逸新车报价2025款,买车前的全方位指南
- 飞凡R7新车报价2025款,换代前的购车良机,不容错过
- 试驾风光ix5,轻松搞定试驾
- 捷途山海L7预约试驾,从预约到试驾的完美旅程
- 试驾E福顺,从预约到试驾的完美旅程
- 长安星卡EV多少钱?选车指南与落地价全解析
- 凯翼E5 EV多少钱?如何挑选性价比高的车
- 标致408X预约试驾,快速操作,轻松体验驾驶乐趣
- 试驾星际牛魔王,新手必看的操作流程
- 岚图汽车岚图梦想家试驾预约,轻松几步,畅享豪华驾乘
- 影豹多少钱?全方位对比助你选车
- 豪运最新价格2023款,豪华配置超值价来袭
- 缤智多少钱 2025款落地价全解买车必看