GPTZeroX：AI检测器的更新，你了解了吗？
文章主题：金磊, 凹非寺, QbitAI, 量子位
金磊 发自 凹非寺
量子位 | 公众号 QbitAI
「ChatGPT克星」，升级了！
华人小哥Edward Tian此前成功打造出了一个名为GPTZero的工具，其能在短短几秒钟内判断一段文字是人類創作還是AI生成的。
而时隔近一个月，小哥所推出的版本名叫GPTZeroX，并且他还说：
这是专门为教育工作者打造的AI模型。
消息一出，立即吸引了大批网友涌入，一天之内便有40万的访问量和220万的服务请求。
那么这一次，这位「ChatGPT克星」又带来了哪些新能力？
混写也能测，还支持Word等格式
升级的一大特点，就是GPTZeroX可以检测出来“人类 AI”混写的文字内容。
例如我们先把一段人类写的新闻丢进去检测：
GPTZeroX在短短几秒钟时间内，非常迅速的给出了答案：
Your text is likely to be written entirely by a human.
你的文本很可能完全是由人写的。
接下来，我们再把一段ChatGPT写的文字，丢进刚才那段新闻的后边，来一场混合检测：
这一次，GPTZero给出的回答是：
Your text includes parts written by AI.
你的文本一部分是由AI编写的。
并且ChatGPT生成的内容还会用黄色高亮标记出来。
小哥对此表示：
这是教育工作者一直想要的一个关键功能。
但老师们检查学生作业的时候，一段一段的把文字复制粘贴进来也相当繁琐的工作了。
于是乎，这位小哥还贴心地推出了另一个新功能——可批量导入文件，支持Word、PDF和TXT等格式。
并且网站在介绍这个功能时，是这么描述的：
除此之外，为了防止服务发生崩溃，小哥还搞了一个Python API，是已经完成压力测试的那种。
最后，小哥还贴心地说了一句：
我承诺，本网站对个体教师和教育工作者，保持免费！
怎么做到的？
它主要靠“perplexity”，即文本的“困惑度”作为指标来判断所给内容到底是谁写的。
NLP领域的朋友们都知道，这个指标就是用来评价一个语言模型的好坏的。
在这里，每当你喂给GPTZero一段测试内容，它就会分别计算出：
1、文字总困惑度
这个值越高，就越可能出自人类之手。
2、所有句子的平均困惑度
句子越长，这个值通常就越低。
3、每个句子的困惑度
通过条形图的方式呈现，鼠标悬浮到各个方块就可以查看相应的句子是什么（这里就两块，因为我此时输入的测试内容就俩句子）。
之所以要绘制这样的条形图，作者也作出了解释：
根据最新的一些研究：人类书写的一些句子可能具有较低的困惑度（前面说过，人类的困惑度是比较高的），但随着继续写，困惑度势必会出现峰值。
相反，用机器生成的文本，其困惑度是均匀分布的，并且总是很低。
除此之外，GPTZero还会挑出困惑度最高的那个句子（也就是最像人写的）：
反ChatGPT之风正盛
正如俗话所说，道高一尺，魔高一丈。在ChatGPT展示出其十八般武艺的同时，一些类似于小哥GPTZero的“以魔法战胜魔法”的工具和研究也不断涌现。这些工具和研究的出现，反映出人工智能领域的迅速发展和持续创新。
例如最近斯坦福大学为了不让学生借助ChatGPT之力来写论文或作弊，推出了“反侦察”神器——DetectGPT。
这种方法无需单独训练分类器以及收集真实或生成的段落数据集，便能在零样本情况下实现高效分类。
除此之外，就连OpenAI自己也联合哈佛等高校机构联合打造了一款检测器：GPT-2 Output Detector。
作者们先是发布了一个“GPT-2生成内容”和WebText（专门从国外贴吧Reddit上扒下来的）数据集，让AI理解“AI语言”和“人话”之间的差异。
在接下来的步骤中，我们将利用该数据集对RoBERTa模型进行微调，从而构建出一个AI检测器。在这个模型中，所有的自然语言文本都被默认识别为True，而由AI生成的文本则会被识别为False。
（RoBERTa是BERT的改进版。原始的BERT使用了13GB大小的数据集，但RoBERTa使用了包含6300万条英文新闻的160GB数据集。）
……
嗯，看来ChatGPT在大步向前迈的同时，顺便还推动了“反ChatGPT”研究的发展。
参考链接：
[1] https://twitter.com/edward_the6/status/1619874139954905090
[2] https://arxiv.org/abs/2301.11305
— 完 —
量子位 QbitAI · 头条号签约
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
相关文章
