此工具来自。
它可以专门用来检测试卷/作业是否被水浸过。这个想法早在2022年11月（发布同月）就被提出。
但！
这么有用的东西，内部隐藏了两年，至今没有公开。
为什么？
一项针对忠实用户的调查发现，近三分之一的用户表示，如果使用反作弊工具，他们将放弃使用该应用程序。对于非英语用户来说，影响可能更大。
但公司内部的一些人表示，使用反作弊方法对生态系统有益。
双方一直争论不休，水印检测工具至今未发布。
此外谷歌、苹果等公司也准备了类似的工具，部分工具已开始内测，但尚未正式上线。
发帖前已开始讨论
爆红之后，很多高中生、大学生都用它来做作业，因此如何识别AI生成内容就成为了圈内热议的话题。
从最新披露的信息来看，这个问题早在发布之前就已经被考虑到了。
当时开发这项技术的人是斯科特，他从事安全工作，是德克萨斯大学的计算机科学教授。
2023 年初，联合创始人之一约翰在一份文件中概述了该工具的优缺点。
公司高管随后决定在采取进一步行动之前征询各方面人士的意见。
2023年4月，美国疾病控制与预防中心委托进行的一项调查显示，全球仅有四分之一的人支持增加检测工具的数量。
同月，又进行了另一项用户调查。
结果显示，近 30% 的用户表示，如果部署水印，他们会减少使用量。
自那时起，围绕该工具的技术成熟度和用户偏好一直存在争议。
今年6月初，高层管理人员和研究人员再次召集讨论该项目。
据称，最终大家一致认为，虽然技术已经成熟，但去年用户调查的结果不容忽视。
内部文件显示，他们认为需要在今年秋天之前制定一项计划来影响公众对人工智能透明度的看法。
但截至消息曝出，并未透露相关应对措施。
为什么不公开呢？
总结起来，这项技术没能公开的主要原因有两个：一是技术，二是用户偏好。
先说技术，早在2023年1月就开发出了从多个AI模型（包括）中识别文本的技术。
该技术采用类似“水印”的方法，将不可见的标记嵌入文本中。
这样，当有人使用检测工具分析文本时，检测器可以提供一个分数，表明该文本由生成的可能性。
但当时的成功率仅为26%，且仅7个月后便撤回。
该技术的成功率逐渐提高到 99.9%，从技术上讲，该项目本可以在大约一年前发布。
然而，围绕该技术的另一个争议是，内部员工认为它可能会损害写作质量。
与此同时，员工们也提出了“有人可能会绕过水印”的一些潜在风险。
例如，大学生都知道如何将文本翻译成另一种语言，然后通过谷歌翻译等方法将其翻译回来，这可能会导致它被删除。
比如有人拿出“凡是政策都有应对之策”这样的口号，一旦有更多的人公开使用水印工具，网友们绝对会分分钟拿出破解版本。
除了技术之外，另一大障碍就是用户，很多调查都显示，用户似乎并不看好这项技术。
这也需要我们提到用户到底用它做什么？
这个问题可以参考《华盛顿邮报》的一项研究，该研究查看了由人类和两个内置机器人生成的数据集中的近 200,000 条英文聊天记录。
可以看出，人们主要用它来写作（21％）和辅导做作业（18％）。
从这个角度来看，人们反对这项测试技术似乎是可以理解的。
那么，你同意在使用此类工具时添加水印吗？
参考链接：
[1]
[2]
本文来自微信公众号“量子位”，作者一水，经36氪授权发布。
