用ChatGPT剽窃的罪，OpenAI要亲手洗刷
字母榜
(资料图)
· 2023.02.02 12:13
微信扫码639工具还不太行，但姿态是有了。
文 | 字母榜，作者 | 毕安娣，编辑 | 王靖
聊天机器人ChatGPT的利用价值迅速被人类发掘：学生用它写作业、程序员让它帮忙写代码、新闻网站用它“水”文章……于是，学校不高兴了，公司不高兴了，创作者也不高兴了。
如今，ChatGPT的“造物主”OpenAI亲自出马，要解决各方人士利用这个工具“作弊”的问题。
2月1日，OpenAI宣布推出名为AI文本检测器（AI Text Classifier）的新工具，来辅助辨别文本到底是人类编写的，还是AI编写的。
目前，该工具已经可以免费试用。提交文本后，分类器会生成评估结果，包括以下5种：非常不可能、不太可能、不确定、可能、非常可能（是AI生成的）。
不过，这个AI文本分类器离成熟还很远。不仅只能识别1000字符以下的文本，而且可靠性还有待提高。
一名AI研究员Sebastian Raschka用莎士比亚《麦克白》的第一章测试该工具，得到的评估结果是“非常可能”是AI创作的。Sebastian 在推特有14万粉丝，他贴出截图后评论区有人戏谑道：“电影灵感：ChatGPT是一个时空穿越者，实际上人类的创作语言从一开始就是由它影响。”
OpenAI其实对该工具的“不完美”也开诚布公，在网页的说明部分明确写着，根据他们的测试，只有约26%的AI生成文本识别为“非常可能”，还有9%的人类创作会被误判。OpenAI表示：“它仍然存在一些局限性，因此它应该被作为确定文本来源的辅助工具，而非主要判定工具。”
与其说“不完美”，不如说这个工具还很初级。但即便如此OpenAI也迫不及待地将之发布，一方面是需要各方反馈完善工具，另一方面也是对ChatGPT引发的主要争议的一种回应。
我的罪，我自己先治了，姿态有时候比结果还重要。
01
ChatGPT已经在美国教育界引起了广泛的担忧。
美国的在线课程网站Study.com向1万名18岁以上的学生发起调查，询问他们使用ChatGPT的情况，结果竟然有89%的学生表示自己会使用ChatGPT完成作业，还有48%的学生用它完成测验，53%的学生用它写论文，22%的学生用它生成论文大纲。
即便是考虑到调查规模不大、样本代表性不佳等问题，这样的比例依然令人震惊。
《纽约时报》曾报道一个例子。美国北密歇根大学教授安东尼·奥曼（Antony Aumann）在批改学生的世界宗教课作业的时候，看到一篇文章以罩袍禁令的道德影响为题，行文段落简洁，例子准确，逻辑严密，在一众作业中很出挑。
但是安东尼教授没有直接给高分，他起了疑心。在教授的质问下，该学生向他承认，这篇文章其实是用ChatGPT生成的。
虽然教育界也有一种声音，认为应当将ChatGPT这样的新工具纳入到教学当中，而不是千方百计抵制它。也的确有一些大学开始这么做，支持的教育者认为这就像是在数学课上使用计算器，如果能减轻学生负担，用用也没问题，这可以使他们有更多时间思考深层次的问题。
但反对的声音似乎更加响亮。
1月3日，以“担心对学生学习的负面影响”以及“对内容的安全性和准确性的担忧”为由，纽约市颁布了ChatGPT禁令，不管是老师和学生，都不能通过公立学校的网络和设备使用ChatGPT。
纽约市教育局发言人称：虽然该工具能够为问题提供快速简单的答案，但并不能培养批判性思维和解决问题的能力，而这对学术成就和终生发展都至关重要。
这是一个强有力的信号：纽约市拥有全美最大的公立学校系统。
OpenAI也察觉到了争议的严重性，该公司CEO山姆·阿尔特曼（Sam Altman）曾提出要尝试用水印标记ChatGPT生成的内容。即将信号嵌入到生成的文本中，人类不能一眼看出，但是机器一验便知。
但在OpenAI还在提议时，外界早已开始行动，例如马里兰大学的几位研究者已经对语言模型输出的水印进行了深入研究。而如OpenAI新推出的工具那样直接判断文本是否为AI创作的第三方检测工具也已经流行多时。
02
一些大学已经行动起来，包括斯坦福大学在内的一些机构，联合推出名为DetectGPT的工具，来辨别AI生成的文本。
而要说第三方检测工具中，最受欢迎是GPTZero。这个工具出自一位22岁的普林斯顿大学华裔学生爱德华（Edward Tian）之手，今年1月3日上线，一周内就有超过3万人使用，一度导致程序崩溃。而推特上的演示视频，更是吸引了超过700万人次的观看。
近日，爱德华又发布了迭代版本GPTZeroX，升级的最大特点是可以识别“人类+AI”混写的文本，检测出来后由ChatGPT生成的内容会被黄色高亮标记出来。
而且GPTZeroX还可以批量导入文件，支持word、PDF和TXT等格式。这对于教师来说是一个很实用的功能，毕竟学生的作业动辄就是几十份。
GPTZero上线一天之内，已经涌进了40万访问量，收到了220万次服务请求。
爱德华表达了对教育工作者的支持，他曾在推特上表示：我承诺，本网站对个体教师和教育工作者保持免费。
除了教育领域以外，ChatGPT还带来了其他的困扰。和“学术欺诈”类似的，已经有不少程序员利用ChatGPT写代码。
此前已经有人在网上发帖称，作为初级程序员经常使用ChatGPT，但是近期突然发现在公司无法访问该工具了。
除此之外，早在去年12月，IT技术问答网站Stack Overflow就已经推出新政策，禁止用ChatGPT生成的内容在该社区回答问题。
“由于 GPT 足以让网站用户相信答案有价值，社区通常用来确定其同行贡献合法性的信号经常无法检测到 GPT 生成的答案存在严重问题。结果，客观上错误的信息进入了网站。在目前的状态下，GPT 可能会破坏读者对我们网站提供由主题专家撰写的答案的信任。”Stack Overflow如是说明。
可以说，OpenAI在2月的第一天发布AI文本辅助检测工具，不是一个令人惊讶的消息，甚至显得有些姗姗来迟。
03
根据OpenAI的说法，ChatGPT的走红实属意料之外的事情，这也可以解释为什么如今的争议OpenAI看起来毫无准备。
《财富》杂志近期的一篇深度报道称，OpenAI发布ChatGPT是抱着“孤注一掷”的态度，公司联合创始人兼现任总裁格雷戈·布罗克曼表示：“我承认，我当时的立场是，不知道它能否成功。”
OpenAI此前已经拥有全世界最强大的大预言模型之一GPT-3，以约三分之二的互联网、整个维基百科和两个大型图书数据进行集中训练，但是给出的结果总是差强人意。于是有团队提出了“强化学习”的方案，也就是让它直接与人类对话，在试错中学习。
而ChatGPT就是在这样的背景之下被推出的。
相比之下，谷歌的自然语言平台LaMDA早在2021年5月的开发者大会上初次亮相，2022年谷歌又发布了LaMDA2。在演示中，LaMDA也表现出了极其强悍的能力。甚至在去年中旬，“LaMDA已经具备意识”的都市传说曾经闹得沸沸扬扬。
但是谷歌一直不愿向公众发布LaMDA。谷歌表示，部分原因在于LaMDA存在较高的误差，且容易对用户造成伤害。此类瑕疵被谷歌称为“有毒性的”，谷歌担心贸然推出LaMDA会对公司的声誉造成影响。
而ChatGPT爆火后引发的一连串混乱，也恰恰印证了谷歌的担忧。
ChatGPT已经成为OpenAI重要的一款产品，尽管公司称走红不在计划内，这个工具还引发了各种争议，ChatGPT依然进一步使得AIGC（人工智能自动生成内容）成为当今最热门的赛道，也加速了OpenAI向商业世界的迈进。
微软和OpenAI的合作关系快速升温。在2019年就首次向OpenAI投资10亿美元的微软，在1月24日宣布已经扩大双方的合作：微软将向OpenAI进行一项为期多年、价值数十亿美元的投资，并将OpenAI的模型纳入微软的消费级和企业级产品中。
有知情人士称，投资数额将高达100亿美元。
此外，有消息称微软计划在3月将ChatGPT融入到搜索引擎必应中。谷歌也已经坐不住了，也已经发出“红色警报”，要重新思考人工智能策略，计划发布20款支持人工智能的新产品，并将在今年发布搜索聊天界面的演示版本。
2月1日，CNBC报道称谷歌正在测试一款名为“学徒巴德（Apprentice Bard）”的聊天机器人，该产品基于LaMDA，将直接与ChatGPT抗衡。最关键的是，它的回答可以包括最近的事件，而ChatGPT对2021年之后几乎一无所知。
OpenAI看起来在用一款产品去打击另一款产品，实际上是在为ChatGPT的多领域应用铺平道路。
在可以预见的将来，这个赛道将硝烟四起。ChatGPT将只是“抛砖引玉”的里程碑式印迹，还是一款长青的商业产品，还有待时间的检验。
参考资料：
1.财联社：《加码豪赌人工智能！微软官宣向大火的OpenAI追加数十亿投资》2.硅星人：《用魔法打败魔法：抓住AI枪手 ChatGPT检测器“千呼万唤始出来”》3.量子位：《“ChatGPT克星”升级：老师可以把全班作业丢进去检测了》4.新智元：《学校封杀，大厂禁用，ChatGPT引发大面积恐慌！》5.澎湃新闻：《聊天机器人ChatGPT成作弊工具，教育如何应对科技挑战》691篇资讯
5.8万关注
字母榜
关注让未来不止于大
最近资讯
不管物流有多弱，抖音超市赌的是流量有多强再陷困境的 AMD ，又把希望放在了亚裔女性肩上泰国首富两见马云，收获10亿“见面礼” 本文系作者字母榜授权钛媒体发表，并经钛媒体编辑，转载请注明出处、作者和本文链接。 本内容来源于钛媒体钛度号，文章内容仅供参考、交流、学习，不构成投资建议。 想和千万钛媒体用户分享你的新奇观点和发现，点击这里投稿 。创业或融资寻求报道，点击这里。敬原创，有钛度，得赞赏
563人已赞赏 >563人赞赏钛媒体文章小团子97... 赞赏了
一文速览【2022 中国经济年报】:人口首现历史性...
2023-01-18 02:02钛好257... 赞赏了
国产电动车的沸腾2023：走向更残酷的牌桌
2023-01-16 07:45钛粉61583 赞赏了
华宝新能：坚守长期主义，缔造商业之上的价值
2022-12-31 00:06钛a66t... 赞赏了
跨界咖啡，是个好副业吗？
2022-12-30 17:11赚赚 赞赏了
小红书给流量“削藩”
2022-12-30 00:36钛粉81950 赞赏了
东北下岗往事轮回，一个家庭时隔20年的两次失业创伤
2022-12-20 10:24钛富279... 赞赏了
蜜雪冰城「向下」的烦恼
2022-12-09 08:48钛粉41450 赞赏了
遭阿里减持8000万股的商汤科技，何时盈利？
2022-11-24 22:45钛粉81947 赞赏了
历史进程中的茅台与6次暴跌
2022-10-28 12:23钛粉48375 赞赏了
7种傲慢与偏见，导致互联网人改造传统行业失败
2022-10-20 19:53想暴富25... 赞赏了
7种傲慢与偏见，导致互联网人改造传统行业失败
2022-10-20 17:18钛粉61006 赞赏了
7种傲慢与偏见，导致互联网人改造传统行业失败
2022-10-20 16:41AIBEN 赞赏了
月费不到100块、1分钟出图，AI作画要打翻多少设...
2022-10-17 15:10钛粉36011 赞赏了
身处风口却“一桩难求”，一文看懂充电桩产业全景｜钛...
2022-10-14 14:27钛粉36716 赞赏了
身处风口却“一桩难求”，一文看懂充电桩产业全景｜钛...
2022-10-14 14:24钛精378... 赞赏了
那些"上不了席面”的私房美味
2022-10-10 13:04钛粉18902 赞赏了
中集李凌寒：数字化供应链的动因、要素及实践｜202...
2022-10-01 11:40有颜有钱5... 赞赏了
中集李凌寒：数字化供应链的动因、要素及实践｜202...
2022-09-30 19:02钛粉29232 赞赏了
割韭菜、白嫖、疯狂AMA……在30多个元宇宙Web...
2022-09-15 15:45钛小773... 赞赏了
沈抖发布百度智能云新战略，回答了“木星”与“蜻蜓”...
2022-09-10 09:33钛粉07914 赞赏了
钛媒体Pro创投日报：9月2日收录投融资项目25起
2022-09-03 03:20钛粉65687 赞赏了
银泰百货“破产第一案”背后：苦涩退场，西安城改的挽...
2022-08-19 17:41钛粉61539 赞赏了
对话蚂蚁集团副总裁何勇明：“支付宝不对标抖音”
2022-08-06 13:53钛粉60785 赞赏了
近10亿募资闲置理财如今又推14亿定增，泽璟制药持...
2022-07-27 14:44在天空中自... 赞赏了
钛媒体Pro创投日报：7月21日收录投融资项目32...
2022-07-22 16:40钛粉14772 赞赏了
寻找下一个“玻色因”，国货抗衰盯上了蓝铜胜肽
2022-07-22 10:47单晶冰糖啦... 赞赏了
宁德时代依靠钠电池可以维持万亿市值吗？
2022-07-22 10:37钛友趣64... 赞赏了
女性专属时尚座驾，欧拉芭蕾猫上市19.3万元起售
2022-07-12 23:58钛粉93105 赞赏了
TapTap塌房，“中国Steam”的故事结束了
2022-07-12 14:02已注销用户 赞赏了
【医疗健康周报】第26周：“康诺亚生物”获得1.9...
2022-07-07 15:05钛粉97884 赞赏了
零和游戏与非零和玩家：InterSystems的数...
2022-06-29 22:21钛粉97003 赞赏了
零和游戏与非零和玩家：InterSystems的数...
2022-06-29 21:58钛粉97388 赞赏了
零和游戏与非零和玩家：InterSystems的数...
2022-06-29 21:50钛粉11323 赞赏了
丰谷酒业换帅！李寒松出任党委书记、董事长
2022-06-28 17:09钛粉97508 赞赏了
海外港口货物积压，商家提前备货，今年外贸旺季来得有...
2022-06-24 18:44钛粉36186 赞赏了
习酒划转茅台集团财务公司5%股权，上市仍在“激烈博...
2022-06-21 15:25钛粉66633 赞赏了
重新定义“一体化”？HR SaaS产品PaaS化之...
2022-06-16 08:51碧天黄地 赞赏了
未来汽车如何实现创新与融合？几位大佬有话说
2022-05-30 21:37钛友趣76... 赞赏了
批量招聘难题何解？他们发现了HRSaaS的新机会 ...
2022-05-26 23:38单晶冰糖啦... 赞赏了
钛媒体华南中心成立 全财经战略布局再进一步
2022-05-25 11:30钛粉89798 赞赏了
郑大一附院，一家“超级医院”的双面特写
2022-05-21 06:19钛粉00698 赞赏了
大厂深蹲，时代向前
2022-05-19 10:27刘成军 赞赏了
中国信通院院长余晓晖：加快构建我国特色的工业互联网...
2022-05-18 14:09已注销用户 赞赏了
Netflix真的会为「卖广告」掏出真心吗
2022-05-17 10:19钛田097... 赞赏了
黑海粮仓“起火” ，全球粮食失衡
2022-05-09 19:50钛i7Tw... 赞赏了
Bilibili Issues 10,000 NF...
2022-05-03 16:30钛粉11841 赞赏了
式微的金三银四，进击的线上招聘 | 钛媒体深度
2022-04-28 00:39钛粉70984 赞赏了
式微的金三银四，进击的线上招聘 | 钛媒体深度
2022-04-27 14:29刘成军 赞赏了
【书评】工业互联网，如何开启工业全价值链价值重构的...
2022-04-20 15:10钛粉12812 赞赏了
破发又大涨 海创药业“明天”的故事不好讲
2022-04-13 19:13 查看精彩文章，打开钛媒体客户端挺钛度，加点码！
¥ 5 ¥ 10 ¥ 20 ¥ 50 ¥ 100支付方式
确认支付支付
支付金额：¥6
赞赏金额：¥ 6
赞赏时间：2020.02.11 17:32
账户【未登录】提示！个人中心将无法记录并同步您的赞赏记录，是否进行登录
直接赞赏 立即登录分享文章
微信扫码639Oh! no
您是否确认要删除该条评论吗？
分享文章
微信扫码 639
