京东6.18大促主会场领京享红包更优惠

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 950|回复: 0

识别「ChatGPT 造假」,效果超越 OpenAI:北大、华为的 AI 生成检测器来了 ...

[复制链接]

1591

主题

728

回帖

6982

积分

论坛元老

积分
6982
发表于 2023-6-2 21:27:34 | 显示全部楼层 |阅读模式 来自 江苏苏州
机器之心专栏: R7 P! i, U# ^" I9 P( i
机器之心编辑部
8 u! z# M6 U' g  S. A% s8 ^' d0 LAI 造假的成功率很高,前几天「10 分钟骗 430 万」还上了热搜。在最热门的大语言模型上,研究人员最近探索了一种识别方法。5 m* ]( m6 m. g; k+ z) X- V
随着生成式大模型的不断进步,它们生成的语料正逐步逼近人类。虽然大模型正在解放无数文书的双手,它以假乱真的强劲能力也为一些不法分子所利用,造成了一系列社会问题:3 v" U. s( R- i3 |2 E" m1 e
3 w+ M: g8 ~& H8 `8 _
6 g6 I/ E5 q- B9 |
( l" e: g& d+ h8 N: |# X4 r

7 g7 I5 i5 b; d1 J
7 s* Q: P! v8 A4 F; O7 g5 Q- \来自北大、华为的研究者们提出了一种识别各式 AI 生成语料的可靠文本检测器。根据长短文本的不同特性,提出了一种基于 PU 学习的多尺度 AI 生成文本检测器训练方法。通过对检测器训练过程的改进,在同等条件下能取得在长、短 ChatGPT 语料上检测能力的可观提升,解决了目前检测器对于短文本识别精度低的痛点。. p  i( r: q* X( R+ R4 v
  z! w$ A7 n- n: \

& ~% u+ B# H( ^4 o: W
% L; Y: Z4 u6 t) k论文地址:https://arxiv.org/abs/2305.18149. l  Z$ Y" f8 r# @( `! H
代码地址 ( MindSpore ) :https://github.com/mindspore-lab/mindone/tree/master/examples/detect_chatgpt4 I- x, C* J* ^3 |
代码地址 ( PyTorch ) :https://github.com/YuchuanTian/AIGC_text_detector
, d3 c! G5 R5 N8 L引言
) r3 O% U" S$ \5 Z, s随着大语言模型的生成效果越发逼真,各行各业迫切需要一款可靠的 AI 生成文本检测器。然而,不同行业对检测语料的要求不同,例如在学术界,普遍需要对大段完整的学术文本进行检测;在社交平台上,需要对相对简短而较为支离破碎的假消息进行检测。然而,既有检测器往往无法兼顾各式需求。例如,主流的一些 AI 文本检测器对较短的语料预测能力普遍较差。
/ f7 Z/ I2 H6 e+ |对于不同长度语料的不同检测效果,作者观察到较短的 AI 生成文本可能存在着一部分归属上的「不确定性」;或者更直白地说,由于一些 AI 生成短句同时也常常被人类使用,因而很难界定 AI 生成的短文本是否来自于人或 AI。这里列举了几个人和 AI 分别对同一问题做出回答的例子:
9 ^3 m2 A: q4 m9 y# w6 d6 I$ z5 ]4 y# n& B. v; \
' l: R  |  r2 R0 S. V

. @; d- R- S/ s& |由这些例子可见,很难对 AI 生成的简短回答进行识别:这类语料与人的区别过小,很难严格判断其真实属性。因此,将短文本简单标注为人类 / AI 并按照传统的二分类问题进行文本检测是不合适的。, [9 }: Z# b( O1 f2 o/ N3 B5 [' U
针对这个问题,本研究将人类 / AI 的二分类检测部分转化为了一个部分 PU(Positive-Unlabeled)学习问题,即在较短的句子中,人的语言为正类(Positive),机器语言为无标记类(Unlabeled),以此对训练的损失函数进行了改进。此改进可观地提升了检测器在各式语料上的分类效果。0 A" D  r- A- R% [/ B1 }
算法细节
: K1 ?1 P8 v6 Q7 A% L在传统的 PU 学习设定下,一个二分类模型只能根据正训练样本和无标记训练样本进行学习。一个常用的 PU 学习方法是通过制定 PU loss 来估计负样本对应的二分类损失:3 L! N! O  z. X! b1 q
其中,表示正样本与正标签计算的二分类损失;表示将无标记样本全部假定为负标签计算的二分类损失;表示将正样本假定为负标签计算的二分类损失;表示的是先验正样本概率,即正样本在全部 PU 样本中的预估占比。在传统的 PU 学习中,通常将先验设置为一个固定的超参数。然而在文本检测的场景中,检测器需要处理各式长度不同的文本;而对于不同长度的文本而言,其正样本在所有和该样本相同长度的 PU 样本中的预估占比也是不同的。因此,本研究对 PU Loss 进行了改进,提出了长度敏感的多尺度 PU(MPU)loss 损失函数。
& v- J3 l9 |& e具体地,本研究提出了一个抽象的循环模型对较短文本检测进行建模。传统的 NLP 模型在处理序列时,通常是一个马尔可夫链的结构,如 RNN、LSTM 等。此类循环模型的这个过程通常可以理解为一个逐渐迭代的过程,即每个 token 输出的预测,都是由上一个 token 及之前序列的预测结果和该 token 的预测结果经过变换、融合得到的。即以下过程:3 e% l$ v# Z8 _" I7 K
为了根据这个抽象的模型进行先验概率的估计,需要假定该模型的输出为某个句子为正类(Positive)的置信度,即判定为人说出的样本的概率。假设每个 token 的贡献大小为句子 token 长度的反比,是非正(Positive)即无标记(Unlabeled)的,且为无标记的概率远远大于为正的概率。因为随着大模型的词汇量逐渐逼近人类,绝大部分词汇会同时出现在 AI 和人类语料中。根据这个简化后的模型和设定好的正 token 概率,通过求出不同输入情况下模型输出置信度的总期望,来得到最终的先验估计。9 a: y; C1 H0 k5 o  h
% G4 p; Z  b+ d7 x$ r9 e. v" b
' [6 }! p) F: Q9 P
: b, ]* F4 ?6 B2 P
通过理论推导和实验,估计得到先验概率随着文本长度的上升而上升,最终逐渐稳定。这种现象也符合预期,因为随着文本变长,检测器可以捕捉的信息更多,文本的 「来源不确定性」也逐渐减弱:
9 I, D* }, a1 z  y之后,对于每个正样本,根据其样本长度得到的独特先验对 PU loss 进行计算。最后,由于较短文本仅有部分 " 不确定性 "(即较短文本也会含有一些人或者 AI 的文本特征),可以对二分类 loss 和 MPU loss 进行加权相加,作为最终的优化目标:9 u; T1 Z+ O5 ~3 o+ u- e
此外需要注意的是,MPU loss 适配的是长度较为多样的训练语料。倘若既有的训练数据单质化明显,大部分语料为大段冗长的文本,则无法全面发挥 MPU 方法的功效。为了使得训练语料的长度更多样化,本研究还引入了一个在句子层面进行多尺度化的模块。该模块随机遮盖训练语料中的部分句子,并对余下句子在保留原有顺序的前提下进行重组。经过训练语料的多尺度化操作,训练文本得到了长度上的极大丰富,从而充分利用了 PU 学习进行 AI 文本检测器训练。
3 n! Y$ V1 [8 C: J. p, r" Q实验结果
: F, W" W: F  V& P
, G# @# n/ R5 s7 s7 S( l# [0 \4 C0 Z+ ]2 m, o

4 V- O4 Q9 U" T" |3 N- [如上表所示,作者先在较短的 AI 生成语料数据集 Tweep-Fake 上检验 MPU loss 的效果。该数据集中的语料均为推特上较为短小的语段。作者又在传统的语言模型微调基础上将传统二分类 loss 替换为含有 MPU loss 的优化目标。改进之后的语言模型检测器效果较为突出,超过了其它基线算法。
* ?* l2 c& J( v8 Q  o0 _2 Y6 L0 X
7 R7 p6 S5 e: O4 t% e! T* |5 ?# [: M

) b* F+ r( u2 v2 l作者又对 chatGPT 生成文本进行了检测,经过传统微调得到的语言模型检测器在短句上表现较差;经过 MPU 方式在同等条件下训练得到的检测器在短句上表现良好,且同时能够在完整语料上取得可观的效果提升,F1-score 提升了 1%,超越了 OpenAI 和 DetectGPT 等 SOTA 算法。, n( E2 U5 {1 s; B0 R/ t2 e

7 I' K5 Z1 N/ V$ `+ w
/ O! j, O, O; H: }( r8 `  J1 o2 A+ b: N" `- {. z5 T  s
如上表所示,作者在消融实验中观察了每个部分带来的效果增益。MPU loss 加强了长、短语料的分类效果。& H, h! W; s6 r  y, b1 i4 r

  `$ F2 g5 n0 r  }
& x! Y+ p3 Y" ]1 \2 p) m' i9 V1 [( [# s1 l& U8 Z) |
作者还对比了传统 PU 和 Multiscale PU(MPU)。由上表可见 MPU 效果更胜一筹,能更好地适配 AI 多尺度文本检测的任务。, {) j% x$ h( x: K( f, b
总结! t. O2 ~4 T% ?7 {7 o
作者通过提出基于多尺度 PU 学习的方案,解决了文本检测器对于短句识别的难题,随着未来 AIGC 生成模型的泛滥,对于这类内容的检测将会越来越重要。这项研究在 AI 文本检测的问题上迈出了坚实的一步,希望未来会有更多类似的研究,把 AIGC 内容进行更好的管控,防止 AI 生成内容的滥用。
& }% a6 F0 |0 I2 }! V THE END ! F9 g  y# D1 K0 b/ H8 @; C
转载请联系本公众号获得授权
) \+ U4 h+ S, H# D: M8 _! q- I投稿或寻求报道:content@jiqizhixin.com

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×

帖子地址: 

梦想之都-俊月星空 优酷自频道欢迎您 http://i.youku.com/zhaojun917
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /6 下一条

QQ|手机版|小黑屋|梦想之都-俊月星空 ( 粤ICP备18056059号 )|网站地图

GMT+8, 2025-7-25 07:33 , Processed in 0.045819 second(s), 24 queries .

Powered by Mxzdjyxk! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表