|
|
编辑部 发自 凹非寺
$ f& ]% K' u) a& f9 C) r 量子位 | 公众号 QbitAI8 V& b* d8 G+ o0 Y ~5 `9 K7 C
GPT-4发布一天之后,压力全部给到百度这边。
4 N; I( u8 W/ I 就在刚刚,百度交卷。
; S- n8 d8 k% M# b! C: S0 N- A' X 文心一言,百度全新一代知识增强大语言模型,正式在百度总部“挥手点江山”会议室里发布。" k6 [9 m' X0 Z8 n4 E
在一片静寂的氛围里,李彦宏小步登场,语气里带着点紧张:
' M1 _% }# H I! C( R' E1 Z7 N) _- ? 大家的期望值,是我们对标ChatGPT,对标GPT-4,这个门槛有点高(笑)。
* i. ?/ T+ `7 Q 十月怀胎,我们就带大家来看看这个AI大模型文心一言长什么样。
: p' X/ X( L( b* f5 Z& X' P ( i6 w# z- E+ H" }3 u, D
此前,有人狂转meme图把百度比作GPT-4旁边的垃圾箱。
' Y$ \5 j+ q7 K* [& [ 8 W/ C; I" |1 U' U$ f3 Y
也有人鼓吹百度是全村的希望。, e2 ? [5 F- ]" J- {1 G: K) B+ q
而在发布会进行的同时,百度港股市值大幅下跌,相关话题还冲上了微博热搜。
1 u$ @% Z1 \, ?$ r2 v7 w
0 Z+ g7 {# t6 \- O: S0 } ~' x) ~7 h 但直播弹幕中也有网友点赞: N$ I5 l7 T/ g5 o
3 v3 `+ k( y2 g2 ]- l0 P! R7 m8 U0 `
那么这个中国版ChatGPT到底实力如何?# ^# I1 c9 \" P* ~6 W& K( q; p
咱们就用百度发布会演示的预录制Demo,对比一下崭新出炉的GPT-4,先凭实力说话。
, a8 K4 S$ M/ O& o7 I7 Q 文心一言 vs GPT-4! f. p2 x; C' J" n4 O: u5 @
和GPT-4一样,文心一言是一个多模态大模型。) d1 A, r; g0 M k2 A. ]( r/ P9 h
李彦宏开场就展示了文心一言具备的5种能力,包括文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。
& b! s3 M$ r1 O 文心一言甚至还现场秀了一口接地气的四川话,现场网友发出一片笑声。
8 [) t* q9 w4 [, r" w$ O 其他能力如何?我们具体展开来看。
3 \$ b$ y, ]" {: E9 T" { 文学创作
x8 q$ O. K& a& o 在文学创作上,李彦宏一开场就搬出了《三体》作者刘慈欣坐镇。. P+ E& @* e; N/ h; r; U
先让文心一言介绍一下大刘,“毕竟我也是刘慈欣老乡嘛”:) W g5 L% Z# g) V0 W# S. [; _5 q
' s7 j$ T+ l1 g3 } 看起来没什么问题。同样的问题问问GPT-4呢?
, `2 [8 s1 u5 P& b+ c9 o
) G# H" x+ ^7 d7 e% u 嗯???直接把刘慈欣的老家挪到了湖北省洪湖市。湖北人狂喜(doge)! h- g8 h& U( k2 B
随后,李彦宏又展示了从哲学的角度对这段文章进行续写的demo:. j. s% _$ T* x3 l2 q9 i
, H" _( [! U; e( H4 X
看起来中规中矩,比较理性。老样子,我们也来与GPT-4进行一波对比:1 F7 ]+ Y, i) ]: H0 }2 x) z u- h
" f9 R3 I* _0 [ 这波你是想看GPT-4续写的《三体》,还是文心一言的?
% k {# V$ j! w* R 再来看看《三体》电视剧中扮演史强和汪淼的老搭档,于和伟和张鲁一,有什么共同点?
/ ]$ c8 K, }9 B1 t/ ~; Z4 p
& y5 f1 K; ^1 a& e 也没什么问题。7 y4 B3 @. b% E; M9 Y
就是看起来展示的速度有点快,比李彦宏的语速还要快上那么一点点(手动狗头)。3 w0 J. U" B( ?0 A7 P: w
, ~: i9 p) P* x: u$ f% b- \ 商业文案创作6 _: e" i' u2 f
接下来,李彦宏又展示了一下文心一言在商业文案创作上的能力。
8 \) [) l: E) K% u1 k g7 s/ j 比如给新公司起个名字。" C( E, H: M. K7 P& O# k2 Y/ g1 `
( g3 X: s6 C2 L- L5 r! N/ l 并且这个名字它还不是瞎起的:% J) b! Y/ k# M- X0 q' |4 y
0 a0 p X( |! T' A0 w/ b 再来看看GPT-4起名的效果?
) ]5 u8 Y6 R& J7 g; y. Q
7 i) ^, Y) T& f* }' D 看起来,GPT-4对中文的掌控能力相比之下还是少了一点精髓。7 k& e ?, Q/ c( f/ n) C
至于写个公司成立的新闻稿?对文心一言来说似乎也不成问题:* q3 Q7 y6 j- A5 v6 x
, O8 N0 y' L0 }7 `
数理逻辑推算0 w/ e y, A7 i( m3 N6 Z. t
数学能力,是考验生成式大模型的一大难题。ChatGPT刚上线时,也翻了不少车。1 s) h+ r5 i+ A8 h
不过在现场,文心一言处理的数学问题不算复杂,是小学数学竞赛常见的鸡兔同笼问题。# p' x6 \3 d# D5 D
?- c$ a- S* p7 @4 X. Q! C8 n
彩蛋是,李彦宏现场展示的第一题,引得文心一言说出了《狂飙》里高启盛的经典台词:这题出得不对。* S [+ B+ H9 X! h3 T9 J# {
. j) C. X; I4 h) \+ d9 R 修改一下题目,OK,再扔给文心一言试试:, ?$ p* t. V2 k
9 Q$ }3 e$ p7 a5 B) i+ _
看起来,答案还算是有理有据,一步步逻辑推理出来的那种。4 I$ X* O2 M" Y5 N" [ J( i- ]! X
李彦宏表示,这些题“不敢说百分之一百能做对,但至少体现了文心一言的思考历程”。( l, l8 _7 |# p/ V' M# N# J* @) A
中文理解
. x7 C4 d- w; ^4 v$ x$ J$ Y 接下来,李彦宏着重展示了一下文心一言对中文的理解能力,并特意强调:
- l+ w( d+ c2 ~3 i8 P+ P; a+ X( h 文心一言对中国文化的了解,理应超出任何一个预训练大模型。$ V z8 j, t# y+ x+ x5 A1 M9 ~
一上来就是一个成语,“洛阳纸贵。到底有多贵?”
; t) k/ M8 d9 J# Q+ L# Z' w ( A* n5 J' i: {* M
这是文心一言的效果展示:
/ D" m5 A3 o8 f: U: T$ \. M2 I
! z9 i: }7 \& g; N) \/ z 还解释了一下这个成语背后的经济学原理:$ _5 R6 N1 W% n+ @8 b1 p
( W1 B7 H! b/ \( ^) d3 H+ S9 ` 那么,将这个问题抛给GPT-4呢?首先问问它,知不知道洛阳纸贵是什么意思:2 J* h. C: x+ n* W% G0 C, v
8 r- E! `5 V7 e! F! o4 T
接下来,再问问他对应的经济学理论是什么:
! U$ @) k9 W$ W$ A6 B 2 X$ ^/ D( F! e( M/ V- s8 J
这波看起来,GPT-4的中文理解似乎也不输文心一言啊。, j* c2 K" r; O+ Z9 S
那么,再来看看二者写藏头诗的能力?
* ~6 b: c3 w) Y7 u) E) s 首先是文心一言的效果展示:6 S/ @3 |( v7 L1 c& w. a' @- \
; j9 o+ e8 Q) x" d( t 接下来,我们再看看GPT-4怎么说:
$ D/ J% f1 Z0 f, f/ y0 q * f. g; R( J6 C H4 \6 k
诶,看起来反而是GPT-4没有真正理解“藏头诗”的含义。
3 K, c. M+ V* n% I 这波文化理解上,属实是文心一言“小胜一筹”了。, i) ?( J% F- s5 h: [3 ~$ m
不过在英文上,李彦宏也承认,虽然文心一言也能处理,但能力是显著不如中文的。
7 U4 I8 A8 \2 m! J 这也和百度目前能用到的训练数据有关。5 T% x* d" |7 @, |
多模态生成
) C' r( o# g+ x) S5 p* L( y' p 最后,李彦宏还简单展示了一下文心一言多模态生成的能力。5 N8 i& m% B" M% E
首先来看看,为即将到来的2023世界智能交通大会创作海报——: o5 V9 Y7 p4 W% h
* `; `/ U; Y' u+ s4 u% ?
而除了前文展示过的文字转四川话能力,文心一言还能文字转视频。
, C. N# ?7 `/ s1 H 李彦宏一句指令“将以上内容生成视频”,很快啊,不到几秒钟,文心一言就把字幕和视频做好了:
$ ^% t ~# V9 t: y& A, o- f- V + k* q, U; V K! ?' ` h1 _) x
有些遗憾的是,在ChatGPT被频频称赞的编程方面,文心一言并没有现场展示相关能力。
% H" G7 p0 O1 a+ h$ f! P" i/ t& v 但王海峰透露,文心一言的训练数据中同样包括代码。% G3 h, J. L$ M; N- O0 [2 _7 n
文心一言如何“跑通”?
! a% _+ c" S) q2 Z: Q 正如ChatGPT脱胎于OpenAI的GPT系列,百度这次推出的文心一言(ERNIE Bot),背后也正是基于文心大模型技术打造。
0 H" d6 o5 W" a3 H) T. C 据王海峰介绍,文心一言主要脱胎于两大模型:- n8 M. P$ q l7 E+ D6 f: ^9 O) L
百度ERNIE系列知识增强千亿大模型,以及百度大规模开放域对话模型PLATO。
) s- W1 L, i. d& Y 在此基础上,主要采用了六项核心技术。
: X' Z: T1 W- u/ a+ {5 m1 d) p 其中三个是广为人知的大模型技术,包括有监督精调、人类反馈强化学习(RLHF)和提示构建。
# n7 m3 y" s2 \5 A p.s. 人类反馈强化学习也是ChatGPT的关键技术。
4 @0 b* h8 C# O/ u9 o2 d 另外三个,则是“百度比较有特色”的技术,包括知识增强、检索增强和对话增强技术。
8 i( @. ~* G& b
9 q: S4 q" M' n 首先来看与ChatGPT类似的技术:有监督精调、RLHF和提示构建。/ M& U7 d$ h2 T+ m9 Q. Y: r( ?
有监督精调,尤其指中文方面的数据精调。百度基于对中国语言文化和中国应用场景的理解,筛选了特定的数据来训练模型。
$ @2 D6 j, N9 E8 D9 G' a ' ?9 O3 n% o/ f* h
至于人类反馈的强化学习(RLHF)和提示构建,操作上也与ChatGPT大差不差。
; k3 g5 b/ o/ O: \ Q 1 k0 D/ q0 t' H( o6 a
随后是百度提出的、用于进一步改善模型效果的技术。! B" B6 e$ ~6 T( a- P% l1 S
知识增强,包括知识内化和知识外用两个部分。其中,知识内化即将知识“渗透”进模型参数中;知识外用指的是模型可以直接使用外部的知识。
& ]5 W1 `( i0 q+ H
) E) ^. J2 o5 _( L4 y 检索增强,则与百度搜索引擎积累的检索技术有关。& y9 l' w7 Y; R( u/ Z3 r$ I
百度将把检索技术和生成技术结合起来,先对内容进行检索后,将比较有用的部分用于生成,再整合输出结果:' b9 O9 G" z" V) |/ o# J
$ g% [* u2 ~' W b 最后是对话增强部分,包括之前百度积累的记忆机制、上下文理解和对话规划等技术:
7 u' I" B, ]$ f+ Z) B+ V0 t
) e& t. W' i, x5 O 概括来看,文心一言表现出的能力,被李彦宏称为“智能涌现”:
" t9 V# v- `' U0 Y 当参数达到千亿量级,训练语料达到足够多的情况下,这种现象就会发生。
0 N+ V' A* {! z+ C2 V3 A! z 目前,百度拥有的AI技术可以分为四个部分,芯片(昆仑芯)、框架(飞桨)、模型(文心)和应用。
* F$ Z: _: O, g0 ^) D 之所以软硬件都要布局,百度称,是为了降低成本:
9 Z ?5 U+ C' B2 U, { 生成式AI需求的算力非常高,费用相当昂贵。
* d" r: x9 y# ], D# ~ \ 因此,如果在四层架构之间相互进行协同优化,就能让它的效率比别人更高,从而显著降低成本。+ c" C) Y5 j P$ o/ V5 P# X$ y/ ~% c
李彦宏认为,这也正是百度的优势所在:3 E7 `% R/ Z& T& A) J. Z
四层都有领先产品的公司,绝无仅有。
3 D5 y# s) u2 d7 I1 F; U 6 ~. ~( b1 `1 o: W
这次文心大模型背后的硬件算力,也是通过百度智能云提供服务。) `) a, [' W9 n- W1 [3 w7 v& P
目前,文心一言已经接入百度搜索,目的在于提升搜索资源效率。
' r! T; h9 k' t$ F$ K 同时,包括小度和自动驾驶Apollo等产品,以及爱奇艺等公司也已经接入百度的文心一言模型。 O7 _' U2 j$ g3 r- G o% D+ [
- Q! x5 I" E% Z. a3 d/ T6 J7 \ 网友:看来还不用提前退休
3 N2 |% R7 Q- k% V: d! ^! \ 截至发稿,百度港股股价在一波明显下跌之后,有所回弹。: w6 {& X; ~2 D3 H! s* v
: U x1 D0 C: N) t; o 发布会结束,网友反应最多的是“提前录制有点败好感”:
7 a0 W2 w1 w7 Z8 a. y % }# e7 v9 }% o3 {
7 p9 ~7 n3 y. t 对于这一点,李彦宏的解释是,给出的问题都比较长,为了节约现场时间,所以才用了提前录制的形式。; ?- M/ i4 T0 t* P' [" A
还有不少网友对文心一言展示出的能力不太满意。有人调侃,看完之后感觉“提前退休的日子看起来还可以缓一缓”:* N0 Y+ y* @# _1 E( D
. N& `) O1 L0 `* Z7 V# Y* m 离GPT-4还差了20个老胡。. e, U! E9 T6 P. B& {) n; I- \; ^
) c0 m$ c1 u0 w& F% s' \
还有网友感觉,文心一言的发布会像极了毕业答辩的自己(doge):
1 |2 T, ^+ n3 w5 H * Z! B& a% D, Z" q% Q$ |
不过也有网友表示,希望能给国产产品一点时间一点耐心。
; b7 d( z% c I1 O5 Z7 F
4 h+ Z. R' @) [4 G: l7 \8 l 发布会末尾,王海峰宣布,文心一言将从今天开始对外进行测试,包括个人用户和企业用户。" q; W5 _6 o( H% V% S9 C: p
是骡子是马,相信接下来,会得到更多验证。* c, g0 I4 _5 t
One More Thing5 a1 |- ]$ x/ r) u
对了,有网友表示,已经拿到了文心一言的内测资格:
& U4 c5 }2 y* J% X! y0 b 你好,感谢您体验文心一言,体验地址:% Z K0 h" B7 {+ P, f; Y
https://yiyan.baidu.com/welcome,希望您在体验当中给予更多意见,文心一言邀请码:KFCVME50RMB,2023年3月16日24:00前有效。8 `- T- f j6 I& E% A/ u
嗯,万物疯狂星期四(手动狗头)。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|