|
|
( g0 k) H# H( p& r* V( e3 {
) J' {! C9 Q" D, R3 ?- I1 Q6 d1 w1 N* a
, w/ o# c# P: B6 i! i4 v1 \
0 y3 d+ \( f: x5 B4 n一夜之间,Google 在两个层面上突破了人工智能应用的想象力。' t4 l9 d9 ]3 R$ X1 L2 i
* h/ n/ p" J% r* Y文丨贺乾明 邱豪
8 z# z# W* l8 X& Z% h* Y编辑丨黄俊杰
6 l! @% m! e# X$ z+ f用户 1:你在用 PaLM 2 模型了吗?
J6 O, e+ ~$ q3 CGoogle Bard:我在 2023 年 3 月 31 日切换到了 PaLM 2。这是 Google CEO 桑达尔·皮查伊 (Sundar Pichai)在《纽约时报》Hard Fork 播客上宣布的。+ J+ w! a: A) M: f0 P! `! o3 {
用户 2:你在用 PaLM 2 模型了吗?
4 @8 z }* i" G3 a$ A/ R1 i ~Google Bard:我没有用 PaLM 2,我用的是一个更小的、正在开发的模型。PaLM 2 是一个更强大、但还在研究阶段的模型,我不确定它什么时候发布,并对外开放……$ h1 o9 S: v) d( F0 S, N$ Z' P
今天凌晨举办的 Google I/O 开发者大会之后,将同样的问题抛给 Google 的聊天机器人 Bard,你会看到截然不同的答案。根据 Google 公布的信息,Bard 已经切换到了新一代模型 PaLM 2,但并没有在 3 月 31 日完成切换(但它提到的播客又确实存在)。所以第一个回答对了一部分。; l. o& p* @( { w
Google 没有解决大模型回答不准确的根本问题——可能一时也没人能解决。但新的 PaLM 2 大语言模型,以及同步宣布的一系列激进的产品更新展示了,在当前技术限制下,互联网巨头可以如何推动人工智能实用化。
4 S! c" y. @5 M3 ?8 ~6 k模型小一点也可以更好用,甚至就在手机上离线运行, B) p4 s' v6 j9 y; W7 Y
Google 在会上发布了新一代大语言模型 PaLM 2,不是一个,而是四个。从小到大,按照参数规模用动物命名:壁虎(Gecko)、水獭(Otter)、野牛(Bison)和独角兽(Unicorn)。% `: h- g8 y# y6 [, ^! R
皮查伊说,“壁虎” 可以在手机上运行,而且速度足够快、不联网也能正常工作。
; Q4 y: l/ [* H, E此前也有开发者在手机上运行开源的大模型,但速度很慢,一次结果要等上十分钟甚至更久。根本无法与掌控 Andriod 系统、并具备大模型开发实力的 Google 相比。
5 s6 l8 c5 q, K& J6 a, h虽然更大的人工智能模型效果往往更好,但消耗的计算能力也更夸张。接入 GPT-4 的 New Bing 和 ChatGPT Plus,一度让微软的计算资源都捉襟见肘。OpenAI 一度暂停用户付费订阅 ChatGPT Plus,并限制付费用户每天使用 GPT-4 的次数。
( r' h0 P0 B/ ^0 f对于个人用户来说,最可靠的计算能力还是手里的手机、家里的电脑。如果你不玩游戏,这些设备中的算力都是冗余的。更小、消耗计算资源更少的大模型,能把这些冗余的计算资源变得有用。
5 I C( J9 y% X. Y' ?' PGoogle 在技术报告中评估了 S、M、L 三个规模的 PaLM 2 ——没跟 Google 发布会上提到的四个模型对应——在部分任务中,最小的 PaLM 2 会比上一代 5400 亿参数的 PaLM 表现好。, W V* K$ U8 F( O0 b, u
英伟达人工智能科学家 Jim Fan 将 “壁虎” 称为 PaLM 2 模型中 “最重要的亮点”:“在小屏幕上提高的生产力,要比在大屏幕上多得多。”$ s3 }4 H) d) V% \% j' d0 e
根据 Google 的技术报告,即使是规模最大的 “独角兽” 版本, PaLM 2 的参数也比上一代模型少,但在自然语言生成、翻译、推理等多个任务上更强。“这表明扩大模型的规模,并不是增强模型能力的唯一途径。”4 d6 J* b# ? D/ j8 O; g/ ]" ^8 q) `
这一技术突破对人工智能继续提升发展至关重要。过去几年,Google 和 OpenAI 等公司证实了 “模型参数越大,能力更强” 的规律,科技公司大模型竞赛把模型参数推高到万亿。训练模型时,它们基本用尽了地球上所有的文本数据。6 e7 U1 C. D- a7 l
今年 4 月, OpenAI 首席执行官山姆·阿尔特曼(Sam Altman)在麻省理工学院交流时说,“我们正处于巨型模型时代的结尾”,模型的进步不会来自让模型变得更大。1 ]: {9 w( H2 x7 b5 y
现在 Google 率先交了答案,但解题过程:“略”。
8 C9 n7 W' [- N" ~0 @和 OpenAI 介绍 GPT-4 时的方法一样,Google 介绍 PaLM 2 时也放出长达 90 多页的技术报告——沿用学术界常用的 arXiv 论文格式。格式接近论文,但文章署名作者变成 Google 公司,研究人员名单被挪到了最后的附录。
/ P* D( a2 K+ U* u5 W类似 GPT-4 的发布,Google 也隐去了 PaLM 2 具体怎样训练模型,模型参数有多大。人工智能研究与学术息息相关,但对于大公司,它最终还是一场激烈的商业竞争。% `0 _; j) F: e& O6 b* ]7 E4 J
相比技术细节,Google 更愿意讲 PaLM 2 跨语言学习的能力。根据技术文档,Google 训练 PaLM 2 时用了 100 种语言的数据,主要的语言数据中,都有与英文对应的文本。皮查伊说,PaLM 2 可以理解不同语言之间细微的差异,并生成超出预期的结果。
# \3 Z& c1 x; O, s' U他举了一个 PaLM 2 帮不同国家的人合作写代码的例子。靠 PaLM 2,韩国的开发者用韩语注释代码、提出修改建议,美国的开发者一样能看懂。PaLM 2 还会帮美国的开发者写韩语评论。0 f" o; q& G$ v# o0 L. ~8 ~
皮查伊在发布会中并没有直接提及竞争对手 GPT-4。在 PaLM 2 的技术报告中,GPT-4 作为参照对象也仅出现了寥寥数次。比如当评估推理能力时,Google 称 PaLM 2 在测试推理能力的部分数据集上表现跟 GPT-4 相当。
, L7 O' S6 P6 Z0 x一些用户在 Reddit 论坛和社交媒体上说新 Bard “快如闪电”、但写代码还是不如 GPT-4。网站设计师 Mike Hancock 说他给 GPT-4 和 Bard 出了相同的代码测试题,GPT-4 一个答案还没写完,Bard 已经给出了三个完整答案,不过最终结果还是 GPT-4 更好。$ ]0 I3 c5 J' u# l: B7 N" L
Google 还展现了用不同数据微调(Fine-tuning)PaLM 2 后的成果:
0 `, L( V' C: k/ M# M
% |/ I$ z# p- D" o1 a4 e, m# \ i+ K3 b/ o: p% i6 Y; R
- Sec-PaLM,用安全数据微调。它可以检测恶意脚本,帮安全专家了解和解决威胁。 G+ m' P) w# c- Z5 Y
7 J# u9 O: w" H$ R1 t
5 J8 C8 Q: L$ o" B5 C
6 v+ o* r3 |# T8 l8 U" u9 X- Med-PaLM 2 ,用医学数据微调。它能像临床医生一样回答病人问题。准确度接近临床医生。它是第一个医学执照考试中达到 “专家” 水平的语言模型,也是现在最先进的。Google 称,后续还会给它加看 X 光胶片的能力。
3 k# d+ G: q# L. ~9 r
9 ~' V ?% {2 |0 o# a0 _7 [$ k: jOpenAI 已经明确表示短期不会研发下一代模型(GPT-5),而是寻找其他方式让 GPT-4 变得更好 。但 Google 不打算停下半步。PaLM 2 刚对大众开放,Google 就已经在从头研发新一代的大模型 Gemini。
% f& I) M6 V7 M4 q9 z: c5 ]$ iGemini 将是多模态的——能同时处理语言、图片等数据,并集成各种工具和 API,“虽然还处于早期阶段,但我们已经看到了之前模型中没有的、印象深刻的功能”。
1 f2 }% k7 W/ f" W9 M- X从搜索到地图再到 Gmail,大模型被塞进 Google 的核心产品
- ^+ |% T- d/ R! m8 T, k% E“我们正处于一个激动人心的转折点。” 皮查伊说, “通过生成式人工智能,我们正重新构想我们所有的产品。包括搜索。”
0 S2 r. l1 |6 Y3 R: LGoogle 是用户最多的互联网公司——15 个产品用户超过 5 亿、6 个超过 20 亿。中国以外地区,大部分人用 Google 的搜索、地图、邮件、视频产品。& j6 I1 j, f+ h' `3 Z: S
在 Google I/O 的主题演讲中,这些产品都有了人工智能驱动的新版本。最受关注的是每年为 Google 贡献数百亿美元利润的搜索广告。任何一个微小调整,都可能影响根基。
- ?6 C" K9 B8 o: v微软的 New Bing 直接把 ChatGPT 做成 “聊天” 界面,鼓励人离开搜索结果——也离开了广告。Google 选了一个更平衡的做法,在搜索页嵌入了名为 AI Snapshot 的新模块,展示大模型生成的结果。. ^" c; d1 s' F8 _9 i9 |% e
当你搜索 “适合泳池派对的蓝牙音箱”,页面中先出现传统的搜索结果——十条蓝字链接,几秒后,人工智能生成内容出现并被置顶,告诉你买蓝牙音箱的注意事项(电池寿命、防水性能、音质),并给出购买指南(右侧)、商品链接(下方)和商品的简介,你还可以设定价格(如 100 美元以下),让它重新生成结果。
* y/ b5 v; A! ^; d8 k- W+ I* z3 j" X, K
% J0 M* b8 h- o2 B' [" @; u7 {4 A( P/ u# q5 j
不过在手机等移动设备中,AI Snapshot 会塞满整个屏幕。这会大幅减少传统搜索结果点击频率。再加上 Goolge 直接给结果而不是链接,各类网站从 Google 搜索那里获得流量会更难。现在,Google 正试验怎么在 AI Snapshot 里加广告。
6 g2 F9 Q! J4 a( v: g4 p! z( o9 Z+ W不是所有搜索都会触发 AI 生成结果,只有当 Google 的算法认为人工智能生成的内容优于标准搜索结果时,前者才会出现。用户搜索健康、财务、危害安全等敏感主题时,AI Snapshot 不会出现。: `) }) N$ W, |+ ^5 u! ?
Google 计划先在美国测试 AI Snapshot,未来几周开放有限的名额。在申请页面,Google 还打算测试其他搜索功能,比如在搜索框输入编程问题直接生成代码的 Code Tips。
0 d8 H* W+ z, a主题演讲中,Google 的高管们展现了如何用人工智能改造其他的核心产品:. b. `! Z, U t1 m
6 r' c3 `3 c3 }6 {( b# b! S
* x7 @( m6 M2 j+ u$ h; ?- f
- 更沉浸的 Google Maps。Google 用人工智能技术合成了超过 10 亿张全景地图。当你选定导航路线、确定出发时间后,人工智能会生成一个鸟瞰视角的沉浸式 3D 路线图,并提前算好天气和交通状况,同步显示在动画中。Google 计划今年夏天推出这个功能,之后拓展到伦敦、纽约、东京、旧金山等 15 个城市。) U& X1 }$ t! e0 u D
7 q- e) z! j- f6 ?" G' ^0 ^: w
$ _# C( s% S3 O* y8 ]6 z
6 d7 z5 |6 B& a
* C3 O1 m4 p7 Y! U5 l. g; b/ T \" x( U( X
2 Z- R8 Q/ x9 `3 B& { R3 A
- 自动修图的 Google Photos。你只要提出需求,比如调高亮度、抠掉或补全画面中的物体、移动人物位置、把背景中的乌云改成蓝天等等,新出现的 Magic Editor 功能就可以自动完成。
' @* s ~& z |/ r9 J, D8 N
4 R- L, C, A+ V+ T
2 d" K0 }, a1 x9 Y7 O( T. q5 u% S }
4 a8 C3 G+ R& y( h1 k# ^- ?' }& e
1 I8 e. ]& O T
# C7 u; ~+ i1 V! i. D% t
- 自动写邮件的 Gmail。你只要在 Gmail 的 “Help me write” 工具中输入需求,比如一封要求全额退款的电子邮件,点击创建,它就会结合此前邮件中的信息,写一个完整的邮件。这个功能将会作为 Workspace 更新中的一部分推出。Workspace 的其他功能还包括根据 PPT 内容自动写演讲文稿等。' [, c/ I! ?& r4 p0 h% Y: U
- 4 k7 ~+ m8 x; b- m! W1 Q
- 更强大的聊天机器人 Bard 。Bard 的底层模型换成 PaLM 2;英文之外加了韩语、日语,预计 7 月份支持中文;Bard 的回复能一键转到 Gmail 和 Docs;帮你手机拍的照片配标题和描述文字;以及支持 Adobe 没有版权纠纷的图片生成工具 Firefly,而不是自己用公开数据集训练的作图应用。下面是让 Bard 制作一幅用于女儿生日派对的邀请函图片时(要求包含独角兽和生日蛋糕),它的回复:
% e! _2 t5 y5 F$ e; N" F) e
E' @; P* ?6 ~2 A1 a
! B8 w; Y" Y% q R: Y D3 f2 Y
1 E! \6 y$ C3 D; O; G' f. G- E6 I7 i1 I- w) `
在人工智能浪潮中,Google 一直处于独特的位置。
8 X, }2 w/ l( p- M, d p6 U& b, h它是最早研究人工智能、也是技术实力最强的公司之一,拥有许多人工智能底层技术的专利,比如现在大模型的基础架构 Transformer。- x" z1 H }! P3 s' R4 `& e
它也是世界上最大互联网公司,每天服务数十亿人。它拥有的 Andriod 能直接影响全球 30 多亿人使用的手机。它比其他公司都更有能力把大模型部署到更多场景。
3 P5 J' D! Z+ I4 o- j0 }" gGoogle 也因此被用户和监管机构密切关注,每个人工智能产品的研发和推出都要考虑法律和社会舆论风险。不少 Google 员工认为这是 OpenAI 能抢先推出 ChatGPT 的原因。
, G5 v4 [' W) p0 a9 x" H" v在 OpenAI 和微软的持续冲击下,Google 快速行动,整合了 Google AI 和 DeepMind 这两个属于公司、但一直不合作的顶级人工智能团队,推迟对外公开最新的研究成果,并积极研发基于人工智能的搜索引擎 Magi。这个正在 Google 内部测试的新产品,也在使用 PaLM 2。4 r" G7 E: b8 e5 ~, n- t2 l
前不久,皮查伊被问到 “没抢在 ChatGPT 前发布 Bard,你错过什么”。他给了个大公司 CEO 的标准回答,Google 不是第一个做出搜索引擎,也不是第一个做出浏览器,“有时候成为第一很重要,但有时候无关紧要。” 他认为,只要不断改进产品,实现更好的功能,后发也能先至。) |) r a" ?% V% d r. n
这场开发者大会,展现了 Google 的人工智能技术积累和产品迭代能力。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|