|
|
1 _; r* m( l3 R1 [
, m3 \( O! h3 W9 C
" n; G: L2 w3 r. u; q* m: k0 g: s
) U9 L8 V( n( h5 k; u一夜之间,Google 在两个层面上突破了人工智能应用的想象力。& S; h" G: z. J o
+ X: O0 h1 c2 O h
文丨贺乾明 邱豪
$ m# a0 _$ S2 [% D6 C编辑丨黄俊杰
: [" i f) y. z: A: H$ ~用户 1:你在用 PaLM 2 模型了吗?
6 T9 y# Q u; G+ t4 }# T: ^Google Bard:我在 2023 年 3 月 31 日切换到了 PaLM 2。这是 Google CEO 桑达尔·皮查伊 (Sundar Pichai)在《纽约时报》Hard Fork 播客上宣布的。- J0 g! b7 b8 z! ?- ?3 e; s
用户 2:你在用 PaLM 2 模型了吗?
" n- b- z3 L& R6 hGoogle Bard:我没有用 PaLM 2,我用的是一个更小的、正在开发的模型。PaLM 2 是一个更强大、但还在研究阶段的模型,我不确定它什么时候发布,并对外开放……
4 N0 w3 ^0 q& s" a今天凌晨举办的 Google I/O 开发者大会之后,将同样的问题抛给 Google 的聊天机器人 Bard,你会看到截然不同的答案。根据 Google 公布的信息,Bard 已经切换到了新一代模型 PaLM 2,但并没有在 3 月 31 日完成切换(但它提到的播客又确实存在)。所以第一个回答对了一部分。
0 o$ B% u4 Y b0 O9 U' [( ]Google 没有解决大模型回答不准确的根本问题——可能一时也没人能解决。但新的 PaLM 2 大语言模型,以及同步宣布的一系列激进的产品更新展示了,在当前技术限制下,互联网巨头可以如何推动人工智能实用化。1 Q% M1 H* R: e! v( T# Q7 o
模型小一点也可以更好用,甚至就在手机上离线运行# ?3 Q* U q5 G) ^8 w
Google 在会上发布了新一代大语言模型 PaLM 2,不是一个,而是四个。从小到大,按照参数规模用动物命名:壁虎(Gecko)、水獭(Otter)、野牛(Bison)和独角兽(Unicorn)。
2 g# J# r. W& e! \' h8 F, z皮查伊说,“壁虎” 可以在手机上运行,而且速度足够快、不联网也能正常工作。
! ~4 j/ F' _/ y2 l3 i此前也有开发者在手机上运行开源的大模型,但速度很慢,一次结果要等上十分钟甚至更久。根本无法与掌控 Andriod 系统、并具备大模型开发实力的 Google 相比。! A9 u) A4 s& m& ?
虽然更大的人工智能模型效果往往更好,但消耗的计算能力也更夸张。接入 GPT-4 的 New Bing 和 ChatGPT Plus,一度让微软的计算资源都捉襟见肘。OpenAI 一度暂停用户付费订阅 ChatGPT Plus,并限制付费用户每天使用 GPT-4 的次数。% J7 }9 ?/ L* z9 D5 y- M1 G% p8 W
对于个人用户来说,最可靠的计算能力还是手里的手机、家里的电脑。如果你不玩游戏,这些设备中的算力都是冗余的。更小、消耗计算资源更少的大模型,能把这些冗余的计算资源变得有用。4 Z! U! X) [) o/ U
Google 在技术报告中评估了 S、M、L 三个规模的 PaLM 2 ——没跟 Google 发布会上提到的四个模型对应——在部分任务中,最小的 PaLM 2 会比上一代 5400 亿参数的 PaLM 表现好。
& `! f( L0 v- c8 P英伟达人工智能科学家 Jim Fan 将 “壁虎” 称为 PaLM 2 模型中 “最重要的亮点”:“在小屏幕上提高的生产力,要比在大屏幕上多得多。”5 f$ r1 w b7 C5 E: p- |1 h9 b/ A
根据 Google 的技术报告,即使是规模最大的 “独角兽” 版本, PaLM 2 的参数也比上一代模型少,但在自然语言生成、翻译、推理等多个任务上更强。“这表明扩大模型的规模,并不是增强模型能力的唯一途径。”9 F: A" g, B7 ]
这一技术突破对人工智能继续提升发展至关重要。过去几年,Google 和 OpenAI 等公司证实了 “模型参数越大,能力更强” 的规律,科技公司大模型竞赛把模型参数推高到万亿。训练模型时,它们基本用尽了地球上所有的文本数据。3 x, K/ a& t2 p1 a# n
今年 4 月, OpenAI 首席执行官山姆·阿尔特曼(Sam Altman)在麻省理工学院交流时说,“我们正处于巨型模型时代的结尾”,模型的进步不会来自让模型变得更大。 {; M3 o# W; }9 q' W0 o! J
现在 Google 率先交了答案,但解题过程:“略”。3 Y4 n3 A* t' ?) G) c# c
和 OpenAI 介绍 GPT-4 时的方法一样,Google 介绍 PaLM 2 时也放出长达 90 多页的技术报告——沿用学术界常用的 arXiv 论文格式。格式接近论文,但文章署名作者变成 Google 公司,研究人员名单被挪到了最后的附录。6 m. @+ t5 \, ~6 b+ n X, f
类似 GPT-4 的发布,Google 也隐去了 PaLM 2 具体怎样训练模型,模型参数有多大。人工智能研究与学术息息相关,但对于大公司,它最终还是一场激烈的商业竞争。: C( M* g; B- ~/ |
相比技术细节,Google 更愿意讲 PaLM 2 跨语言学习的能力。根据技术文档,Google 训练 PaLM 2 时用了 100 种语言的数据,主要的语言数据中,都有与英文对应的文本。皮查伊说,PaLM 2 可以理解不同语言之间细微的差异,并生成超出预期的结果。
5 n8 t% s0 R' [0 `$ s他举了一个 PaLM 2 帮不同国家的人合作写代码的例子。靠 PaLM 2,韩国的开发者用韩语注释代码、提出修改建议,美国的开发者一样能看懂。PaLM 2 还会帮美国的开发者写韩语评论。
6 G# w) t% h5 C$ l- X皮查伊在发布会中并没有直接提及竞争对手 GPT-4。在 PaLM 2 的技术报告中,GPT-4 作为参照对象也仅出现了寥寥数次。比如当评估推理能力时,Google 称 PaLM 2 在测试推理能力的部分数据集上表现跟 GPT-4 相当。
0 \* b" ?* _6 l一些用户在 Reddit 论坛和社交媒体上说新 Bard “快如闪电”、但写代码还是不如 GPT-4。网站设计师 Mike Hancock 说他给 GPT-4 和 Bard 出了相同的代码测试题,GPT-4 一个答案还没写完,Bard 已经给出了三个完整答案,不过最终结果还是 GPT-4 更好。
) \5 n! H% U0 {* f/ M$ HGoogle 还展现了用不同数据微调(Fine-tuning)PaLM 2 后的成果:
& o! M* d# R0 u# J- B7 v
/ P* L2 J* c3 R! h O/ {6 L. @0 r1 [" o, P
- Sec-PaLM,用安全数据微调。它可以检测恶意脚本,帮安全专家了解和解决威胁。7 r! b' g4 ]8 m/ v0 i' O! N
" n/ K" ^, S4 ?0 \/ W8 P/ }2 j$ m
% b" a0 i4 [% T8 i
0 m+ Y9 r3 c% [; k* {- Med-PaLM 2 ,用医学数据微调。它能像临床医生一样回答病人问题。准确度接近临床医生。它是第一个医学执照考试中达到 “专家” 水平的语言模型,也是现在最先进的。Google 称,后续还会给它加看 X 光胶片的能力。3 E0 m+ a5 M( U0 u8 |3 H5 w; s
9 |1 U6 m8 Q) l9 t0 N( }' y6 @$ dOpenAI 已经明确表示短期不会研发下一代模型(GPT-5),而是寻找其他方式让 GPT-4 变得更好 。但 Google 不打算停下半步。PaLM 2 刚对大众开放,Google 就已经在从头研发新一代的大模型 Gemini。
) w( w2 b G! M; V! S: ZGemini 将是多模态的——能同时处理语言、图片等数据,并集成各种工具和 API,“虽然还处于早期阶段,但我们已经看到了之前模型中没有的、印象深刻的功能”。
: _% W6 f+ ^2 J, Q, @2 n从搜索到地图再到 Gmail,大模型被塞进 Google 的核心产品& e# z0 y$ P2 j
“我们正处于一个激动人心的转折点。” 皮查伊说, “通过生成式人工智能,我们正重新构想我们所有的产品。包括搜索。” l2 s- I8 C7 \1 k. |
Google 是用户最多的互联网公司——15 个产品用户超过 5 亿、6 个超过 20 亿。中国以外地区,大部分人用 Google 的搜索、地图、邮件、视频产品。
~5 O- f9 I3 S1 }在 Google I/O 的主题演讲中,这些产品都有了人工智能驱动的新版本。最受关注的是每年为 Google 贡献数百亿美元利润的搜索广告。任何一个微小调整,都可能影响根基。
$ I) \- u" Q9 ?8 c$ E6 F微软的 New Bing 直接把 ChatGPT 做成 “聊天” 界面,鼓励人离开搜索结果——也离开了广告。Google 选了一个更平衡的做法,在搜索页嵌入了名为 AI Snapshot 的新模块,展示大模型生成的结果。4 a2 v! Y/ _! @2 i. ^
当你搜索 “适合泳池派对的蓝牙音箱”,页面中先出现传统的搜索结果——十条蓝字链接,几秒后,人工智能生成内容出现并被置顶,告诉你买蓝牙音箱的注意事项(电池寿命、防水性能、音质),并给出购买指南(右侧)、商品链接(下方)和商品的简介,你还可以设定价格(如 100 美元以下),让它重新生成结果。: Q6 G. |/ S5 w; H* K
8 _- P* H0 v) _" v R, P
+ v% K+ [1 }. l* [8 V2 c
: h6 i# x/ g5 N# e- v4 w& M不过在手机等移动设备中,AI Snapshot 会塞满整个屏幕。这会大幅减少传统搜索结果点击频率。再加上 Goolge 直接给结果而不是链接,各类网站从 Google 搜索那里获得流量会更难。现在,Google 正试验怎么在 AI Snapshot 里加广告。& E+ G6 U2 A& E$ v4 M
不是所有搜索都会触发 AI 生成结果,只有当 Google 的算法认为人工智能生成的内容优于标准搜索结果时,前者才会出现。用户搜索健康、财务、危害安全等敏感主题时,AI Snapshot 不会出现。
4 A6 i# ^8 T' B: ]8 nGoogle 计划先在美国测试 AI Snapshot,未来几周开放有限的名额。在申请页面,Google 还打算测试其他搜索功能,比如在搜索框输入编程问题直接生成代码的 Code Tips。% L& ?% X5 c' } T U
主题演讲中,Google 的高管们展现了如何用人工智能改造其他的核心产品:. m6 _& I' C# Z) {
5 [ |" a6 _6 V" P, s- j' l, i/ l# l- j& B( n+ f5 L' ^% ?
- 更沉浸的 Google Maps。Google 用人工智能技术合成了超过 10 亿张全景地图。当你选定导航路线、确定出发时间后,人工智能会生成一个鸟瞰视角的沉浸式 3D 路线图,并提前算好天气和交通状况,同步显示在动画中。Google 计划今年夏天推出这个功能,之后拓展到伦敦、纽约、东京、旧金山等 15 个城市。
7 ~5 z- }. Z3 o2 W
9 [" T, h) `) |9 f" y; m4 Y) F# c
) h7 x% d" J% ]0 f6 z! G' l, o/ i
6 N$ |& k: X3 Z
# k- F$ {. r( | V; R' B
' r# d. y# l6 L0 D( }+ J+ w
" a6 V; v& r; C9 l- 自动修图的 Google Photos。你只要提出需求,比如调高亮度、抠掉或补全画面中的物体、移动人物位置、把背景中的乌云改成蓝天等等,新出现的 Magic Editor 功能就可以自动完成。/ F5 [; V4 Z+ ^% x; J! r
5 m* p+ } e# S4 h# s
$ |! h! }2 B: f& B& j# s: e
9 Q% k0 F' N. o2 v5 ?2 {
* g. T% @6 y" ]# m& Z2 s$ c, U4 e @
2 e& b( [5 t3 l' d* J8 p( j- 自动写邮件的 Gmail。你只要在 Gmail 的 “Help me write” 工具中输入需求,比如一封要求全额退款的电子邮件,点击创建,它就会结合此前邮件中的信息,写一个完整的邮件。这个功能将会作为 Workspace 更新中的一部分推出。Workspace 的其他功能还包括根据 PPT 内容自动写演讲文稿等。! D/ N- b! `( ]
! t$ w1 C, \1 L& e- 更强大的聊天机器人 Bard 。Bard 的底层模型换成 PaLM 2;英文之外加了韩语、日语,预计 7 月份支持中文;Bard 的回复能一键转到 Gmail 和 Docs;帮你手机拍的照片配标题和描述文字;以及支持 Adobe 没有版权纠纷的图片生成工具 Firefly,而不是自己用公开数据集训练的作图应用。下面是让 Bard 制作一幅用于女儿生日派对的邀请函图片时(要求包含独角兽和生日蛋糕),它的回复:
. T' N* E' ~7 r+ u
! ?: C& ?- K0 V& U/ F& o
& p% K+ W/ f. Y' E9 J m4 v( T8 y5 w+ A5 ^7 U- P
# h( L2 L1 G. s' U4 ^( Z5 C6 g+ ~) F在人工智能浪潮中,Google 一直处于独特的位置。
* T; w, P6 g- q4 k它是最早研究人工智能、也是技术实力最强的公司之一,拥有许多人工智能底层技术的专利,比如现在大模型的基础架构 Transformer。
0 f% S* R0 e& L0 ~2 b4 k它也是世界上最大互联网公司,每天服务数十亿人。它拥有的 Andriod 能直接影响全球 30 多亿人使用的手机。它比其他公司都更有能力把大模型部署到更多场景。
3 p% u5 K9 j1 d: x2 y% cGoogle 也因此被用户和监管机构密切关注,每个人工智能产品的研发和推出都要考虑法律和社会舆论风险。不少 Google 员工认为这是 OpenAI 能抢先推出 ChatGPT 的原因。
0 Q7 c) [8 m+ G在 OpenAI 和微软的持续冲击下,Google 快速行动,整合了 Google AI 和 DeepMind 这两个属于公司、但一直不合作的顶级人工智能团队,推迟对外公开最新的研究成果,并积极研发基于人工智能的搜索引擎 Magi。这个正在 Google 内部测试的新产品,也在使用 PaLM 2。
, e3 q: j, H9 x `" k8 o前不久,皮查伊被问到 “没抢在 ChatGPT 前发布 Bard,你错过什么”。他给了个大公司 CEO 的标准回答,Google 不是第一个做出搜索引擎,也不是第一个做出浏览器,“有时候成为第一很重要,但有时候无关紧要。” 他认为,只要不断改进产品,实现更好的功能,后发也能先至。! V9 V: I5 v1 S' a. V# ~ s0 ]0 Z; \
这场开发者大会,展现了 Google 的人工智能技术积累和产品迭代能力。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|