|
|
) G; M7 G% z+ s1 h, D4 M3 z6 H% e
% `7 t( }/ B# ]* W* ]! Q v3 z强调 AI 危险的联名信一封又一封,类比核战争和流行病的譬喻层出不穷,与国会议员共进晚餐的 OpenAI CEO 寻求监管。种种迹象表明,似乎不做些什么,AI 就要让人类完蛋了。
" \; ~5 K; j) o8 R; K马克 · 安德森(Marc Andreessen)却有着不同的想法,他写下近 7000 字的文章,洋洋洒洒论述以下观点:
, S; L4 U7 B: H, B m1 YAI 不会毁灭世界,甚至可能会拯救世界。
5 d* S. v5 O7 p马克 · 安德森是硅谷风投公司 a16z 的联合创始人和合伙人。( E, w2 y! ?- V, c2 R. v
a16z 是硅谷最具影响力的创投公司之一,倾向长期投资,参投过 OpenAI,尤其关注下一代科技的发展,在区块链和加密货币领域享有盛名,并经常以 KOL 的形象现身,发表尖锐和前沿的观点。
6 |* [8 s l1 O w6 I$ ^
8 b. l# {) r9 ?1 j
3 J, A, n. x( K6 i2 h% D1 d4 L
7 e7 X/ s) @ g* v来回摇摆的 AI 天平之上,马克 · 安德森选择站在另一个极端,展现着极其乐观的理想主义,驳斥了几个主流的 AI 威胁论。
6 r; C# j+ B6 U* J. s0 p: ^这也在情理之中,因为马克 · 安德森本人与 AI 利益相关,并在文章的结尾提到,他和他的公司将尽可能支持 AI 工程师和初创公司。换言之,他想从 AI 革命里赚钱。
; m4 q. {2 E9 Q; T7 @我们不必无条件相信一切,只是兼听则明、偏信则暗,很少有人能够准确预测未来,以批判性的目光多了解前沿观点,也是一种抓住可能性的方式。$ o7 V& Z L3 h: h7 O3 @
划重点1 H0 @( C" Z) ~& p) A/ f
AI 提供了深度增强人类智力的机会。7 z9 C( I! K: Y3 N% n* w+ N- N- L
对 AI 的恐慌可能是非理性的。( e( D, @. \0 h1 d; P
认为 AI 将杀死人类是一种迷信。( o) a/ r) N) P. i5 y+ k4 ]/ X
不必担心 AI 让人失业。& [9 m4 \" d% e: P
AI 不会导致技术不平等。
& K M7 v0 l9 q9 [/ ?3 g) LAI 的风险可以用 AI 防御。8 _, ]& H5 U! `: o: V# r
尽可能快速积极地构建 AI。
5 A2 q4 s' V* H 以下是原文编译(有部分删改)
4 {8 u) k, f# f0 g5 U5 i智能的时代已经来临,们都吓坏了。
, A- o |* [$ ^9 M6 I但我想在这里带来好消息:AI 不会毁灭世界,甚至可能拯救世界。
* b& \0 h( N- e$ S; S6 l& y7 T先简单介绍 AI 是什么:
8 c! K8 Y/ S, U$ [, H) E' f5 `AI 是数学和软件代码的应用,教计算机如何像人类一样理解、综合和生成知识。7 B! X' K- E" C9 K6 \. }3 Z
AI 类似其他计算机程序,运行、接收输入、处理并生成输出。
& ]" j7 l9 g8 f$ U5 O# K& AAI 的输出在各个领域都很有用,包括编程、医学、法律和创意艺术等等。
# Q4 l- A9 ]6 {8 R- ?6 EAI 由人拥有并受人控制。$ I& a; L9 b4 q1 [: l
AI 提供了深度增强人类智力的机会3 c9 L4 r- o4 O! g' L7 g8 p3 i
人类智力是我们花费数千年到达现今世界的杠杆,创造科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理和道德。
% H! V. D2 `7 J: d4 v8 \如果没有这些,我们仍然会生活在泥屋中,靠农业勉强维持温饱。我们运用智力,让生活水平在过去 4000 年间提高了大约 10000 倍。
# e, J1 X1 H/ OAI 为我们提供的,是深度增强人类智力的机会,使智力的所有产出,从创造新药物,到解决气候变化,再到探索星际旅行,变得更加卓越。# a, i8 { w' ~& I+ L0 `+ k
+ ~: P, g$ x" b- z' N7 b" G0 D4 g7 w! t# d
! I" l( Y: M4 t6 v9 n. R3 J) J
AI 对人类智力的增强已经开始,它以各种计算机控制系统的形式存在于我们周围,通过像 ChatGPT 这样的大语言模型扩展和加速。# G, M9 @( r7 _+ {) e
未来的 AI 新时代可能是这样的:9 Y9 [- s; ]; N$ C& u& u
每个人都将拥有一位具备无限耐心、同理心和知识的 AI 助手,它将在人生的各个机遇和挑战中与人同在,最大化每个人的成果。) H, `' y+ o3 M# Z
生产力增长将大幅加速,推动经济发展,创造新的产业和就业机会,进而在全球范围内实现物质繁荣的新时代。
/ O8 W3 k6 t- A科学突破、新技术和新药物将大幅扩展,自然规律将被进一步解码。# B- ^* X6 ^, r. D! n" m1 p2 g) s# W
创意艺术将迎来黄金时代,艺术家、音乐家、作家和电影制作人将更快、更大规模实现创意。
/ B5 j* E4 X) e, K
% z) E6 |/ l. A+ U* U+ }# C" w
- j0 |( m" H# V3 l; [5 j& [$ j* d+ x+ H: y' [! ^1 w' f4 q, R* C6 I Y3 U2 B
人们今天用天赋所做的任何事情,借助 AI 可以做得更好,并应对以前无法解决的新挑战。0 [- R9 ^) ?, f3 U) r9 R
另外,AI 的人性化程度也被低估了。AI 艺术给了缺乏技能的人类创造的自由,医疗聊天机器人比人类同行更有同理心。AI 不会让世界变得更加残酷和机械化,而是会让世界变得更加温暖和美好。# q9 x! u+ k' {; k8 y/ I& W
对 AI 的恐慌可能是非理性的* E% V5 f3 X1 J) x, C; S
历史上每一项重要的新技术,从电灯到汽车、从无线电到互联网,都引发了恐慌,这是一种社会传染病,使人们相信新技术将毁灭世界。
' R7 V% ~ l J, |) }1 G我们正面临着一场完全失控的 AI 恐慌,它本质上是非理性的,被用来推动新的 AI 监管。行为艺术家们发表戏剧性的公开声明,自称是在无私捍卫公共利益。
& b2 t* d/ r8 Q) Q, I7 ~2 Y. z/ ?& u8 Q2 u
2 H/ D4 e# M. R" p
! V6 T# R: N; V+ m' W9 G, f* _5 i% X▲ ChatGPT 之父签署了的联名信 .7 A2 M$ P+ q( W
这些人可以分为两类,狂热的社会改革者和自利的机会主义者。$ f. n) R! e5 y& B6 N- E6 B+ \' ? G
尤其那些打着风险旗号寻求政府监管的 CEO,就像 20 世纪 20 年代美国禁酒运动的私酒贩子,或将形成垄断组织为自己牟利,提高新创企业和开源竞争的准入门槛,新鲜血液将更难发展起来。
: p2 p d% e$ \ 认为 AI 将杀死人类是一种迷信" p! N2 e) C& P; \: w
最经典的 AI 末日论是,AI 将杀死人类。
$ T Y% \( a, o }0 C& X5 D4 {0 N「我们创造的技术终将崛起和摧毁我们」,这种恐惧深深地根植在我们的文化之中。/ A! l( J W0 B8 O1 N" W6 K, a
普罗米修斯为人类带来了火,因此他被众神永远折磨。玛丽 · 雪莱的《弗兰肯斯坦》,谱写了更加符合现代语境的神话。卡梅隆的电影《终结者》里,杀人机器人的眼睛闪烁着红光。
! V& r- ~# @: b8 S0 c7 {# A' P# E. `
3 g8 y# z! V' D. R' |3 u @ z. F6 v! A: t0 g+ ^( \( g
但认为 AI 将杀死人类是一种迷信。AI 不是经过数十亿年进化、参与适者生存的生命,它是数学、代码、计算机,由人们建造、拥有、使用和控制。
; {2 b( W4 U) x7 c9 e% n简而言之,AI 没有意愿,没有目标,它不会想要杀掉你。AI 是一种机器,就像你的烤面包机,它不会变得有生命。* ^- ?$ y7 p. ]: O! f+ i
「AI 伦理学家」言论应该被谨慎看待,「AI 风险」已经发展成为一种邪教。
" s: R1 [ }( ~) } U) U" b! V$ F9 ` 不必担心 AI 让人失业
# W. S6 A( u& g8 ` M自机械织布机等设备出现以来,历史上每一项新的重大技术,都带来了更多的就业机会和更高的工资水平。与此同时,恐惧也如影随形,担心人类劳动力终将被致命一击。5 x+ E2 L( X0 f
但自动化导致失业,是一种「固定馅饼谬误」,即在任何给定的时间里,劳动力的数量是固定的,要么由机器完成,要么由人类完成,如果由机器完成,那么人类失业。& ]% z D4 _2 K& o
相反,当技术应用于生产时,生产力也会增长,投入减少,产出增加,结果是商品和服务的价格降低,我们将有额外的消费能力购买其他东西。这增加了需求,推动了新产品和新产业,为之前被机器取代的人们创造了新的工作岗位。 m7 b" U( s) c' y' k _
. R }' \& k1 X2 b4 \ p' ?% w; A
2 L0 j* [) w3 n, G0 B2 h, Z当市场经济正常运行、技术被自由引入,这将是一个永不停歇的向上循环。一个更大的经济体将出现,拥有更高的物质繁荣,更多的产业、产品和就业机会。正如米尔顿 · 弗里德曼所说的「人类的需求无穷无尽」 ,我们想要的比我们拥有的更多。3 |0 {. {! Y( ^4 ~ i' ~9 R# G
如果更进一步,所有现存的人类劳动都被机器替代,意味着什么?
% z& R+ r0 W* U% F- L生产力增长的速度将前所未有,现有商品和服务的价格将接近免费,消费者购买力飙升,新需求爆炸式增长。企业家们将创造令人眼花缭乱的新产业、产品和服务,并雇佣尽可能多的 AI 和人类员工,从而满足所有新需求。$ s: X' M, F. o- c8 L; J
假设 AI 再次替代了人类劳动力,这个循环将重复,推动经济发展,让就业增长更上一层楼,通往亚当 · 斯密从未敢想象的物质乌托邦。: K' b4 d8 J( X( s' F7 K L. i
AI 不会导致技术不平等
. l0 x) C9 \4 o6 S技术的拥有者独占技术,并不符合自身利益。恰恰相反,他们想将技术卖给尽可能多的客户。
% C7 ^( _; Z0 {4 L! N, j; m世界上最大的产品市场,是整个世界的 80 亿人。; P5 K+ T6 D3 r$ Y2 b _8 ^( ?
电力、广播、计算机、互联网、移动电话和搜索引擎,这些技术的制造商都积极主动地降低价格,直到所有人都能负担得起。同样地,我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。; p' y) v( ^' X: o7 E' p$ ?
* ]4 x2 D% q w. V( `
8 j, b$ q" w2 c2 R F% x- p6 x6 L. {& D3 X6 }) Z' C" t5 n2 i
这不是因为他们愚蠢或慷慨,而恰恰是因为他们贪婪——扩大市场规模,赚到更多的钱。: M! {' x: x8 z3 W$ o! G6 u
因此,情况与技术推动财富集中化相反,技术的最终用户包括全球所有人。* y Y2 M' B0 L7 k
这并不是说,不平等不是社会问题,但它并非由技术驱动。, J n/ k' f1 U3 F& o$ x
AI 的风险可以用 AI 防御
5 w; B$ R' R3 Q7 j6 u# q9 D' Q( K技术是一种工具。从火和石头开始,任何技术都可以游走在善恶之间。2 a5 v! Z+ {2 b% d# u* t1 e' C3 x
有人提出应该尽早禁止 AI,但这并不现实,因为 AI 不难获取,它是数学和代码。你可以通过成千上万的免费在线课程、书籍、论文和视频学习如何构建 AI,每天都有开源项目不断涌现。AI 就像空气,它将无处不在。6 O7 r0 k& s5 z9 k. K& q
AI 的风险可以用 AI 防御。* [: M+ k4 D8 J0 m! p
2 [1 ]4 v6 n- d; i
$ [2 B6 E% R( h( a& O8 W% Z
8 w @! P& d& W2 C9 z
例如,如果我们担心 AI 生成虚假人物和视频,可以通过加密签名验证真实内容。在 AI 之前,数字内容的创建和修改已经存在了,答案不是禁止 Photoshop 或者 AI,而是利用技术构建一个真正解决问题的系统。
4 H/ X8 T/ V" y" N) F7 Q X J放弃禁止 AI 的徒劳,把它用于善意、合法的防御目的,一个充满 AI 的世界将比我们今天生活的世界更安全。5 I p* {# [1 G* U6 N& m3 j r: s
尽可能快速积极地构建 AI& \2 @, s* D j
应该允许大型 AI 公司尽可能快速、积极地构建 AI,但不允许它们建立垄断组织。
- a3 ^# W" E3 j5 f8 Z3 V5 O应该允许初创 AI 公司尽可能快速、积极地构建 AI。即使初创公司失败了,它们在市场上的存在,也将不断激励大公司做得更好。
6 \, G8 z6 F% |: {, Z! _3 `5 U& x8 I$ p
8 x# R/ n; `7 w- k# u* \/ L8 _
8 I6 Y2 `' a7 U6 |3 n6 P应该允许开源 AI 自由传播,并与大型公司和初创公司竞争。它们广泛的可用性,将造福学习如何构建和使用 AI 的学生,确保无论身份和财富如何,每个人都能从中受益。
# X6 x4 [( V# p) E5 k. s" s# m为了防止有人用 AI 做坏事,政府和企业应该积极利用 AI,最大化社会的防御能力。不只是应对 AI 风险,还包括解决疾病、气候等问题。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|