|
|
$ ~* y' R: ]- A. t# H$ S/ D( d& O6 t
强调 AI 危险的联名信一封又一封,类比核战争和流行病的譬喻层出不穷,与国会议员共进晚餐的 OpenAI CEO 寻求监管。种种迹象表明,似乎不做些什么,AI 就要让人类完蛋了。5 u, i# Q( A7 v y- w& \
马克 · 安德森(Marc Andreessen)却有着不同的想法,他写下近 7000 字的文章,洋洋洒洒论述以下观点:" p3 l% o( s m. p" w2 q
AI 不会毁灭世界,甚至可能会拯救世界。! p! y4 q9 w. A
马克 · 安德森是硅谷风投公司 a16z 的联合创始人和合伙人。: M( ?# w! g' O. Q% O, Y' o
a16z 是硅谷最具影响力的创投公司之一,倾向长期投资,参投过 OpenAI,尤其关注下一代科技的发展,在区块链和加密货币领域享有盛名,并经常以 KOL 的形象现身,发表尖锐和前沿的观点。2 b$ @2 Q r! B1 W6 _# M" S
0 q6 X6 Q0 y6 v0 l+ p1 ^) W" M# @
: W( n H% a5 M4 `8 r) I3 K; ~6 R4 ` x. L
来回摇摆的 AI 天平之上,马克 · 安德森选择站在另一个极端,展现着极其乐观的理想主义,驳斥了几个主流的 AI 威胁论。# L( E: w3 x& \/ e" N6 m
这也在情理之中,因为马克 · 安德森本人与 AI 利益相关,并在文章的结尾提到,他和他的公司将尽可能支持 AI 工程师和初创公司。换言之,他想从 AI 革命里赚钱。
) p# t b! D) ?* x我们不必无条件相信一切,只是兼听则明、偏信则暗,很少有人能够准确预测未来,以批判性的目光多了解前沿观点,也是一种抓住可能性的方式。& H4 P: ~4 ^! n+ C: g) u9 R
划重点/ o: R8 q" ^' t6 K3 n. h. M+ _ [
AI 提供了深度增强人类智力的机会。# k4 o S$ x8 z9 v3 S. G8 y9 {7 P
对 AI 的恐慌可能是非理性的。
" v; q6 i' q* z4 l/ m$ k U认为 AI 将杀死人类是一种迷信。5 {# a- ?7 M% ?2 X9 C0 c9 d; {
不必担心 AI 让人失业。% `1 B6 r9 j" @! A3 m5 r" p
AI 不会导致技术不平等。, t+ p2 l0 q8 C& F1 c. F/ |
AI 的风险可以用 AI 防御。# O& O5 r4 q! s; t$ ?- u
尽可能快速积极地构建 AI。$ N$ x4 v# A. k$ ]0 l
以下是原文编译(有部分删改)
7 ?( A6 }1 X' ~7 w智能的时代已经来临,们都吓坏了。# t' r# `! T; y4 g! {+ @
但我想在这里带来好消息:AI 不会毁灭世界,甚至可能拯救世界。
) a( }0 m+ |9 F( C8 ?+ H1 F$ g先简单介绍 AI 是什么:
# J/ B2 c3 u1 e& ?0 rAI 是数学和软件代码的应用,教计算机如何像人类一样理解、综合和生成知识。0 ]+ }+ y; a2 S1 X4 ^- e- @
AI 类似其他计算机程序,运行、接收输入、处理并生成输出。
: I! c- C9 w! ?1 F6 bAI 的输出在各个领域都很有用,包括编程、医学、法律和创意艺术等等。" w/ q0 |0 L9 V- l$ J
AI 由人拥有并受人控制。/ @6 F" I4 h* p8 |% Z" }. k+ e
AI 提供了深度增强人类智力的机会! T0 o& b6 v r# e* g4 I. w+ W
人类智力是我们花费数千年到达现今世界的杠杆,创造科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理和道德。5 d2 R* u1 t! {+ n9 i" d
如果没有这些,我们仍然会生活在泥屋中,靠农业勉强维持温饱。我们运用智力,让生活水平在过去 4000 年间提高了大约 10000 倍。; L' @9 K# v3 Q- T; j3 s
AI 为我们提供的,是深度增强人类智力的机会,使智力的所有产出,从创造新药物,到解决气候变化,再到探索星际旅行,变得更加卓越。& J) O$ `7 t$ ?
. `; g+ G- I0 h! d9 y# j, M( [+ c4 n
6 B( {; N& m' E& f# G7 H& I0 }' XAI 对人类智力的增强已经开始,它以各种计算机控制系统的形式存在于我们周围,通过像 ChatGPT 这样的大语言模型扩展和加速。' F1 k% S2 V8 \+ u8 N& P# U
未来的 AI 新时代可能是这样的:, L' O! x. f" D4 Y* V
每个人都将拥有一位具备无限耐心、同理心和知识的 AI 助手,它将在人生的各个机遇和挑战中与人同在,最大化每个人的成果。
" o) c' ?6 V$ d! d# y2 R生产力增长将大幅加速,推动经济发展,创造新的产业和就业机会,进而在全球范围内实现物质繁荣的新时代。
; U/ V" n& M1 j& p6 o科学突破、新技术和新药物将大幅扩展,自然规律将被进一步解码。
: J' l0 H7 X( P% q创意艺术将迎来黄金时代,艺术家、音乐家、作家和电影制作人将更快、更大规模实现创意。+ X) x. H! i6 f! D
. A. R, c* Z+ ?* x$ Q# C, h8 i" F8 W9 D, q
' Y8 r2 ^' i# `人们今天用天赋所做的任何事情,借助 AI 可以做得更好,并应对以前无法解决的新挑战。6 ?$ K1 a; m1 l" i, v
另外,AI 的人性化程度也被低估了。AI 艺术给了缺乏技能的人类创造的自由,医疗聊天机器人比人类同行更有同理心。AI 不会让世界变得更加残酷和机械化,而是会让世界变得更加温暖和美好。
" ]& L6 R7 Z5 S8 t( X% D 对 AI 的恐慌可能是非理性的
F. ? e% `! P& B历史上每一项重要的新技术,从电灯到汽车、从无线电到互联网,都引发了恐慌,这是一种社会传染病,使人们相信新技术将毁灭世界。5 K& z6 w( k. \ C3 G; U
我们正面临着一场完全失控的 AI 恐慌,它本质上是非理性的,被用来推动新的 AI 监管。行为艺术家们发表戏剧性的公开声明,自称是在无私捍卫公共利益。4 D K; A2 f3 T; ^8 j2 p/ q& r( }
* A- d) q% R( r5 A
& G E/ q$ x0 e% t6 s& u& J/ |8 v( P* y. `0 f
▲ ChatGPT 之父签署了的联名信 .
: l) S4 Z$ f. d" o9 D这些人可以分为两类,狂热的社会改革者和自利的机会主义者。
% O7 m4 H- |3 K" o% i; [% J4 j& s# n6 M尤其那些打着风险旗号寻求政府监管的 CEO,就像 20 世纪 20 年代美国禁酒运动的私酒贩子,或将形成垄断组织为自己牟利,提高新创企业和开源竞争的准入门槛,新鲜血液将更难发展起来。9 {. r( n/ F2 T) k! K$ S
认为 AI 将杀死人类是一种迷信
5 t+ V; t2 I l& q! V. Z& u8 `, e最经典的 AI 末日论是,AI 将杀死人类。
: V' ]0 ]4 }& I4 S2 J3 p「我们创造的技术终将崛起和摧毁我们」,这种恐惧深深地根植在我们的文化之中。
! @) q3 v+ c& F' ^普罗米修斯为人类带来了火,因此他被众神永远折磨。玛丽 · 雪莱的《弗兰肯斯坦》,谱写了更加符合现代语境的神话。卡梅隆的电影《终结者》里,杀人机器人的眼睛闪烁着红光。: X1 y5 N$ \+ Z1 @. P$ a" r3 v
7 f" F9 \3 s/ p! R
1 F2 c6 {! p6 m0 L% c" R
' a; l- a7 i' E8 L+ D/ J+ P但认为 AI 将杀死人类是一种迷信。AI 不是经过数十亿年进化、参与适者生存的生命,它是数学、代码、计算机,由人们建造、拥有、使用和控制。
/ b1 W/ K; ?( [简而言之,AI 没有意愿,没有目标,它不会想要杀掉你。AI 是一种机器,就像你的烤面包机,它不会变得有生命。
! W) ?: w+ \- t! X, s, x「AI 伦理学家」言论应该被谨慎看待,「AI 风险」已经发展成为一种邪教。
) m$ d. h* M7 M7 m 不必担心 AI 让人失业0 e- U0 \; w, z6 L# l/ O
自机械织布机等设备出现以来,历史上每一项新的重大技术,都带来了更多的就业机会和更高的工资水平。与此同时,恐惧也如影随形,担心人类劳动力终将被致命一击。$ ?5 ^2 s) g+ X' X
但自动化导致失业,是一种「固定馅饼谬误」,即在任何给定的时间里,劳动力的数量是固定的,要么由机器完成,要么由人类完成,如果由机器完成,那么人类失业。, A0 v1 _( P' a! g# r# N
相反,当技术应用于生产时,生产力也会增长,投入减少,产出增加,结果是商品和服务的价格降低,我们将有额外的消费能力购买其他东西。这增加了需求,推动了新产品和新产业,为之前被机器取代的人们创造了新的工作岗位。
! i4 U5 D' n5 p. a8 y8 L
3 a: \% ~) t( D5 @6 r. P" [! k V' |% u1 q: d
, v6 a3 Z z5 y% G0 ?. x6 v7 M当市场经济正常运行、技术被自由引入,这将是一个永不停歇的向上循环。一个更大的经济体将出现,拥有更高的物质繁荣,更多的产业、产品和就业机会。正如米尔顿 · 弗里德曼所说的「人类的需求无穷无尽」 ,我们想要的比我们拥有的更多。7 A: K) W1 @# {! t. ]
如果更进一步,所有现存的人类劳动都被机器替代,意味着什么?9 s" Y1 i3 t9 N
生产力增长的速度将前所未有,现有商品和服务的价格将接近免费,消费者购买力飙升,新需求爆炸式增长。企业家们将创造令人眼花缭乱的新产业、产品和服务,并雇佣尽可能多的 AI 和人类员工,从而满足所有新需求。
, q; q' W+ I: E* V假设 AI 再次替代了人类劳动力,这个循环将重复,推动经济发展,让就业增长更上一层楼,通往亚当 · 斯密从未敢想象的物质乌托邦。
9 _' \+ M8 O( V- T AI 不会导致技术不平等3 V: F7 H* \9 e
技术的拥有者独占技术,并不符合自身利益。恰恰相反,他们想将技术卖给尽可能多的客户。1 ~ W6 W3 j( O
世界上最大的产品市场,是整个世界的 80 亿人。
* I ~5 ^6 A' k q. y电力、广播、计算机、互联网、移动电话和搜索引擎,这些技术的制造商都积极主动地降低价格,直到所有人都能负担得起。同样地,我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。0 u) y0 r: d+ v9 F4 E4 j6 L0 j
2 o' }4 |7 ?& L$ d+ A$ f/ b/ H3 z0 }6 X) L2 c& d( O0 ]
; f: a( ~, o* p. S( W5 J这不是因为他们愚蠢或慷慨,而恰恰是因为他们贪婪——扩大市场规模,赚到更多的钱。
+ p6 O1 Y& _ K5 S/ l因此,情况与技术推动财富集中化相反,技术的最终用户包括全球所有人。
, u0 k) P; L& m8 K这并不是说,不平等不是社会问题,但它并非由技术驱动。" f) ^: h" e/ A4 S; W! L7 r/ {0 t
AI 的风险可以用 AI 防御5 }3 O) }. b0 ?+ R+ X' G
技术是一种工具。从火和石头开始,任何技术都可以游走在善恶之间。& F0 ^$ n8 ?1 M. g' Y; J
有人提出应该尽早禁止 AI,但这并不现实,因为 AI 不难获取,它是数学和代码。你可以通过成千上万的免费在线课程、书籍、论文和视频学习如何构建 AI,每天都有开源项目不断涌现。AI 就像空气,它将无处不在。
2 E) T( _9 F& F9 H& v' b3 YAI 的风险可以用 AI 防御。6 k. W# P6 X5 \1 M" x
3 W, c; G: a3 w. p* O
7 v6 O( j0 U1 u) |/ W$ f, Z# q ~7 ]: t9 {% Z6 V5 x! O9 O
例如,如果我们担心 AI 生成虚假人物和视频,可以通过加密签名验证真实内容。在 AI 之前,数字内容的创建和修改已经存在了,答案不是禁止 Photoshop 或者 AI,而是利用技术构建一个真正解决问题的系统。
9 U$ C) L# r( T. U+ n/ [* _* V放弃禁止 AI 的徒劳,把它用于善意、合法的防御目的,一个充满 AI 的世界将比我们今天生活的世界更安全。
" q( o Z/ w; A; \ 尽可能快速积极地构建 AI/ p p4 F, M; g
应该允许大型 AI 公司尽可能快速、积极地构建 AI,但不允许它们建立垄断组织。
/ u0 A# Y' W% W4 T8 X; B* q7 b9 x应该允许初创 AI 公司尽可能快速、积极地构建 AI。即使初创公司失败了,它们在市场上的存在,也将不断激励大公司做得更好。9 t% B0 z' x' L, O- L7 }
t) h& @4 o1 H
% y9 h _3 u$ p# O4 v f1 ~: N2 T$ |, d( U& s
应该允许开源 AI 自由传播,并与大型公司和初创公司竞争。它们广泛的可用性,将造福学习如何构建和使用 AI 的学生,确保无论身份和财富如何,每个人都能从中受益。9 l7 H6 G1 A; _1 {3 Y4 F
为了防止有人用 AI 做坏事,政府和企业应该积极利用 AI,最大化社会的防御能力。不只是应对 AI 风险,还包括解决疾病、气候等问题。 |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|