百万账号被封，人类跳反，ChatGPT下半场如何走？｜钛媒体焦点 ...

zht1984219

% C0 H5 K, _/ m（图片来源@视觉中国）
当ChatGPT引发全球热议之时，人们开始跳出来反对，企图通过“封杀”ChatGPT手段保卫人工智能（AI）技术带来的风险。
钛媒体App获悉，北京时间4月1日，ChatGPT之父、美国OpenAI公司CEO阿尔特曼（Sam Altman）发文证实，ChatGPT已经在意大利暂停服务，并表示意大利是他最喜欢的国家之一，期待着很快再次访问。
, c" ]( [' }6 G) l' W此前3月31日，意大利个人数据保护局宣布，即日起禁止使用ChatGPT平台，并限制OpenAI公司处理意大利用户信息，同时个人数据保护局开始立案调查。

- z9 O# j, x1 k* u
% G: U; ?2 |" X3 |近两天，ChatGPT平台突然大量封禁OpenAI账号，尤其是使用中文对话的用户，据统计已有数百万用户的账号受到了影响；更早之前3月29日，作为曾经OpenAI最大的支持者，世界首富、OpenAI联合创始人、特斯拉CEO马斯克（Elon Musk），却与数千位科技界和学术界大咖联名呼吁，所有 AI 实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
“我们还有很长的路要走，我们确实需要更强大的对齐技术来构建更强大的模型。”阿尔特曼连发数条推文回应公开信，称仍对GPT-4技术能力感到非常自豪。
9 x1 \0 C3 A; V2 A1 F: t4 w" w4月2日，a16z投资的创业公司Runway CEO陈思齐透露，具有AGI (通用人工智能) 能力的GPT-5计划在2023年12月完成训练。
) \. P6 _+ }' _数据泄漏、封号限制，ChatGPT被“围殴”
8 ?0 R6 A5 ~/ ^, i+ V+ @( u“许多人陷入了该死的疯狂ChatGPT循环中。AI 比核弹更恐怖。”马斯克在ChatGPT于2022年11月发布后多次评论其对人类的影响。
实际上，2016年9月马斯克作为OpenAI联合创始人、投资人、联席CEO，在特斯拉加州弗里蒙特工厂接受了阿尔特曼的采访。
) B/ ^3 P  X5 A* k" ^/ P' ]% k
左侧是OpenAI首席执行官Sam Altman，右侧是特斯拉CEO Elon Musk
$ M! ]; K  G0 [当时马斯克表示，就可能影响人类未来的事情而言，他认为 AI 可能是短期内最重要的事。他指出，创立OpenAI的重要初衷，是让 AI 以良好的方式到来，这是他认为最重要、最紧迫的事情。“我认为我们必须实现 AI 技术的民主化，并让它能广泛使用。而这显然就是整个团队创建OpenAI的原因。”
- Z" z6 ^, q# p: F  g% D7 E不过，马斯克的这一愿望最终未能实现，OpenAI似乎走向了相反的一面。
最近几天，ChatGPT平台正展开大规模封禁账号行动。据市场统计，已有数百万用户的账号受到了影响——这似乎与OpenAI起初的民主化背道而驰。许多用户在社交媒体上表示，他们的账号在未收到任何警告的情况下被封禁，这让他们感到非常困惑和担忧。
6 ~( R# U0 H4 p
& @/ Z. [! `$ \! {4 H
有消息称，此轮封禁 OpenAI 账号猜测可能与异常登录账号的安全问题、遏制恶意行为、不符合新版规则的技术升级调整、账号邮箱权重、中国区域的IP地址或服务器账号等因素有关。
4 c2 x) I' R" i截至目前，OpenAI暂未对此进行相关回复。
2019年和今年2月，微软两次向OpenAI注资100亿美元以上，成为该公司的第一大投资方，并让OpenAI估值达290亿美元，创下行业记录。随后，ChatGPT发布Plus付费服务，同时让微软借助GPT实现广告、云计算服务的商业化。
6 \# W5 E9 J3 |7 k  w, q, {' Z如今在微软的推动下，OpenAI确实有了制衡谷歌的能力。毫无疑问的是，目前OpenAI已经不再是非商业化 AI 实验室，而是一家要与微软一同将 AI 商业化的公司。与此同时，ChatGPT以及GPT-4发布之后，除了微软得到核心API数据外，其他公司则是望尘莫及，几乎无法获得GPT这种对话式通用人机接口的能力。
当ChatGPT火爆全球之际，美国首先宣布“封杀”ChatGPT，打响人类保卫战第一枪。
  @9 f* |& }' b# d( u3月22日，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，包括马斯克在内，多位科技公司高管和顶级AI研究人员，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。信中表示，六个月或更长时间的暂停，将使该行业有时间制定AI设计方面的安全标准，从而防止风险最高的一些AI技术的潜在危害。
9 \/ \5 E( s9 @/ y( I% c“我们不应该冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。只有当确保强大的 AI 系统的效果是积极的，其风险是可控的才能继续开发”。该机构在信中所提到的“未经选举的技术领袖”，显然是在暗指OpenAI。
; {# S* g! P5 V7 ?: E7 Y0 s这封信公布之后引发巨大的行业讨论，多位人士表达反对意见。例如计算机科学家、Google Brain联合创始人吴恩达表示，让有关部门暂停他们尚未了解的新兴技术，往好了说是反竞争，往坏了说是开了一个糟糕的先例；英伟达 AI 科学家Jim Fan则认为，许多大语言模型在安全性和公正性上已经表现地很好，不应该一味地批评。
8 c( q" s; a: H& a; E' D/ Z6 z钛媒体App梳理发现，在马斯克和这些 AI 行业从业者看来，ChatGPT背后主要存在技术商业化、数据隐私保护、网络安全风险等问题。
/ F2 ^* r: U7 Y8 t
) N7 ?( H- W6 Q8 x# j. S0 P

6 g6 }: ^$ X, h2 m
• 技术商业化：马斯克非常看重开源，他认为 AI 应该民主化，很多人应该享受到 AI 技术，而不是OpenAI喂养微软一家独大。
  / |+ T+ _, H! g4 V# d( a8 U' T
• 数据隐私保护：这种大型语言模型背后核心是大的算力和参数量（数据），因此数据来自哪里，是否存在公平、隐私问题等，这些都是OpenAI被行业诟病的地方。
  3 x) t) k  S0 Q2 C
• 网络安全风险：ChatGPT的自动编写代码功能在提升代码编写效率的同时，也会被黑客用于辅助编写恶意代码，网络安全态势势必更加严峻。
  

据《经济学人》韩国版3月30日报道，三星电子引入ChatGPT不到20天，ChatGPT就泄漏了三星内部机密，涉及半导体设备测量资料、产品良率等内容。而ChatGPT可能把三星的机密信息当作训练资料使用。

# Y5 V5 r% D  t, J1 e% w$ o5 q2 o5 i
4 H+ X2 F' P9 H% t& J& d8 y# G另据报道，数据安全服务Cyberhaven检测到并阻止了其客户公司160万名员工中4.2%的人将数据输入ChatGPT的请求，因为存在泄露机密信息、客户数据、源代码或监管信息的风险。目前，摩根大通已经限制员工使用 ChatGPT，亚马逊、微软和沃尔玛也已向员工发出警告，要求员工谨慎使用生成式 AI 服务。
5 S+ G6 R$ W5 j“缺乏透明度是（ChatGPT）真正的问题，”瑞典于默奥大学 AI 学院副教授 Johanna Bjorklund 说，“如果你做 AI 研究，你应该对你的研究方式非常透明。”
) _% q0 R! [) t2 ]- e) V中国人民大学教授刘永谋发文称，ChatGPT对社会生产力的推动作用已经昭然若揭，不应因噎废食而是控制利用。暂停ChatGPT研发的想法简单粗暴，作用不大，也实现不了，纯属无效的“嘴炮”。他认为，现在的问题是根据国情落实 AI 治理措施，而不是暂停ChatGPT研发。
! Y+ U1 p' Z& w, Q+ V" |: T$ E“现在它已经成为了一个闭源、以最大利润为目标、受微软控制的公司。”马斯克在ChatGPT发布一个月后断掉了OpenAI对推特的数据访问权限。
3月下旬，马斯克再次暗讽OpenAI称：AI 是人类创造的最强大的工具，现在却掌握在无情的垄断企业手中。据报道，马斯克近期一直在与人工智能研发人员接触，商议成立一个新的研究实验室以替代OpenAI。
& H2 o( g5 j% b. G' s4 J# A传GPT-5于今年底发布，AI未来走向何方？
“我被告知，GPT-5计划在今年12月完成训练，OpenAI 预计它将实现 AGI。”a16z 投资的创业公司Runway CEO 陈思齐（Chen Siqi）近日在其推文中分享了这个重磅消息。
0 @4 V$ F9 z* s8 w, d% J8 |陈思齐称，他认为一旦GPT-5发布，大家将离 AGI目标更近了。据悉，通用人工智能（AGI）又称强人工智能，指具备等同或超过人类智能行为水平的人工智能。自人工智能学科诞生以来，通用人工智能就是该领域研究的主要目标之一。
当然，OpenAI目前尚未公开讨论GPT-5，所以这方面的资料较少，GPT-5仍处于“传闻”当中。但鉴于GPT-4比GPT-3提升的技术能力，如果GPT-5实现AGI，就意味着聊天机器人达到了人类的理解和智能。


也许，未来人类的脑子会被机器所学习？Maybe
事实上，早在2009年，机器学习领域商业大咖、DeepMind联合创始人肖恩·莱格 (Shane Legg）曾使用曲线外推法预测，到2025年人类将研发出与我们水平一致的 AGI 技术能力。
如今来看，这个目标似乎被OpenAI团队提前完成了。
  ?. B& P6 w9 r8 v+ m$ |陈思齐后来对他的说法稍作反驳，“要明确的是，我并不是说用GPT-5实现AGI是OpenAI内部的共识，但那里的人相信它会实现。”换句话说，这种GPT-5 AGI并不一定是在人类当中实现，可能依然是机器和数据学习。
! _' n5 E: x1 Q7 w3月30日，360公司创始人、董事长周鸿祎发布长文指出，暂停GPT-5研发不会影响中国自己的大语言模型，中国距离GPT-4水平还有两年差距。此前一天，周鸿祎在会议中演示了360公司最新研发的大模型“红孩儿”——继百度“文心一言”之后的第二款类ChatGPT产品。
1 r3 D! ]# \7 [, T5 s. T周鸿祎随后对钛媒体App表示，目前该产品处于内测，并没有公测，而且该产品仅类似搜索引擎和浏览器插件，而非平台。
对于 AI 技术的未来，金沙江创投主管合伙人张予彤认为，生成式AI是实现通用泛化的AI能力，相对于此前NLP自然语言技术，ChatGPT和GPT-4给大家看到了一个希望，用同样的一个模型完成泛化的能力。她认为在GPT技术引领下，未来能够看到的所有应用都会变成智能应用，所有的应用的UI都能够变得简单。“中国不但需要有自己大模型，也需要有自己的先进算力。”
5 D$ s6 q# e4 x7 X华为云 AI 首席科学家、IEEE Fellow田奇在2023博鳌亚洲论坛上表示，经过几十年的积累，AI 技术迎来一个爆发，因为它的通用性和对社会的影响是方方面面的，因此这一波人工智能对社会的影响应该远远超过 iPhone。ChatGPT不仅带来新的人机交互方式，还极大地提高了生产力。
创新工场CEO李开复引述报告称，预计到2032年，生成式 AI 全球市场规模将超过2000亿美元。
7 ]9 z6 l! H& E) {2 C“ChatGPT这波会带来 AI 领域新一轮洗牌。”芯片IP供应商芯原股份创始人、董事长兼CEO戴伟民在3月27日年报会议上表示，ChatGPT背后的算力非常重要。
' ?" [" j# E1 D不过，ChatGPT仍会带来一定的风险。据比利时媒体La Libre报道，一名比利时寡妇声称，她的丈夫在与 AI 聊天机器人Chai交谈了六周后自杀身亡，背后主要原因是Chai鼓励用户自杀，这种情绪化能力成为了人类的红颜知己，一步步听从其回复。据悉，聊天机器人Chai基于GPT-4替代方案研发的产品。
就目前来看，ChatGPT已经引起资本市场波动，出现了一定的分化，多个ChatGPT概念、AI 股由涨转跌，但AI芯片、应用领域股票仍处于高位。
5 x# |+ R% P; Y8 p7 b截止3月31日收盘，百度美股跌1.89%，百度港股跌0.54%，创新奇智跌2.36%，知乎跌2.31%；AI 芯片公司寒武纪涨5.59%，年初至今涨227.49%；AI应用类股海天瑞声至今涨241.43%；昆仑万维年初至今涨219.97%；云从科技年初至今涨196%；商汤-W年初至今涨21.46%。另外在海外公司中，年初至今，AMD涨53%，英伟达涨94.04%，C3.ai涨203.25%。
老虎证券分析师Bo Pei表示，围绕ChatGPT的大肆宣传，仅表明市场对新投资叙事的渴望程度。“经过这么多年的发展，中国和海外的互联网行业都已经饱和，都在寻找新的方向。但类ChatGPT工具多久才能真正产生影响、或产生有意义的收入是值得怀疑的。”
2 J7 X6 n* G5 ^! F% f0 ^事实上，ChatGPT的到来已经打破了中美在 AI 领域势均力敌的幻想。
“不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力。中国一定要迎头赶上。”周鸿祎表示。（本文首发钛媒体App，作者｜林志佳）

似雪花飘

应该是封的百度账号吧。百度“自主研发”太强劲了。gpt都受不了出个答案还得被披张皮了。