|
|
《科创板日报》3 月 30 日讯（记者 黄心怡） 周鸿祎今日发布微博，对马斯克等千人请愿叫停 GPT-5 研发一事发表看法。, w8 |5 H8 F' w5 M& r9 q
周鸿祎称，马斯克等人的请愿不影响中国发展自己的大语言模型，包括 360 在内的一些中国公司已经展示了自己的作品，离 GPT-4 的水平还有两年差距。现在担心风险为时尚早。
5 R% G# c/ _, }3 h& \$ {& H+ @3 o) Y在 ChatGPT 掀起全球热潮的同时，对于 AI 伦理和安全风险的担忧一直存在。
( Q5 Z- o& [. _1 U1 Y/ A. ~* h商汤科技智能产业研究院院长田丰指出，AIGC 热潮之下的治理挑战已引发各方 " 冷思考 "。由于担心作弊、对学生学习的负面影响以及内容的准确性，纽约市教育部在其网络设备上禁止访问。
. J" X2 x" D8 q; W5 E G; T6 ^3 }除教学方面，田丰提到，AIGC 还引发了版权保护的讨论，以及加大网络空间内容治理挑战和网络安全风险。不法分子可能利用其生成与真实照片完全相同的假照片、虚假信息、诈骗话术，以及恶意代码带来了便利。
* L( T- f6 N3 c) u2 E东华软件住云科技 CPO、数字化转型专家杨晓光表示，"ChatGPT 等人工智能模型给出的结果是依赖大量数据集，那么数据集生产可以被人或机构操纵，ChatGPT 等完全有可能由于依赖于大量的且有偏见的数据集，给用户输出不准确有偏见甚至危险的问题答案。随着人工智能继续变得更加先进和广泛使用，这种风险必将不断增加。"6 {, g4 q: r( l O- ?$ f* Z ]
对于人类如何应对 AI 带来的未来安全挑战，周鸿祎称，谁也没法给出确定答案。
3 ^; o# a& W4 a K, u" 我曾经想过是不是在程序里加一句暗语，比如‘天王盖地虎，宝塔镇河妖’，一提这句话，AI 就能停止工作。然而现在的发展态势，已经不是一句暗语或者拔掉电源就能控制的了。人工智能的进化已经不以个人意志为转移了，哪怕是马斯克。"* N5 m9 m: |/ J( W- C0 {
但即便存在未知的挑战，周鸿祎依然坚定认为，"不发展才是最大的不安全。"
! T2 ~# q7 C' x! L& P7 m' P杨晓光也对《科创板日报》记者表示，此番请愿举动对人工智能的发展不会产生大的影响。
( k5 R2 u: k7 j' {" Z2 s i"这些暂停努力都是徒劳的，就像军备竞赛，谁也不敢收手，否则就会前功尽弃，而这个风险更大。"
' Q% x" l$ @$ N+ E$ E! _1 U有业内分析指出，" 矛 " 和 " 盾 " 相辅相成，反生成式 AI 技术有望伴随 ChatGPT 等应用实现爆发。
% f+ A( e8 z3 G# x安信证券认为，随着深度合成和生成式 AI 技术的开放开源、深度合成和生成产品和服务的增多，此类内容制作的技术门槛越来越低，实现了技术的 " 平民化 "。一旦深度合成和生成式 AI 技术一旦被滥用，将会造成安全风险与实质性危害，给个人、企业造成肖像、名誉等人格和财产权益损害。因此，反生成式 AI 的技术需求有望迎来爆发。- M5 C$ q/ X0 C" G9 I9 c9 S
中信证券表示，以 ChatGPT 为代表的现象级爆品意味着新一轮人工智能技术将快速进入产业化，未来产业模式将是大模型叠加各种垂类和场景模型，而 AI 技术的持续发展也推动着与安全更多的碰撞及融合，AI 赋能网络安全和 AI 自身安全都值得考虑。2 w* H4 N0 X5 L* O* l" }' H& i" i; A) U
杨晓光指出，ChatGPT 等应用会带来技术上的挑战，也将产生新的机会。
( p: n/ o0 J4 V q+ p" 安全问题无论对于国家和个人来说都是极为重要，我们要居安思危，提高警惕、防患于未然。这将是未来数字安全领域的一个重要课题。"3 P, [8 u6 x. a8 D: M& G/ |
有业内人士向《科创板日报》记者表示，周鸿祎跟马斯克唱反调也有在这场 AI 进化与竞赛中 " 输不起 " 的原因。" 既然 GPT 是超越互联网和 iPhone 的发明，包括 360 在互联网公司与科技巨头谁敢怠慢呢？！" |
|
|手机版|小黑屋|梦想之都-俊月星空
( 粤ICP备18056059号 )|网站地图
发表于 2023-3-31 11:17:32
