OpenAI 离成熟商业公司更近一步

江湖险恶567

- |" |7 e; o8 O6 ?; o
- p! y5 n/ T# v1 i- t5 t
发布 GPT-4 的同时，OpenAI 离成熟公司越近，离名字里的 “Open” 越远。
GPT-4 无疑是一个更好的产品。写散文、诗歌、代码，这些 GPT-3 已经会的技能，它可以完成得更好、更具创造力；而读图、雇人、数学等 GPT-3 表现很差或全然不知的领域，GPT-4 的表现称得上惊艳。（关于 GPT-4 新功能的细节以及它们是如何实现的，请参阅《晚点 LatePost》今天的长文《更强的 GPT-4，更封闭的 OpenAI》）
如我们之前所讨论的，在这场 “火鸡”（OpenAI）追逐 “雄鹰”（Google，其实也可以泛指掌握充沛技术资源的巨头）的故事伊始，OpenAI 靠着 “开发通用人工智能技术、专利和研究成果全部开放” 的宏大愿景，招揽到一批顶尖 AI 专家。创始人们都对人工智能的未来充满恐惧，假想敌是大公司（比如 Google）开发的邪恶 AI。
如今 OpenAI 也更像一家商业公司了：发布会之前提前向媒体和合作伙伴开放试用，等到正式发布时一同造势；为了保持自身竞争优势，同步张贴的 “论文” 长达 90 页，却没有介绍任何训练的技术细节；发布会上高管风趣的演示方式，跟市值万亿美元以上的硅谷巨头们没太大区别。
3 A. G/ k6 r6 E就像每次人工智能取得重大进展时一样，很多人都在 GPT-4 发布后担忧自己会丢工作。GPT-4 看上去可以轻松替代助教、初级编辑、客服助理，而一些看上去掌握更难技能的人也开始焦虑。
* m, [. w1 X+ D1 C7 e& ~7 H. b一位得克萨斯大学奥斯汀分校研究 NLP（自然语言处理）的博士在 Twitter 上分享了他对 GPT-4 的复杂情感：激动不已，但也因此质疑自己的研究价值。另一位软件工程师则说：“别再说 GPT-4 不会解 LeetCode hard 难度的题所以程序员很安全了，我特么也不会。” 评论区里不少同行表示赞同。
不过，OpenAI 的创始人和一些学者仍在提醒不要过分神化 GPT-4。山姆·阿尔特曼（Sam Altman）在社交媒体上说，它仍有缺陷、存在限制，并在熟悉之后可能不会像初见时那样惊艳。
艾伦人工智能研究院院长、华盛顿大学教授奥伦·埃齐奥尼（Oren Etzioni）称，虽然 GPT-4 取得了很大进展，但显然还不能被信任，“离放心让任何 GPT 运营一座核电厂，还有很长的路要走”。
! I8 s0 k( [  M  u) F* \) @OpenAI 的研究人员已经做了很多努力，帮助 GPT-4 拥有更高的准确率和更严苛的道德准则。OpenAI 称，与 GPT-3.5 相比，GPT-4 在回答事实性测试题时，评估得分提升了 40%；响应本该拒绝的用户请求几率降低了 82%。
+ C6 x0 C) `  q% e( N! T; ?但基于其生成答案的底层逻辑未变（更多依赖统计和概率而不是对事物的理解）、训练数据仍来自公开世界，GPT-4 仍不可避免地会出错、会产生幻觉（hallucinating，指 AI 编造事实）、会被恶意利用、也会输出偏见，和创造它的人类一样。（邱豪）

塘沽火星人

一直成熟下去

糖糖班副

希望能被用来做更多对人类有益的事情，而不是完全替代人类[二楼]