对话写作猫：小公司，做出大模型

蔠夜

+ }( J& Z; n' K# T
互联网大厂聚光灯之外，对话式AI创业的现实与未来。
( B. h: V, I& {: R& g
9 o3 Q& j4 H) b3 R: \文 | 园长
编 | 石灿
“对话式AI，是这轮AIGC变革中应用落地的核心。”
王益为（ID：王一快）是AI创业公司“秘塔科技”的COO。在百度“文心一言”推出的前几周，秘塔科技就先行一步，推出了国产AI对话产品“对话写作猫”。
4 R- H5 ~$ ]6 i  M9 w4 N
# [) G. U& D# y! J, H
刺猬公社与对话写作猫对话
过去的几个月，我们看到Open AI以令人眼花缭乱的速度，接连推出Chat GPT及其后续的GPT4等系列AI对话产品，一次次刷新人类与AI交互智能化的上限。当自然语言成为了能够直接与机器对话的工具，在人工智能的支持下发挥出前所未有的创造力，维特根斯坦的那句名言“语言的界限，就是我世界的界限”，正在被飞速更新的技术所验证。
正因如此，以Chat GPT为代表的对话式AI，成了AIGC落地应用的核心，也让这条赛道上的变化显得格外引人瞩目。不论是百度推出文心一言，还是Open AI推出的GPT4，还是Google的Brad，这些对话AI生成的每段对话，都有可能影响一个超级巨头的股价，也不断引发着人们的讨论：大洋两岸，对话式AI产品技术差距到底有多大？
除了百度的文心一言，国内还有不少AI对话产品，共同组成了国产对话式AI的创业生态。类似对话写作猫这样的创新者，虽然在大厂的聚光灯之外，但同属这个生态的一部分，同样值得我们关注。
2023年春天，刺猬公社（ID：ciweigongshe）去了一趟秘塔科技公司位于北京的办公室，和王一快聊了聊对话式AI创业的现实与未来。

创业公司，也能做对话式AI
5 p7 O, o. S, Y& c/ B9 s
第一批在国内做出对话式AI产品的，并不是BAT级别的大公司，而是以秘塔科技为代表的中小创业公司。这里需要特别指出的是，他们并不是简单调用ChatGPT的API接口的“套娃”产品，而是实打实地去自主研发大语言模型，其原理和Open AI别无二致。
* g7 m# E6 }: T4 W# o; V* k: |在2021年左右，秘塔科技就在研究如何用AI去生成内容；再到2022年12月，先是拿出了AI生成文字和图片的能力，并且在这之前，就已经在让机器去进行多轮对话。为了早日拿出对话写作猫，过去几个月，秘塔科技的几乎所有研发人员把全部精力都投入在了这上面，近期也在不断进行完善。
在对话写作猫之前，秘塔写作猫就是一个比较成功的文档产品了，拥有近千万用户。“这不是我们能力的全部，我们还能做得刚好。”王一快说，“不是说看了人家做了，我们马上就做，我们一直有技术积累。”
4 S  t7 B* @3 y- D$ \( ^3 l  {谈到为什么能这么快地做出对话式AI产品，王一快还提到一点，那就是不一味追求模型的大——动辄千亿、万亿的参数量，和创业公司的能力规模也不匹配。此外，模型也不一定“大就是好”，还要看AI生成对话的质量，以及AI是否真正理解了多轮对话的上下文，理解了对话者背后的意思。

9 R9 u) c+ R4 H7 d. ?
# M& G0 K' h  X8 D3 C4 C8 b生成效果
* X5 ^/ f3 V  J  N% w0 M目前，对话写作猫一方面可以实现AI对话，一方面还可以根据用户的指令生成文字内容。比如当用户输入“写一个小红书笔记”，它真的可以模仿小红书的内容风格，写一段美妆产品的评测。此外，还可以实现图片等内容的生成，具有相当的多模态能力。从这个角度上看，对话写作猫的AI能力其实和国内大厂的产品相差不大。
, F6 a, ^/ F" x& J; y. s相比国外同行，对话写作猫在中文输出方面也有一定的优势，比如在改写文章、生成文章等方面，甚至比Chat GPT做得还要好。至于多轮对话能力，还是和Chat GPT有一定差距。“可以期待半年之内达到和ChatGPT‘平替’的效果。”王一快说。

$ w; n! ~: R9 o( y- }/ |' Q5 k( \大模型，自研的才放心
1 `  {7 n5 R& W7 L1 \4 L# f) G
! E) Q# T" @- Q1 Z在国内的不少对话式AI创业项目中，相当多的团队不会“硬啃”大模型，就连小冰CEO李笛也曾断言，“大模型在今天这个时代，还不是创业公司可以玩转的”。比如，用户体验还不错的“Inspo”和“Aski”，都是基于GPT模型开发的。

但如果每个创业公司都是在Open AI模型的基础上修修补补，这种创新的含金量到底有多少？质疑的声音，同样也没有停止过。
对话写作猫就没有使用开源模型，或者调用API接口，而是走自研的路子。
; X5 @* o  k- ?3 `这也是一条相当考验技术的路子。仅仅从语料的角度看，中文语料就要比英文语料复杂很多，语料的清洗和质量控制的难度都更大。
: J/ f9 H1 c3 J7 E# b- v相比英文，中文的变化更多。比如，语言文字还会受到语气等多种因素的影响，同样的词汇，在不同语境中的意思就不一样。再加上流行梗和不断产生的新词汇，机器理解的难度就更大了。因此，如何处理好海量的工程细节，是打造中文对话式AI过程中最大的难点。
但这也正好是愿意自研大语言模型的创业公司的机会。王一快告诉刺猬公社，首先，目前开源的大模型主要是以英文为语料库进行训练的，中文部分较少。为了适应中文而去做调优，本身就有“先天不足”，比如有的时候其输出的内容，并不符合中国人的文字习惯。
* T! P+ p3 U$ G# @( R另外，已经开源的技术往往是上一时代的技术。一些团队愿意开源，是因为他们已经掌握了更先进的技术，才会把上一代技术开源出来。而其他开源技术的使用者，不论如何也没法追赶最先进的水平。
# k* S: h8 J* p- Z更重要的是，创业公司也要保持技术的自主性，一方面国内在自然语言处理方面的研发能力并不差，具备相当积累；另一方面也要避免被“卡脖子”，比如号称“AI竞赛心脏”的英伟达A100芯片停止对华出售，就是一个前车之鉴。

: F9 r8 U, ^% q9 \. Q5 n% ]大模型的未来：“黑镜”式的商业化？

0 q9 T8 |0 {+ T科幻剧集《黑镜》描绘了这样的一幅图景：人们可以将亲人生前的社交媒体资料“投喂”给AI，训练出一个可以模拟亲人语气和思想对话的App，可以聊天、可以打电话，甚至可以借助机器人将失去的亲人带回身边......


5 j3 n$ A' \' E《黑镜：马上回来》剧照
5 @% U7 k: v9 E) u2 y- v现在借助大语言模型，这个即便在前几年仍然被认为相当科幻的场景，其“内核”部分几乎已经成为现实。王一快就向我们透露了最近接触的一个需求：
某机构给一位已经去世的老学者打造了一个数字人形象，让人们可以继续看到他的音容笑貌；在这个基础上，还想把他的论文和学术观点“装”进这个数字人的大脑，让数字人也能继续按照这位学者原本的思想模式，模拟出学者生前的样子，继续和人们进行多轮对话。
“让数字人有了脑子，这件事本身就有意义。”王一快说。他还举了一个法律行业的例子，大语言模型可以与律师的数字人形象结合，作为一个真人咨询之前的程序处理客户的问题。虽然还不能取代高端的律师服务，但比较初级的律师，将在知识储备量和同时服务的能力上无法相比。
. Q4 P" U+ U! d+ d1 R# f' X% z$ ]# }5 w在商业化上，对话式AI的想象空间还有很大。在ChatGPT验证了对话式AI作为一种新的人机交互的方式之后，对话式AI很有可能作为一个统一的出口，把其他的AI能力都打包起来统一输出，成为整个AI产业落地的主力。
比如对于秘塔科技的文档产品——秘塔写作猫来说，文档的起草、修改等都可以借力AI能力做得更好。目前，秘塔写作猫已经有了教育、互联网等行业的客户，其中的主要付费用户为企业B端客户。而对话写作猫的落地，也有可能借助“先行”的秘塔写作猫，抓住同样的客户群体。
就在2023年3月下旬，秘塔写作猫进行了一次更新，用户只要输入双斜杠，就能呼出指令框，在文档内直接生成方案、周报、工作总结、提炼精华等不同形式的内容。从这里也不难看出，对话式AI的商业化，还有相当多的故事可讲。
% C6 i/ O4 \; q6 t2 g  j（本文头图由计算美学产品“画宇宙”AI生成）
' S% Y! o' a! Z. d7 j! |* g5 ^; M媒介合作联系微信号|ciweimeijiejun
& M+ V4 s5 E4 T2 O: l, O& \如需和我们交流可后台回复“进群”加社群

yi叶秋枫

有意思，期待

复活的鬼是丑鬼

主要表现猫的性格特点,从长大的猫性格古怪回忆起满月的猫淘气可爱.通过具体事例,抓住猫的动作行为来写.再加上作者拟人化的写法、亲切风趣的语言,处处流露出对猫的喜爱之情.