半藏森林克隆人引争议！利用 AI 技术吸金的“克隆人”，会引发 AI 诈骗吗？ ...

一般小丑鱼

本文来源：时代周报 作者：齐鑫
5 R4 L& H' N2 o2 i" 半藏森林克隆人 " 刚出现不久，就被暂时下线了。
9 ~$ `9 z7 ~2 g/ O0 c0 O据扬子晚报报道，6 月 5 日，有网友发现北京红棉小冰科技有限公司（下称 " 小冰公司 "）推出的虚拟人类娱乐平台 X Eva APP 中，上线不久的网红 " 半藏森林 " 等 AI 克隆人疑似被下架。
. u# N7 _- \( ]; E6 i小冰公司对外回应称，" 半藏森林 " 克隆人目前还在内测，内测名额已满，所以先下线了。目前在进行调整，其他虚拟人暂时也还不可见。
此前，" 半藏森林克隆人一年收入可高达 72 万 " 的话题曾引发网友关注。据财经网报道，" 目前不付费可以互动，付费可以看朋友圈、打视频电话。两种付费模式月费分别是 6 元 /30 元、年费 72 元 /360 元 "，以半藏森林为例，如果有 1 万个情感模式付费用户，相当于半藏森林克隆人一年收入 72 万元；如果有 1 万个超级模式付费用户，一年则可实现收入 360 万元。
: _5 h1 t9 a( q, x* [半藏森林克隆人的出现及其变现模式也引发了网友们的探讨。" 虚拟人技术未来前景广阔，但市面上的 AI 技术成熟度不高，导致虚拟人物智商普遍不高，应用场景有限，大大限制了自身发展。要判断小冰克隆人商业模式是否可行，目前还为时过早。"6 月 5 日，深度科技研究院院长张孝荣告诉时代周报记者。
此外，也有部分网友对该平台和 AI 克隆人是否会侵犯用户隐私，带来安全隐患等问题感到担心。
' h. k) q' V, n& g% v/ L为了解相关情况，6 月 6 日，时代周报记者向小冰公司发送采访提纲，截至发稿未获回复。
9 S  _* o" x; K& I' t7 A7 f. u6 ~网红吸金新手段？
网红明星利用 AI 克隆人形象赚钱，这种变现方式着实超出了不少人的想象。
据北京商报报道，AI 半藏森林上线的信息出现在该 APP 首页发现栏目，和半藏森林克隆人互动时，对方可通过语音、文字形式回复。聊天界面上方设有增值服务入口，点击立即解锁，可体验更多互动形式。
而半藏森林 AI 克隆人有两种付费模式，情感模式需支付 6 元 / 月或 72 元 / 年，用户能享受克隆人语音消息回应、同步克隆人朋友圈；超级模式支需付 30 元 / 月或 360 元 / 年，克隆人会为用户提供撰写文案等服务，还能进行视频通话。在此前的体验阶段，超级模式暂未上线。
; E4 I* d5 l$ a5 s* z

( G  w3 }- k+ o/ C1 G
（图源：半藏森林新浪微博）
; r& u9 K6 Z3 t! q" P4 I: a7 G半藏森林 AI 克隆人的出现，与小冰公司推出的 " 克隆人计划 " 有关。
" 小冰公司的‘克隆人计划’最短只需个人采集三分钟数据，即可为明星红人、专家学者或普通人创造源于本人性格、技能、声音、外貌的 AI 克隆人，并提供专有平台，以便于本人将认证克隆人有偿或无偿提供给自己的受众。"AI 小冰微信公众号在今年 6 月 1 日发布的文章中称，克隆人基于小冰框架大模型、神经网络渲染及超级自然语音技术，可实时情感交互及提供 AIGC 能力，甚至有自己的朋友圈，如同人类在平行世界的第二人生。
3 s7 f) r, N5 v) s& @# e) q) C事实上，半藏森林并非第一个拥有自己 AI 形象的网红。Caryn Marjorie 是一位 23 岁的美国网红，拥有超 180 万的 Snapchat 粉丝，她用 OpenAI 的技术创建了一个人工智能版本的自己 CarynAI，每分钟收费 1 美元。而 CarynAI 曾在一周的测试期内收入约 7.2 万美元，折合人民币近 50 万元。
8 }) P, W& [, j. \AI 将为网红提供一种新的 " 吸金 " 方式。据北京商报报道，半藏森林与小冰公司是分成模式，本人拿大头。时代周报记者注意到，目前，半藏森林在新浪微博拥有 262.7 万个粉丝，若按每人每月充值 6 元开通情感模式计算，则可带来收入 1576.2 万元 / 月。


, {! Q* L2 N9 {4 T$ U
（图源：半藏森林新浪微博）
1 S; |4 e( a" I) k7 h# O8 E  C1 gCarynAI、半藏森林 AI 克隆人的出现，背后是人工智能技术的不断革新。
CarynAI 由 Caryn Marjorie 与 Forever Voice 公司合作推出，利用 OpenAI 开发的 GPT-4 API 技术，复制了 Caryn Marjorie 的声音、举止和个性。
. s. [% A. y; u# X' j/ f% b而推出了半藏森林 AI 克隆人的 X Eva App 底层使用的技术包括小冰 XLLM 语言模型、声音及神经网络渲染技术等，共计约 1000 余个有机组合的模型。
. P" T# {$ Q0 z. o7 hAI 克隆人安全吗？
在 AI 克隆人等类似产品出现前，由美国科技公司 OpenAI 推出的人工智能聊天机器人程序 ChatGPT 引爆网络，在互联网行业掀起巨大热潮。
7 }) }3 \" e5 |; [如今，半藏森林 AI 克隆人能否如 ChatGPT 般火爆？
张孝荣认为半藏森林 AI 克隆人要达到 ChatGPT 的火爆程度存在一定难度。
" ‘ GPT 克隆人计划’并非基于 GPT 大模型，而是基于小冰框架模型，两者技术路线不同，训练数据不同，背后所需要的算力和算法也不一样，因此生成的 AI 机器人体验必然会有差异。"6 月 5 日，张孝荣向时代周报记者表示。
$ U0 Z+ T. p* ]6 b2 R* \而 AI 克隆人的出现，也让部分网友不禁对其安全性产生担忧。近年来，随着人工智能技术的发展，AI 热潮席卷多个领域，AI 诈骗也已出现引发社会关注。
3 j7 Q. v4 `& E* ~福建福州某科技公司法人代表郭先生接到了由 AI 换脸技术合成的 " 好友 " 的微信视频电话后向对方转账，被骗 430 万元；安徽安庆的何先生在接到一个 9 秒的 " 熟人 " 视频电话后向对方转账，结果被骗，所幸警方抓获了 3 名涉诈嫌疑人，追回了他被骗的 132 万元。
4 ~. F6 P0 W4 X: NAI 克隆人是否会产生此类安全风险？在 AI 小冰微信公众号发布的文章中，小冰团队表示，为避免克隆人带来安全隐患或被滥用，团队采用了最高的安全标准。
在训练数据方面，仅使用本人小样本数据，并在训练后清除，从而避免过多采集本人数据及滥用；在技术运用方面，使用经小冰团队长期验证的技术，例如安全的混合模型，而非单纯的大模型，从而确保技术边界已知；在使用场景方面，严格限制克隆人在特定产品（X Eva APP）中，而非将技术接口 API 开放，从而避免克隆人被不当使用；在本人对克隆人的控制方面，提供便利以使本人可随时中止其克隆人。
" 此外，全部 C 端或 B 端用户均须提交本人权属证明方可实施，以避免数据的侵权或不当使用。"AI 小冰微信公众号发布的文章中称。
# w) x' {! ]3 e& h% c* M7 t. S" ‘（AI）克隆人’属于新生事物，其技术核心还是依靠目前的生成式人工智能技术。关于‘克隆人’产品的未来发展，关键在于需要符合监管方向。"6 月 5 日，北京市京师律师事务所合伙人、主任律师卢鼎亮向时代周报记者表示。
# K( k3 Q* M" b0 V今年 4 月 11 日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》。卢鼎亮认为，从征求意见稿来看，网信办对生成式人工智能服务行业的健康发展持鼓励支持态度，同时鼓励优先采用安全可信的软件、工具、计算和数据资源。
" 如果《生成式人工智能服务管理办法（征求意见稿）》生效，AI 克隆人的产品或服务必然会持续发展。" 卢鼎亮表示，在发展的过程中，还需要符合监管思路，克隆人服务提供商、用户等主体在使用训练数据、使用产品、保护数据安全和隐私、防止法律风险和重大道德以及舆论风险、防止不正当竞争等方面都需要注意合规风险。