美国 FTC 主席莉娜 · 可汗：为什么必须监管 AI

莱阳妞妞

作者：Lina Khan
1 V. b" A6 |4 p! @. `来源：https://www.nytimes.com/2023/05/03/opinion/ai-lina-khan-ftc-technology.html
0 K5 [, k, r& U编译：美漪
  E3 z# b: J: D5 o. b编辑：靖宇
6 t" {% W: U- Q编者按：
. D) v5 K4 Y1 y从调查亚马逊，到单挑 Facebook，美国最年轻的 FTC 主席莉娜 · 可汗是全球科技监管领域的「铁娘子」。
4 V1 }" w3 K& u/ Y" e由 ChatGPT 带火的最新一波 AI 浪潮兴起之时，可汗在 NYT 上写下署名文章，阐明对于巨头正在争抢的 AI 赛道，FTC 必须要加强监管。
以下为莉娜 · 可汗关于 AI 监管的全文：
3 U: a- _, r8 B, J与 AI 进行仿真的对话，既令人兴奋又令人不安。由于生成式 AI 的快速发展，我们中的许多人，现在已经体验到了这种潜在的革命性技术，它对世界各地人们的生活、工作和交流方式都产生了巨大的影响。
生成式 AI 的全部潜力仍有待讨论，但毫无疑问，它将是高度颠覆性的。
上一次，我们发现自己面临由科技带来的广泛的社会变革，还是 2000 年代中期，Web 2.0 时代的开始。像 Facebook 和谷歌这样的新型科技公司，彻底改变了传统的通讯方式，并为快速增长的用户群体，提供了创新的服务。
1 q1 v: _/ F3 B/ m0 M然而，这些创新服务是以高昂的代价换来的。
我们最初设想的免费服务，最终通过对使用这些服务的人和企业，进行广泛监控，从而完成了商业化。其结果是形成了一种「网络经济（online economy）」，而在这种经济中，提供越来越多的基本服务的前提是，广泛地囤积和出售用户的个人数据。
. W; k8 o( Y5 U. j) f! I6 B& W这种商业模式促使科技公司想方设法地来追踪用户，甚至不惜违法法律。少数的这几家巨头，使用用了一些激进的策略，像是收购，或封锁有潜在威胁的公司，从而巩固自己的主导地位。
0 r1 b! Y5 c8 H) G一系列革命性的技术，最后却沦为对一些关键服务的加强，并定型成了以用户的隐私和安全为代价的商业模式。
但是，Web 2.0 时代的发展轨迹，并不是不可避免的——它是由广泛的政策选择所决定的。
而现如今，我们面临着另一个关键的抉择时刻：AI 技术的应用越来越广泛，政府官员有责任确保其发展不会重蹈覆辙。
7 y$ u9 }/ I) l$ H随着各家公司竞相部署 AI，并从中获利，联邦贸易委员会（FTC）正在仔细研究，如何才能最好地实现我们的双重任务，即促进公平竞争，和保护美国人免受不公平或欺骗性行为的影响。
随着 AI 技术的发展，我们将致力于尽我们的职责，维护美国长久以来的传统——维持开放、公平和竞争的市场。正是这样的市场支撑着突破性的创新，和我们国家的经济成功，绝不能容忍大规模剥削用户的商业模式或做法。
虽然这些工具是新的，但它们仍受现有规则的约束。而且，即使在这个新的市场，联邦贸易委员会（F.T.C.）也会积极地执行我们负责管理的法律。
虽然 AI 技术正在迅速发展，但一些风险已经显露出来。
+ [  i8 |/ R* l" @3 f! H首先是，随着 AI 技术的应用范围不断扩大，现有科技巨头的「主导地位」会得到强化。
7 Q' @! V8 g) G6 z, |这意味着，少数强大的企业，控制着其他公司和初创企业，开发和部署 AI 工具所必需的原材料，包括云服务（cloud services）和算力（computing power），以及大量的数据。
这些占据主导地位的公司，可以通过控制这些关键投入，来打压下游的竞争对手，从而巩固自己的地位。对此，执法者和监管者必须保持高度警惕。
此外，企业用来制定各种价格的 AI 工具（从洗衣粉到保龄球道预订等），还会助长哄抬价格的合谋行为，以及各种形式的价格歧视。
值得强调的是，执法者的责任是「双重」的。这意味着，我们不仅要防范 AI 技术带来的危险，还要促进公平竞争，以确保这些技术的市场合法发展。
联邦贸易委员应当充分发挥法律管辖权，来处理快速发展的 AI 技术带来的问题，包括串通、垄断、兼并、价格歧视和不正当竞争。
5 v7 y8 F& |. z- ]% {! e0 i" U" ~其次，生成式 AI 还有可能助长欺诈行为。
虽然，它可能还没有准备好取代专业作家，但它已经可以比普通的网络骗子，更好地捏造一个看似真实的信息，使骗子们能够快速而廉价地生成内容。
聊天机器人已经被用来生成诈骗性质的钓鱼邮件（spear-phishing emails）、虚假网站和虚假消费者评论。AI 机器人甚至被命令使用针对特定群体和社区的词汇或短语。例如，诈骗者可以根据用户的社交媒体帖子，起草高度针对性的钓鱼邮件。除了制作换脸视频（deep fake videos）和语音克隆的工具外，这些 AI 技术还可以被用来进行大规模的欺诈和敲诈。
在针对这些 AI 诈骗行为执法时，我们不仅要打压部署这些 AI 工具的获得蝇头小利的骗子，还要关注这些工具背后的上游公司。
最后，还值得注意的是，这些 AI 工具正在接受大量不受检查的数据库的训练。
由于，训练数据可能包括充满错误和偏见的信息，这些 AI 工具就很有可能使「歧视自动化 ( automating discrimination ) 」——不公平地将部分人排除在工作、住房或关键服务之外。 这些工具还可以在私人电子邮件、聊天记录和敏感数据上进行训练，最终暴露个人隐私并侵犯用户隐私。
因此，针对 AI 技术，现有的禁止歧视的法律将继续适用；同时，禁止剥削性收集或使用个人数据的法律也将适用。
二十年前，科技公司的成长史可以作为一个「反面教材」，警示我们应该如何思考生成式 AI 的扩张。但历史也提供了科技技「造福社会」的经验。
+ }! E$ ]8 v% n; W  H20 世纪 60 年代末，面对反垄断审查，计算机巨头 IBM 公司，将软件从其硬件系统中分拆出来，促进了美国软件业的崛起，并创造了数万亿美元的增长。这时，政府要求 AT&T 开放其专利库，同样释放了数十年的创新，刺激了无数初创公司的发展。
0 l' I& _% s5 D% z) U* P美国政府对「促进公平、公开竞争」的「长期承诺」，是使这个国家成为经济强国和创新大国的一个重要部分。
现在，我们再次处于一个关键的决策点。美国能否抵制竞相压价的商业模式和垄断性的资本控制，从而继续成为世界先进技术的「故乡」？
& o" ~. x2 P! L- Y答案是：可以的，如果我们做出正确的政策选择。
; t; @6 U3 ?& [8 Z* S- F! I1 z$ o" O头图来源：NYT