马斯克承认：我对内容审核知之甚少......

本文由“老雅痞laoyapicom”授权转载

来源Techdirt 作者Mike Masnick

昨天埃隆马斯克对所有 Twitter进行了敌意收购，引发了很多讨论。这总是一种可能性，我们之前讨论过马斯克似乎对言论自由知之甚少。但在竞标公开后不久，马斯克就上台接受了克里斯安德森的采访，并更多地谈到了他对推特和内容审核的想法。

果不其然，采访表明马斯克对这一切了解得非常非常少。事实上，他的观点让我印象深刻的是，它们听起来多么像最初创建社交媒体的技术人员在早期所说的话。重要的是：他们所有人最终都知道，他们对事物应该如何运作的简单信念在现实中是行不通的，并且在过去几十年里一直在努力迭代。而马斯克无视这一切，同时（有点搞笑地）暗示所有这些事情最终都能想通，尽管许多、许多工作过度、报酬过低的人一直在努力工作，正是为了想通这一点，但马斯克却告诉他们，他肯定他们做错了。

因为这些帖子往往会非常容易被喷，我想在你们开始喷之前，请读完凯特-克罗尼克教授关于内容控制和言论自由的历史的开创性论文《新总督》。在这个问题上，不了解历史的人很难认真对待。

但是，为了我的恶趣味，让我们来看看马斯克所说的话。

安德森问马斯克为什么要收购推特，埃隆回答说：

嗯，我认为有一个包容性的自由言论舞台真的很重要。推特已经成为事实上的城市广场，因此，人们在现实和观念上都能在法律的范围内自由发言，这一点非常重要。我相信Twitter应该做的事情之一是开放算法，并对人们的推文做出任何改变--如果他们被强调或不被强调--这应该是明显的，以便任何人都可以看到已经采取的行动。因此，无论是算法还是人工，都不存在某种幕后操纵。

首先，这和早期的 Twitter 和 Facebook 等平台的人们在早期所说的一样。然后他们发现它不起作用，原因将在稍后讨论。其次，Twitter 不是城镇广场，这是一个荒谬的类比。互联网本身就是城镇广场。Twitter 只是那个城镇广场上的一家私人商店，有自己的规则。

安德森问马斯克为什么要接管Twitter，因为上周马斯克显然刚刚告诉他，接管公司会导致每个人把出错的事情都归咎于他，马斯克回答说，事情仍然会出错，你必须期待这一点。他是正确的，但这里值得注意的是，他要求的理解程度是他拒绝向Twitter本身提供的。推特花了15年时间试验和迭代其政策，以应对各种令人难以置信的复杂和困难的挑战、细微差别和权衡，而正如马斯克在这次采访中所展示的那样，他甚至没有开始思考这些问题。

我强烈的直觉是，拥有一个最大程度的信任和广泛包容的公共平台对于文明的未来是极其重要的。

同样，这与这些网站的创始人所说的相同……直到他们不得不应对大规模运行此类平台的实际挑战。而且，我应该指出，任何花费任何时间处理这些问题的人都知道“最大程度地信任”需要一定程度的适度，因为否则平台会充满垃圾邮件和诈骗（稍后会详细介绍）并且根本不受信任. 将这些努力置于“信任与安全”的旗帜下是有原因的。

最后，“公共平台”是互联网。赢得信任，但广泛开放平台并不能激发信任。具有广泛的包容性和值得信赖，还需要认识到必须以某种形式处理不良行为者。这是人们花费了十多年的时间来研究的。马斯克表现得好像这是一个全新的问题。

因此，我们到达了任何此类讨论的必然点，马斯克在其中承认，一定程度的节制当然很重要。

克里斯安德森：你把自己描述为一个言论自由的绝对主义者。这是否意味着人们实际上没有什么不能说的，说什么都没关系？

埃隆·马斯克：嗯，我认为，显然 Twitter 或任何论坛都受其运营所在国家/地区的法律的约束。因此，显然美国的言论自由存在一些限制。当然，Twitter 必须遵守这些规则。

CA：对。所以你不能煽动人们使用暴力，就像你不能在拥挤的剧院里大喊着火一样，这样不负责任的叫喊是有后果的。

EM：不，在拥挤的剧院里大喊着火那应该算是犯罪（笑）。

所有言论自由专家都对“拥挤的剧院里着火”的错误概念齐声尖叫。

但是，马斯克 (1) 同意这种观点并且 (2) 认为这显然会构成犯罪这一事实表明，他实际上对言论自由或管理言论自由的法律知之甚少。

作为对那些不知道的人的提醒，“在拥挤的剧院里大喊‘着火’”这句话是一种不具约束力的修辞，这个比喻可以追溯到 1919 年最高法院大法官 Oliver Wendell Holmes Jr. 的裁决，被广泛且错误地认为是对提供广泛保护的第一修正案的一个影响深远的例外在美国自由表达。意为有人可以做出虚假、不负责任甚至是危险的陈述而不会受到任何处罚。

然后安德森尝试（但基本上失败了）进入内容审核的一些细微差别。如果他真的和任何在这个领域有任何经验的人交谈，那就太好了，因为他的例子不仅可笑，而且有点可悲。

CA :但这是挑战，因为它在不同事物之间是如此微妙。所以，煽动暴力，如果它是非法的，那就是不对的。有仇恨言论，当然“我讨厌菠菜”这种话不算是仇恨言论。

首先，“我讨厌菠菜”不是仇恨言论。这不是仇恨言论的例子。但是，更重要的是，这里是安德森和埃隆可能面临的实际问题，即在美国，仇恨言论完全受到第一修正案的保护。而且，我们已经解释了为什么这实际上很重要并且是一件好事，因为在仇恨言论违法的地方，这些法律经常被滥用以使批评者保持沉默。

但是，保持仇恨言论合法与说任何私人网站都必须在平台上保留该言论是截然不同的。事实上，在私人平台上保留仇恨言论会破坏马斯克声称想要的所谓的“信任”和“广泛包容”的性质。这将是与马斯克讨论的一个有趣的点。

安德森再次有点无力地试图得到更多的东西，但似乎仍然对内容审核的实际挑战了解不够，无法认真讨论这个问题：

CA：那么让我们说……这一条推文：“我讨厌政治家 X。” 下一条推文是“我希望政治家 X 还没有咽气。” 例如，正如我们中的一些人谈到普京时所说的那样。所以这是合法的言论。另一条推文是“我希望政治家 X 早点去死”，上面有一张他们的头像，上面有枪瞄准器。或者加上他们的地址。我的意思是，在某些时候，必须有人决定哪些是不合适的。算法可以做到这一点，但是肯定在某些时候需要人工判断。

首先，从广义上讲，上述所有内容都受到第一修正案的保护。有点令人难以置信的是，他的最后一个假设是我可以直接谈论的，因为我是一个案件的专家证人，其中一个人因对政府官员进行枪击而面临刑事指控，而陪审团裁定他无罪。但是，从广义上讲，私人平台不想托管该内容有很多正当理由。在某种程度上，这又回到了“最大信任”和“广泛包容”的观点。

但是，最重要的是，这些例子都不是仇恨言论。正如克里斯·安德森奇怪地相信的那样，仇恨言论并不是“我讨厌 X”。仇恨言论通常被视为旨在骚扰、羞辱或煽动对基于他们的各种特征（通常包括种族、宗教、性别认同、种族、残疾等）的一群或一类人的仇恨的表达形式。他提出的例子实际上并不是仇恨言论。

无论哪种方式，埃隆都在这里展示了他对这一切的了解是多么的少，以及他对过去二十年来这个领域发生的一切是多么陌生。

在我看来，推特应该符合国家的法律。而且，真的，有义务这样做。但除此之外，在不了解正在发生的事情的情况下神秘地提升和降级推文，让黑盒算法促进一些事情而不是其他事情，我认为可能非常危险。

同样，在美国，法律规定这种言论受到保护，但这并不是一个合理的答案。我们以前就经历过这种情况。帕勒公司声称它只对违反法律的言论进行节制，然后当它意识到人们在网站上嘲弄帕勒的支持者或发布色情信息（这也受第一修正案的保护）时，就翻脸了。简单地说，遵循基本的法律，通常表明一个人从来没有真正尝试过克制什么。因为事情要比这复杂得多，正如马斯克在这次采访中稍后会含蓄地承认，没有自知之明，他看不出他是如何自相矛盾的。

然后有一个稍微有趣的关于算法开源的讨论，这是它自己的问题，我不确定马斯克是否理解。我支持更多的透明度，以及让竞争性的算法能够得到审核，但是开放源代码是不同的，并不像马斯克似乎暗示的那样简单。首先，问题往往不在于算法。其次，在专有堆栈中建立起来的算法并不那么容易随便 "开源 "而不暴露各种其他东西。第三，开放排名算法的最大受益者将是垃圾邮件发送者（这更搞笑，因为不久之后马斯克就会抱怨垃圾邮件发送者了）。对那些希望滥用和玩弄系统来推广自己的东西的人来说，开放算法将是最有趣的。

我们知道这一点。我们已经看到了。多年来，谷歌的搜索算法变得越来越不透明是有原因的。不是因为它试图压制人们，而是因为最有兴趣了解它是如何运作的人是搜索引擎垃圾邮件发送者。开源 Twitter 算法也会发生一样的事情。

然后 Chris 回到了审核过程（再次以一种对 Twitter 信任和安全实际运作方式有点困惑的方式），指出“算法”可能比所有人类审核人都可靠，这导致马斯克陷入了一个长久的空白，然后才给出了一个磕磕绊绊的答案：

那个，我……我……我想我们会想在一边犯错……如果有疑问，让……让……让演讲……让它存在。它会......如果它是......呃......一个灰色区域，我会说，我会说让推文存在。但是......显然......在可能存在很多争议的情况下，也许你不想一定要宣传那条推文，你知道......所以......所以......所以......我不是说我在这里有所有的答案，但我确实认为我们非常不愿意删除内容，并对永久禁令非常谨慎。我认为超时比永久禁止更好。

但总的来说，就像我说的那样，它不会是完美的，但我认为我们希望真正拥有这样的看法和现实，即言论尽可能地自由，以及是否存在言论自由的一个好兆头，“我不喜欢你也不喜欢你说的那些惹人讨厌的话，但是你有说那些讨厌话的权利”。如果是这样的话，那么你就有言论自由了。这是一个健康、有效的言论自由状况的标志。

再说一次，这里有很多东西要讨论。首先，“有疑问，就让它存在”的做法几乎一直是各大社交媒体公司从一开始就默认的立场。只是随着时间的推移，任何做过这件事的人很快就会明白，像“当有疑问时”这样的模糊标准根本不起作用，尤其是在规模上。您需要易于理解的并推广到全球数千名版主的特定规则。必须要考虑当地法律、当地情况、当地习俗的规则。这一切并不像马斯克所说的那么简单。

事实上，为了达到我们现在的情况，所有这些公司基本上都从相同的前提开始，意识到什么不可行，然后进行迭代。马斯克基本上是在说“我有一个绝妙的主意：让我们回到第一步，假装这个领域的专家在过去十年中做的努力都是空气。”

而且，正如马斯克声称他想要的那样，Twitter 和 Facebook 也倾向于超时而不是永久禁令，但两者都认识到恶意行为者最终会继续不停尝试，所以将不得不禁止一些人。但是，当每个有节制的网站在很久以前都知道这一点时，马斯克却假装这是一些深刻的智慧。包括推特。

其次，他对言论自由的定义完全是胡说八道（荒谬地得到了观众的热烈掌声）。这不是言论自由的定义，如果是的话，那么 Twitter 已经有了。很多我不喜欢的人都可以说我不喜欢的话。你在 Twitter 上到处都能看到。但这在没有具体的情况说明的前提下，根本不是一个合理或可执行的标准。问题不在于“我不喜欢的人说我不喜欢的话”，而是垃圾邮件、虐待、骚扰、暴力威胁、危险的误导性虚假信息等等。马斯克对此一无所知，只能表明他对这个话题了解得很少。

安德森随后向马斯克询问他将对 Twitter 做出哪些改变，导致马斯克基本上反驳了他刚才所说的一切，直接禁止在 Twitter 上发表言论：

坦率地说，我的首要任务是消除 Twitter 上的垃圾邮件和诈骗机器人以及机器人大军。你知道，我认为，这些影响……它们使产品变得更糟。

嗯，几乎所有这些都是合法的（那里的骗局有点模糊，但垃圾邮件是合法的言论自由）。他承认他们使产品变得更糟这一事实突显了他对一切的困惑。处理“让产品变得更糟”的事情是任何信任和安全内容审核计划的基本点——大量的工作、研究和测试已经进入 Twitter（和所有其他平台），如何试图管理这些事情，他们几乎都卡在同一个地方。

为了处理垃圾邮件和诈骗以及“让产品变得更糟”的事情，你必须有规则，你必须有执法来对付违反规则的人，这意味着你必须让人们了解内容审核以及谁能够迭代和调整，尤其是面对试图玩弄系统的恶意行为者。

但是，对于他来说，前一刻说“如果合法就放弃”，而下一刻又说他的首要任务是摆脱垃圾邮件，这真是令人难以置信。垃圾邮件是合法的。

而且，正如任何经历过（或阅读过）内容审核历史的人都知道的那样，平台都经历了这个确切的过程。马斯克认为没有人真正做过的过程。他们都从一个基本的默认开始，即允许更多的发言和更少的节制。随着时间的推移，他们都意识到这个尺度非常微妙。

他们都意识到，每个决定都需要权衡取舍，但仍然需要做出一些决定，以阻止“让产品变得更糟”，并找出建立“最大信任”和“广泛包容”的方法。” 换句话说，对于马斯克的所有抱怨，Twitter 已经完成了他似乎假装没有完成的所有工作。他的“解决方案”是回到原点，忽略所有了解处理这些事情的各种方法的陷阱、挑战、细微差别和权衡的人……并假装没有人在这个领域做过任何工作。

每次我发这个帖子，马斯克的粉丝都会生气，坚持说我不可能比马斯克更了解这一点。而且，我真的很钦佩马斯克提出愿景并让他经营的公司实现这些愿景的能力。但处理人类语言并不是要建造汽车、机器人、隧道或火箭飞船。它是与人类、人性和社会打交道的。

这并不是说，如果马斯克确实在竞标中成功，他就没有权利让这些巨大的步骤回到原点。当然，他完全有权犯这些错误。但对于 Twitter 来说，这将是一个令人失望的举动，因为 Twitter 比该领域的许多其他公司更深思熟虑、更谨慎、更先进。它可能会抹去所有这些非常有用的重要机构知识。

我知道，马斯克显然已经接受了这种说法，即 Twitter 的内容审核工作的保守派旨在扼杀。再一次，没有实际证据支持这一点。如果有的话，Twitter和Facebook已经一再让步，以更加适应那些突破界限的人。但是，从了解 Twitter 在理解干预措施以及如何建立一个值得信赖的平台方面实际付出了多少努力，我担心马斯克会用它做的事情将是一个巨大的倒退，并对世界造成普遍损失。

令人难以置信的是，该视频前面的所有内容都有一个很好的类比。一开始，安德森播放了他一周前对马斯克进行的一段录音采访（当时他们不确定他是否能够亲自参加）。而在那次采访中，安德森指出，马斯克五年前曾向安德森预测，特斯拉将在当年实现全自动驾驶，但显然没有实现。马斯克开玩笑说他并不总是对的，并解释说他现在才意识到无人驾驶人工智能的问题有多难，他谈到每次它似乎在向前发展时，它都会遇到意想不到的天花板。

一个简单的事实是，处理人性和人类交流比教汽车如何自动驾驶要复杂得多。并且没有完美的解决方案。在内容审核中没有“耶！我们成功了”的时刻。因为人类是复杂的，也是不断变化的。像 Twitter 这样的平台上的内容审核就是要认识到这种复杂性并找出处理它的方法。但马斯克似乎将其视为与自动驾驶相同的挑战——如果你向它提出足够多的想法，你就会神奇地解决它。但是，更糟糕的是，他没有意识到在这个领域工作多年的人一直在让曲线朝着正确的方向移动，直到撞到某种天花板。