Algostorm： 算法风暴社交操纵、趋势劫持僵尸网络与政府对策 - E454

Jeremy Au讨论了日益加剧的 "算法风暴"--由算法驱动的不可预测的社交媒体 "天气系统"，算法优先考虑参与而非真相。互联网正从以人为中心、按时间顺序排列的论坛过渡到一个动荡的网络环境，在这个环境中，个人陷入了由僵尸网络、企业和专业影响者操纵的必须讨论的波动趋势中。他还将其与股票市场相提并论，在股票市场上，算法驱动的交易可能会造成闪崩，导致市场迅速下跌和恢复。有些人通过趋势攻击来推动自己的议程，有些人则不自觉地追随似乎是大多数人的意见，而有些人则在真正的人际交往中寻求庇护。他指出，新加坡、印度、缅甸、印度尼西亚、伊朗和孟加拉国等国的政府都采取了行动，对内容平台进行监管，并部署了互联网 "断路器"。承认网络影响的力量，是在数字领域重新控制自己的反应并获得意向性的第一步。

由 Evo Commerce 提供支持！

Evo Commerce 在新加坡、马来西亚和香港销售物美价廉的保健品和个人护理电子产品。Stryv 品牌通过其在线零售渠道和实体店销售沙龙级优质家用产品，并采用直接面向消费者的渠道。bback 是宿醉治疗产品的领导者，在该地区拥有 2,000 多家零售店。了解更多信息，请访问 bback.co 和 stryv.co

(01:09)Jeremy Au：

So I'm using my phone, I'm scrolling. 我在阅读。我在微笑。我在笑。突然，我发现自己有了反应。我感到愤怒，我感到悲伤，我感到担忧，然后，我继续阅读更多关于那件事的内容，然后我越陷越深，时间过得飞快，我意识到好像已经过了一个小时、两个小时了，我还在床上阅读这件事。

这篇东西是一篇新闻报道，或者是一种时事，或者是我正在思考的一些话题。几天后，我发现自己在想，发生了什么？几天前我还在关心这件事，但现在，我完全不关心了。它对我的生活没有影响。它是我读过的东西，但不是真正重要的东西。当我使用互联网时，我发现自己一次又一次地陷入这样的循环中，我开始思考这里到底发生了什么。

我思考的一个方面就是我所说的 "算法风暴"。算法风暴是指社交媒体算法所创造的宏观混乱和不可控的环境，这些算法优先考虑参与，以及其他机器人、有影响力的人在复杂的类似天气的条件下相互影响。风暴的特点是趋势、观点或情绪的快速传播。问题的关键在于，面对似乎代表着大众社会的巨大信息流或观点，个人的能动性和力量都大打折扣。

公众情绪可以迅速变化。病毒式话题可以迅速兴起和衰落。个人被卷入不断变化的叙事旋风中，导致网络氛围动荡不安、难以预测。这类似于我待在家里的感觉。在家里，内心平静，受到保护，是一个安全的港湾。然后我向窗外望去，发现外面正刮着巨大的风暴。我知道天气正在下雨、暴风雨、黑暗。于是，我可以选择是走出家门，走进暴风雨中，所以我最好穿上雨伞、雨衣、雨靴，这样我就不会被淋湿，我可以在雨中漫步，或者我选择待在家里。

问题的关键在于，我不会看着外面说，我可以改变天气，因为我无法改变天气。暴风雨可能会持续一个小时、一整天、几天，可能会有季风或飓风，但我无法改变天气。我可以选择如何应对天气。天气不是由我控制的，而是由一整套复杂因素控制的。这就是我对算法风暴的看法。

那么，为什么会发生这种情况呢？

从历史上看，互联网曾经是一个纯粹的人类世界，只有人类才能上网。每个人都在那里，因为他们支付了拨号上网的费用，他们拨号进入论坛，而论坛过去只是基于文本的，它们都是按时间顺序或逆时间顺序排列的。因此，互联网论坛实际上就是讨论线程，人们会因为关注讨论而获得奖励，因为如果你不关注讨论线程，那么人们就会忽略你。因此，人们可以以线性、按时间顺序排列的方式阅读这些网络论坛讨论，这种方式反映了你我之间的关系史，即如果我今天与我的朋友进行了一次对话，那么这将是过去六年中10次、20次或30次对话中最后一次已知的对话。

然而，如今的社交媒体确实是由注重参与度的算法驱动的。这意味着，如果你和我在互联网上进行了一系列线性对话，那么算法就会根据不同的受众，将我们对话中最有趣的片段切碎并集中呈现出来。因此，正在收听的受众可能会说："哦，我对烹饪很感兴趣。" 因此，当杰里米七年前与朋友讨论烹饪时，这个帖子现在在 Facebook、Instagram 或 TikTok 上得到了提升和升级。这对创作者来说显然是有益的，因为在今天的世界上，有数百万人，我没有办法与任何人进行个性化对话，也没有办法为世界上 1000 个不同的角色量身定制对话。然而，在接收端，当你在一个平台上接收信息时，这个平台会给你提供一个参与度传播的平台，那么他们的工作就是真正地按下许多不同的按钮，确保每一个帖子都能按下你内心的一个按钮。如果你没有按下那个按钮，那么他们就会知道，因为你没有关注，你没有参与，你没有搜索更多的信息。因此，他们会寻找不同的信息，来激发不同的感觉、情绪或问题，因为他们在寻找下一个按钮。因此，这些算法接管了所有基于时间轴的信息源。几年前，Facebook 曾大张旗鼓地说："嘿，我们不再按时间顺序或逆时间顺序提供信息了。我们现在专注于算法馈送。" 我们在 Instagram 上也看到了这一点，过去 Instagram 关注的是你社交网络中的帖子。

当然，现在他们增加了更多来自广告商的广告，但有趣的是，他们决定注入大量你从未听说过的人的帖子。影响者和其他数字创作者，以及在你很远的网络中的人，朋友的朋友的朋友。因为他们觉得，你的旧社交网络产生内容的方式不够辛辣，不足以让你参与到平台中来。从社交媒体的角度来看，这种算法变化是可以理解的，因为他们想让你花更多的时间在一个平台上，而不是花时间在别人的平台上，或者花时间在现实生活中，或者花时间睡觉。我的意思是，我一直记得 Netflix 的首席执行官说："嘿，我们最大的竞争对手不是其他电视网络。最大的竞争对手是睡眠。" 如果你仔细想想，这句话有点搞笑，也有点黑暗，因为他们基本上是在说，我们的工作就是剥夺你与睡眠有关的健康，让你花更多的时间和我们一起看电视和电影，因为我们希望你花尽可能多的时间看电视，而牺牲其他一切。所以，这并不是说，你每天有一小时看电视的预算，然后你把这一小时从普通电视变成 Netflix。现在是 Netflix 与你生活中其他一切的对比，无论是做饭、睡觉还是与朋友出去玩。因此，算法真的是优先考虑参与，并与你生活中的其他一切展开战争。

(07:10)Jeremy Au：

因此，我们为公司和专业化的影响者创造了这套激励机制来分享内容，包括我自己，作为一个分享观点的人，这创造了一种新的规范，你不是在写博客，而只是在创造内容。因此，就我自己而言，很明显，我分享的是长篇内容，我的参与度并不高。这是为那些对这种线性时间顺序感兴趣的人准备的吗？如果你看看最新的病毒式传播趋势，你会发现人们赞助运动鞋广告，以获得病毒式传播的短暂瞬间，这些就是病毒式传播的趋势吗？整个企业、资本主义的货币体系确实在驱使很多人注入新的内容，这些内容的设计非常吸引人。这就造成了在复杂的作品中，突然出现了所有这些过去存在的疯狂的备忘录，但现在它们变得超级病毒式传播，而制作这些备忘录的人，他们中的许多人当然是业余的，但他们中的许多人也是专业的，他们坐下来说：我怎样才能把这变成一个备忘录？我怎样才能把它说得非常清楚？我们看到的最明显的例子就是政治领域，因为有数百万美元的资金在制作专业的帖子，在Reddit上发布，在Instagram上发布，吸引有影响力的人，显然还有很多社区居民出于自己的善意在做这些事情，但其中有很大一部分实际上是由政治产生的。

我们甚至可以在印度选举中看到这种情况，现在深度虚假声音已经得到了候选人的认可和使用。因此，这些官方候选人正在正式付费让人工智能复制他们的声音，因为他们想向每个人、每个选民、每个角色、不同语言、不同地区、不同社区发送个性化的语音信息，他们想实现个性化。因此，另一个方面是，在僵尸网络中，不只是人类在做，也不只是专业人类被收买去做，还有一些机器人被收买去支持、参与，因为他们试图让算法优先考虑他们关注的内容。

我们在俄罗斯僵尸网络中看到了这一点。我们在美国僵尸网络中也看到了这一点。我们在中国僵尸网络中也看到了这一点。但每个人都在试图推动某些议程，因为他们知道这些算法是可以博弈的。而拥有这些算法的社交媒体公司也知道它们正在被游戏化，因此它们有专门的团队来对抗这些游戏。

他们内部有整个团队负责安全和节制，试图防止这些僵尸网络的作弊行为，但这些僵尸网络仍在发挥作用，因为这是一场军备竞赛。因此，这些不同的系统基本上创造了一个非常复杂的在线社会天气系统，在这个系统中，这些不同的事情正在发生，而你基本上无法预测它，这些系统有点像创造这些巨大的趋势，这些趋势似乎可以出现、消失，但它也可以在气候变化方面创造持久的变化，改变我们所关心的基本价值观。

那么，人类对算法风暴的反应是什么呢？正如我之前提到的，许多人会退缩到一个更小、更可控的环境中，比如家里，亲自参与真正的人际交往，而不会去理会社交媒体上正在发生的天气变化。你可以想象一下，一个农民在农村，他并没有真正关注所有这些趋势，也不知道这个月总是有关于这件事的愤怒，世界上那个地方发生了冲突，世界将被毁灭，等等等等。他们只是说，"你知道吗，我们还是把注意力放在家庭和朋友身上吧，放在我可以控制的事情上，比如我的事业、我的农业、我的小微环境，这些都是我可以控制的"。

我想说的是，这可能是少数，而不是大多数。大多数人都在无意识或半无意识地遵循着看似多数人的意见。现在，多数人的意见并不意味着你支持什么。也不是因为你反对什么，但多数人的意见就是你必须对那件事有自己的看法。这件事可能是我提到的美国大选。也可能是政治危机或军事冲突，但每个人都必须有自己的看法。而且，如果你仔细想想，50 年前，在互联网出现之前，你只是对它没有意见，因为你不了解它。现在，我们并不是说你不应该了解一些事情，但我认为，我们必须深思熟虑，哪些事情是我们可以控制的，哪些事情是我们真正有发言权的，而有很多事情是我们没有发言权的。

(11:22)Jeremy Au：

从众的棘手之处在于，你可能会认为自己不是从众的一部分，因为你反对从众。比如说，"哦，这部电影上映了，大家都在看《权力的游戏》或这部电视剧"。所以每个人都会说 "好吧，大家对此都有自己的看法" 我喜欢 我看了 太精彩了。我可以分享其中的信息，或者我不想看，但最棘手的是，在人群中，你必须谈论它。你必须围绕它说话吗？你不能不对观看节目有自己的看法。你要么支持它，要么反对它，要么对它一无所知。这种趋势的存在就像一场游戏，人们已经被划分成不同的派别。

有些人对算法风暴的反应就像他们对风暴的反应一样，那就是他们会利用算法风暴来推动自己的议程，就像有些人在航海或冲浪时会利用天气来推动和加快速度一样。他们会让自己与流行话题保持一致。这是我们在营销中使用的一个术语，叫做 "趋势劫持"。它的基本意思是，在新趋势出现之前发现趋势，然后顺势而为。我们都还记得那个古老的挑战--"冰桶挑战"的病毒血症，就是你把一桶冰倒在自己身上，然后拍下自己做这件事的过程，接着你会说出其他几个应该做这项挑战的人的名字，然后他们自己也会做这项挑战。那是你能想象到的为数不多的有不同公司和不同人劫持潮流的事件之一，他们追随潮流，推动潮流，为某些事情鼓与呼，而现在我们看到了许多类似的事件，公司等试图在社交媒体对话中占据上风，试图劫持潮流，或在许多方面试图冲浪算法风暴。

那么，算法风暴未来将如何发展？我们已经有了很好的例子。例如，如果你看看股票市场和一种被称为闪电崩盘的东西。因此，如果你看看股票市场，现在大部分交易量都是算法驱动的。现在，显然有很多人在参与这个过程，但他们不可能一直在办公桌前。因此，他们所做的就是建立算法，基本上展示和执行他们的训练策略。他们有特定的规则，对吧？如果出现这种情况，就这么做。算法反映了人类的策略，但也有高频交易者希望减少套利，对吧？

所以他们会说，如果我发现有人以 50 美分的价格卖出，但有人想以 52 美分的价格买入，我就会在那一瞬间，基本上以 50 美分或 51 美分的价格买入，然后以 52 美分的价格卖出。但从根本上说，这就像是在尽可能地缩小价差，以避免市场效率低下。因此，这就在市场上创造了大量的交易量，如果你在公开股票市场上交易，坦白说，作为散户投资者，你实际上是少数。现在，大部分交易量都是由反映人类的机器人或反映某些策略的机器人完成的，而这些策略确实是以机器人为中心的。因此，我们现在看到的是闪崩现象，即以某种方式进行交易时出现的情况。有时可能是一个错误。也可能是某种政治新闻，但基本上发生的情况是，这些规则触发后，它们真的不知道该做什么。因此，它们往往只是停止、暂停或取消。于是，所有的流动性都停止了流动，因为它们不再交易了。这就造成了剧烈的波动，例如，股票市场价格可能在几秒到几分钟内跌到很低很低的价位。

然后，人类散户交易者就会被卷入其中，然后他们就会收到 "叮"、"乒"、"通知 "或 "消息"，然后他们就会急忙回到手机前，试图搞清楚发生了什么。然后，散户投资者就会迷失方向，无所适从。然后，我们经常看到，也许会出现快速回升，因为这些机器人和人类必须意识到，嘿，这是一次非理性的暴跌，例如，证券价格的暴跌。因此，现在是买回该证券价格并弥补套利的大好机会。但闪崩也相当有趣，因为它确实会给不使用机器人的普通人带来巨大损失。从某种程度上说，现在的游戏不再是人类的游戏，而是主要由机器人驱动的游戏。你无法想象一群人类在几秒钟内迅速协调，一致同意联合卖出，对吧？有趣的是，实际上有玩家试图煽动闪崩，因为他们知道这些机器人行为确实存在。因此，这就存在一个有趣的套利机会，那就是，如果你能引发别人搞砸，导致股市价格暴跌，那么你就有机会了。因此，这有点像攻守双方的博弈和反博弈。

因此，所有这些事情都相互作用，例如，当局现在有了断路器。这意味着，当局基本上可以说，如果股票市场价格在很短的时间内下跌，比如说，低于10%或20%，或者其他百分比，不管是5分钟、10分钟还是30分钟，但他们希望在股票超时的地方安装断路器。因此，他们将该股票从交易中移除，因为他们希望每个人都回来。他们希望人们处理新闻。他们希望人们有足够的时间坐下来讨论新闻。然后希望当他们重新开放该股票的交易时，股票会回到正常的定价模式。

(16:17)Jeremy Au：

我们还看到，股票市场也在试图监管和真正管理是否允许这些高频交易者直接进入股票市场交易所，因为他们不希望创造出太不对称的不公平优势，同时也因为他们明白，这是高频交易的不幸副作用之一。这与舆论市场形成了有益的平行关系，因为现在我们看到，这些社交媒体趋势正在迅速传播。它们的保质期只有一周或两周，而且会一波一波地推动公众舆论。如果人们不得不对这些流行话题做出反应并形成观点。然后在几周之内，数字焦点就会转移到下一件大事上。那个在Reddit上非常重要的病毒式备忘录，或者其他什么东西。它不再是焦点，而之前的问题现在也被遗忘了。很多事情都是社会性的，或者实际上是无害的。曾几何时，人们在争论一件衣服是什么样子，是蓝色还是金色。有一个大的备忘录，人们都在讨论这个问题。而现在，我觉得很多年过去了，根本没人在乎这个问题。它就像是网络历史的垃圾桶。现在回想起来，我肯定花了不少神经元去嘲笑它，和朋友们讨论它。

而现在，它就像一文不值，对我的生活毫无影响。所以，这只是一个无伤大雅的病毒式流行语，只是浪费了很多人的时间。所以我们看到的是，政府担心这些东西会造成大量不稳定因素，可能是政治或社会运动。因此，政府正试图增加对社交媒体平台的管理权和惩罚措施，以加强对社交媒体平台的控制。但同时，为了保持控制，他们甚至不惜关闭互联网，有点像极端版本的断路器，不管是好是坏，这取决于你如何看待它。

例如，在新加坡，就有《POFMA》，即《防止网络虚假信息和操纵法》，其既定目标是从政府的角度打击假新闻。它非常要求那些传播某些他们认为是假的东西的供应商或人，基本上，他们必须发布政府的反驳，并阐明他们已受到该法案的制裁。

在马来西亚，《通信和多媒体法》（Communications and Multimedia Act, CMA）允许封锁政府定义的有害网络内容。在印度、缅甸和印度尼西亚，他们都颁布了互联网封锁令。例如，印度在查谟和克什米尔地区实施了互联网封锁。缅甸实行互联网封锁以控制信息。印尼在政治逮捕期间关闭了互联网，比如2019年巴布亚和西巴布亚的抗议活动。2019 年，伊朗关闭互联网整整一周。2024 年，孟加拉国也曾关闭互联网，后来最终恢复了移动互联网，但没有恢复社交媒体。可以想象，网络关闭是否会损害数字权利和表达自由，尤其是在涉及互联网的时候，这一点一直备受批评。因此，算法风暴不仅仅是旨在操纵参与度的算法，也是人类在社交圈中互动的事实，其规模比过去要大得多。

(19:09)Jeremy Au：

所以有趣的是，算法风暴不仅仅是用来操纵参与度的算法。它们也是社会大众的策展人和守门人，他们以一种前所未有的方式相互交流。从生物学上讲，人类的天性就是与自己、与朋友、与家人、与部落、与村庄交谈。而只有在过去的 50 年里，人们才能与世界上的每一个人交谈。当你在网上发言或发帖时，你的影响力可能会覆盖全球数百万或数十亿人。因此，这些算法就像一面镜子，不仅能调节和塑造社会，还能反映社会其他成员的想法。

当然，算法风暴与舆论风暴之间的细微差别在于，算法风暴在多大程度上反映了人类的真实想法和共识。如果人类社会100%的人都想吃夏威夷披萨，而算法基本上帮助增强了其中的一部分，但它准确地反映了那里100%的人都想吃夏威夷披萨的意见，那么你就不会称其为算法风暴。这只是一场舆论风暴，所有人都突然要求吃夏威夷披萨。算法风暴产生的原因在于，如果只有 5%的人真正关心夏威夷披萨，而其他人都不关心，但算法风暴却让你从个人消费的角度，切实感觉到社会上 95% 的人都喜欢夏威夷披萨，或者说你突然不得不关心这个问题。换句话说，当算法真正扭曲了人类社会和公众舆论的反映时，我认为这才是算法风暴真正具有最怪异、最负面形式的时候，因为我认为当算法试图向你推送你并不关心、社会上也没有人关心的信息时，算法试图触发你的信息其实是非常明显的，我认为当算法风暴在一定程度上反映了人们对社会的一些看法并使其成为当时最热门的事情时，它才是真正最有效的算法风暴。

(21:04)Jeremy Au：

因此，我们无法控制的这种算法宏观天气是，今天的互联网，如果你正在看手机，你可能会觉得手机比你小，你是手机上按键的那个人。但实际上，手机要大得多，因为它是一个巨大的天气系统。而在桌子的另一边，你并没有按下按钮。而是由工程师和商业团队设计的算法在按你的按钮。因此，我个人对此的反思是，每当我在手机上阅读东西时，很明显，那里有太多的力量、太多的信息、太多的学问，但当我发现自己对某种趋势、感觉、情绪做出反应时，我必须告诉自己，这会影响我的生活吗？一年后我还会记得这个事件或趋势吗？我为什么要读这个？我尊重的人关心这组新闻吗？这些都是至关重要的问题，我们必须在对某件事情做出反应之前，先暂停一下。

总之，要驾驭当今的算法风暴，确实需要暂停的意识和批判性思维，时不时地真正断开连接，重新与个人自我建立联系。我们必须放弃传统的观点，即我们是按下手机按钮的人，我们从手机中获取信息，我们对信息做出反应，我们对信息进行处理、学习并采取行动。我们必须反过来看待手机，它是一个充满僵尸网络和企业利益的复杂社会的天气系统。这个天气系统正在接触手机，触碰我们的按钮。

我们不想让算法像钢琴一样弹奏我们的情感。我们必须退一步，我们必须为自己着想。我们必须寻求真正的人际互动。我们必须质疑数字噪音。我们必须记住，随着时间的推移，这些算法风暴只会变得越来越强大，因为有了更好的算法、更专业化的内容，以及更多的多个主题的连接，有了个性化结构的深层信息网，互联网比你更了解你自己。

因此，无论何时听到互联网的声音，都要保持勇敢、冷静，并思考自己的感受。

在此，非常感谢大家参加今天的节目。请订阅勇敢播客。欢迎给我们评分或留言评论，并关注我们的网站 www.bravesea.com，了解更多见解和讨论。