搜索中的偏见：可见性，感知和控制

搜索中的偏见并不总是负面的。很容易将其作为险恶的东西，但是出于结构原因，行为原因，有时是故意的选择而出现偏见。营销人员和传播者的真正任务是认识到它何时发生，这对可见性，感知和控制意味着什么。

最近的两篇文章让我对此更深入地思考。首先是Dejan对选择率（SR）的探索，该探索强调了AI系统如何偏爱某些来源而不是其他来源。第二个是比尔·哈泽尔（Bill Hartzer）即将出版的书《投票上的品牌》（Brands On The Dable），该书在当今的两极分化市场中介绍了非中立品牌的概念。组合在一起，这些表明了偏见不仅不仅融入算法中。在观众如何解释品牌方面，这也是不可避免的。

选择率和主要偏见

选择率 可以将其视为从可用选项中选择源的次数的百分比（选择选项×100）。这不是正式的标准，而是一种说明AI检索中主要偏见的有用方法。 Dejan指出，当提出AI系统的问题时，它通常会从多个接地来源中提取。但是，并非所有来源都是平等选择的。随着时间的流逝，有些人一次又一次被选中，而另一些则几乎没有出现。

这是工作中的主要偏见。

对于营销人员而言，这意味着很明显：如果您的内容很少被选为接地来源，那么您在AI的输出生态系统中实际上是看不见的。如果经常选择，您将获得权威和可见性。高SR成为一个自我强化信号。

这不仅仅是理论上。诸如困惑，Bing Copilot和Gemini等工具均表现出答案及其来源。频繁的引用可以增强品牌的知名度和感知权威。研究人员甚至创造了一个反馈循环如何锁定优势的术语： 神经how叫。在LLM中，某些高加权输入可能会变得根深蒂固，即使引入了新的培训数据或实时提示，也会产生对校正具有抵抗力的响应模式。

这个概念并不新鲜。在传统搜索中，较高的页面获得了更多点击。这些点击将参与信号发送回系统，这可以帮助维持排名的位置。这是相同的反馈循环，只是通过不同的镜头。 SR不会产生偏见；它揭示了这一点，以及您是否受益取决于您的结构如何首先要检索。

品牌和解释的现实

选票上的品牌 将其视为非中立品牌：公司无法避免被解释。大小的每个决定都被视为信号。这是在感知层面上的偏见。

我们不断看到这一点。当耐克（Nike）以科林·卡佩尼克（Colin Kaepernick）为特色时，有些人则忠于忠诚度，而另一些人则公开削减了联系。当Bud Light与反式影响者合作时，反弹占据了国家新闻。迪士尼与佛罗里达政客在文化政策方面的纠纷成为一夜之间的企业认同故事。

这些都不只是“营销活动”。每个人都被视为一种文化立场。即使是似乎运作的决策（您在哪些平台上进行了广告宣传，您接受的赞助商，您选择的供应商）也被解释为对齐的信号。

中立不再是中立的，这意味着公关和营销团队都需要计划解释作为日常现实的一部分。

定向偏见是有用的镜头

营销人员已经通过ICP定位和定位来实践故意排斥。您决定要与谁联系，并通过扩展为您不这样做。那不是新的。

但是，当您通过偏见的视角查看这些选择时，它会提高重点：定位是有意图的偏见。它不是隐藏的。这不是偶然的。这是一个故意的焦点缩小。

这就是导演偏见的想法。您可以将其视为描述ICP定位或市场定位的另一种方式。这不是学说，只是镜头。以这种方式命名的价值是，它将营销人员已经将所做的事情与有关搜索和AI系统如何编码偏差的更广泛的对话联系起来。

偏见不仅限于品牌或人工智能。多年来，我们知道搜索排名可以塑造行为。

一项2024年的PLOS研究表明，简单地改变结果的顺序可以将意见转移多达30％。人们更信任更高的结果，即使基础信息是相同的。

过滤器气泡扩大了此效果。通过基于历史记录来量身定制结果，搜索引擎可以增强现有视图并限制接触替代方案。

除了这些行为偏见之外，结构性偏见。搜索引擎奖励新鲜度，这意味着网站被爬行和更新的频率经常会在可见性方面获得优势，尤其是对于时间敏感的查询。乡村代码顶级域（CCTLD）之类的诸如.fr或.jp之类的范围可以向区域相关性，从而使它们偏爱本地化搜索。然后是受欢迎程度和品牌偏见：即使他们的内容不一定更强，既定或值得信赖的品牌也通常受到青睐，这使得小型或更新的竞争对手更难突破。

对于市场营销和公关专业人员，本课程是相同的：输入偏见（有关您的数据）和处理偏见（系统如何排名和呈现）直接塑造观众认为是真实的东西。

LLM输出的偏差

大型语言模型引入了新的偏见层。

培训数据很少平衡。某些群体，声音或观点可能会过分代表，而另一些则缺失。这塑造了这些系统给出的答案。提示设计添加了另一层：确认偏差和可用性偏差可能取决于提出问题的方式。

最近的研究表明，这会变得多么混乱。

• 麻省理工学院的研究人员发现，即使送入LLM的文件顺序也可以改变结果。
• 2024年的自然纸将在LLM中显示出不同类型的偏差分类，从表示差距到文化框架。
• PNAS的一项研究证实，即使在公平调整之后，隐性偏见仍然存在。
• LiveScience报道说，较新的聊天机器人倾向于过分简化科学研究，并掩盖关键细节。

这些不是边缘发现。他们表明，AI中的偏见不是边缘情况。这是默认值。对于营销人员和沟通者来说，关键不是要掌握科学。要理解，如果您不首先塑造出来的内容，则输出可能会歪曲您。

将线程拉在一起

选择率 向我们显示AI检索系统中工作中的偏见。品牌向我们展示了偏见在感知市场中的运作方式。指导偏见是连接这些现实的一种方式，提醒我们并非所有偏见都是偶然的。有时是选择。

关键不是假装偏见不存在。当然，确实如此。它是要认识到它是否被动地发生，还是您正在积极和战略性地应用它。营销人员和公关专家都在这里发挥作用：一个在建立可检索的资产中，另一个在塑造叙事弹性方面。 （PS：AI无法真正代替这项工作的人。）

那你该怎么办？

了解偏见暴露在哪里

在搜索中，通过研究，审核和SEO测试揭示了偏见。在AI中，它是由研究人员发现了具有结构化提示的输出的。在品牌中，它在客户反应中得到了揭示。关键是知道偏见总是显示出某个地方的位置，如果您不寻找它，那么您就缺少有关如何被感知或检索的关键信号。

认识谁隐藏偏见

搜索引擎和LLM提供商并不总是披露选择的加权方式。公司通常会选择中立，即使他们的选择也是如此。隐藏偏见不会消失；它最终浮出水面时，很难解决并产生更大的风险。如果您对自己的立场不透明，其他人可能会为您定义它。

将偏见视为清晰

您无需将定位构成“我们的指示偏见”。但是，您应该承认，当您选择ICP，手工艺消息传递或优化AI检索内容时，您会做出有关包容和排斥的故意选择。清晰度意味着接受这些选择，衡量其影响并拥有您设定的方向。这就是偏见塑造您和您塑造偏见之间的区别。

将纪律应用于您的AI足迹

正如您意图塑造品牌定位一样，您需要决定要如何出现在AI系统中。这意味着以可检索的方式发布内容，以信任标记结构，并与您所需的立场保持一致。如果您不积极管理此问题，AI仍然会为您做出选择；它们只是您无法控制的选择。

要考虑的最后危险

偏见并不是真正的反派。隐藏的偏见是。

在搜索引擎，AI系统和市场中，偏见是默认值。错误没有。错误是让它塑造结果而不意识到它在那里。您可以意图定义偏见，也可以使其偶然。一条路让您控制。另一个使您的品牌和业务受到他人如何决定解释您的怜悯。

这是我在解决这个问题时发生的想法：如果偏见本身可以变成攻击向量怎么办？我敢肯定，这不是一个新的主意，但是无论如何，让我们遍历它。想象一下，竞争对手将足够的内容播种，以一定的角度将您的公司构造出来，因此当LLM将这些输入压缩到答案中时，它们的版本就是显示的。他们甚至不需要直接命名您。只要很好地描述您，系统就可以建立连接。也无需在这里跨越任何法律行，因为当今的LLM确实擅长猜测品牌时，您只是描述了它们的徽标或众所周知的普通语言特征。

令人不安的部分是这种感觉如何。 LLM在传统意义上没有事实检查；它们从可用的数据中压缩模式。如果由于某人故意塑造叙述而歪曲了模式，则输出可以反映出这偏斜。实际上，您的竞争对手的品牌“版本”可能会成为用户何时向系统询问您的“默认”描述。

现在想象一下这是大规模发生的。在线窃窃私语运动不需要趋势就会产生影响。它只需要在足够多种的地方存在，即AI模型将其视为共识。一旦融入回应，用户可能很难找到故事的一面。

我不知道这是实际的近期风险还是只是一个边缘思想实验，但是值得一提的：如果有人试图以这种方式重新定义您的业务，您会做好准备吗？

更多资源：

---

该帖子最初发表在杜安·福雷斯特解码上。

---

特色图像：胶原胶/shutterstock