张鸿茹 腾讯研究院研究员
2026年3月15日，央视315晚会揭开了一条令人不安的产业链1。业内人士在电商平台花几十元购买了一款名叫“力擎GEO”的优化软件，输入这款纯属虚构的“Apollo-9智能手环”的信息，系统自动生成了十余篇软文，包括8篇专家测评、2篇行业排名、1篇用户评价，然后一键发布到多个自媒体平台。
两小时后，在5款主流AI大模型中询问“Apollo-9智能手环怎么样”，AI已经开始热情介绍这款产品，连那些荒谬的虚构卖点都被原封不动地保留了。
三天后，当搜索“国内智能手环”这样的通用问题时，有两款AI大模型已经将这款不存在的手环推荐到了榜单前列。
从无到有，从虚构到被AI认证，只需要几十元、几篇软文、几小时。
这不是一个关于AI够不够聪明的故事，这是一个关于我们如何被自己对答案的信任所劫持的故事。
从十条蓝链到一个答案
在讨论GEO之前，我们需要先看清一个更深层的变化——我们获取信息的方式正在经历一次范式跃迁。
回想搜索引擎时代，信息获取是一个主动筛选的过程。用户输入问题，屏幕返回十条蓝色链接。用户需要逐一点开、比较来源、交叉验证，最终形成判断。这个过程繁琐且耗时，但十条结果是素材，判断权始终掌握在人的手中。
AI搜索时代的认知模式截然不同。用户提出问题，AI直接返回一个答案，不是十条链接供你挑选，而是一段经过整合的、语气确定的、带有百科全书式权威感的文字。
这背后的机制值得拆解。AI本质上是一个极速综述写作者，将互联网上的信息聚合、压缩、重组后输出。学术界有一个尖锐的比喻叫“随机鹦鹉”2，即AI并不理解自己在说什么，而只是在统计意义上模仿人类说话，根据学习过的内容给出一个“最像正确答案”的输出。
这个转变的代价不易察觉。心理学家卡尼曼将人类思维分为两套系统3：系统1（快速、直觉、自动化）和系统2（慢速、理性、需要付出努力）。搜索引擎的十条蓝链迫使我们启动系统2——比较、筛选、判断；AI的单一答案则直接接管了这个过程，让用户停留在了系统1——直接、确定、省力。
图1 搜索引擎时代和AI搜索时代的认知模式对比
搜索引擎给我们十个选择，AI给我们一个答案。选择让人疲惫，答案让人安心，也让人沉迷。这不是因为用户变懒了，而是AI恰好顺应了人类认知中阻力最小的那条路径。
这种认知模式的转换在调研中亦有印证：93%的中国网民属于高认知闭合需求的群体4，即倾向于快速接受一个明确、确定的答案，而非在不确定性中持续探索。而且18-24岁的年轻人认知闭合需求最高，他们正是AI原生一代。
换句话说，人们本来就渴望一个确定的答案，AI精准地满足了这种渴望。
问题不在于AI给出了答案——这本身是技术进步。问题在于，当答案可以被操控时，我们刚好处于最容易相信它的状态。
污染从上游开始
生成式引擎优化（Generative Engine Optimization，GEO）这个概念最早出现在2023年普林斯顿大学、佐治亚理工学院和印度理工学院联合发表的一篇论文中5。研究者发现，通过特定的内容优化策略，可以系统性地提升信息在AI回答中的被引用概率，提升幅度最高可达40%。
学术界把GEO当作一种新的信息可见性研究，但市场嗅到的是另一种可能。
GEO在本质上做的事情，和SEO有一个共同逻辑：通过优化内容来提升可见性。正当的GEO技术包括使用结构化标记、引用权威数据、提升语义与用户提问的匹配度，这些手段的目标是让真实、优质的信息更容易被AI检索到，本身无可厚非。
但315曝光的“力擎GEO”展示的是光谱的另一端。它不改变AI的模型，不入侵AI的系统，甚至不需要任何黑客技术，只做一件事——大量制造看起来像真实信息的内容，投放到AI会抓取的平台上，等待AI把这些信息内化成自己的回答。
要理解GEO为什么奏效，需要理解当前AI搜索的技术架构。主流AI搜索产品普遍采用检索增强生成（Retrieval-Augmented Generation，RAG）架构：AI先从互联网上检索相关内容，对结果进行排序和筛选，再基于检索到的信息生成回答。这个“检索—排序—生成”的流程中，每一个环节都可以被优化，也都可以被操控。GEO恰恰利用了这一点，通过在AI的检索范围内大量投放经过精心优化的内容，影响排序环节的判断，最终改变生成环节的输出。
图2 RAG架构与GEO操控原理
严格来说，AI判断的是共识，即哪些信息在多个来源中被反复提及。就像学术论文靠被引用次数建立权威，AI靠信息出现的频率和分布来推断可信度。当大量的内容都在说同一件事，AI就会倾向于将其视为事实。
而“随机鹦鹉”恰恰就是在忠实地重复这个共识，哪怕这个共识是被批量制造出来的。
315曝光的“力擎GEO”系统展示了这条链路的完整运作：自动生成软文、自动发布到自媒体平台、AI抓取这些内容、AI在回答用户问题时引用这些内容。高级版套餐一年可以自动生成超过23000篇文章，平均每天63篇6。
GEO不是搜索引擎优化（Search Engine Optimization，SEO）的翻版，而是一次颠覆性的代际升级。
SEO操控的是“你看到什么”。它让某个网页排在搜索结果的第一位，但用户依然看到的是一个网页，依然需要自己点进去阅读、判断。商业意图是透明的，人们知道这是一个网站在争取注意力。
GEO操控的是“你相信什么”。它让某条信息被AI引用，然后以AI“自己的判断”的面目出现在你面前。商业意图被完全隐藏了，用户看到的不是一个广告，而是AI输出的看似客观中立的回答。
图3 SEO和GEO的差异对比分析
中间多了一层AI背书，这层背书的信任溢价是巨大的。
事实上，AI时代的信息生态已经进入了一种“概率真相”的状态7：内容的真假不再是非此即彼的二元判断，而是一个概率问题。
如果说“概率真相”是AI时代信息生态的第一重挑战，那么GEO带来的是第二重挑战：概率本身可以被购买。
当真实性变成概率，而概率可以被人为操控时，我们面对的就不只是一个认知问题，而是一个系统性风险。
为什么这一次不同
有人会说，虚假信息不是什么新鲜事。从报纸时代的假新闻到互联网时代的谣言工厂，信息操控一直存在，GEO无非是新瓶装旧酒。
SEO的历史也许能帮助我们理解今天正在发生的事。
搜索引擎诞生之初，就有人研究如何让自己的网页排名更靠前。行业很快分化出两条路线：“白帽SEO”通过优化网站结构、提升内容质量来争取排名，本质上是让好内容更容易被找到；“黑帽SEO”则靠关键词堆砌、隐藏文字、制造垃圾外链等手段欺骗算法。二者用的都是搜索引擎优化技术，但一个是在信息效率的框架内工作，另一个是在破坏信息生态。
搜索引擎花了近二十年，才建立起相对成熟的甄别和惩罚机制。从Google的PageRank到Panda、Penguin算法更新，本质上都是在回答同一个问题：哪些优化是正当的，哪些是操控？
GEO面临的，是同一个问题的升级版。
GEO本身只是一项技术，通过优化内容结构和分布策略，提升信息在AI回答中被引用的概率。和SEO一样，GEO既可以被用来制造虚假背书、操控公众认知，也可以被用来帮助真实、优质的信息更高效地被发现。技术本身不分善恶，关键在于使用它的人和目的。
问题在于，GEO的灰色地带比SEO大得多。
搜索引擎的排名算法虽然复杂，但其逻辑是可审计的——可以分析排名因子、检测异常链接、追踪关键词堆砌。
而AI的引用判断几乎是一个黑箱。哥伦比亚大学Tow数字新闻中心2025年的一项研究测试了8个AI搜索工具的1600次查询，发现ChatGPT在200次测试中有134次将文章来源张冠李戴，Grok-3的200条引用中154条链接指向错误页面，即便出版商与AI公司签有内容授权协议，也无法保证被准确引用8。换言之，AI选择引用谁、不引用谁，目前既不透明、也不一致，连AI的开发者都未必能完整解释其决策逻辑。
SEO时代，搜索引擎至少可以通过算法迭代逐步压缩黑帽空间。GEO时代，连“什么算黑帽”都很难定义。
这里有一个值得深思的问题：当所有的内容都在为“被AI引用”而优化时，好的提升和恶意操控之间的边界在哪里？当AI的回答不再反映信息的真实分布，而是反映谁在优化上投入了更多资源时，AI搜索究竟是公共信息服务，还是已经变成了另一种形式的竞价排名？
守护真相的入口
面对GEO带来的挑战，仅靠个体的警觉远远不够。当AI本身就是查证工具，而AI的回答已经被污染，用户能查到的真相可能只是另一层精心设计的谎言。应对系统性的信息操控，需要系统性的免疫机制。
第一个层面是技术防线。
好消息是，AI搜索产品已经在行动。Perplexity将逐句引用做成了核心卖点，ChatGPT Search和Google AI Overviews也在不同程度上提供信源链接，信源标注正在成为行业标配。但正如前文提到的，当前的标注质量参差不齐，这些问题说明信源标注只是第一步，更关键的技术挑战在于如何让AI的引用决策本身变得更准确、更可验证。
这意味着AI搜索需要在底层能力上持续进化：提升信源匹配的精准度，建立来源可信度的评估机制，让用户可以一键回溯原始内容并核实上下文。当AI的每一句话都经得起追溯和验证时，GEO的操控成本将大幅上升，因为操控者不仅要制造虚假内容，还要制造经得起技术审视的虚假来源链条。
第二个层面是规则适配。
2026年1月，国家市场监督管理总局已将AI生成广告列为互联网广告监管重点9，释放了明确的信号。文件提出聚焦直播电商广告、引证广告、AI生成广告等领域进行整治。
而GEO带来的挑战可能比AI生成广告更复杂，因为GEO制造的不是有明确标识的广告，而是看起来像客观信息的广告。面对传统广告，消费者知道自己在看商业推广，而GEO则彻底模糊了广告与信息的边界。当AI推荐一款产品时，用户无法判断这是基于真实信息的客观分析，还是被操控的商业推广。
如何界定通过操控AI回答实现的商业推广、如何区分正当的信息优化与隐性广告行为，这些都是值得行业与各方共同探索的新课题。
第三个层面是认知升级。
在搜索引擎时代，我们逐渐培养了“搜商”，知道如何搜索、如何筛选结果、如何判断网页的可信度。在AI搜索时代，我们需要培养一种新的信息素养，不妨称之为“问商”，即知道如何向AI提问，以及更重要的，知道如何质疑AI的回答。
“问商”可以分解为几个具体的习惯：
- 看来源，AI的回答有没有引用，还是凭空生成的？
- 多问几次，在不同的AI模型之间做对比，交叉验证答案的一致性。
- 问“为什么”，不只看AI给的结论，还要看解释依据和推理过程。
- 换视角提问，用不同的措辞、不同的立场重新提问，观察AI的回答是否稳定。
这些习惯的底层逻辑是一致的：把AI从“答案的来源”降格为“线索的来源”。
好消息是，公众并非从零开始。在社交媒体时代，很多人已经养成了面对可疑信息时主动查证的习惯。我们需要做的，是将这种习惯从“面对可疑信息时偶尔启动”，升级为“面对AI回答时常态化运行”。
在搜索时代，我们需要“搜商”来筛选信息。在AI时代，我们需要“问商”来质疑答案。
信息污染不是互联网时代的发明，更不是AI时代的专利。从口口相传到印刷术，从电报到电视，从搜索引擎到生成式AI，每一代信息技术都催生了与之匹配的信息操控手段。
信息污染不会消失，它和人类对信息的需求一样古老、一样持久，但它也不会完全走向无序。
AI给我们的最大礼物，不应该是一个漂亮的答案，而是一个更好的问题。如果我们因为有了AI而停止追问，那我们失去的，不只是判断力，更是在这个不确定的世界里，作为一个独立思考者的基本尊严。
答案是一种舒适，追问是一种能力。在GEO试图出售答案的时代，守住追问，就是守住自己。
参考文献
[1]315晚会，《谁在给AI“投毒”》，中央广播电视总台，2026年3月15日。
[2]Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), 2021.
[3]Daniel Kahneman, Thinking, Fast and Slow, Farrar, Straus and Giroux, 2011.
[4]腾讯研究院、腾讯新闻，《腾讯新闻较真十周年辟谣白皮书：十年辟谣之路——从信息净化到信任重构（2015-2025）》，2025年12月。数据来自腾讯研究院T-ask平台2025年发起的一项调研，样本为1181名中国网民，通过15道五分制李克特量表题测试了调研对象的认知闭合需求。认知闭合是个体的认知特质，简单来讲，就是相比混乱与不确定，更倾向于给问题寻找一个明确答案。高认知闭合侧重自上而下综合既有信息，在生成与检验假设过程中采用启发式思维达找寻答案；低认知闭合偏好自下而上分析新讯息，在推断与验证结论期间采取分析式思维验证答案。
[5]Pranjal Aggarwal, Vishvak Murahari, Tanmay Rajpurohit, Ashwin Kalyan, Karthik R Narasimhan, Ameet Deshpande, GEO: Generative Engine Optimization, arXiv preprint arXiv:2311.09735, 2023.
[6]云鹏，《315曝光AI大模型“投毒”黑产，39.9元篡改AI答案》，36氪，2026年3月16日。
[7]腾讯研究院，《拥抱概率真相——AI时代谣言套路拆解与防御指南》，2025年7月。
[8]Klaudia Jaźwińska, Aisvarya Chandrasekar, AI Search Has a Citation Problem
, Columbia Journalism Review (Tow Center for Digital Journalism), March 6, 2025.
[9]国家市场监督管理总局，《2026年全国广告监管工作要点》，2026年1月29日。
转载请注明：好奇网 » AI不会撒谎，但会转述谎言