搜索引擎的市场格局已经有二十年没有什么大的变化，如今，Google和微软两大巨鳄的交锋再度上演。ChatGPT风靡之时，搜索成为大型语言模型（LLM）应用之争的最大战场。在LLM技术进程方面，Google的相关大模型研发实际上与OpenAI的ChatGPT差不多齐头并进。但刚刚仓促推出的Bard显得很被动，Google官方的解释是，他们需要考虑新技术对社会的影响，不想推出一个漏洞百出的搜索系统。不过，作为商业公司，任何行为的背后都要考虑经济成本。要知道，搜索中广告市场份额的1个百分点的变化，都可能带来至少数亿美元营收上的幅度波动。Google要将应用效果还不是很好的LLM作为基础技术，引入到全球市场占比92%的搜索引擎业务中，如果没有外部对手发起的强大挑战，很难进行大胆革新。另一方面，自我革命是一件严重违背人性的事，更何况大厂还有所谓的“大企业病”，畏首畏尾在所难免。这恰好是微软Bing的可乘之机，全球市场份额目前占比不到3%，历史包袱很小，New Bing要推出的消息让Google急不可耐。ChatGPT的用户已经到1亿了，可想而知，如果Google搜索这次不跟LLM，还是按照自己的节奏去逐步更迭，其搜索业务的老底存在被倾覆的巨大风险，要是Google跟了LLM，要承受用户体验不佳的风险，还必须得在已有搜索成本上大出血——大约还要支出300亿美元的成本。当然，Google与微软双方高层比任何人都清楚这一点，只是前者更多是焦虑不安，后者则是兴奋不已。综合考虑风险后，Google只能硬着头皮迎战，于是就有了Bard。Bard的意思是“流浪诗人”，根据百度的结果，这类诗人通常行事半调子而不拘小节，样样通而样样松，还别说，这个作风倒是挺符合现在LLM模型目前的能力特质。相较之下，微软New Bing现在像是个牛气哄哄的“拼命三郎”，就想干一票大的，毕竟在某种程度上，Bing已经没什么可失去的了，而且这次很可能还要触底反弹。那么，ChatGPT究竟会如何影响现在搜索架构以及相关业务成本？此前，OneFlow发布了《ChatGPT背后的经济账》，文章从经济学视角推导了训练大型语言模型的成本。本文则从LLM搜索架构和成本分析出发，探讨了微软Bing和OpenAI利用大型语言模型 (LLM) 对搜索业务的潜在颠覆性，并分析了LLM在搜索中的演进和发展情况。（以下内容经授权后由OneFlow编译，译文转载请联系OneFow获得授权。原文地址：https://www.semianalysis.com/p/the-inference-cost-of-search-disruption）