解码AI市场：头部企业制定AI策略的关键考虑

去年，消费者热衷于与AI伙伴互动和创作内容，而企业对生成式AI的应用还相对有限，主要集中在几个明显用例和推出基于GPT的产品。对此，有人质疑生成式AI在企业中的扩展潜力和商业价值。然而，近几个月著名投资公司Andreessen Horowitz与几十位财富500强企业和顶级企业领导者进行了交谈，他们的调查显示，企业对生成式AI的态度和投资已显著转变：预算增加，用例扩展，更多项目进入生产阶段。

这一转变为AI初创公司提供了巨大机遇，特别是那些能够预见企业痛点并构建可扩展产品的公司。了解企业客户的预算、关注点和发展规划对于把握市场脉动至关重要，我们总结了Andreessen Horowitz与企业领导者对话中发现的关于资源配置、模型选择和用例实施的16个关键考虑点，以帮助创始人和AI高管更好地理解市场动态并制定战略。

2023 年，Andreessen Horowitz采访的数十家公司在基础模型 API、自托管和微调模型方面的平均支出为 700 万美元。此外，采访的几乎每一家企业都看到了生成式AI实验的有希望的早期结果，并计划在 2024 年将支出增加2倍到 5 倍，以支持将更多工作负载部署到生产中。

去年，企业在生成式AI上的投资主要来自于专门设立的“创新”基金和其他临时性资金，这是意料之中的事。但到了2024年，情况有了显著变化，许多企业领导者开始把这部分资金转向长期软件项目预算。如今，不到四分之一的企业表示他们的生成式AI开支仍会来自创新预算。此外还观察到，一些企业开始利用生成式AI来减少人力成本，特别是在客户服务方面。这种趋势如果持续下去，预示着企业在未来对生成式AI的投资可能会大幅增加。举个例子，某公司通过使用大语言模型（LLM）驱动的客户服务，每个电话能节省大约6美元的成本，总体上实现了约90%的成本节约，这促使他们决定将对生成式AI的投资额增加到原来的八倍。

以下是各组织如何分配其大语言模型（LLM）支出的总体细目：

企业领导者目前主要通过AI带来的生产力提升来衡量投资回报率。他们虽然用NPS和客户满意度这样的指标来衡量，但也想找到更直接的方法，比如能不能多赚钱、节省成本、提高工作效率和准确性，这得看他们具体怎么用。目前，企业领导者们还在摸索怎么用这项新技术并寻找最好的评价方法，但在未来两三年，投资回报率会变得越来越关键。虽然他们还在找答案，但如果员工说他们现在能更好地利用时间，老板们通常都会相信。

仅仅接入模型供应商提供的API是不够的，要大规模建立和运行生成式AI系统，还需要专业的技术人才来操作、保养和扩充必要的计算资源。在2023年，仅仅实施这一块就占据了AI相关开销的大头。一位高级管理人员指出，构建使用场景的成本中，大型语言模型（LLMs）可能只占四分之一，而开发成本才是预算的大头。

为了协助企业顺利启用和操作他们的AI模型，基础模型的供应商不仅提供API，还提供包括定制模型开发在内的专业服务。Andreessen Horowitz估计，这类服务在2023年为这些公司带来了可观的收入，除了模型的性能外，这也是企业选择特定模型供应商的重要原因之一。鉴于在企业内部寻找合适的生成式AI人才相当不易，那些提供工具以便企业更便捷地自行开发生成式AI的初创公司，有望获得更快的成长。

六个月前，大多数企业还在尝试单一模型，通常是OpenAI的，或者最多两种。但现在，Andreessen Horowitz与企业领导者的对话显示，他们正在测试多个模型，并且在某些情况下已经开始在生产中使用。这种做法让他们能够根据每个模型的性能、适用规模和成本来定制自己的应用场景，避免对单一供应商的依赖，并迅速采纳该领域最新的进展。特别是，由于AI模型的排名不断变化，企业对于结合最新技术和开源模型以取得最佳成效感到非常激动。

过去六个月里，最让人惊讶的变化之一是市场对开源模型的态度转变。Andreessen Horowitz估计，在2023年，闭源模型占据了市场份额的80%到90%，而OpenAI独占了其中的大部分。然而，到了2024年，情况发生了显著变化：46%的调查参与者表示，他们更倾向于使用开源模型，或者有很强的偏好。在深入访谈中，近60%的AI领域领导者表明，他们对增加开源模型的使用持开放态度，或者在开源模型的性能与闭源模型相匹配时愿意转向开源。因此，预计在2024年及以后，企业将明显地转向使用开源模型，一些企业甚至明确表示他们的目标是实现闭源和开源模型各占一半的平衡状态，这比2023年的80%闭源/20%开源的市场分布有了显著提升。

在选择开源模型时，对控制的需求（包括保护专有数据的安全性和理解模型如何得出特定结果）以及定制的能力（即根据特定用例进行有效调整的能力）比成本更为重要。尽管这让人感到意外，但它实际上反映了企业领导者的一种信念：生成式人工智能所能创造的额外价值可能远远超出其投入成本。正如一位高级管理人员所说：“为了得到准确的答案，花费是值得的。”

企业在与闭源模型供应商共享专有数据时仍然持谨慎态度，这主要是出于对监管合规性和数据安全的担忧——尤其是对于那些知识产权是其业务核心的公司来说，他们表现得更为保守。为了解决这个问题，一些企业领导者选择自己托管开源模型。同时，其他领导者则表示他们更倾向于选择那些已经整合了虚拟私有云（VPC）的模型，以确保更高的安全性和控制力。

在2023年，业界广泛讨论了定制化AI模型的概念，例如BloombergGPT。到了2024年，尽管企业对定制模型仍保持兴趣，但由于高质量的开源模型日益普及，许多企业不再选择从零开始训练自己的大型语言模型（LLM），而是倾向于采用检索增强生成（RAG）技术，或者对现有的开源模型进行微调，以满足他们的特定需求。

在2023年，众多企业出于数据安全考虑，更倾向于通过现有的云服务提供商（CSP）来采购AI模型，他们更担心闭源模型可能不当处理数据，而非CSP的安全性问题，同时也为了省去繁琐的采购流程。到了2024年，这种情况并未改变，CSP与企业偏好的模型之间依然保持着高度的相关性：Azure的用户更倾向于选择OpenAI，而Amazon的用户则更偏向Anthropic或Cohere。数据显示，在通过API接入模型的企业中，有超过一半的企业选择了由CSP托管的模型。值得一提的是，超过四分之一的企业选择了自托管，这通常是因为他们想要运行开源模型。

企业领导者在选择特定AI模型时，首先考虑的是模型的推理能力、可靠性和便捷性，尤其是模型是否容易在他们的云服务提供商（CSP）平台上访问。然而，除了这些基本特性之外，领导者们也偏爱那些提供独特功能或优势的模型。例如，一些领导者选择Anthropic模型的关键在于其能够处理高达200K字符的上下文，而其他领导者则因为Cohere提供的产品更早上市且易于微调，而倾向于选择Cohere。

尽管科技界普遍关注模型性能与公共标准的对比，但企业领导者更倾向于将经过微调的开源模型和闭源模型的性能与他们自己的内部标准进行比较。有趣的是，尽管闭源模型在公开的基准测试中往往表现更佳，但企业领导者还是倾向于给予开源模型较高的净推荐值（NPS），因为在特定用例上进行微调更为便捷。例如，有公司表示，经过微调的Mistral和Llama模型在性能上几乎可以媲美OpenAI，但成本却大大降低。按照这样的趋势，模型性能的统一化速度比预期的要快，这让领导者们有了更多高效能的模型选项。

目前，大多数企业在设计应用程序时都会考虑到模型间的无缝切换，仅需通过更改API即可实现。有些公司甚至提前进行了测试，确保在切换模型时能够轻松地像按下开关一样操作。同时，也有企业构建了所谓的“模型花园”，这样他们就能根据需求灵活地将不同模型部署到各自的应用程序中。这种做法的背后原因有二：一是企业从云计算时代中学到了减少对单一供应商依赖的教训；二是鉴于市场的快速发展，长期绑定一个供应商变得越来越不明智。

企业正将重点放在自主开发AI应用程序上，旨在解决市场上缺乏经验证、能引发行业变革的AI解决方案的问题。利用基础模型提供的API，企业能够轻松打造属于自己的AI应用，不仅复制了如客户支持和聊天机器人等熟悉的用例，还开始探索创新的用例，比如编写消费品配方、分子发现和提供销售建议等。尽管围绕“GPT包装”产品的差异化存在讨论，但AI技术的进步已经降低了企业自行开发类似应用的难度，并加剧了市场竞争。随着更多面向企业的AI应用的推出，市场格局可能会发生改变。一些领导者对新工具的涌现持乐观态度，并且愿意采用最有效的工具。生成式AI作为一种战略工具，正在促使企业将某些功能内部化，减少对外部供应商的依赖。我们预计，那些能够超越传统的“LLM+UI”模式、重新设计企业工作流程或有效利用企业专有数据的应用程序，将在市场竞争中占据优势。

企业对生成式AI的两大核心顾虑仍然十分显著：首先是关于幻觉和安全性的潜在风险，其次是在敏感消费领域（如医疗保健和金融服务）部署AI可能引发的公关危机。去年，最受欢迎的AI应用主要集中在提升内部生产力，或者是在直接面向客户之前通过人工审核，比如编程辅助、客户支持和市场营销等。如图所示，到了2024年，这些应用依然是企业AI使用的主流，企业更倾向于将完全内部的应用，如文本摘要和知识管理（例如内部聊天机器人），投入生产，而不是那些涉及敏感人工参与的应用，比如合同审查或面向客户的外部聊天机器人和推荐算法。企业急切希望避免像加拿大航空客户服务崩溃那样的AI事故。鉴于这些问题在大多数企业中仍然严重存在，那些能够提供工具以帮助控制这些风险的初创公司有望获得广泛的应用。

根据Andreessen Horowitz的估算，模型API市场（包括微调服务）在2023年的收入大约在15亿到20亿美元之间，这部分收入主要来源于通过Azure平台对OpenAI模型的投入。鉴于市场的快速增长和企业界对生成式AI的明显兴趣，预测到2024年底，这一领域的投资将至少增长至50亿美元，增长潜力巨大。企业已经开始将生成式AI的部署作为优先事项，不仅增加了预算，还将其纳入了常规的软件项目预算中，并计划在2024年将更多的工作负载转移到生产环境中。这一切都表明，企业将成为推动这一市场增长的主要力量。

在过去的六个月中，企业界已经开始从高层下达指令，积极寻找并实施生成式AI的解决方案。曾经需要一年多时间才能完成的交易，现在只需两到三个月就能迅速达成，且交易规模远超以往。虽然本文主要聚焦于基础模型层面的讨论，我们也确信，企业在AI领域的这一机遇不仅限于此，而是涵盖了整个技术栈——从辅助微调的工具、模型服务、应用构建，到专为AI设计的应用程序。目前，我们正处于企业生成式AI发展的关键转折点，对于能够与那些服务于这个充满活力、持续扩张市场的下一代企业合作，我们感到非常兴奋。