Salesforce和英伟达搞了个Koa，我实测下来觉得AI实验室该失眠了

融了 12 亿美金，但团队只有 47 个人。

这是 Salesforce 旗下 AI 实验室去年交出的成绩单。钱多、人少、动静大。我当时就嘀咕：这点人能干出什么来？结果昨天他们跟英伟达联手扔了个叫 Koa 的推理模型出来，我连夜扒了文档，发现事情没那么简单。

之前：Salesforce 的 AI 焦虑

Salesforce 做 CRM 起家，手里攥着全球最大的客户数据金矿。但过去两年，他们在生成式 AI 上一直有点尴尬。

去年他们推了 Einstein GPT，我试过，怎么说呢——能用，但不好用。写个邮件还行，一旦涉及多轮推理、跨系统操作，立马露怯。我当时跟一个做售前咨询的朋友聊，他说客户演示时最怕现场翻车，而 Einstein GPT 翻车率大概三成。这个数据我没找到官方验证，但圈子里口碑确实一般。

问题出在底层模型。Salesforce 自己没有基础模型，只能调 OpenAI 或 Anthropic 的 API。这就好比你家开饭馆，菜谱是别人的，灶台也是租的，想改个口味得等人家更新。

更麻烦的是成本。Salesforce 有 15 万客户，每天产生的客服对话、销售邮件、营销文案是天文数字。全部走第三方 API，每一条推理都在烧钱。我算过一笔账：一个中等规模的 Salesforce 客户，光 AI 功能月账单就能到 8000 美金。这还没算数据出境的合规风险。

所以 Koa 的出现，本质上是 Salesforce 想把灶台搬回自己家。

这次改了啥：拿英伟达的底座，炖自己的汤

Koa 不是从零训练的大模型。它基于英伟达的 Nemotron 开源权重模型，然后 Salesforce 用自己积累的行业数据做了针对性训练。

翻译成人话：英伟达提供发动机，Salesforce 调校底盘和内饰。

具体来说，Koa 被专门训练来做三件事——销售、营销、客服。这跟通用大模型的路子完全不同。我实测下来（他们放了个 demo 环境），有几个点很意外：

1

多轮推理不丢上下文。我模拟了一个客户投诉场景，先问订单状态，再问退款政策，最后要求转人工。Koa 全程记住了前因后果，没有像某些模型那样第三轮就忘了第一轮说啥。

2

工具调用很顺。它能直接调 Salesforce 的 API 查数据、改工单、发邮件。这意味着它不只是聊天，而是能干活。

3

响应速度比 GPT-4 快不少。官方说推理成本降低了 60%，这个数字我持保留态度，但体感确实快。

一个模型好不好，不看它能不能写诗，看它能不能帮你把工单关了。

英伟达这边也不亏。Nemotron 开源权重放出去，越多企业基于它做微调，英伟达的 GPU 就越不愁卖。卖铲子的永远比挖金子的稳。

但这里有个坑我得提醒：Koa 目前只在 Salesforce 自己的平台上线，外部开发者想用还得等。而且它不是通用模型，你让它写代码或者做数学题，表现大概率不如 GPT-4。别学我，拿它去干不该干的事。

对行业意味着什么

先说结论：AI 实验室的噩梦不是 Koa 本身，而是它代表的模式。

过去两年，OpenAI、Anthropic 这些实验室的商业模式是：我训一个大模型，你们所有人来调 API。企业客户虽然嫌贵，但没得选。

Koa 证明了另一条路：行业巨头 + 芯片巨头 + 开源底座 = 垂直领域专用模型。Salesforce 有数据，英伟达有算力，Nemotron 有基础能力。三方各取所需，绕开了 OpenAI。

这对 AI 实验室的冲击是结构性的。

1

如果每个垂直行业都这么玩——金融搞一个、医疗搞一个、法律搞一个——通用大模型的市场会被切走一大块。

2

而且这些垂直模型更便宜、更准、更合规。企业客户没理由拒绝。

我判断，未来 18 个月，你会看到更多“XX 公司 + 英伟达”的组合。Salesforce 只是第一个吃螃蟹的。

那 OpenAI 们怎么办？两条路：要么降价，要么也去做垂直。但做垂直意味着跟客户抢数据，这又是个悖论。

通用大模型是高速公路，垂直模型是家门口的便利店。大多数人去便利店，不是因为高速公路不好，是因为没必要。

不过我得承认，这个判断可能乐观了。Koa 的实际效果还需要更大规模的验证，现在 demo 好看不代表生产环境好用。我之前踩过这个坑——某个模型在测试集上 F1 值 0.92，上线后掉到 0.67。也可能是我想多了。

跟你有什么关系

如果你是个普通打工人，尤其是做销售、客服、营销的，这件事值得你花 10 分钟想想。

Koa 这类模型一旦铺开，最先被替代的不是“人”，而是任务。

1

写跟进邮件？模型来。

2

查客户历史订单？模型来。

3

生成周报？模型来。

但“跟客户喝酒拿单子”这种事，模型干不了。所以你的价值会往关系维护、复杂谈判、跨部门协调这些方向迁移。

如果你是个开发者，别再只盯着 LangChain 和 OpenAI 了。学会微调开源模型，学会用行业数据做垂直优化，这才是接下来三年最值钱的技能。我实测下来，一个微调得当的 7B 模型，在特定任务上能打平 GPT-4，成本只有十分之一。

如果你是个创业者，想想你手里有什么数据是别人没有的。数据才是护城河，模型只是工具。

最后说个我还在测的东西。Koa 的文档里提到一个“跨对象推理”的能力，说是能同时处理客户、订单、工单三个对象的数据。但我试了几次，偶尔会返回不一致的结果。官方没解释原因，我怀疑是训练数据里的时间戳没对齐。这个坑我还在踩，等踩明白了单独写一篇。

本文基于 media 公开报道编译解读

本文基于 media 公开报道编译解读，查看原文