“各类新云服务商”厂商Prime Intellect收购初创公司 加速推理业务

　　各类新云服务商（neocloud）以及为应用开发者运行开源模型的推理服务商，正在竞争白热化的市场中寻求差异化优势。

　　例如，这类新云厂商之一Prime Intellect，在7月的一轮股权融资中估值达10亿美元。该公司正收购一家初创企业，以求在英伟达服务器上运行开源模型时，相比竞争对手实现更高速度、更低成本。

　　Prime Intellect联合创始人兼首席执行官文森特·魏瑟介绍，这家总部位于旧金山的公司将收购Moondream。Moondream是一家成立不久的开源模型开发企业，员工不足十人。（魏瑟未披露交易条款，但Moondream此前已融资450万美元。）

　　Moondream团队分布于旧金山与西雅图，其代表作是一款开源多模态视觉语言模型，可解析、理解图像内容，例如识别仓库图片中的货箱，或是直播画面里的广告。不过魏瑟表示，Prime Intellect收购这家公司，主要看重其团队编写高性能推理优化软件的技术能力。

　　魏瑟称，具体而言，Moondream工程师精通巨内核（megakernel）技术：该技术将GPU上大量独立数学运算合并为一段连续运算，以此加速AI推理，减少任务之间GPU的空闲等待时间。

　　Moondream介绍，他们自研了专用编译器，能够为大量模型自动生成巨内核。

　　巨内核并非新概念，Together AI等其他推理服务商也曾撰文介绍相关实践。但工程师表示，以往编写巨内核基本依靠人工开发；而Moondream称其编译器可大幅实现自动化生成。

　　魏瑟提到，当前行业高度聚焦文本类AI，而Moondream在图像等非文本模态模型优化方面积累的经验较为稀缺。因此Prime Intellect希望吸纳这批人才，服务机器人AI、可操作电脑的智能代理等客户群体。

　　目前，这类客户尚未被其他新云厂商和推理服务商充分覆盖，有望成为Prime Intellect新的收入来源。该公司7月曾披露年化收入突破1亿美元，换算下来当时月营收略高于800万美元。其体量远小于其他推理服务商，例如Fal年化收入超8亿美元，Together AI年化收入超过10亿美元。

　　上周OpenAI营收风波之后，大家可能会质疑这类年化收入数据的可信度。相关方确认上述数据属实。不过正如我们多次报道的那样：多数推理服务商需要把很大一部分营收支付给持有并运营服务器的云厂商；Prime Intellect有所不同，它自主运营硬件设备。