开源本地推理引擎，兼容OpenAI接口，在本地硬件运行大语言与多模态模型，数据不出本机。

美国AI公司，发布可本地运行的GPT4All与开源嵌入模型Nomic Embed，提供Atlas数据探索平台。

伯克利等高校研究者发起的大模型系统组织，推出Chatbot Arena评测与FastChat等开源项目。

LLVM之父创立的AI公司，推出MAX推理引擎与Mojo语言，让模型跨硬件高效部署运行。

加拿大AI芯片公司，研发Wormhole与Blackhole处理器，提供开源推理与训练软件栈。

英国AI芯片公司，研发IPU智能处理器与Poplar软件栈，专为大规模机器学习训练设计。

保罗·艾伦创立的非营利AI研究院，发布完全开源的OLMo系列大语言模型与训练数据。

非营利开源AI研究机构，发布GPT-NeoX训练框架、Pythia模型与The Pile数据集。

开源本地 AI 应用层，为本地大模型提供文档问答、检索与工具调用接口，数据不出本机。

德国AI公司，维护开源大模型编排框架Haystack，提供企业级智能体与检索增强应用平台。