哪款 LLM 能在
您的设备上运行？

🇫🇷 PleIAs · 专用于 RAG 的 1.2B 模型。内置引用和依据来源生成内容的功能。在 HotPotQA 上优于大多数 ≤4B 的 SLM。

🇫🇷 CroissantLLM · 小型法英双语模型。各种设备上都能运行，甚至只用 CPU 也能运行。

🇫🇷 HuggingFace · 下载量很高的 1.7B 模型，采用 Apache 2.0 许可证。在 MMLU-Pro 上比 Qwen2.5-1.5B 高约 6 分。BFCL 函数调用得分为 27%。

🇫🇷 Kyutai · 多语言基础模型，支持 24 种欧盟语言（法国 Kyutai）。由 Gemma 2 蒸馏而来 → 同样适用 Gemma 条款。

🇫🇷 HuggingFace · VLM 2.2B：图像+视频+文本。视频推理需 5.2 GB VRAM。基于 SmolLM2-1.7B。

🇫🇷 PleIAs · 法语。100% 在 Common Corpus（开放数据）上训练。设计上符合欧盟 AI Act。

🇫🇷 HuggingFace · 30 亿参数，双模式（思考/非思考）。支持 6 种语言。MMLU 59.7，GSM8K 70.9。完全开放（数据和训练方法）。

🇫🇷 Mistral AI · Mistral 3B 护栏模型（内容审核），32k 上下文，Q4 约需 1.7 GB 显存。支持自托管，Apache 2.0 许可证。

🇫🇷 Mistral AI · 前沿开放 TTS 模型，支持 9 种语言（含法语）。可与 ElevenLabs 媲美。⚠ 仅限非商业用途。

🇫🇷 Mistral AI · 法国经典之作。速度快、用途广，非常适合作为入门起点。

🇫🇷 OpenLLM-France · 主权型法语 LLM，基于法语语料库训练。

🇫🇷 Mistral AI · 用于编程的纯 Mamba SSM。线性复杂度推理，上下文 256k。不支持 Ollama（llama.cpp 仅提供部分支持）。

🇫🇷 LINAGORA · 使用即兴法语对话对 Falcon-7B 进行 LoRA 微调。⚠ NC-SA 许可证。另有独立的 Apache 变体。

🇫🇷 Kyutai · 首个全双工开放语音模型。延迟约 200ms。音色：Moshiko/Moshika。Kyutai（法国实验室）。

🇫🇷 Mistral AI · 与 NVIDIA 联合开发。128k 上下文，Tekken 分词器，擅长处理多种欧洲语言。

🇫🇷 Mistral AI · Mistral 的 22B 编程模型，支持 80 多种编程语言。⚠ MNPL 非生产用途许可证——个人/研究用途。

🇫🇷 Mistral AI · 发布时（2025 年初），模型表现与体积之间的平衡极佳。可与 70B 模型相媲美。

🇫🇷 Mistral AI · 增加了视觉能力的 Small 3。128k 上下文，Apache 2.0 许可。自 2025 年 6 月起被 Small 3.2 取代。

🇫🇷 Mistral AI · 专注编程的 24B 模型，采用 Apache 2.0 许可证。SWE-Bench 得分 72.2%。256k 上下文，来自法国实验室。

🇫🇷 Mistral AI · Small 3.1 的 2025 年 6 月更新：生成无法停止的情况减少了一半，函数调用得到改进。

🇫🇷 Mistral AI · Mistral 首个开源推理模型。AIME24 70.7%。基于 Small 3.1 并经 CoT 训练。

🇫🇷 Mistral AI · 含 8 个专家的 MoE。质量高，但 VRAM 占用较大。

🇫🇷 Mistral AI · MoE，总参数量 119B，激活参数量 6.5B，集聊天、推理、视觉和代码能力于一体。2026 年的法国旗舰模型。

🇫🇷 Mistral AI · 128B 稠密模型，支持视觉，256k 上下文，推理功能可配置。SWE-Bench 77.6%。取代 Medium 3.1 和 Magistral。2026 年 4 月 29 日发布。

🇫🇷 Mistral AI · MoE 模型，采用 Apache 2.0 许可证，总参数 141B，激活参数 39B。MMLU 77.8，HumanEval 45.1。Q4 量化下占用 80 GB。

🇫🇷 Mistral AI · MoE：6750 亿总参数 / 410 亿激活参数，另加 25 亿参数的视觉编码器，采用 Apache 2.0 许可证。LMArena 开源非推理模型排名第 2。在 3000 块 H200 上训练。

🇺🇸 IBM · IBM 时间序列基础模型（约 385M，PatchTST），支持多变量预测，Q4 量化约需 0.2 GB VRAM。超轻量，可在 CPU 上运行。Apache 2.0 许可证。

🇨🇳 mjpsm · 针对活动生成微调的 Qwen 0.5B，32k 上下文，Q4 约需 0.3 GB 显存。体积极小，也可在 CPU 上运行。Apache 2.0 许可证。

🇺🇸 superwhisper · S1-mini（superwhisper）：基于 Qwen3-0.6B 的 0.6B 语音识别模型，40k 上下文，Q4 量化约需 0.3 GB VRAM。超轻量本地转录。

🇨🇳 Alibaba · 0.8B 稠密模型，Apache 2.0 许可证，256k 上下文。内存占用极小，是边缘计算、移动设备和树莓派的理想选择。2026 年 4 月 13 日发布。