◆ 本地 AI — 在你的机器上，1 小时内拥有你的私有免费 ChatGPT · 24 € · 或所有套件 49 € →

#为何在本地部署 Qwen3-VL

一个视觉-语言模型（VLM）可以同时接受文本和图像输入。您可以向其展示一张照片、屏幕截图或扫描件，并用自然语言提问。由阿里巴巴Qwen团队开发的Qwen3-VL已成为该领域的开源权重标杆：它具备良好的视觉理解能力、强大的多语言OCR功能（包含法语）以及对所见内容的扎实推理能力。

在本地运行它的优势与任何自托管 LLM 相同，但在这里尤为重要：您分析的图像往往包含敏感信息——工作截图、行政文件、发票照片、身份证件。在您的电脑上运行 Qwen3-VL，数据不会离开您的硬盘。不上传到云端，没有使用配额限制，也无需订阅。

隐私: 图像始终保留在您的机器上。非常适合处理人力资源、医疗、法律文档或任何个人扫描件。
使用成本为零: 每张图像或每个token均无成本。处理10张或10,000张截图均无需额外费用。
离线: 模型下载完成后，无需联网即可正常运行。
可自动化: Ollama的OpenAI兼容API支持使用Python或shell脚本批量处理图像。

#前置条件及所需 VRAM

本地 AI 套件

只需 1 小时，即可在您的电脑上拥有专属的免费 ChatGPT — LM Studio、Ollama、Open WebUI、您的文档，无需云端。

在线空间，终身可用
PDF + 文件
终身更新

本地 AI 套件 →或所有套件终身使用权 — 49 € →

视觉语言模型（VLM）比同等规模的文本模型更耗资源：除了语言模型的权重外，它还会加载视觉编码器，并处理每张照片生成的“图像 token”。一张高分辨率图片可能对应数千个 token，在推理过程中会占用上下文空间和内存。因此，除了权重本身所需的显存，还应预留额外的显存余量。

采用 Q4_K_M 量化时（对大多数用途而言，这是质量与内存占用之间的最佳折中），以下是不同大小的底层语言模型所需内存的参考值。还需为视觉编码器和图像处理额外预留约 1 至 2 GB。

约3-4B变体: 约需 2–3 GB 显存。在配备 12 GB 显存的 RTX 3060 或配备 16 GB 内存的 Mac M 系列电脑上都能轻松容纳。是本地视觉模型的入门选择。
约7-8B参数版本: 约 5–6 GB 显存。在配备 12 GB 显存的 RTX 3060/4070 或配备 16 GB 显存的 RTX 4080 上运行有充足余量。对于日常使用，这是质量与资源需求之间的最佳平衡。
约 30-32B 参数版本: 约需 19–20 GB 显存。应选择 RTX 4090 24 GB、专业显卡，或配备充裕统一内存的 Mac（M4 Pro/Max，32 GB 及以上）。

GPU 与 Apple Silicon Mac 的对比

在 Mac 上，统一内存同时充当 RAM 和 VRAM：配备 24 GB 内存的 M4 Pro 或 48 GB 内存的 M4 Max 可以运行较大的模型版本，而能运行这些版本的消费级 GPU 很少。在 PC 上，关键是 GPU 的显存容量——如果模型超出显存容量，Ollama 会将一部分转交给 CPU 运行，生成吞吐量会大幅下降。

软件方面，您需要安装支持多模态输入的较新版本 Ollama（守护进程默认监听 http://localhost:11434）。使用 Open WebUI 或 LM Studio 这类界面发送图片，比使用命令行更方便，但并非必需。

#根据可用VRAM选择合适的变体

Qwen3-VL 提供多种规模的版本。正确的做法不是选择机器在技术上能加载的最大版本，而是选择能为上下文和图像处理留出余量的版本。下面介绍如何选择。

01
您有8-12 GB的VRAM
选择 3-4B 模型的 Q4_K_M 版本。该模型能准确描述图像，对清晰文本进行 OCR 处理，并响应迅速。适用于大多数简单场景（如图像描述、文本提取）。
02
您有12-16 GB的VRAM
推荐使用 7-8B 参数的 Q4_K_M 或 Q5_K_M 版本。这是最佳平衡点：在复杂文档、表格和视觉推理任务上表现显著提升，同时保持流畅性。
03
您拥有 24 GB 显存或一台配置充裕的 Mac
30B 至 32B 的 Q4_K_M 量化版本可以提供本地运行所能达到的最佳质量：可靠读取内容密集的文档和多列表格，并对示意图进行细致推理。这时，本地与云端之间的差距缩小得最明显。
04
不确定时
先尝试 7-8B 版本。如果质量满足需求，您就节省了显存；如果它在处理您的文档时质量已达到瓶颈，就换用更大一级的模型。

→

量化很重要

对于VLM模型，建议保持在Q4_K_M或Q5_K_M。量化过低（Q3及以下）会显著降低OCR识别和小字符识别的准确性——而这恰恰是视觉模型应具备的能力。如果对量化不确定，优先选择Q4_K_M的小模型，而非Q3的大型模型。

#使用 Ollama 安装 Qwen3-VL

安装只需一条命令。Ollama 会从其模型库下载模型，包括视觉编码器，随后即可用该模型进行推理。请将标签替换为上一步选定的模型变体。

终端 — 安装与启动

# Télécharger la variante (exemple ~8B ; adaptez le tag à votre VRAM)
ollama pull qwen3-vl:8b

# Lancer une session interactive
ollama run qwen3-vl:8b

# Vérifier ce qui est chargé et sur quel matériel (GPU/CPU)
ollama ps

在交互会话中，通过在提示中指定图像路径即可发送图片。Ollama 会检测文件路径，编码图像并将其添加到上下文。之后您可以针对该图像提出任意数量的问题。

Ollama 会话——分析一张图片

>>> Décris cette image en détail : /home/moi/captures/dashboard.png

>>> Quel est le chiffre affiché en haut à droite ?

>>> Y a-t-il une alerte visible ? Résume-la.

建议使用绝对路径

在某些系统上，Ollama 可能无法正确解析相对路径。如果提示“找不到文件”，但图片确实存在，请提供完整的绝对路径。在 Windows 上，请对反斜杠进行转义，或使用正斜杠（C:/Users/...）。

#描述图片和屏幕截图

这是最直接的应用场景。Qwen3-VL 可以描述图片内容，识别物体，读取图像中的文本，并基于观察结果进行推理。对于屏幕截图——界面、仪表盘、错误信息——尤其有用：它能读取用户界面，识别元素，并解释显示内容。

总体描述: “这张图片展示了什么？”——列出其中的元素，描述氛围和背景。适合用于给照片添加标签或进行分类。
屏幕截图读取: 解读仪表盘、转录错误信息、根据截图解释未知界面
定向提取: “总金额是多少？”、“列出可见的名字”——模型会提取所需信息，而不是描述全部内容。
后续问题: 图像进入上下文后，您可以接着提问，无需重新发送图像。模型会保留对该图像的视觉参考。

→

精准的提示优于模糊的提示

“描述图像”会得到泛泛的回答。“仅列出这张截图中显示的错误及其错误代码”则能得到可用的结果。与文本 LLM 一样，指令越明确，输出越好——在视觉任务中尤其如此，因为模型可能把注意力分散到无用的细节上。

#阅读扫描文档和表格

OCR 和文档理解是 Qwen3-VL 真正表现出色的领域，也让升级到 7–8B 或更大的版本有了充分理由。它不只是转录文本，还能理解结构（标题、列、方框），从而以整洁的格式提取表格或表单中的数据。

扫描的账单或收据: 提取供应商、日期、不含税／含税金额以及商品明细，并要求以可直接使用的 JSON 格式输出。
图片中的表格: 将照片中的表格重建为 Markdown 或 CSV 格式，保留原有的行和列。
手写文档: OCR 能轻松处理印刷文本；手写文本的识别效果则不太稳定，但字迹清晰时也能识别。
行政表单: 识别已填写的字段及其值，包括已勾选的选项。

Ollama 会话——将表格提取为 Markdown 格式

>>> Voici un tableau scanné : /home/moi/docs/tableau-ventes.png
... Reproduis-le exactement au format Markdown, sans rien ajouter
... ni interpréter. Conserve toutes les colonnes et l'ordre des lignes.

始终检查关键数值

没有任何本地OCR能保证100%可靠。识别金额、参考编号或号码时，某一位数字可能被误读（例如将8读成6，或小数点位置出错）。用于会计或法律工作时，请务必逐一复核提取的数值——模型只是加快数据录入的工具，并非判断数据是否正确的依据。

#通过 API 实现自动化

要批量处理图像，例如整理一个文件夹中的截图、提取数十张发票中的数据，可以通过 Ollama 的 API 编写脚本来完成。Ollama 在 11434 端口提供与 OpenAI 兼容的 API，图像以 base64 编码传输。下面是一个最简 Python 示例。

Python — 通过脚本分析图像

import base64
import requests

with open("facture.png", "rb") as f:
    img_b64 = base64.b64encode(f.read()).decode()

resp = requests.post("http://localhost:11434/api/generate", json={
    "model": "qwen3-vl:8b",
    "prompt": "Extrais fournisseur, date et montant TTC au format JSON.",
    "images": [img_b64],
    "stream": False,
})

print(resp.json()["response"])

在此基础上，只需编写一个遍历文件夹的简单循环，就能处理整批图像并汇总结果。由于推理在本地进行，不受请求速率限制：唯一的限制是您的 GPU 速度。

→

请求结构化格式

在自动化场景中，始终在提示词中指定输出格式（如JSON、CSV），并明确列出所需字段。这样可避免后续需要解析自由文本。请添加「仅以JSON格式回复，不包含任何额外文本」以方便下游处理。

#本地视觉目前尚无法实现的功能

坦白说：本地运行的 Qwen3-VL 表现出色，但与最优秀的云端视觉模型仍有差距，而且在某些任务上需要降低预期。了解这些局限性，可以避免遇到出乎意料的问题。

细小细节与低分辨率: 图像模糊、内容非常密集或分辨率低时，OCR 的识别效果会明显下降。清晰且取景得当的扫描图像能带来很大改善。模型不会“猜出”它看不清的内容。
精确计数: 要精确数出大量相同对象的数量（例如“这张照片里有多少人？”），一旦对象超过几个，结果就仍然不可靠。这是 VLM 的已知局限。
精细空间推理: 精确的相对位置、测量、精确的几何关系：模型只能给出大致判断，而非计量学意义上的答案。
视频与实时: Ollama 处理静态图像。分析视频时，需要您自行将视频拆分为帧，且不具备原生的时序理解能力。
视觉幻觉: 如同所有LLM模型，它可能声称看到不存在的元素，尤其是当您的问题暗示了这一点时。请提出中立问题，避免引导性提问。

本地与云端：真正的权衡选择

云端视觉模型在处理最困难的场景（内容非常密集的文档、复杂视觉推理、计数）时仍具优势。但对于 90% 的日常用途——描述、提取文本、读取清晰的表格——本地运行的 Qwen3-VL 就能完成任务，而且免费，也不会暴露您的图像。如何取舍取决于数据的敏感程度，以及您的图像实际有多难处理。

#故障排除

在存在图像的情况下出现「文件未找到」错误: 相对路径解析失败。请提供完整绝对路径。在Windows系统中，请使用斜杠（C:/...）
响应缓慢或卡顿: 模型超出了显存容量，部分计算在CPU上运行。请使用ollama ps检查；如果确实如此，请换用小一档的模型变体或占用内存更少的量化版本。
OCR效果较差: 图像分辨率过低或量化过度。请提供更清晰的扫描图像，并至少保持 Q4_K_M 量化级别。
模型忽略图像: 您可能错误地加载了 Qwen 的文本变体。请确认标签中包含 -vl，并且您所使用的 Ollama 版本支持多模态功能。
加载时内存不足: 该变体超出您的VRAM。请切换至更小的版本——请记住要为视觉编码器和图像token预留额外空间。

快速诊断

# Le modèle est-il bien chargé et sur GPU ?
ollama ps

# Lister les modèles vision installés
ollama list

# Tester l'API en local
curl http://localhost:11434/api/tags

#深入了解

Qwen3-VL 与您的其他本地模型使用同一套 Ollama 技术栈。以下指南可帮助您进一步完善视觉模型的配置：

本地多模态视觉 LLM：使用 Ollama 分析图像: 可自主部署的VLM产品全景（Qwen-VL，Llama-Vision，Llama 4 Scout），用于根据实际需求进行对比与选择。
安装 Ollama：Windows、macOS 和 Linux: 如果尚未安装 Ollama，可参阅这份包含 GPU 前置要求的完整安装指南。
选择量化方案（Q4、Q5、Q8、FP16）: 用于根据你的显存容量，为所用的 Qwen3-VL 变体确定合适的内存占用。

这份指南对您有帮助吗？

有反馈、发现了错误，或想补充说明？请告诉我们，让这份指南对每个人都更有帮助。

QuelLLM 套件按用途分类的参考指南

本地 AI 本地助手本地智能体本地 RAG 企业中的 AI 无内容过滤的 AI Mac AI 图像

所有套件终身使用权 — 49 €

下一步

使用场景 · 12 分钟