跳转到内容

用 Ollama 本地模型阅读 PDF 和 EPUB:Yomitomo 配置指南

Yomitomo 可以通过 OpenAI 兼容接口连接本机 Ollama。把 Base URL 设置为 http://localhost:11434/v1,选择已下载的本地模型,并将它分配给阅读任务,即可围绕原文划线与本地 AI 讨论。

本文由 Yomitomo 项目维护,根据 v0.16.2 的配置和 Ollama 官方兼容接口文档整理,不是硬件性能实测报告。

从 Ollama 官网安装应用,在联网时下载模型。例如:

终端窗口
ollama pull qwen2.5:7b
ollama run qwen2.5:7b

这个模型标签只是配置示例。能否运行、生成速度和内存占用取决于模型大小、量化方式、上下文长度与硬件。先在 Ollama 中确认模型可以正常回答,再配置阅读器。

若希望在本机推理,应选择已下载的本地模型。连接地址是 localhost,并不代表选中的模型一定在本地运行;不要把 Ollama 云端模型当作离线模型。

在「设置 > 模型与路由」添加供应商,选择 OpenAI Chat Completions 协议,填写:

字段 示例值
名称 Ollama 本地
Base URL http://localhost:11434/v1
API Key ollama,作为本地服务的占位值
模型 已安装的完整标签,例如 qwen2.5:7b

获取模型列表或手动添加模型,测试连接后保存。将它设为默认模型,并检查「按任务单独设置」,确保阅读理解和深度审阅没有继续使用远程供应商。可以先使用「快速回应」模式;工具调用是否正常还取决于模型能力。

导入一份有文字层的 PDF 或 EPUB。选中一段文字,按默认快捷键 A 创建划线,在讨论区通过 @ 选择助手,问一个可以对照原文的问题。例如:“作者的结论依赖哪些前提?”

先用普通材料验证结果,再决定是否适用于自己的资料。扫描 PDF 可能需要先在其他工具中完成 OCR。操作说明见阅读器指南。

提前导入的文件、手动批注以及已下载且兼容的本地模型,可以用于离线阅读和讨论。使用前先完成应用、模型的下载,再断开网络验证实际需要的任务。

网页导入、微信读书同步、检查更新与模型下载需要网络。应用还有可在设置中关闭的匿名使用指标,并会定期从 models.dev 获取公开的模型价格目录。配置本地 AI 不会关闭这些功能,也不等于电脑已经物理隔离。若某个任务仍使用远程模型,相关原文和对话会发送到那个端点。详见模型与数据设置。

问题 检查方式
连接被拒绝 确认 Ollama 正在同一台电脑运行,端口与 Base URL 一致。
找不到模型 核对完整模型标签,包括冒号后的规格。
响应很慢或内存不足 换更小的模型、缩短上下文,并关闭占用内存的程序。
普通问答成功,工具或审阅失败 模型能力可能不同,先尝试快速回应,再检查任务所需的接口与工具支持。
请求仍发往远程服务 检查默认模型和所有任务覆盖设置。

本地推理可能消耗较多电量、内存和 GPU 资源,不能保证固定生成速度或轻微发热。

下载 Yomitomo,试用本地模型伴读。