在本地跑大模型的朋友,这周有个值得动手的更新:开源工具 Ollama 的 Mac 版正式支持文字转语音了,本地 AI 不再只能「打字」,还能直接开口念出来。全程离线运行,数据不出本机,首批上线的是 Gradium 开发的 Phonon 语音模型家族。Windows 和 Linux 用户也不用急,官方明确表示支持随后就会跟进。
从只出不进到能说会道,Ollama 补上语音短板
Ollama 是 GitHub 上人气最高的开源 AI 项目之一,Star 数接近 18.5 万,Fork 数约 1.86 万。它的定位很直白:让普通用户在自己的电脑上下载并运行开源模型,既可以完全离线使用,也能按需接入云端更强的模型。此前它已经覆盖了对话、视觉理解等常见任务,唯独语音合成一直缺席,想让本地模型念一段文字,往往得另装一套独立的 TTS 工具再想办法拼接。
这次更新把语音生成直接做进了平台本身。在 macOS 上,Ollama 底层使用苹果开源的 MLX 框架,充分利用 Apple Silicon 的统一内存架构来提速。10 月 24 日官方宣布首个语音模型 Phonon 上线,标志着这个平台第一次具备了把文字实时变成声音的能力。
Phonon 是个什么模型:几千万参数,五种语言可选
Phonon 主打小体积和高完成度。默认的英文模型只有 3100 万参数,加载后占用约 121MB 内存;40M 版本覆盖英语、法语、德语、西班牙语和葡萄牙语,加载后约 141MB,另外还有一个通吃五种语言的多语言版本。换句话说,一个中等体积 App 的空间,就能换回一套完整的本地语音合成能力。
音色方面,Phonon 提供了来自 Gradium 音色库的多种选择,包括美式英语和英式英语等不同口音,输入 ollama show phonon 就能列出全部音色。生成效果上,官方博客里放出的样例听感自然,停顿和语气都比较接近真人朗读。许可协议要留意一下:31M 英文模型采用 Apache 2.0 协议,商用没有障碍;40M 系列则采用 CC BY-NC 4.0,仅限非商业用途,想接进产品的团队得先看清条款。
怎么用:一条命令就能让模型出声
实际用下来,上手门槛相当低。先把 Ollama 升级到 0.40.11 或更新版本,用 ollama pull phonon 拉取模型,再执行 ollama run phonon 加上想读的文本,声音就出来了。想换声音的话加一个 --voice 参数指定音色即可;不带文本直接运行,还能像聊天一样逐句输入让模型念。
更实用的玩法是把对话模型的回复直接接上语音:用管道把聊天模型的输出喂给 Phonon,语音边生成边播放,第一句话刚出文本就开始念,几乎感觉不到等待。想保存音频的话,把输出重定向就能得到一个 WAV 文件,音频规格为 24kHz 单声道。
对开发者更友好的是,Ollama 提供了与 OpenAI 兼容的 /v1/audio/speech 接口,现有基于 OpenAI SDK 的代码只需要改一下服务地址就能无缝切换,Python、JavaScript 和 cURL 都有现成示例,响应同样支持流式返回,音频生成的同时就能开始播放。详细用法可以参考Phonon 模型页的文档和示例。
速度有多快:M5 Max 上比官方实现还快 35%
数据最能说明问题。在搭载 M5 Max 芯片的 MacBook Pro 上,Ollama 的语音生成速度达到实时语速的 113 倍,比第二名 Gradium 自家的运行时快 35%,比在 CPU 上跑的 Hugging Face Transformers 参考实现更是快出一个量级。速度并没有以质量为代价,官方用 200 条测试句做了验证,词错误率与参考实现持平,都稳定在 1.2% 左右,属于完全听得清、不出戏的水平。
这背后 MLX 功不可没。它针对 Apple Silicon 的统一内存做了深度优化,模型数据不需要在 CPU 与 GPU 之间来回搬运,小模型反而能吃满架构红利。对用户来说,这意味着哪怕是一台不带风扇的 MacBook Air,大概率也能获得足够流畅的本地语音体验。
本地 TTS 的意义:隐私、离线与零成本
对普通用户来说,本地 TTS 最大的价值是把数据留在自己手里。朗读的内容全程不出本机,涉及日记、草稿、私人笔记这类文本时,不用担心被上传到任何服务器。离线可用同样关键,飞机上、地下室、网络糟糕的环境里,语音功能照常工作。
成本账也很直观。云端语音合成按字符计费,长文本朗读日积月累不是小数目;本地跑小模型几乎没有边际成本,念多少都不花钱。落到实际场景,让本地对话模型边回答边说话,就能搭出一个完全离线的语音助手雏形;给写作内容配一段朗读音频、给小工具加个播报功能,都变成了几行命令的事。等 Windows 和 Linux 支持跟上,这套能力会覆盖更多设备。
网友评论
- 「等这功能好久了,之前想让本地模型念回复还得自己接一套 TTS 工具,现在一条管道命令就搞定,这个更新是真的贴心。」
- 「五种语言里居然没有中文,念英文确实自然,但对我来说暂时只能当个练听力的工具,等中文模型上线再说。」
- 「40M 系列禁止商用有点可惜,31M 那个能商用又只有英文单音色,想给项目接语音还得再权衡一下。」
- 「就想知道老款 M1 跑起来是什么水平,官方只给了 M5 Max 的数据,有没有动手党测过的?」
总结
这次更新让 Ollama 从能读会写进一步迈向能开口说话,补齐了本地 AI 体验里重要的一环。Phonon 模型小、速度快、上手简单,配合 MLX 在 Apple Silicon 上跑出了远超实时语速的表现,隐私和离线场景的价值尤其突出。短板同样明显:暂不支持中文,40M 系列又限制了商用。如果你手边有一台 Apple Silicon 的 Mac,升级到 0.40.11 之后不妨亲手试试,让本地 AI 念一段话给你听,那种完全属于自己的语音体验,用过就很难回去了。



