Sep 16
本地语音 AI 助手技术方案:基于 MLX 与 Qwen 实现
本文基于 Sandeep Aggarwal 的 Jarvis 项目 整理为技术方案文档。
1. 概述与目标 1.1 项目背景 需要构建一个完全运行在本地 Mac 上的语音 AI 助手,具备持续聆听、唤醒词激活、任务执行和打断处理能力。核心约束条件为:
隐私:语音数据不离开本地设备 延迟:端到端响应延迟需支持自然对话节奏 成本:零云端 API 调用费用 1.2 运行环境 项目 规格 硬件 MacBook Air M2, 24 GB 统一内存 操作系统 macOS (Apple Silicon) 推理框架 MLX (Apple 机器学习框架) 语言模型 Qwen3.5-4B-MLX-4bit 编程语言 Python 3 (asyncio) 2. 系统架构 2.1 架构总览 系统由 7 个核心组件构成,通过 Python asyncio 事件循环串联为流式管线:
架构图 …
阅读更多
阅读更多