一、部署概述

FunASR是面向语音识别场景的开源工具集，支持端到端模型训练与推理服务。本文重点讲解如何通过Docker容器化部署FunASR的WSS（WebSocket Server）服务，实现模型加载、语音流处理与识别结果返回的全流程功能。部署完成后可支持：

• 多模型并行加载（VAD/ASR/标点预测）
• WebSocket协议的实时语音流传输
• 低延迟的流式识别响应
• 模型热更新与动态配置

适用场景包括智能客服、会议记录、语音交互等需要实时语音识别的业务系统。目标读者需具备Docker基础操作能力，理解语音识别服务的基本工作流程。

二、架构与组件

容器化部署方案采用分层架构设计：

1. 基础层：Docker容器引擎（建议19.03+版本）
2. 运行时层：Python 3.8+环境 + ONNX Runtime推理引擎
3. 服务层：FunASR核心服务（含模型加载、流处理、结果封装）
4. 网络层：WebSocket协议服务（默认端口10095）
5. 存储层：模型文件挂载（支持本地存储/对象存储）

关键组件交互流程：

客户端 → WebSocket连接 → 服务端 → 模型推理 → 结果返回
       ↑                  ↓
模型文件挂载点 ← 配置管理 ← 环境变量

三、前置准备

3.1 环境要求

类别	规格要求	备注
操作系统	Linux（Ubuntu 20.04+）	需支持Docker运行
内存	8GB+（推荐16GB）	模型加载占用显著内存
CPU	4核+（支持AVX2指令集）	推理性能依赖CPU算力
存储	20GB+可用空间	模型文件约占用15GB

3.2 依赖准备

1. Docker安装：

   # Ubuntu示例安装命令
   curl -fsSL https://get.docker.com | sh
   systemctl enable --now docker

2. 模型文件准备：
   需提前下载三类模型文件：

• VAD模型：用于语音活动检测
• ASR基础模型：通用语音识别
• 标点预测模型：结果后处理

建议存储路径：/workspace/models/{vad|asr|punc}

四、部署流程

4.1 镜像构建（可选）

若需自定义镜像，可创建Dockerfile：

FROM python:3.8-slim
# 安装基础依赖
RUN apt-get update && apt-get install -y \
    libsndfile1 \
    && rm -rf /var/lib/apt/lists/*
# 创建工作目录
WORKDIR /workspace
COPY FunASR/ .
RUN pip install -r requirements.txt
# 暴露服务端口
EXPOSE 10095

4.2 服务启动

1. 进入容器工作目录：

   docker run -it --name funasr-server \
    -v /workspace/models:/workspace/models \
    -p 10095:10095 \
    your_image_name /bin/bash

2. 启动服务进程（关键配置说明）：

   cd FunASR/runtime
   nohup bash run_server_2pass.sh \
    --download-model-dir /workspace/models \  # 模型根目录
    --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \  # VAD模型路径
    --model-dir damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx \  # ASR+标点模型
    --online-model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online-onnx \  # 在线模型（可选）
    >> server.log 2>&1 &

4.3 配置参数详解

参数	作用	风险点
--download-model-dir	模型根目录	路径权限需755以上
--vad-dir	VAD模型路径	模型版本需与服务兼容
--model-dir	基础ASR模型路径	包含标点预测子模型
--online-model-dir	在线优化模型路径（可选）	内存占用增加30%

五、上线验证

5.1 服务健康检查

1. 端口监听验证：

   netstat -tulnp | grep 10095
   # 应显示: tcp6 0 0 :::10095 :::* LISTEN

2. 日志检查：

   tail -f server.log
   # 正常启动应看到: "Server started at ws://0.0.0.0:10095"

5.2 功能测试

使用WebSocket客户端发送测试请求：

import websockets
import asyncio
async def test_asr():
    uri = "ws://your-server-ip:10095"
    async with websockets.connect(uri) as websocket:
        # 发送模拟音频数据（需替换为真实二进制流）
        await websocket.send(b'\x00\x01\x02...')
        response = await websocket.recv()
        print(f"Recognition result: {response}")
asyncio.get_event_loop().run_until_complete(test_asr())

预期响应格式：

{
    "status": "success",
    "result": "这是一个测试语音识别结果",
    "segments": [...]
}

六、常见问题与排查

6.1 启动失败处理

1. 模型加载错误：

   • 检查模型文件完整性（MD5校验）
   • 确认模型版本与服务兼容
   • 查看日志中的ModelLoadError条目

2. 端口冲突：

   # 检查端口占用
   lsof -i :10095
   # 终止冲突进程
   kill -9 <PID>

6.2 性能优化建议

1. 内存优化：

   • 禁用不必要的模型（如仅需离线识别可不加载在线模型）
   • 限制最大并发连接数（通过Nginx限流）

2. CPU优化：

   • 启用ONNX Runtime的并行执行：

     export OMP_NUM_THREADS=4

   • 绑定CPU亲和性（减少上下文切换）

七、运维与优化

7.1 监控体系

1. 基础监控：

   • 容器资源使用率（CPU/内存）
   • 网络带宽使用情况
   • 服务响应时间（P99<500ms）

2. 业务监控：

   • 识别请求成功率（>99.5%）
   • 平均识别延迟（<800ms）
   • 模型加载状态（健康/异常）

7.2 版本升级

1. 灰度发布流程：

   graph TD
     A[停止旧容器] --> B[备份模型目录]
     B --> C[启动新版本容器]
     C --> D{健康检查}
     D -->|成功| E[切换流量]
     D -->|失败| F[回滚版本]

2. 配置热更新：

   • 通过环境变量实现部分参数动态调整
   • 使用配置中心（如Consul）管理模型路径等关键配置

八、总结

本文系统阐述了FunASR服务的Docker化部署方案，从环境准备、服务启动到运维监控形成完整闭环。关键实践包括：

1. 采用分层架构实现环境隔离
2. 通过参数化配置支持多场景部署
3. 建立完善的监控告警体系
4. 设计灰度发布流程保障服务稳定性

实际部署中需特别注意模型版本兼容性与资源配额管理，建议通过自动化脚本实现全流程标准化操作。对于高并发场景，可结合Kubernetes实现弹性伸缩，进一步提升资源利用率。