因为不喜欢win10上的shell,一直都比较喜欢在wsl中的ubuntu中跑服务,结果轮到fast-whisper的时候发现容器中无法加载模型,因为无法利用宿主机的代理,又不太方便把模型下载完放进去。
还有个情况是,无法用到GPU,导致用CPU跑超慢。
win10上的docker-desktop也是基于wsl的,但是创建容器的时候发现有个区别,一种是在powershell中跑命令,那么创建的容器可以走代理,下载模型顺利,而在wsl中的ubuntu跑创建docker命令创建的容器则不行,目前没有资料证实是否这样,没有太多时间再去研究这个网络。
最后实测最佳方案是,在powershell中运行:
docker run -d --gpus all -p 7860:7860 --name fast-whisper --mount type=bind,source=$(pwd)/.cache/whisper,target=/root/.cache/whisper --mount type=bind,source=$(pwd)/.cache/huggingface,target=/root/.cache/huggingface --restart=on-failure:15 registry.gitlab.com/aadnk/whisper-webui:latest app.py --input_audio_max_duration -1 --server_name 0.0.0.0 --auto_parallel True --default_vad silero-vad --default_model_name large-v2
另外,打开Word Timestamps – Highlight Words以后,效果似乎更棒一些,还加上了标点符号,准确度很高。
这一篇中docker创建的部分可以参考,关于代理的部分请看下一篇。