忙活了三天了,感觉遇到瓶颈了。识别正确率与效率两者不可兼得,如果加上大模型纠错的话,速度不能忍。
┌────────────────────┬────────┬──────┬─────────────────────────────────┐
│ 流程 │ 耗时 │ 占比 │ 说明 │
├────────────────────┼────────┼──────┼─────────────────────────────────┤
│ 录音 │ 12.9s │ — │ 你说话时长(上下文,不计处理) │
├────────────────────┼────────┼──────┼─────────────────────────────────┤
│ ① 写盘 │ 1ms │ ~0% │ 可忽略 │
├────────────────────┼────────┼──────┼─────────────────────────────────┤
│ ② 识别(ASR 推理) │ 316ms │ 20% │ funasr-onnx INT8,12.9s 音频 │
├────────────────────┼────────┼──────┼─────────────────────────────────┤
│ ③ 纠错(LLM) │ 1227ms │ 80% │ DeepSeek v4-flash,思考模式已关 │
楼主