Skip to content

[Windows][asr] 无法稳定使用局域网 OpenAI 兼容自建 ASR(prefs 被写回 foundry;长录音无转写);请明确 LAN llama-server 配置路径 #854

Description

@stevenwang288

环境

  • OpenLess 1.3.14(Windows 10/11)
  • 自建 ASR:局域网 llama-server + Qwen3-ASR-1.7B
    • http://192.168.9.31:8090/v1
    • GET /health{"status":"ok"}
    • POST /v1/audio/transcriptions + wav 实测可出正确英文 JFK 转写
  • 自建润色 LLM:同机 8080POST /v1/chat/completions 正常(custom LLM 可用)
  • 硬约束:ASR 必须走局域网自建,不能本机跑 ASR(本机资源紧)

需求

与 LLM 的 custom 一样:把 ASR 指到任意 OpenAI 兼容
POST {base}/v1/audio/transcriptions(multipart file + model)。

阅读源码(beta 分支)后理解官方路径应为:

实际现象

1) 写入 siliconflow + 931 endpoint 后,运行时仍走 Foundry

我们写入:

"activeAsrProvider": "siliconflow"

凭据(vault + credentials):

  • asr.endpoint = http://192.168.9.31:8090/v1
  • asr.model = /models/Qwen3-ASR-1.7B-Q8_0.gguf
  • asr.api_key = sk-local

完全退出并重启 OpenLess 后,日志仍是:

[coord] recorder started (asr=foundry-local-whisper, phase=Starting)

preferences.json 会被改回例如:

activeAsrProvider = foundry-local-whisper
activeLlmProvider = ark   # 甚至把我们设的 custom LLM 也冲掉

问题:外部改 prefs/vault 是否不被承认?UI/启动逻辑是否强制覆盖 active ASR?如何可靠地把 active ASR 设为 siliconflow/whisper 并指向 LAN?

2) 长时间录音无转写进度(卡死感)

某次会话:

hotkey pressed (mode=Toggle, phase=Idle)
recorder started (asr=foundry-local-whisper, phase=Starting)
session started
... 连续 [recorder] cb#... 上万次,持续 >2 分钟 ...
  • 麦克风有能量(RMS/peak 正常)
  • 无任何 Whisper/HTTP/ASR 错误或成功日志
  • 无 polish、无 history 新条目
    用户体感:界面有录音,但文字识别完全没进度。

3) 即使用 Foundry 跑通时,中文质量不可用

foundry-local-whisper + whisper-small 时,history 原文多为英文幻觉或:

rawTranscript: "(speaking in foreign language)"
finalText: "(口语化表达)"

中文口语被听成英文乱句;润色只是在烂 ASR 上翻译。
这不是润色模型问题,是 本机 Whisper-small 中文不行——故必须用自建 Qwen3-ASR。

4) 本地 Qwen3-ASR(Windows)

选 local-qwen3 时日志:

[WARN] [coord] ASR credential gate failed: 本地 ASR 当前仅支持 macOS(Windows 见 issue #256)

#256 一致;我们不走本机引擎。

请作者明确回答

  1. Windows 1.3.14 是否支持把 ASR 指到局域网 OpenAI 兼容 .../v1/audio/transcriptions?推荐 preset id 是 whisper 还是 siliconflow
  2. 正确配置步骤(UI 点选顺序 + 必填字段)?为何改 preferences.json / Credential Manager 后启动仍显示 asr=foundry-local-whisper
  3. Foundry 会话在 Toggle 模式下长时间只有 recorder 回调、从不结束/转写,是否已知 bug?如何结束会话并强制 flush ASR?
  4. 若产品不支持 LAN llama-server ASR,请直接说明;是否 roadmap?
  5. llama.cpp 返回体可能是
    {"type":"transcript.text.done","text":"..."}
    与标准 {"text":"..."} 不同时,WhisperBatchASR 是否兼容?是否应只读 text 字段(我们 curl 里 text 有内容)?

期望

  • 官方给出 可执行的 LAN 自建 ASR 配置;或
  • 明确 不支持,避免用户继续试本机 Foundry。

相关

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions