Skip to content

feat(asr): 新增百炼 Qwen3-ASR-Flash 实时供应商(OpenAI Realtime WS 协议)#775

Open
bigsongeth wants to merge 1 commit into
Open-Less:betafrom
bigsongeth:feat/qwen3-asr-realtime
Open

feat(asr): 新增百炼 Qwen3-ASR-Flash 实时供应商(OpenAI Realtime WS 协议)#775
bigsongeth wants to merge 1 commit into
Open-Less:betafrom
bigsongeth:feat/qwen3-asr-realtime

Conversation

@bigsongeth

@bigsongeth bigsongeth commented Jul 10, 2026

Copy link
Copy Markdown
Contributor

User description

摘要

Closes #774。依赖的 #773 已合并;本分支已 rebase 到合并后的 beta(复用其引入的 endpoint_scheme_is_websocket 校验)。

实现 asr/bailian.rs 头注释预留的 follow-up 协议线:Qwen3-ASR-Flash 实时版(OpenAI Realtime 风格 WebSocket,/api-ws/v1/realtime),作为独立供应商 bailian-qwen3-realtime 与经典 fun-asr-realtime 并列。业务空间专属域名(wss://{WorkspaceId}.cn-beijing.maas.aliyuncs.com)用户与受限工作空间 Key(仅授权 Qwen3 系模型)用户由此获得可用的实时通道。

修复 / 新增 / 改进

  • asr/qwen_realtime.rs(新增,核心):Realtime 协议 client。base64 JSON 事件流(input_audio_buffer.append,3200B/100ms 块)+ server_vad 服务端自动断句;按到达顺序收集 completed 句段(CJK 直连、拉丁词间补空格);session.finish 依赖服务端冲刷尾段后回 session.finished。整体结构、并发模型(send worker + 弱引用 reader)、超时口径(5s 会话建立 / 12s 最终结果)与 bailian.rs 保持同构。
  • 协议行为均经 2026-07 线上实测(公共网关 + 专属域名):尾段冲刷(说到一半松手不丢字)、纯静音验证干净返回、language 省略走服务端自动检测。
  • 接线coordinator / asr_wiring / dictation / qa_session / resources 按 Bailian 分支同构接入(流式 WS + DeferredAsrBridge 缓冲开链前音频),含听写、悬浮问答、重转录、取消全路径。
  • 连接检查:「验证」发 500ms 静音做真实会话检查;「拉取模型」先连通性检查再返回官方文档在案的模型列表(稳定别名 + 2 个快照版);协议头校验返回 qwen3EndpointSchemeInvalid(含默认 Realtime 地址的明确提示)。
  • 前端:ASR 供应商下拉新增「阿里云百炼 Qwen3 实时 ASR」预设;i18n 5 语言(en / zh-CN / zh-TW / ja / ko)。

兼容

  • 不包含:热词(Realtime 协议文档未提供 vocabulary 下发);手动 commit 模式(采用 server_vad,非 VAD 模式官方建议 ≤60s,不适合不限时长听写);批式 qwen3-asr-flash(兼容模式 chat/completions,另一条协议线)。
  • 对现有用户 / 本地环境 / 构建流程的影响:纯增量——新增供应商 id bailian-qwen3-realtime,不改动任何现有供应商的行为、凭据格式与默认值。

测试计划

  • 命令:cargo test --manifest-path src-tauri/Cargo.toml → 573 passed / 0 failed(含新增 18 个 client 单测:URL 拼接/专属域名、消息构造、interim stash/text 语义、completed 收集、尾段兜底、错误事件、静音空会话、句段拼接、音频缓冲)
  • 命令:npm run build(tsc + vite)→ 通过
  • 协议实测:独立 WebSocket 脚本直连线上验证 VAD 断句、session.finish 尾段冲刷(含刻意截断音频尾部的场景)、静音会话、省略 language、专属域名全链路真实语音转写逐字正确。
  • 手工验证(macOS 15 / Apple Silicon,scripts/build-mac.sh 本地构建安装):
    • 新预设选择后默认值正确填充;「验证」「拉取模型」通过。
    • 公共网关与业务空间专属域名两种 endpoint 均实测听写正常。
    • 多句带停顿听写断句拼接正常;说到一半立即松手尾段不丢。

PR Type

Enhancement, Tests, Documentation


Description

  • Added Qwen3-ASR-Flash realtime provider (OpenAI Realtime WS protocol)

  • Integrated with coordinator, dictation, QA session, and credentials

  • Implemented real connectivity check and scheme validation

  • Added i18n support across 5 languages and frontend preset


File Walkthrough

Relevant files
Enhancement
11 files
mod.rs
Register new qwen_realtime module                                               
+2/-0     
qwen_realtime.rs
Add Qwen3 Realtime ASR client (802 lines)                               
+802/-0 
credentials.rs
Include qwen_realtime provider in credential check             
+3/-1     
providers.rs
Add validation and model list for Qwen3                                   
+56/-0   
coordinator.rs
Integrate Qwen3 ASR into coordinator                                         
+41/-2   
asr_wiring.rs
Wire Qwen3 ASR provider kind and start                                     
+24/-0   
dictation.rs
Handle Qwen3 session in dictation                                               
+104/-0 
qa_session.rs
Handle Qwen3 ASR in QA session                                                     
+39/-0   
resources.rs
Add cancel for Qwen3Realtime                                                         
+1/-0     
ProvidersSection.tsx
Add Qwen3 preset and error code mapping                                   
+5/-0     
shared.tsx
Add bailian-qwen3-realtime to AsrPresetId                               
+1/-0     
Documentation
5 files
en.ts
Add English i18n for Qwen3 provider and error                       
+2/-0     
ja.ts
Add Japanese i18n for Qwen3 provider and error                     
+2/-0     
ko.ts
Add Korean i18n for Qwen3 provider and error                         
+2/-0     
zh-CN.ts
Add Chinese (Simplified) i18n for Qwen3                                   
+2/-0     
zh-TW.ts
Add Chinese (Traditional) i18n for Qwen3                                 
+2/-0     

@github-actions

github-actions Bot commented Jul 10, 2026

Copy link
Copy Markdown
Contributor

PR Reviewer Guide 🔍

(Review updated until commit ab10692)

Here are some key observations to aid the review process:

🎫 Ticket compliance analysis 🔶

774 - Partially compliant

Compliant requirements:

  • 新增独立 ASR 供应商(Qwen3RealtimeASR,asr/qwen_realtime.rs,PROVIDER_ID: "bailian-qwen3-realtime"),默认 endpoint wss://dashscope.aliyuncs.com/api-ws/v1/realtime、默认模型 qwen3-asr-flash-realtime,支持业务空间专属域名。
  • 验证函数 validate_qwen3_realtime_asr_provider 执行真实 WebSocket 连通性检查(发送 500ms 静音)+ 协议头校验(调用 endpoint_scheme_is_websocket)。
  • list_provider_models 先执行连通性检查再返回静态列表,与 bailian 分支同口径。
  • 未替换或移除现有 fun-asr-realtime(bailian)供应商;新版作为独立 provider kind 并列存在。

Non-compliant requirements:

(empty)

Requires further human verification:

(empty)

⏱️ Estimated effort to review: 4 🔵🔵🔵🔵⚪
🧪 PR contains tests
🔒 No security concerns identified
⚡ No major issues detected

bailian.rs 头注释预留的 follow-up 协议线:/api-ws/v1/realtime,与经典
/api-ws/v1/inference 并列为独立供应商 bailian-qwen3-realtime。

- asr/qwen_realtime.rs:新客户端。base64 JSON 事件流 + server_vad 自动断句,
  按序收集 completed 句段;session.finish 冲刷尾段后回 session.finished。
  关键协议行为均经 2026-07 线上实测:尾段冲刷(说到一半松手不丢字)、
  纯静音验证干净返回、language 省略走自动检测、业务空间专属域名
  (wss://{WorkspaceId}.cn-beijing.maas.aliyuncs.com)同样承载此路径。
- coordinator / asr_wiring / dictation / qa_session / resources:与 Bailian
  分支同构接线(流式 WS + DeferredAsrBridge)。
- 验证与拉取模型:真实 WS 连通性检查;协议头校验(qwen3EndpointSchemeInvalid)。
- 前端:ASR 预设下拉新增一项;i18n 5 语言。

测试:cargo test 573 passed(新增 18 个客户端单测);npm run build 通过。
@bigsongeth bigsongeth force-pushed the feat/qwen3-asr-realtime branch from 0641aa7 to ab10692 Compare July 10, 2026 16:55
@github-actions

Copy link
Copy Markdown
Contributor

Persistent review updated to latest commit ab10692

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Projects

None yet

Development

Successfully merging this pull request may close these issues.

[asr] 新增百炼 Qwen3-ASR-Flash 实时供应商(OpenAI Realtime WS 协议),支持业务空间专属域名

1 participant