Skip to content

T-one потоковый риалтайм /api/v1/asr/ws-stream + автодетект протокола#9

Open
Guhaaa wants to merge 46 commits into
Sanich137:mainfrom
Guhaaa:feature/tone-streaming
Open

T-one потоковый риалтайм /api/v1/asr/ws-stream + автодетект протокола#9
Guhaaa wants to merge 46 commits into
Sanich137:mainfrom
Guhaaa:feature/tone-streaming

Conversation

@Guhaaa

@Guhaaa Guhaaa commented Jun 3, 2026

Copy link
Copy Markdown

Новый потоковый эндпоинт на нативном T-one (tone.StreamingCTCPipeline), параллельно офлайн-пути GigaAM:

  • api/v1/endpoints/asr_ws_tone.py: WS /api/v1/asr/ws-stream, фразовые партиалы, корректные времена по пакетам, потоковый ресемплинг к 8 кГц.
  • Recognizer/tone_engine.py: ленивый синглтон + опц. GPU (STREAM_WITH_GPU), прогрев в lifespan.
  • utils/tone_stream.py: нарезка кадров 2400/int32, синтез пословного result, StreamResampler.
  • services/ws_protocol.py: автодетект протокола (legacy {config}/{eof} и новый {type}), normalize_to_ws_message — вкручен в /ws и /api/v1/asr/ws (теперь оба принимают оба протокола).
  • config.py: TONE_* и STREAM_WITH_GPU настройки.
  • main.py: предзагрузка+прогрев T-one в lifespan (готов сразу после старта).
  • requirements.txt: доб. забытые апстримом sqlalchemy/aiosqlite/greenlet/email-validator.
  • Docker/Dockerfile.local + .dockerignore: локальная сборка новой архитектуры (CPU/CUDA).

Sanich137 and others added 30 commits April 22, 2026 12:16
Co-authored-by: aider (ollama/kimi-k2.6:latest-cloud) <aider@aider.chat>
Co-authored-by: aider (ollama/kimi-k2.6:latest-cloud) <aider@aider.chat>
Co-authored-by: aider (ollama/kimi-k2.6:latest-cloud) <aider@aider.chat>
Sanich137 and others added 16 commits May 8, 2026 11:12
Новый потоковый эндпоинт на нативном T-one (tone.StreamingCTCPipeline), параллельно
офлайн-пути GigaAM:
- api/v1/endpoints/asr_ws_tone.py: WS /api/v1/asr/ws-stream, фразовые партиалы,
  корректные времена по пакетам, потоковый ресемплинг к 8 кГц.
- Recognizer/tone_engine.py: ленивый синглтон + опц. GPU (STREAM_WITH_GPU), прогрев в lifespan.
- utils/tone_stream.py: нарезка кадров 2400/int32, синтез пословного result, StreamResampler.
- services/ws_protocol.py: автодетект протокола (legacy {config}/{eof} и новый {type}),
  normalize_to_ws_message — вкручен в /ws и /api/v1/asr/ws (теперь оба принимают оба протокола).
- config.py: TONE_* и STREAM_WITH_GPU настройки.
- main.py: предзагрузка+прогрев T-one в lifespan (готов сразу после старта).
- requirements.txt: доб. забытые апстримом sqlalchemy/aiosqlite/greenlet/email-validator.
- Docker/Dockerfile.local + .dockerignore: локальная сборка новой архитектуры (CPU/CUDA).

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants