math_tutor

Запуск приложения

Чтобы запустить приложение, вам нужно:

1. Создать файл .env в корне приложения. Все необходимые для работы приложения переменные окружения указаны в env.example. При необходимости, вы можете создать свои переменные окружения.

2. В папке tgi приведён пример запуска LLM на базе Text Generation Inference (TGI) с использованием GPU. Вы можете запустить LLM отдельным контейнером, используя инструкцию в папке tgi либо добавить запуск LLM-модели в docker-compose.yaml основного приложения: пример конфигурации можно посмотреть в файле docker-compose_with_llm.yaml

3. Запустите приложение из корня проекта:

   docker compose up --build

4. Для корректной остановки приложения выполните:

   docker compose down