Расследование (LLM-research)

[molivka]

Проблемы

1. Плохо считается близость

Если посмотреть на то, какие вопросы подливаются в контекст mistral, то мне кажется, что близости (косинусные расстояния) считаются не точно, а раз так, то какой алгоритм по выбору похожих элементов из БЗ не выбирай, лучше не будет.

Пример:

cos(b[i], target) = 0.2
cos(b[j], target) = 0.4
cos(b[k], target) = 0.5

Оптимально брать b[k] с косинусной близостью 0.5, но кто сказал, что этот элемент, реально похож на target? Вдруг target = «Дик автомат», b[k] = «ДКА (детерминированный конечный автомат)», b[i] = «является ли язык Дика регулярным?», b[j] = «виды автоматов»?

Вывод: коммититься надо в подсчёт близких

2. Нет метрик качества

Относительно чего мы смотрим, что то или иное улучшение работает? Субъективное мнение, что «моделька выдаёт что-то похожее на правду»? А кто сказал, что это не случайность?

Метрика оценки качества нужна, причём их должно быть две:

1. Метрика качества для поиска близких (здесь много чего можно попробовать улучшить, тут я потыкаюсь, когда будет хоть капля времени)
2. Метрика по ответам mistral (можем улучшить только контекст / промт)

Вывод: надо ввести метрики (сейчас формулирую)

3. Версия модели не фиксирована

Каждый раз используется latest модель, зачем? Я считаю, что лучше зафиксировать одну модель, так будет проще отслеживать прогресс и получим хоть какой-то детерминизм (например: latest_prev имеет одну архитектуру, которая обращает внимание на первую часть предложения, а latest — другую, которая обращает внимание на вторую часть предложения, пример нереалистичный, но показательный)

Вывод: фиксируем версию mistral

4. Не оцениваем влияние новых вопросов

Сейчас мы просто вливаем вопросы, не трекая явно как какой вопрос влияет на работу системы. Кажется, что нужно это отслеживать, причём с двух строн:

1. Не портится ли метрика поиска близких
2. Не портится ли метрика ответов mistral

Это может помочь в определение того, что делает вопрос «плохим»

Вывод: нужны автотесты
Лёша писал про них и делает их, метрику можно взять как количество вхождений важных слов и терминов в правильном и проверяемом предложении (допишу нормально)
Идея как получить больше юзер подобных вопросов тут (просто я при составлении датасета сама переформулировала без нейронки)

5. Не работаем с промтами к mistral

Вообще не работаем с промтами, а это ещё одна возможность улучшить ответы, задали один (вроде как) и всё.
Было написано по крайней мере две классные идеи, но почему-то забыты: про неуверенность и уточняющий вопрос

Вывод: после создания бейзлайна, надо двигаться в нескольких направлениях, включая промты

6. Нет проверки гипотез

Из-за того, что нет бейзлайна и метрик качества, которые давали бы понимание, какие действия ведут к успеху, а какие нет, нельзя проводить эксперименты / проверять гипотезы

Вывод: строим базу:

1. Метод подбора близких (у меня есть идея на этот счёт: дообучить модель на текстах про тфя, чтобы улучшить поиск семантически близких)
2. Метрика качества для близости
3. Метрика качества для ответов mistral
4. Одна mistral фиксированной версии
5. Автотесты

[molivka]

Хочу зафиксировать важный стейт, поскольку (как однажды в 2 часа ночи до меня дошло) мы говорим про метрики в разных смыслах, для меня метрика = то, чем мы измеряем качество / какие-то другие показатели (так, например, в аналитике используются MAU, CR, LTV).

Токен — минимальная единица, которая получается после преобразования текста алгоритмами мо, токеном может быть: слово, часть слова, буква…
Эмбеддинг — вектор, который получается после преобразования объекта, в нашем случае текста
Метрика — это оценка качества модели, как хорошо она выполняет свою «работу», пример метрики: accuracy
близость векторов <=> близости предложений
Fine-tuning - процесс, когда нейросетка ДООБУЧАЕТСЯ на новых данных, я буду просто говорить дообучение
Промт - некие инструкции, которые дают модели понять, что она должна делать, как должна себя вести, в каком стиле отвечать и прочее (для меня это означает «формирование личности у чата»)
Контекст - это текст, который модель использует для понимания ситуации. Неформально: промтом задаём «личность соьеседника», контекстом задаём тематику и цели общения.
Бенчмарк - это некоторые тесты для оценки качества модели, состоящие из определённого набора задач. И, да, генеративные модели довольно сложно оценивать, поскольку непонятно, что считать «хорошим» или «плохим» ответом.

[TonitaN]

@molivka , в целом, кажется, охватили большую часть вопросов. Ещё где-то (возможно, не здесь) важно разобраться с размером контекстного окна.

[molivka]

есть кейс, когда пишешь бред + «язык» и получаются интересные варианты: https://gist.github.com/stewkk/ea58242ecd3ad1455024f64d9bc40124

https://gist.github.com/stewkk/3c411926c4451aba856fa3a40d38366c

как фикс: собрать «словарь» из возможных названий для языков, и в случае отсутствия названия языка кидать ответ об ошибке (или перед ответом модели указать, что может быть бред)

[BaldiSlayer]

Кмк доп промпт тоже поможет, если несколько раз указать, что не надо нести бред))) (но вряд ли прям полностью)

btw, мы с Сашей оказывается основали мисис по мнению mistal-7b
https://gist.github.com/stewkk/9365abe26bad7112bc3d62f48e242f15

[molivka]

го запретим mistral юзать латех?
немного больно на это смотреть

https://gist.github.com/stewkk/4b2b107ed87bbbb2affabed5241bb4f6

попросила без символов латеха и ответ точно из бз😳

https://gist.github.com/stewkk/38a6d0105d372ed944ef60ee50506297

[TonitaN]

С промтом стало намного лучше, если поправить близости, думаю, станет уже в чём-то полезно (реально полезно, если ещё заткнуть дыры в БЗ).

[TonitaN]

Тест выборки близостей - ближайший ответ вообще не попал в контекст
https://gist.github.com/stewkk/19221abb44f4664581c685579246fea9
(язык L_d много где возникает не в тему, если так и продолжится после фиксов, нужно будет уточнять элемент БЗ и изгонять сокращения)

[BaldiSlayer]

Тест выборки близостей - ближайший ответ вообще не попал в контекст https://gist.github.com/stewkk/19221abb44f4664581c685579246fea9 (язык L_d много где возникает не в тему, если так и продолжится после фиксов, нужно будет уточнять элемент БЗ и изгонять сокращения)

думаю, что пока что так происходит потому что это очень короткий вопрос, тут есть слово "язык", а "что", "такое" и "L_d" значения вообще не особо играют в семантике, поэтому он почти везде и выдается как близкий

[molivka]

думаю, что пока что так происходит потому что это очень короткий вопрос, тут есть слово "язык", а "что", "такое" и "L_d" значения вообще не особо играют в семантике, поэтому он почти везде и выдается как близкий

дополню: сейчас думаем как отойти от таких ситуаций, когда много мусорных фраз по типу «расскажи, мне, пожалуйста, ...», «объясни мне...»
я пока дошла только до сбора таких фраз и удаления их при препроцессинге