Создаём своего ИИ-клона 🤖Очень интересный проект, в котором реализован: 🔸экспорт ваших сообщений из мессенджера;🔸файнтюнинг LLM (используется Mistral 7B, либо Llama3) на этих сообщениях; 🔸CLI-интерфейс для общения с дообученной моделькой.
Aайнтюнинг достаточно тяжелый, рекомендуется иметь не менее 16gb vRAM для Llama с длиной контекста 4к токенов (автор всё делал на RTX3090). Ну и вся предодобработка текстов заточена под английский, для русского языка придётся немного её поменять.
Я со времён появления первых нормальных LLM жду сервис, который будет создавать копию личности по полному цифровому следу человека (тащить всё из соцсетей, из всех мессенджеров, можно записи телефонных разговоров ещё собирать и пр.). Возьмите себе пет-проект!
