Я постоянно делаю заметки, но в разных местах, из-за этого начинаю путаться, долго искать нужную информацию. В какой-то момент решил исправить это и сделать личное хранилище данных.

Начал искать решение, узнал про Obsidian. Сначала он меня пугал, думал, что это что-то сложное, но по сути это просто стильный блокнот с markdown-разметкой. Гениальная функция - заметки можно связывать друг с другом и создавать mindmap.

Синхронизация между устройствами в Obsidian платная, но можно использовать GitHub с плагином для синхронизации и сделать свое облако бесплатно.

Потом решил пойти дальше и сделать ИИ, который будет отвечать на базе моих заметок. Всё не упомнишь, а спросить в любой момент — удобно.

Мне понравилась Mistral с большим контекстом (32 000 токенов), но этого не хватило. Мои заметки оценились в 2 миллиона токенов.

Я понял, что скриншоты и фотографии занимают много места, поэтому исключил их из контекста.

Но объём все равно был большим. Тогда я сделал векторизацию базы и добавил поиск наиболее релевантных заметок перед отправкой в Mistral. После настройки порогов и ограничения токенов получил работающий запрос к модели. Правда, Mistral иногда "выдумывала" ответы, но я добавил в промт уточнение: «Используй только тот контекст, который есть в заметках».

Чтобы сделать процесс ещё удобнее, я подключил Telegram-бота. Теперь я просто пишу ему вопрос, а он отвечает на основе моих заметок.

Код на GitHub : https://github.com/poppkott/prods/tree/main/AibasedObsidian