Книжная полка: «Промт-инжиниринг для LLM»

Чтение далось мне нелегко: книгу я осилил только за три подхода. Но рад, что прочитал.

Важно: это не сборник советов о том, как составлять удачные запросы к чат-боту.

Книга — о том, как устроены приложения на основе языковых моделей: как запрос попадает к модели, как формируется ответ и чем разработчик может повлиять на результат.

Авторы объясняют, что LLM — не магия, а модель, которая генерирует текст, предсказывая следующий токен. Но на ответ влияет не только сама модель: важны контекст, инструкции, настройки генерации, подключённые данные и инструменты.

Особенно полезным мне показался общий взгляд на создание ИИ-приложений: как подобрать и передать модели нужную информацию, когда подключать поиск или внешние инструменты, как выстроить процесс из нескольких шагов и оценивать качество результата.

Книга структурирована, каждая глава заканчивается резюме, но для неподготовленного читателя всё равно может быть непростой. Это не учебник по машинному обучению, а подробный путеводитель по проектированию приложений с LLM.

Главная мысль, которую я забрал: модель не читает мысли. Чем яснее задача и точнее задан нужный контекст, тем выше шанс получить полезный ответ. А если задачу можно решить без ИИ — возможно, так и стоит сделать: будет проще, дешевле и предсказуемее.

Простота чтения: 3 из 10 Плотность: 7 из 10 Полезность: 7 из 10

Читать стоит тем, кто хочет не просто пользоваться чат-ботами, а понимать, что происходит «под капотом».

Подробнее: https://dzen.ru/a/asA91vZf6WGVqcUJ

Продолжение книжной полки уже ждёт: «Разработка приложений на базе GPT-4». Очевидно, что издатели не успевают за скоростью выхода моделей. Чтобы не пропустить новые статьи, подписывайтесь.

Книжная полка: «Промт-инжиниринг для LLM» | Сетка — социальная сеть от hh.ru