10 терминов в ИИ, которые закрывают базовый разговор

Минимальный набор терминов, которые точно необходимо знать. Без академической теории.

1. LLM (Large Language Model) Большая языковая модель, которая обучена на большом объеме текста, которая подбирает наиболее вероятные слова и таким образом формирует ответ на ваш запрос.

Основа ChatGPT, Claude и аналогичных продуктов. Модель не «думает» как человек, а предсказывает следующую порцию текста на основе обученных данных.

Простыми словами, это продвинутый «автоподбор текста»: он отвечает быстро и складно, но не понимает смысл как человек и поэтому может ошибаться.

2. Промпт Запрос к модели. Качество ответа напрямую зависит от формулировки. Для QA это рабочий инструмент: корректный промпт помогает генерировать тест-кейсы, проверки и тестовые данные.

3. Токен Токен — это небольшая единица текста (кусочек слова, слово или знак), на которые модель  делит сообщение, чтобы обрабатывать его по частям.

Модель считает не буквы и не слова, а именно токены, поэтому от их количества зависят лимиты запроса и стоимость обработки.

Точное количество токенов в запросе зависит от модели и её токенизатора — одна и та же фраза может весить по-разному в GPT, Claude и Gemini. Поэтому «на глаз» получить точную цифру нельзя. Основной способ посчитать токены можно при помощи специальных калькуляторов

4. Галлюцинации Галлюцинация — это когда ИИ уверенно придумывает то, чего на самом деле нет: несуществующую функцию, ссылку, документ или факт, и подаёт это как правду. Такая вот особенность работы модели: она не проверяет факты, а подбирает слова, которые кажутся подходящими, поэтому может соврать.

Для QA это значит, что ответы ИИ нужно проверять на достоверность, а в тестах — специально искать случаи, где модель выдумывает данные вместо честного «не знаю».

5. RAG (Retrieval-Augmented Generation) Это когда перед ответом система сначала ищет подходящие фрагменты в вашей базе знаний или документации, а затем передаёт их модели как «шпаргалку». Модель отвечает не по памяти, а опираясь на найденные источники, поэтому меньше выдумывает и может ссылаться на документы.

Для QA здесь два объекта проверки: правильно ли система находит нужный документ и корректно ли модель использует его в ответе — не искажает, не теряет важное и честно говорит, если подходящей информации не нашлось.

6. Fine-tuning Дообучение модели под конкретную задачу или предметную область. Используется, когда базовой модели недостаточно: нужен специфический формат, терминология или стиль ответов.

7. Контекстное окно Это максимальный объём текста (в токенах), который модель может удержать за один раз: туда входят и ваш запрос, и её ответ, и вся история диалога. Всё, что не поместилось в это окно, модель просто не видит — как если бы вы дали человеку прочитать только последние страницы документа, а начало вырвали.

Для QA это важно при тестировании чат-ботов и ассистентов: нужно проверять, помнит ли система контекст на длинной дистанции, не теряет ли ключевые детали из начала разговора и как ведёт себя при приближении к лимиту — обрезает историю, предупреждает пользователя или начинает отвечать неточно.

8. Температура Это настройка, которая определяет, насколько модель свободна в выборе слов: при низких значениях она отвечает предсказуемо и стабильно, при высоких — разнообразнее и креативнее, но менее предсказуемо. Проще говоря, это «ручка вариативности»: ближе к нулю — модель идёт по самому вероятному пути, ближе к максимуму — чаще отклоняется в сторону.

9. Эмбеддинги Это когда смысл текста переводят в числа, чтобы компьютер мог сравнивать фразы не по буквам, а по смыслу. Представьте, что каждому слову или предложению присваивают координаты на огромной карте смыслов: близкие по значению вещи оказываются рядом, далёкие — далеко. Например, «баг» и «ошибка» попадут в одну область, а «баг» и «погода» — в разные.

10. AI-агенты Это ИИ, который не просто отвечает текстом, а сам выполняет действия по шагам: ищет информацию, вызывает API, заполняет формы, работает с браузером или запускает сценарии.