Заголовок: Почему ИИ иногда «врёт»? Спойлер: он не злодей. Он просто угадывает 🎲

Коллеги, давайте сегодня поговорим честно и просто. Без умных слов. Многие боятся ИИ. Или, наоборот, верят ему как оракулу (и ни в коем случае не полагаются на него и не считают его «ответственным»). И то, и другое — ошибка. Чтобы перестать бояться (или слепо доверять), нужно понять, как он работает на самом деле. А работает он проще, чем вам кажется.

Проведём эксперимент прямо сейчас. Я скажу вам одно слово: «Доброе». Какое слово пришло вам в голову первым? Скорее всего — «утро». Правда? Хотя подходящих слов — десятки: слово, дело, сердце, утро. Но ваш мозг, опираясь на весь жизненный опыт, на миллионы прочитанных и услышанных фраз, выдал самый вероятный вариант. Статистически слово «утро» после «доброе» встречается в русском языке чаще всего. Поздравляю. Только что вы поработали как ИИ. 🤖 — 🧠 Что такое ИИ на самом деле? Большая языковая модель (та самая, что в ChatGPT, YandexGPT, GigaChat) — это не «разумная машина». Это гениальный угадыватель следующего слова. Она прочитала триллионы слов из интернета, книг, статей. И научилась одному: видя начало фразы, предсказывать, какое слово идёт дальше, с максимальной вероятностью. - «Доброе…» → с вероятностью 80% → «утро» - «Как ваши…» → с вероятностью 70% → «дела» - «Резюме кандидата показывает…» → с вероятностью 65% → «опыт работы» ИИ не «понимает» смысл. Он считает вероятности. Как очень быстрый калькулятор, который выучил весь язык.

❓ А откуда тогда галлюцинации? Вот тут начинается самое интересное. Когда ИИ не знает ответа, он не говорит «я не знаю». Он продолжает угадывать. И часто угадывает красиво, уверенно, складно — но неправильно. Это и есть галлюцинация — когда ИИ выдаёт ложный факт, но делает это так уверенно, что вы готовы ему поверить. Пример из HR: Вы спрашиваете: «Есть ли у кандидата сертификат PMP?» ИИ отвечает: «Да, сертификат PMP от PMI, получен в 2021 году». Звоните кандидату. А он даже не знает, что это такое. ИИ не «соврал». Он просто угадал, что в контексте IT-резюме PMP встречается часто, и выдал наиболее вероятное продолжение. что с этим делать я расскажу в следующих постах.

💡 Вывод: ИИ — раскладывает всю вашу информацию на цифры (буквы, фото, аудио и тд) находит похожие и рядом стоящие наборы чисел, ищет к ним по теории вероятности и возвращает вам в виде букв, слов и предложений. Он гениален в рутине, в текстах, в идеях. Но он не знает правду — он знает вероятности. Научитесь видеть в нём не «разум», а «мощный калькулятор слов» — и вы перестанете его бояться. И перестанете ему слепо доверять. А это — первый шаг к тому, чтобы начать им управлять.

🔥 Хотите узнать, как «заставить» ИИ не выдумывать, а честно говорить «не знаю»? Ставьте «+» в комментариях — в следующем посте разберём.

#ИИдляНачинающих #ГаллюцинацииИИ #HRиИИ #ПростоОСложном #aihr