Пост 4

Почему нейросети до сих пор «не понимают» тексты (и что с этим делать)

Долгое время в IT была иллюзия: если загрузить в компьютер все слова и правила грамматики — он поймёт язык.

Подход: язык = код, слова = значения, текст = передача сообщения.

Но это не работало. Чат-боты тупили. Нейросети несли чушь.

Почему?

Потому что в слове нет фиксированного значения. Значение — это не свойство слова. Это свойство ситуации, в которой слово произнесено.

Примеры: — Слово «да» в ответ на предложение руки и сердца — это одно. — «Да» в ответ на «ты меня слышишь?» — это другое. — А «да, конечно» в диалоге с начальником — третье.

Одно слово. Разные дискурсы. Разные смыслы.

Современные языковые модели (ChatGPT и подобные) перестали пытаться «понимать» слова в словарном смысле. Они учатся предсказывать вероятность следующего слова в данном контексте.

По сути, они симулируют работу дискурса. Они не передают информацию — они конструируют её на основе контекста и предыдущего опыта.

И для бизнеса здесь важный вывод.

Если вы создаёте продукт, работающий с текстом: — вы не можете обойтись без модели контекста, — вы должны понимать, как пользователь интерпретирует ваше сообщение, — вы должны учитывать, какой смысл он достраивает в своей голове.

В реальной коммуникации нет «чистых данных». Есть только информационное поле, в котором смысл рождается каждый раз заново.

Компании, которые это понимают, строят продукты, ощущаемые как «живые». Компании, которые не понимают, продолжают писать инструкции на 50 страниц, которые никто не читает. #нейросети #искусственныйинтеллект #AI #ChatGPT #обработкаестественногоязыка #NLP #IT #технологии #разработка #машинноеобучение