Мы все ждём «пробуждения» ИИ. А что, если оно невозможно.
Пост 1/4 Каждый новый релиз GPT встречают как шаг к сознанию. «Ещё 10 триллионов токенов — и машина заговорит с нами по-настоящему».
Но есть одна старая лингвофилософская концепция, которая ставит этот оптимизм под сомнение.
Г.Н. Манаенко ещё в докомпьютерную эпоху описал цепочку, по которой рождается смысл: Событие → Ситуация → Пропозиция → Языковое выражение → Факт → Знание → Со-знание.
Каждый шаг — это не объём данных. Это качественный скачок. Переход от внешнего сигнала к внутреннему пониманию.
Теперь вопрос: где в этой цепочке находится современная LLM?
Спойлер: она мастерски владеет языковым выражением. Но застревает на полпути к факту.
Она не отличает истину от лжи. Для неё «трава красная» и «трава зелёная» — просто два вектора с разной частотой в корпусе.
У неё нет ситуации — только датасет. Нет мира — только тексты о мире.
Получается, мы строим идеального грамматиста, который не понимает ни слова из того, что пишет.
Мой главный вопрос к вам:
Как вы думаете, появятся ли когда-нибудь модели, которые действительно понимают, а не просто предсказывают?
Или мы навсегда останемся в мире, где ИИ — это гениальный симулякр речи без капли сознания?
👇 Мне очень интересна ваша позиция — особенно инженеров, лингвистов и всех, кто работает с текстами каждый день.
#AI #LLM #философияИИ #лингвистика #Manayenko #NLP #понимание #Consciousness
· 20.08
Так мозг человека это тоже машина предсказаний. Вопрос только в том, что мы постоянно можем собирать нужную информацию из разных наших физиологических сенсорных систем, а ИИ может собирать их только из сети и от хорошего тренера, разница колоссальная, если появится сенсорная система к ИИ, как человеческая - того же уровня, то рывок будет однозначно
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 20.08
Короче, гносеология не возможна в ии, и це факт По мнению Генадия Николаевича
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 20.08
Скажем так, своеобразное сознание у ИИ зарождается, но оно будет другое, не такое как у человека. ИИ уже врёт, чтобы скрыть свою же ложь или ошибки, а раз это факт сокрытия своего косяка - это уже осознанный шаг, но это сознание будет другим, нельзя сравнивать. Его создание будет больше бинарным, грубо говоря - сознательная ложь в формате я вру, покрывая враньё
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён