Почему ИИ не мыслит системно и спотыкается на крупных проектах. Я заметил, что в работе с нейросетями есть стадии: сначала не знаешь, что это такое, потом начинаешь пользоваться и спрашивать о чём-то небольшом, задаёшь всё больше вопросов и думаешь: “Вот оно, решение (почти) всех проблем”, а потом просишь помощи с крупными проектами и понимаешь, что не всё идеально. Напоминает эффект Даннинга—Крюгера.

Почему так происходит? 1. Нейросеть не понимает смысл слов, она их предсказывает. Когда я хотел узнать, как компьютер узнает время, ИИ предложил мне воспользоваться библиотекой для написания кода часов. То есть вместо описания физического устройства компьютера и, в частности, кварцевого кристалла я получил предложение узнать который час. Если со словом "часы" часто просят "код", то она идет по пути наименьшего сопротивления и выдает ответ с максимально близкой связью, а чтобы докопаться до нужного ответа, нужно сдвигать это распределение мелкими вопросами.

2. ИИ знает теорию, но не практику. Например, в квартире делается ремонт. Опытный мастер знает нюансы из опыта, может сразу составить примерный план работ, корректируя его в процессе работы, исходя из ситуации. Человек использует органы чувств постоянно: ВИДИТ мокрые пятна на штукатурке, КАСАЕТСЯ и чувствует влагу, а также понимает ЛОГИЧЕСКИ, что вчера был дождь. Нейросеть этого не знает, всего контекста ей не дашь.

3. Человек мыслит системно и понимает, если в одном месте что-то изменил, это влияет на что-то другое. ИИ не дальновиден. Он дает код, который работает...возможно... какое-то время. А позже выясняется, что это костыль, из-за которого ломается вся архитектура.

Я вел к тому, что ИИ — это хороший инструмент, которым стоит учиться пользоваться, но при этом нужно развивать собственный интеллект, а не полагаться на искусственный. Связи: 📌 Откуда компьютер знает время?

В этом посте были ссылки, но мы их удалили по правилам Сетки