Спустя 4 недели активного изучения нейронок инженерным методом (начиная с азов как устроена перцепторная сеть) и большого количества экспериментов до меня наконец-то дошло понимание, что такое нейросети и почему их "магия" - пшик.

Проблема здесь, наверное, кроется за использованием агентных систем управления, которые в качестве одного из компонентов используют LLM. Вроде как нейросеть делает все волшебство, но на самом деле - нет. Все делают тупые скучные скрипты и всякого рода интеграции, которые пишутся в основном как раз людьми. И в гораздо меньшей степени самими нейронками.

Суть в следующем - нейросеть, она же LLM - это туповатенький оператор, работающий над поставленной человеком задачей, и то не напрямую, а через клиента LLM. Клиент же - это самая обычная программа без каких-либо нейросетей, обладающая набором определенных функций, как собственных, так и сторонних, и передающая информацию от пользователей вместе со списком доступных функций в строго определенном формате JSON для LLM. Которая, с учетом своих ограниченных ресурсов, заданных обучающей выборкой, формирует (а точнее предсказывает) список действий, которые по идее надо сделать либо для получения дополнительной информации, либо для совершения действий. В интернет LLM ходить не умеет, файлы читать тоже, да и вообще она нихрена не умеет по факту. Всю грязную работу за нее делают скрипты, написанные изначально людьми. Да, есть нейронки поумнее, которые умеют написать самостоятельно скрипт самой себе чтобы сделать какую-то доп фичу, которую не умеют делать существующие инструменты. Но! Этот скрипт надо ведь запустить и к тому же ещё и правильно результат получить и интерпретировать. И тут без заранее написанного скрипта, умеющего выполнять производный код, написанный опять таки человеком, не обойтись.

В общем, людям нечего бояться нейросетей, что они их заменят. А вот проиграть другим людям, которые используют агентные системы управления для получения результата быстрее и дешевле - да, это серьезный риск. Освоение нейронок, точнее именно агентные систем (опять же АСУ), сейчас схоже освоению ворда. А среди пользователей агентных систем победит тот, кто понимает как все устроено и в случае чего может все то же самое сделать руками (вопрос надежности в случае отказа компонентов агентной системы)