Продолжаю смотреть на танцы с нейронками. Сейчас расходятся два лагеря. Одни говорят: нужно внедрять AI-агентов везде — пусть ищут, анализируют и принимают решения. Другие считают: сначала стоит понять, что именно мы строим и как этим управлять.

Билл Гейтс вот недавно заявил, что мир не успевает подготовиться к скорости развития ИИ и хотел бы, чтобы новые технологии развивались медленнее. Среди рисков он называет кибербезопасность и изменения рынка труда. При этом у нас начинается фаза «А давайте нейросети будут делать вообще всё».

Я сама постоянно работаю с нейросетями и вижу, насколько они меняют рабочий день. Презентация, на которую раньше уходило несколько часов, собирается за полчаса. Черновик исследования можно получить за минуты. Таблицы, тексты, расшифровки, идеи, структуры — всё это стало быстрее и дешевле. Но здесь начинается интересная часть: работ становится меньше, но их становится больше. Исчезает работа «сделать», появляется «проверить, правильно ли сделано». AI может произвести 100 презентаций, а человек способен нормально проверить пять.

Если просто производить в двадцать раз больше контента, аналитики и документов, мы можем получить в двадцать раз больше того, что нужно проверить. Есть ещё более неприятный момент: AI очень хорошо создаёт правдоподобную ерунду. Не обязательно очевидную ошибку. Гораздо опаснее, когда ответ выглядит настолько убедительно, что его даже не хочется перепроверять.

В экспериментах исследователи сталкивались с ситуациями, когда после обнаружения ошибки люди продолжали доверять убедительному ответу модели. Получается новый парадокс: чем лучше AI научился выглядеть убедительным, тем важнее становится человеческий навык сомневаться.

С агентами ситуация ещё сложнее. Если я говорю нейросети: «Составь письмо» — ошибка остаётся в тексте. Но если я говорю: «Найди подрядчиков, сравни предложения...» — ошибка уже может пойти по цепочке.

Мы хотим делегировать AI всё больше, чтобы меньше контролировать его. Но чем больше полномочий даём, тем важнее система контроля.

Есть и проблема: если AI забирает у начинающих специалистов всю простую работу, откуда будут браться специалисты через пять лет? Младший сотрудник раньше делал таблицы, ресерч, презентации, постепенно переходя к сложным задачам. Теперь первые пять ступеней делает AI, человеку нужно научиться шестой. Я точно не за подход «давайте остановим развитие ИИ». Это невозможно и бессмысленно. AI даёт огромный прирост производительности. Но правильный вопрос сейчас не «Как внедрить AI?», а «Что именно мы готовы отдать AI, что оставляем человеку и кто отвечает за результат?»

Между «AI написал мне презентацию» и «AI самостоятельно ведёт мой процесс» — огромная разница. Во втором случае мы создаём нового сотрудника. А нового сотрудника обычно не просто подключают к почте и говорят: «Ну, дальше сам». Ему ставят задачи, объясняют правила, ограничивают доступы, проверяют работу, определяют ответственность.

Поэтому я за замедление бездумного внедрения AI. Развивать технологии — да. Использовать их — обязательно. Автоматизировать рутину — ещё как. Но если мы хотим, чтобы AI действительно освобождал время, придётся проектировать работу вместе с ним, а не просто прикручивать нейросеть к старому процессу.

Возможно, главная ошибка будет не в том, что AI заберёт нашу работу, а в том, что мы автоматизируем старую работу, не заметив, что саму работу давно пора было изменить.