Мне кажется, сейчас мы наблюдаем один из них. Руководители ведущих AI-компаний почти одновременно заговорили о необходимости замедлить гонку искусственного интеллекта и создать обязательные правила безопасности. Дарио Амодеи из Anthropic призывает дать системам безопасности возможность догнать развитие технологий. Его поддерживает Илон Маск. Сэм Альтман из OpenAI говорит уже не о добровольных обещаниях, а об обязательных национальных требованиях и независимых проверках. И здесь невольно вспоминается история атомной энергии. В 1940-е человечество тоже оказалось в совершенно новой ситуации. Учёные создали технологию, которая могла дать огромную пользу, но одновременно впервые получила в свои руки способность уничтожать города за считаные минуты. После Хиросимы и Нагасаки мир довольно быстро понял простую вещь: недостаточно просто создать мощное оружие. Нужно научиться жить с фактом его существования. Появились международные договоры, инспекции, системы контроля, ограничения распространения ядерных технологий. Это заняло десятилетия. И, к сожалению, до сих пор не решило всех проблем. Теперь появляется другая технология. И здесь сходство с атомной эпохой особенно неприятное. Не потому, что искусственный интеллект завтра уничтожит человечество. Это было бы слишком простым и даже удобным страхом. Проблема в другом. Люди из глобальных корпораций создают систему, которая постепенно получает возможность делать всё больше вещей самостоятельно. Уже сейчас самые мощные модели демонстрируют возможности, которые ещё недавно казались исключительно человеческими. Это поиск уязвимостей, сложный анализ, автономное выполнение последовательностей действий. OpenAI прямо признаёт, что его новая модель способна находить ранее неизвестные уязвимости в защищённых системах. И одновременно между компаниями идёт гонка. Ведь это капитализм. А гонка с подпиткой миллиардами плохо совместима с осторожностью. Если одна компания скажет: "Давайте остановимся и проверим", а другая промолчит или ответит: "Мы продолжим и получим преимущество", очень трудно ожидать, что рынок добровольно выберет первый вариант. И вот тут возникает историческая аналогия, от которой становится как-то не по себе. Создатели атомной бомбы не были сумасшедшими людьми, мечтавшими уничтожить мир. Они решали научную и военную задачу. Потом выяснилось, что сама постановка задачи изменила мир. Сегодня разработчики AI тоже решают конкретные задачи: научные открытия, медицина, образование, программирование, производство. Но вместе с полезными возможностями растёт и цена ошибки. Поэтому можно не боялся искусственного интеллекта. ✅ А нужно, мне кажется, боялся ситуации, в которой соревнование окажется сильнее здравого смысла. Когда каждый понимает, что нужно притормозить, но никто не может сделать это первым. И, возможно, именно поэтому нынешние заявления руководителей AI-компаний так важны. Они впервые напоминают нам о старом уроке XX века: некоторые технологии нельзя регулировать по принципу "сначала создадим, потом разберёмся". Сначала человечество научилось расщеплять атом, а потом долго училось не нажимать кнопку. Хочется верить, что с искусственным интеллектом нам не придётся повторять вторую часть этого эксперимента.

#ИИ #РазвитиеИИ #ЦифровойМир #технологии #контрольтехнологий