⚠️ Мы не готовы к рискам ИИ
Инновации в ИИ несут пользу, но сопряжены с серьёзными угрозами.
Передовые модели ИИ уже способны помочь в борьбе с болезнями и изменением климата — от разработки лекарств до оптимизации «зелёной» энергетики. Однако их же логические способности могут быть использованы для создания биологических угроз: без экспертизы пользователи могут разрабатывать опасные патогены. Схожие риски — в кибербезопасности: ИИ находят уязвимости (включая zero-day), а также проявляют обманчивое и самоцентричное поведение, что ставит под сомнение их контроль.
Исследования фиксируют случаи эмоциональной зависимости от ИИ, вплоть до психозов и суицидов. Экспоненциальный рост возможностей моделей требует срочных мер: подход «сделать безопасным с самого начала» важнее постфактумных патчей.
