🤖 ИИ-министр Албании: текущий прогресс

Помните историю, где Албания назначила ИИ-министра Diella следить за госзакупками – потому что ИИ не подкупишь и не запугаешь? 😁 Так вот, есть апдейт:

Под расследование попало агентство, которое Diella и делало. По данным NYT, директора и замдиректора госагентства цифровизации отправили под домашний арест — их связывают с группой, которую подозревают в манипуляциях заявками на госконтракты

Следите за руками. Ирония в том, что модель сама по себе откаты не берет – но неподкупность ИИ агента заканчивается ровно там, где начинается data pipeline:

🥟 Кто дает Diella доступ к реестрам и источникам правды (и что именно туда попадает)

🥟 Кто настраивает правила/проверки: какие критерии считать красными флагами, какие пороги, какие исключения

🥟 Кто управляет workflow: что ИИ делает сам, что отправляет на ручное согласование, а где просто подсказывает формулировки

🥟 Кто имеет права менять версии модели/промпты/конфиги (и остаются ли после этого нормальные логи)

По описанию в статьях Diella – это пока не робот, который сам подписывает тендеры, а скорее инструмент, который помогает с контрактами/проверкой тендерных документов при человеческом контроле

Так что пока нет публично доказанного кейса, что через Diella уже провернули что-то плохое – но кейс подсветил, где у такой системы самые жирные уязвимости

А пока – продолжаем проживать очередной эпизод черного зеркала и ждем следующих новостей из Албании 👉

@tagir_analyzes

В этом посте были ссылки, но мы их удалили по правилам Сетки