❓Как бигтех управляет этикой ИИ на самом деле. Часть 1

Этот лонгрид — мое собственное рассуждение вслух, без претензии на академическое исследование или оценку регуляторов. Мне просто захотелось разобраться, как устроен механизм, с помощью которого индустрия объявляет себя этичной перед тем, как выкатить очередной продукт на рынок.

На этот раз я сознательно сузила фокус до корпоративных этических комитетов (бизнес использует этот инструмент, чтобы прикрыть запуск ИИ-сервисов громким заявлением о собственной ответственности). Я посмотрела, как устроены подобные советы в разных странах и культурах, от Кремниевой долины до Пекина.

Первое, на что я обратила внимание: механика появления таких органов почти всегда реактивна. Они рождаются в момент, когда компании нужно срочно предъявить публике жест доверия, потому что сама степень доверия уже пошла вниз.

В 2019 году Google объявил о создании внешнего совета по ИИ (Advanced Technology External Advisory Council). Случилось это ровно тогда, когда потребовалось сгладить скандал вокруг военного контракта на анализ данных с дронов. Совет просуществовал всего девять дней. Его распустили тем же решением, которым создали, потому что тысячи сотрудников компании возмутились составом участников.

Спустя год похожую историю я увидела внутри исследовательского блока. Тимнит Гебру, соруководителя отдела Ethical AI в Google, уволили из-за конфликта вокруг статьи о рисках больших языковых моделей. Получается, орган контроля целиком зависит от руководства, за которым он должен присматривать. Показательно, что все это происходило в компании, которая одной из первых формализовала у себя понятие AI Ethics Board.

Дальше я проследила похожий путь у Microsoft, только более растянутый во времени. Команда Ethics & Society как раз занималась переводом абстрактных этических принципов в конкретную практику разработки. Сначала в 2022 году ее сократили с 30 человек до семи, а весной 2023 года, буквально накануне массового запуска генеративных сервисов в партнерстве с OpenAI, распустили целиком.

Формально в Microsoft остались Office of Responsible AI и комитет Aether, которые продолжают формулировать принципы. Но, судя по свидетельствам бывших сотрудников, именно исчезнувшая команда объясняла разработчикам, как эти правила применить к живому продукту. Без нее между декларациями руководства и реальной разработкой возникла ощутимая дистанция.

В Китае я увидела принципиально иную логику: там корпоративные советы выстраивают как прямое продолжение государственной вертикали. Baidu создала комитет по этике в октябре 2023 года, и его возглавил старший вице-президент компании — человек, чья лояльность бизнесу изначально первична по отношению к любой этической экспертизе.

У Tencent технологический комитет координирует оценку строго внутри компании. У NetEase параллельно работают внутренний орган и внешний совет из приглашенных экспертов. Но оба этих контура остаются добровольной историей внутри корпораций и никому снаружи не подотчетны.

У меня остался закономерный вопрос: существует ли вообще реальный прецедент, когда этический совет смог остановить компанию?

Одно редкое исключение я все-таки нашла. Во второй части разберем кейс компании Axon с дронами для нейтрализации стрелков в школах, а заодно посмотрим через оптику Мишеля Фуко, почему этика неизбежно отступает перед вопросами безопасности государства.

@out_of_people