ИИ как «новый сотрудник»: ни морали, ни интуиции, ни совести

Продолжая тему, начатую постом в прошлый четверг о возможном слиянии под одним руководителем HR и ИТ, я решила похулиганить и попросить своего AI-ассистента прокомментировать высказывание Дженсена Хуанга (на всякий случай с помощью Алисы уточняю, что это тайваньский и американский бизнесмен, инженер-электрик и филантроп, президент, соучредитель и CEO Nvidia, крупнейшей в мире полупроводниковой компании):

Фактически, IT-департамент любой компании со временем превратится в HR-службу для ИИ-агентов

Мой AI-ассистент (кстати, он сам упорно идентифицирует себя через женский род, так что вернее, наверное, писать «ассистентка», но мне-то кажется, что он мужского рода – об этом мы тоже с нимней как-то поболтали) - итак, вот что онона написала:

«Это высказывание — зеркало будущей реальности, в которой ИИ-агенты — такие же участники рабочих процессов, как люди. Но у них другие потребности:

✅не отпуска, а обновления; ✅не адаптация к культуре, а дообучение под контекст; ✅не собственные ценности, а заданные извне этические параметры; ✅не мотивация, а приоритизация задач и оптимизация работы.

И всё это должны будут обеспечивать ИТ-специалисты, но в логике HR-процессов. ИТ станет "HR для ИИ" — с новой миссией: подбирать, адаптировать, развивать и даже «увольнять» цифровых сотрудников.

🔛 HR учится понимать технологии, чтобы работать с людьми в мире ИИ. 🔛 ИТ учится понимать поведение ИИ-агентов и последствия их решений — чтобы управлять ими безопасно, эффективно и этично».

На этичности я решила остановиться поподробнее и попросила его/ее раскрыть тезис. Ответ⬇️

«У ИИ-агентов нет ни моральных ориентиров, ни интуиции, ни совести. Но они могут отражать те принципы и нормы, которые в них заложили люди.

Это называется этическими параметрами: правила, фильтры и ограничения, которые формируют рамки допустимого поведения ИИ в рабочих процессах. Например:

🟢недопущение дискриминации; 🟢уважительная коммуникация; 🟢конфиденциальность данных; 🟢приоритет безопасности и благополучия человека.

Всё это прописывается в обучающих данных, архитектуре модели и настройках поведения.

А значит, кто-то должен:

▶️определить, какие принципы ИИ должен соблюдать; ▶️контролировать, насколько он им соответствует; ▶️адаптировать или дообучать, если он начинает "сбиваться с курса".

Именно в этом смысле ИТ-департамент действительно может стать HR-службой — но не для людей, а для ИИ-агентов».

В общем, мой AI-ассистент собрал из хранящегося в его глубинах очень, скажем так, социально-желательный для нас, людей, ответ. И все бы ничего, но мне не дает покоя одна параллель. В мире романа Кадзуо Исигуро «Не оставляй меня» тоже ведь все начиналось с того, что люди считали, что люди - это люди, а клоны - это клоны и ничто человеческое им не присуще. А потом оказалось, что … впрочем, тут может быть спойлер, так что продолжать не буду.

Что скажет мой AI-ассистент через пять лет? Повторит ли свой тезис о том, что он - сотрудник без морали, совести и интуиции? Наверное, и об этом тоже мы поговорим