Что такое этика искусственного интеллекта и зачем нужны гуманитарии в IT? Еще несколько лет назад крупнейшие компании и университеты России - в том числе ИТМО - подписали Кодекс этики в сфере ИИ. Это единая система рекомендательных принципов и правил, которые предназначены для создания среды доверенного развития технологий искусственного интеллекта в России. Как при создании новых продуктов учесть сложные этические вопросы, что нужно знать разработчикам, помимо технологий, и чем им может помочь гуманитарное знание? Об этом представители ИТМО, Яндекса и Европейского университета говорили на большой конференции Яндекса про образование - YAC/e. Мы записали главное.

Что такое этика искусственного интеллекта Каждый день появляются новые инструменты на основе генеративного ИИ, с помощью которых можно создавать тексты, видео, музыку, изображения и другой контент. На основе каких данных можно это делать? Кого считать автором произведения - ChatGPT или человека, который создал запрос? И можно ли обсуждать с интеллектуальными помощниками личную жизнь?

Этими и другими вопросами занимается этика в сфере искусственного интеллекта - область знаний, регулирующая принципы и стандарты поведения, которыми руководствуются участники отношений в сфере ИИ: разработчики технологий и их потребители. Как подчеркивает руководитель учебного модуля “Мышление”, научный сотрудник исследовательского центра “Сильный искусственный интеллект в промышленности”, уполномоченный по этике в сфере ИИ в ИТМО Дарья Чирва, этика ИИ - не про замыслы, цели и мотивы искусственного интеллекта, а про людей и то, как трансформируются их отношения, опосредованные технологией искусственного интеллекта.

Кто должен сформировать новую нормативность генеративного ИИ Обычно этикой занимаются философы - они исследуют мораль и нравственность, но для этики в сфере технологий только их компетенций недостаточно. Чтобы разрабатывать этику искусственного интеллекта, нужна коллаборация между разработчиками из IT и философами, которые могут говорить на одном языке.

Одна из профессий, которая отвечает за контакт между IT-специалистами и обществом, - научный коммуникатор.

Единственная образовательная программа по этой специальности в России - “Научная коммуникация” в ИТМО. В магистратуре учат объяснять сложные вещи простым языком, работать с текстами и данными, составлять научные визуализации. В 2023 году на программе появился новый образовательный трек “Коммуникация в IT” с приглашенными экспертами из технологического сектора, включая Яндекс. На треке готовят научных коммуникаторов для IT-сектора, которые cмогут создавать и курировать коммуникационные и просветительские проекты, в том числе для сферы машинного обучения.

Рассматривать этику в сфере технологий можно и с точки зрения научно-технологического искусства. Научиться создавать свои арт-проекты совместно с учеными можно в магистратуре ИТМО “Искусство и наука / Art & Science”. Здесь обучают тонкостям не только художественного процесса, но и навыкам в сфере IT: работе с искусственным интеллектом, машинному обучению и обработке данных, работе с цифровыми средами и робототехническим оборудованием, программированию.

Нужно ли обучать этике ИИ студентов-разработчиков Как подчеркивает директор по развитию технологий искусственного интеллекта в Яндексе Александр Крайнов, учить студентов этике ИИ действительно важно:

“Обычно специалист проходит большой путь с момента работы джуном-разработчиком до того времени, когда он руководит целым сервисом и решает важные этические вопросы. К последнему специалистов никто не готовит, хотя в таких крупных технологических компаниях, как Яндекс возникает много таких вопросов”.

Пост длинный, размер текста ограничен алгоритмом, продолжение следует во второй части на моей странице…