Разработка политики для использования ИИ в компании: начало
📜Меня позвали помочь разработать Политику и регламент работы с ИИ для департамента разработки одной ИТ-компании. Все сейчас навставляли в свои процессы ИИ, а что дальше то?
Смотрю - сотрудники работают в своих собственных доменах вне корпоративного контура, код постепенно сливается в глобальную сеть. Даже разработчики крупных команд не в курсе, а что делать, если они случайно используют запатентованный код и что оказывается в том же гитхабе есть юридическая защита от подобных случаев.
Что делать с авторским правом? Есть ли фиксированный процент, от которого доработанный код перестает принадлежать ИИ и начинает быть результатом творчества разработчика? Что можно считать служебным творчеством?
Как построить безопасный контур и научиться маркировать код, созданный ИИ в общей системе компании? Как контролировать этот код с точки зрения безопасности, потому что именно там могут быть например, отложенные триггеры при атаке на инфраструктуру?
Попытаться ответить на эти вопросы, собрать это все в первый документ для компании, обозначить хотя бы верхнеуровнево риски на ближайшие 3-5 лет - задача крайне интересная. И да, разбираюсь я вместе с тем же ИИ, подбираю статьи, кейсы, корректирую нейросеть, рефлексирую и "обстукиваю" мысли с коллегами, чтобы найти более-менее оптимальный баланс. Посмотрим, что получится))
· 02.10
Вообще то что я сейчас вижу твориться в компаниях - тупиковый путь. Нельзя тащить все процессы в ИИ и уж тем более критически важные. Никто не знает, что внутри многих алгоритмов, это черный ящик. Наш директор RND поднимает локальные контуры, закрывает все каналы и крутит все внутри, без выходов во вне. Он сразу сказал туда загрузить можно все, а вот взять оттуда нельзя ничего.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 06.10
у меня просто нервный тик скоро будет. по основной специальности я операционный управленец и вот то, как сейчас внедряют ии в большинстве компаний - это просто рушить всю систему. сегодня вот буквально спрашиваю разработчика, как то регулируете ии в работе? ответ на миллион - мы без регламентов. ну мы же взрослые мальчики, понимаем все, что как утечь может.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён