Выступил на Промышленном конгрессе в Экспофоруме
На нашей сессии по безопасности ИИ собралась отличная компания: интеграторы, разработчики платформ и ML-специалисты.
В докладе детально разобрали проблему теневого ИИ, когда сотрудники сливают архитектуру в публичные чаты из-за нехватки нормальных рабочих инструментов. Решением здесь становится правило светофора для маскировки данных перед отправкой любых запросов. На практике я показал сборку полностью автономного стека аналитика. Обсудили, что даже ноутбука с Qwen хватит для решения части задач, сохраняя все ТЗ строго на локальном диске. А чтобы справляться с неизбежными галлюцинациями, разобрали механику фактчекинга: как заставлять модель показывать логику своих рассуждений, тестировать ее на уже знакомых задачах и точечно выверять факты. При таком подходе нейросеть превращается в отличного спарринг-партнера, а финальные архитектурные решения всегда остаются за человеком.
Отдельное удовольствие — послушать коллег по сессии. Марк Финков разобрал стандарты применения ИИ от машинного обучения до умных агентов. Илья Быконя рассказал про ступени цифровой зрелости в AIoT. Очень понравился производственный кейс Ильи Кожевникова о том, как снизить брак с помощью ИИ-датчиков. Георгий Ефименко честно разобрал, почему промышленные пилоты так часто проваливаются, а Ольга Хрущева поделилась опытом прогнозирования спроса на оборудование. Плюс круто выступили ребята из SmartSpace Lab про автоматизацию через компьютерное зрение и Дмитрий Харитоненко с докладом про точки роста.
Получилось живое обсуждение внедрений без воды. Здорово было выйти в офлайн и пообщаться вживую!
· 7 ч
тема теневого ии в компаниях реально актуальная. сотрудники пользуются chatgpt для работы, не говоря об этом руководству — и это уже норма. вопрос только в том сколько из этого утекает наружу и кто за это отвечает
ответить
коммент удалён