Однажды учёные поставили перед CycleGAN утилитарную задачу. Они хотели с помощью ИИ улучшить работу сервиса Google Maps. Для этого программисты должны были научить нейросеть генерировать карты по снимкам земной поверхности, а также проделывать обратную операцию - генерировать по фрагментам карт изображения, которые напоминали бы фото, сделанные с самолёта.

Для обучения использовали датасет из 1000 фотографий и 1000 соответствующих им карт местности. Уже после 500 эпох обучения сеть CycleGAN по всем признакам освоила решение поставленной задачи, о чём просигнализировала своим создателям. Однако, внимательно рассмотрев результаты её работы, учёные были сильно озадачены. Их нейронная сеть работала… СЛИШКОМ хорошо. Настолько хорошо, что выдаваемые ею результаты просто не могли быть реальностью.

Когда ИИ реконструировал фотографии по картам улиц, которые сам же и создал, то размещал на них множество мелких деталей, узнать о существовании которых по карте было просто невозможно. Например, поразительно точно рисовал окна на крышах зданий, помещая их ровно в те места, где они на самом деле были.

Специалисты Google изучили практически каждый пиксель на выданных CycleGAN изображениях. Вскоре они догадались, что нейросеть добавляет к сгенерированной по фото карте незаметные подсказки-шпаргалки, позволяющие ей потом точно воспроизводить все детали. Технику скрытой передачи информации называют стеганографией, и похоже, что нейронная сеть в совершенстве освоила её в процессе обучения. Чтобы обнаружить добавленную CycleGAN информацию, учёные вычли из сгенерированной ИИ карты исходное изображение и повысили его контрастность.

Результат этой операции позволил увидеть незаметные человеческому глазу дефекты изображения (шумы), с помощью которых нейросеть тайно шифровала расположение окон и других элементов аэрофотоснимка внутри сгенерированной карты.

Не боитесь, что нейросеть в итоге сама откроет себе фирму и станет сама себе HR? Напишите своё мнение в комментах!

💬 Задать вопрос @vpustov

🤖 Вячеслав Пустовой - HR нейросети