Вчера получил ссылку на интересное исследование Google Research, как ученые предложили научить нейросети спать.

Звучит максимально странно, но идея вполне серьёзная.

Сейчас большинство языковых моделей не запоминают новые знания так, как это делаем мы. Они могут учитывать предыдущие разговоры, обращаться к сохранённой информации, но сама модель от этого обычно не меняется.

Google исследует другой подход. Модель какое-то время работает, получает информацию, а затем переходит в условный режим сна, где закрепляет новые знания и тренируется на самостоятельно созданных задачах.

Первые эксперименты показали обнадёживающие результаты. Хотя до полноценного непрерывного обучения ещё далеко. И снова аналогия с цифровыми сотрудниками... 😁 Представим, что такой агент несколько лет работает в компании. Знает внутренние процессы, помнит ошибки, разбирается в специфике производства. По сути, приобретает собственный профессиональный опыт.

А потом компания решает перейти на другую ИИ-платформу.

Что делать с этим опытом? Можно ли его перенести? Или придётся заново обучать своего цифрового сотрудника?

Мне кажется, мы постепенно подходим к ситуации, когда накопленные знания ИИ могут стать не менее ценными, чем сама модель. И вопрос, кому они принадлежат и кто ими управляет, однажды окажется весьма болезненным.

Компании уже должны задумываться об этом или пока ещё слишком рано?

"Исследование Google Research"