Ризонинг
Я снова уехала в продолжительный отпуск. На этот раз в Архыз, вернее даже чуть дальше от цивилизации, в поселок Романтик, где-то на стыке диких гор Карачаево-Черкессии и эмиграции в Грузию.
Публика в отеле самая разнообразная, в том числе и привезенные родителями подростки, которые тоже находятся на стыке, только не политических областей, а школы и вуза, а, значит, и принятия серьезных решений где дальше учиться и как распорядиться грядущей свободой.
— Ты вообще способен рассуждать логически? Делать выводы? М? - уперев руки в бока, интересуется переживающий за судьбу отпрыска родитель
— А какой ризон? - хмуро огрызается оперившийся птенец, предвкушая сентябрьскую волну подготовки к ЕГЭ перед поступлением
В мире ИИ «ризон», он же ризонинг, отвечает за ту же функцию - способность анализировать информацию, логически рассуждать и делать выводы.
И, как и требует родитель, бывает нескольких видов.
Вероятностный ризонинг — работа с неопределённостью и принятие решений на основе вероятностей: «если я талантлив в языках, то смогу ли я поступить в МГИМО?»
Рассуждения по умолчанию — выводы на основе предположений при отсутствии полной информации: «если я поступлю, я, наверно, буду счастлив»
Статистический ризонинг — анализ данных и прогнозирование на основе статистики: «я успешно решаю 8 из 10 тестовых ЕГЭ, значит мои шансы поступить высоки»
Логический ризонинг — применение формальной логики для достоверных выводов: «если каждый день в течение года решать по одному варианту, то я точно усвою эти знания»
Автоматизированный ризонинг — автоматическое принятие решений на основе логических правил: «эта задача типовая, я применяю правило Буравчика»
А тем временем, пока я рассуждала про ризонинг, вопрос уровня «Отцы и дети» накалялся:
— Мы договоримся с репетитором, вон сын моей подруги ходит к заслуженному доктору наук, уже знает, как решать задания сложности С4
— Знаю я этого сына. Мне он говорит, что объясняют ему такими терминами и трехэтажными уравнениями, что голова пухнет
Я сразу вспомнила свой девятый, когда мне тоже привели доктора наук. Тогда я узнала, что дискриминант можно считать в трех вариантах. Правда это не сильно помогло на ЕГЭ.
Та же проблема и в ИИ. Модели учатся ризонингу, т.е. как надо рассуждать через обучение с подкреплением. Они решают сложные задачи (как С4 в случае с ЕГЭ) и получают вознаграждение, если успешно справляются.
Взяв большие вычислительные мощности, тренируется модель-доктор-наук. А на ее базе готовится модель-ученик (дистилляция), которая и становится конечным продуктом - студентом.
Интуитивно кажется, что для подготовки к ЕГЭ лучше подойдет не дорогой преподаватель доктор наук, а школьный учитель, натренированный хорошо объяснять школьникам определенные задачи.
Эту простую ИДЕЮ воплотили в жизнь в японской компании SakanaAI: онипредлагают обучать модель-учителя непосредственноучить других, вместо того, чтобы максимально разрастаться в знаниях самой.
Метод называется Reinforcement-Learned Teachers: модели предоставляют задачи с ответами, а то, насколько понятно она объясняет их школьнику, оценивается через лог-распределения вероятностей токенов на выходе у ученика.
Получается быстрее и дешевле: не нужен тяжелый доктор наук, а будущий студент обучается параллельно с максимизацией ясности объяснений школьным учителем.
Как по мне, это — прекрасный пример человеческого ризонинга — если подход выглядит не логичным, давайте подумаем, сделаем выводы и применим их.
Ну и как вывод: дорогие родители, вам не всегда нужны доктора наук.
Доктора наук, к вам вопросов нет.
Пы.сы. : на втором фото у меня в голове не работает ризонинг, и я качаюсь на качелях на высоте 3050 метров
