Но следующий учебный текст может оказаться «мама мыла машину». Еще следующий - «мама мыла раму губкой». Поэтому модель не может просто запомнить «рама хорошо, машина плохо». Миллионы сочетаний накладываются друг на друга, и после каждого нового примера приходится совсем немного поправлять всю эту картину так, чтобы усилить нужные пути и при этом не сломать то, чему модель уже научилась.

Вот теперь можно объяснить, что именно мы называем параметром. В настоящей модели нет отдельного провода «мама мыла → раму» с написанным на нем коэффициентом 1,2. Такие условные связи получаются совместной работой огромного количества параметров. Параметр - это одно из миллиардов чисел, которые определяют, насколько сильно один промежуточный результат внутри модели повлияет на следующий. Меняя эти числа, мы понемногу меняем всю карту возможных продолжений.

Чем больше таких параметров вы можете крутить в модели - тем она способнее и тем быстрее приближает тепловую смерть вселенной.

#проии #ликбез