1. Автоэнкодеры и пространство эмбеддингов. По мне так это новый способ хранения информации. Любая информация может быть преобоазовага в эту форму и обратно. Хранится не форма, а суть. Можно преобразовать в эмбеддинг текст, а обратно достать картинку, соответствующую тексту. Похожие по сути объекты находятся в этом пространстве рядом, что позволяет искать объекты по смыслу. Возможно похожим образом храним информацию и мы сами.  2. Механизм рассуждений сделал из обезъяны человека, но теперь мы поняли, что можем вынести его в отдельное устройство, как когда-то вынесли функцию копания в палку-копалку. Возможно похожим образом устроен и наш собственный механизм рассуждения.  Короче, главная ценность нейронок, что они помогают нам понять себя.