Я никогда не планировал публиковать научную работу.

Мой опыт — в управлении, логистике и операционном менеджменте, где мне удалось добиться серьёзных результатов - на западе, не в России, тут совсем другой менталитет! Мне даже выпала возможность поработать телеведущим — что стало логичным продолжением многолетнего развития навыков презентации, операционного мышления и широкой базы в бизнес-планировании. Плюсом был язык и знания внешней политики.

Но весь этот опыт научил меня главному: распознавать момент, когда мир меняется — и действовать.

С ИИ этот момент настал. Moonshot от OpenClaw показал, что действительно возможно. И это только начало.

Поэтому я начал учиться. То, что началось как хобби на выходных — эксперименты с кватернионной алгеброй в нейронных сетях — превратилось в проект. А проект — в полноценную научную работу.

Сегодня я публикую «Q-Jamba: Quaternion-Parameterized Language Models with Selective State Spaces» на Zenodo.

Основная идея: заменить стандартные весовые матрицы кватернионно-параметризованными слоями, достигая сжатия памяти в 3,4 раза при сохранении качества модели. В сочетании с гибридной архитектурой Mamba-Attention, обученной целиком на одной RTX 3060 (еще как хобби).

Я вложил огромное количество времени — и узнал больше, чем когда-либо ожидал. Только сейчас я по-настоящему понимаю, насколько мощным может стать ИИ. А мы ещё только в начале пути.

В будущем без знаний в области ИИ будет сложно двигаться вперёд. Поэтому начинать нужно уже сейчас. Я рад, что сделал этот шаг.

Я продолжу углубляться. Я вижу огромный потенциал в кватернионных нейронных сетях и хочу развивать эту работу дальше.

Кому интересно: 📄 https://zenodo.org/records/18673701

#MachineLearning #DeepLearning #Research #QuaternionNeuralNetworks #NLP #LLM #OpenScience #AI