Ssm mamba2 – это одна из перспективных, но в то же время не очень активно исследуемых архитектур нейросетей. Несмотря на то, что мегамощные трансформеры тратят чрезчур лишние мощности. Но бизнес любит деньги в моменте, а не реальные преимущества, которые важнее для пользователей.

В моём арсенале уже множество испробованных архитектур, и даже спайковая модель не показала себя лучше. Хотя у меня мало знаний чтобы спроектировать её правильно… всё в переди. Сейчас я занят другим проектом на основе этого и ещё одного (объединяя лучшие практики хочется создать нечто эффективное и полезное, а не денежное)

Можете попробовать обучить на своих данных и протестировать выдачу на си интерфейсе. Скорость должна вас порадовать. В моём случае на cpu было 300 ток/сек. Ссылка на репо