Как трансформера выдать за себя или как я сделал небольшой трансформер на основе датасета русскоязычных диалогов  🦾    Привет, сетка!🔥   Не знал, чем начать вести свой блог начинающего ML-щика, но главное начать, верно? И начать решил с презентации сделанного моими ручками трансформера на основе великой статьи и чуть ли не мантры каждого ML инженера "Attention is all you need" , который генерирует продолжение русского диалога. Токенизатор, само собой на основе BERT с предобучением на rubert base cased. Результат весьма и весьма неплох. Осталось собрать все свои диалоги в датасет и можно уже зависать в социальных сетях😅 https://github.com/Vadiman728/russian_transformer_for_generating_text/tree/main