LayerNorm выравнивает не слова, а числа внутри каждого токена
В трансформере токен представлен вектором — набором числовых признаков. После нескольких слоёв одни значения могут стать крупными, а
читать далее
#layernorm
звёзды индустрии
Менеджер по привлечению талантов в МТС
ex-директор по ИИ в Т-Банк (ex. Тинькофф)
HR Business Partner • автор HR на Драйве
PR-директор в Авиасейлс
IM Lead / Influence marketing Lead в Додо Пицца
