Кстати, в гугловской справке удалось случайно обнаружить, в каких таких попугаях измеряется токен, часто фигурирующий в описаниях нейросетей. Один токен равняется примерно четырем символам текста. Соответственно, если модель поддерживает, например, контекст в 500 тысяч токенов, это примерно 2 миллиона символов.