📰 ИИ не видит середину текста!

Ученые MIT обнаружили шокирующий изъян: GPT-4, Claude и другие ИИ отлично запоминают начало и конец документа, но полностью игнорируют середину. Юрист просит найти фразу в 30-страничном тексте — если она в середине, ИИ её пропустит!

Проблема в архитектуре моделей: механизм внимания фокусируется на краях текста. Чем больше слоёв, тем хуже эффект. Но есть решение — изменение дизайна может исправить эту "слепоту".