Неправильная настройка Cloudflare и ошибка в SGLang привели к утечке данных других пользователей. С 27 августа по 9 сентября 155 ответов Workers AI на запросы, содержащие более 681 280 токенов, включали данные из запросов других пользователей: размер пула кэша ключ-значение был меньше, чем размер контекстного окна, а в режиме дезагрегации SGLang повторно использовались устаревшие страницы кэша. Пользователям дезагрегированного SGLang следует проверять размер пула по отношению к длине контекста. Читать далее →