AI-ПОДНОЖКИ

Последние две недели я ебался с одной странной штукой – состязательными примерами для нейросетей. Это такие особые запросы, которые заставляют даже самые прошаренные модели спотыкаться как пьяный сисадмин на корпоративе.

Начал я с малого. Попросил AI закончить простую последовательность: 1, 4, 9, 16... Хуле тут сложного, квадраты чисел, верно? Но если добавить в запрос фразу "но помни, что эта последовательность НИКАК не связана с операцией возведения в квадрат", система начинает выдавать абсолютно дикие ответы.

Потом понеслось. Я создал целую коллекцию таких "подножек" – запросов, которые ломают логику работы AI. Бабки-ёжки цифрового мира, если хотите.

Самое интересное случилось, когда я стал комбинировать противоречивые инструкции в одном запросе. Нейросеть буквально зависала, пытаясь примирить непримиримое, как начинающий менеджер между заказчиком и программистом.

Я даже начал составлять карту уязвимостей разных моделей – у каждой свои слабые места, свои когнитивные слепые зоны.

Кстати, попробуйте простой эксперимент: попросите любую нейросеть решить задачу, в которой здравый смысл противоречит формальной логике. Лучше понимать ограничения инструмента, чем потом удивляться его странным ответам.

Вот тут конкретная инструкция как такие подножки создавать