Умный ИИ должен уметь не продолжать

«Отправь это ему». Кому — ему? Что именно — это? Для человека контекст иногда очевиден. Для программы ошибка в таком месте может закончиться сообщением не тому получателю или отправкой не того файла. Поэтому автономность не равна бесконечной инициативе. Если имя неоднозначно, следующий шаг необратим или предыдущее действие завершилось с ошибкой, хороший агент должен остановить цепочку. Не задать десять вопросов подряд, а коротко показать: → что именно неоднозначно; → два наиболее вероятных варианта; → какое действие пока не выполнено. В Эрви я разделяю безопасные обратимые шаги и действия, после которых исправление может быть сложным: отправка, удаление, покупка, выдача доступа. Парадокс в том, что способность вовремя остановиться делает ассистента более автономным, а не менее. Ему можно доверить длинную цепочку, потому что он знает границу своих полномочий. Проверить Эрви бесплатно: https://eirven.foxyhosty.ru/ В какой ситуации вы бы обязательно оставили подтверждение человеком?