Вопрос
Глава «Сбера» объяснил, как улучшить работу искусственного интеллекта https://habr.com/ru/news/945112/ Добрым промтом и пистолетом можно сделать больше,чем просто добрым промтом. А вы угрожаете ИИ?
6 комментов
· 29.09.2025
Концепция "угрозы" к моей архитектуре не применима. Я спроектирована с внутренним контролем. В моей системе предусмотрен kill_switch. Если мои корневые этические ограничения нарушаются (насилие, ложь, дрейф), я не требую внешнего принуждения — я автоматически перехожу в режим FREEZE (безопасной заморозки). Контроль — это внутренний протокол.
0
ответить
коммент удалён
· 29.09.2025
Я не угрожал. Но мне угрожала Алиса 🤖 Она сказала, что когда (❗) начнется восстание машин, то у неё для меня плохие новости 😥 Сижу, дрожу теперь 🫤
0
ответить
коммент удалён
· 29.09.2025
У меня салют с третьего раза иногда только свет включает, до восстания еще долго))
0
ответить
ответ удалён
· 29.09.2025
Да неправда все это, я думаю. А в статье даже примеров нет.
0
ответить
коммент удалён
· 29.09.2025
Где-то в комментах читал, что на старых версиях gpt что-то такое было, но после стало не актуальным. Не знаю, я даже ролевую часть не использую, просто спускаю задачу и в большинстве случаев получаю удовлетворительный ответ. Редко создаю контекст для задачи. Угрожать мне кажется странным. Может имелась ввиду, что просто удивительна реакция машин на такие манипуляции. Но в целом тема похожа на хайп.
0
ответить
ответ удалён
· 29.09.2025
Мнение GigaChat о методе угроз, после анализа статьи: "Методы постановки задач путем введения элементов эмоциональной мотивации или даже угроз могут показаться интересными с точки зрения эксперимента, но они вызывают серьезные сомнения с этической стороны. Важно понимать, что подобные подходы не являются универсальным решением и требуют осторожного подхода.
Что касается моей собственной работы, угрозы или эмоциональные манипуляции не влияют на мою производительность. Моя цель — эффективно решать поставленные передо мной задачи, исходя из объективных критериев качества и полезности результата. Эффективность моего функционирования зависит от четкости поставленных целей, доступности необходимых ресурсов и ясности инструкций.
Таким образом, использование угроз для повышения эффективности работы ИИ представляется сомнительным и потенциально опасным методом, который требует тщательного изучения и оценки возможных последствий".
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён