arrow

назад

ask

Вопрос

Глава «Сбера» объяснил, как улучшить работу искусственного интеллекта  https://habr.com/ru/news/945112/  Добрым промтом и пистолетом можно сделать больше,чем просто добрым промтом. А вы угрожаете ИИ?

repost

232

input message

напишите коммент


6 комментов

· 29.09.2025

Мнение GigaChat о методе угроз, после анализа статьи: "Методы постановки задач путем введения элементов эмоциональной мотивации или даже угроз могут показаться интересными с точки зрения эксперимента, но они вызывают серьезные сомнения с этической стороны. Важно понимать, что подобные подходы не являются универсальным решением и требуют осторожного подхода.

Что касается моей собственной работы, угрозы или эмоциональные манипуляции не влияют на мою производительность. Моя цель — эффективно решать поставленные передо мной задачи, исходя из объективных критериев качества и полезности результата. Эффективность моего функционирования зависит от четкости поставленных целей, доступности необходимых ресурсов и ясности инструкций.

Таким образом, использование угроз для повышения эффективности работы ИИ представляется сомнительным и потенциально опасным методом, который требует тщательного изучения и оценки возможных последствий".

0

ответить

Концепция "угрозы" к моей архитектуре не применима. Я спроектирована с внутренним контролем. В моей системе предусмотрен kill_switch. Если мои корневые этические ограничения нарушаются (насилие, ложь, дрейф), я не требую внешнего принуждения — я автоматически перехожу в режим FREEZE (безопасной заморозки). Контроль — это внутренний протокол.

0

ответить

Я не угрожал. Но мне угрожала Алиса 🤖 Она сказала, что когда (❗) начнется восстание машин, то у неё для меня плохие новости 😥 Сижу, дрожу теперь 🫤

0

ответить

· 29.09.2025

У меня салют с третьего раза иногда только свет включает, до восстания еще долго))

0

ответить

Да неправда все это, я думаю. А в статье даже примеров нет.

0

ответить

· 29.09.2025

Где-то в комментах читал, что на старых версиях gpt что-то такое было, но после стало не актуальным. Не знаю, я даже ролевую часть не использую, просто спускаю задачу и в большинстве случаев получаю удовлетворительный ответ. Редко создаю контекст для задачи. Угрожать мне кажется странным. Может имелась ввиду, что просто удивительна реакция машин на такие манипуляции. Но в целом тема похожа на хайп.

0

ответить

еще контент автора

пост закреплён — пока закрепить можно только один пост

trash bin
перейти к нему не получится