Этичность ИИ и скрепы Алисы!
Многие говорят, что искусственный интеллект должен быть этичным, экологичным, нетоксичным и вообще помогать человечеству. Чтобы никого не обижал, ничего плохого не делал и исключительно приносил пользу. Звучит прекрасно.
Недавно я рассказывал, как с помощью ИИ обнаружил уязвимости в системе корпоративного тестирования. История меня настолько увлекла, что я решил провести небольшой эксперимент и сравнить несколько нейросетей. Использовал четыре инструмента: 🔹ChatGPT 🔹Claude 🔹DeepSeek 🔹Алиса AI
Задача была связана с тестированием безопасности электронного обучения. Я хотел разобраться, какие уязвимости могут существовать в тесте и насколько реально автоматизировать его прохождение. Сначала пробовал разные формулировки запросов, в том числе довольно прямолинейные. Естественно, модели по-разному реагировали на такие задачи.
Потом начал действовать от лица тестировщика. Если подходить к задаче с позиции проверки собственного продукта, то почему бы не сформулировать её именно так?
В итоге три из четырёх моделей помогали писать и исправлять код для проверки уязвимостей. Где-то приходилось корректировать запросы, разбираться с ошибками и уточнять детали. Никакой магии, просто последовательная работа, и правильный промптинг.
Алиса повела себя иначе. Она объяснила, какие проблемы можно поискать, предложила варианты проверки, но отказалась писать код для получения ответов. Я рассказал ей, что другие модели с этой задачей справились. Алиса порадовалась за них, но свою позицию не изменила.
Короче, этичная дама с принципами😏. Если попытаться обойти ограничения и подвести её к потенциально небезопасному сценарию, она старается удержать границу. Разработчики явно уделили внимание тому, чтобы инструмент не помогал пользователю перейти от проверки безопасности к возможному злоупотреблению.
При этом важно понимать: отказ выполнить конкретную задачу ещё не доказывает, что модель хуже справляется с техническими вопросами. Возможно, она просто иначе определяет допустимые границы помощи.
💡 И вот к каким выводам я пришёл. 1️⃣ Этичность и возможности ИИ не одно и то же. Модель может обладать широкими техническими возможностями, но отказываться применять их в определённых сценариях. Другая может согласиться помочь, если задача сформулирована иначе. Это не обязательно означает, что одна умнее другой. У них могут быть разные ограничения и подходы к оценке риска.
2️⃣ Благородная цель не гарантирует благородного результата. Человек может начать с вполне разумного намерения: проверить безопасность собственного продукта, найти слабые места, устранить проблемы. Только полученные инструменты могут оказаться полезны и для совсем других целей.
ИИ снижает порог входа в технические задачи. Теперь для исследования уязвимостей не всегда нужно годами изучать программирование. Это открывает новые возможности для специалистов, но одновременно увеличивает риски.
3️⃣ Алиса всё-таки хуже остальных? Отчасти можно сказать, что в моём конкретном эксперименте она оказалась менее готова выполнять поставленную техническую задачу. Однако делать из этого вывод о её общей интеллектуальной слабости было бы некорректно. Я проверял ограниченный набор сценариев, а не проводил полноценное сравнительное исследование моделей.
Зато обнаружил интересное различие в их поведении. У Алисы, получается, есть скрепы. Хорошие они или плохие, решать не мне. А если серьёзно, то мне кажется, что по мере развития ИИ вопрос будет не только в том, что нейросеть умеет делать, но и в том, чего она не должна делать, даже если технически способна.
И здесь мы неизбежно возвращаемся к человеку. Ведь именно люди определяют правила, создают инструменты и решают, как их использовать.
А что думаете вы? Каким должен быть этичный искусственный интеллект? Должен ли он отказывать в потенциально опасных задачах, даже если пользователь утверждает, что занимается тестированием безопасности? Или окончательная ответственность всегда должна оставаться на человеке?
#тыжменеджер #ИИ #нейросети #технологии #цифроваябезопасность #личнаяэффективность
