В мире нет ничего идеального. В ИИ меня пугает то,что люди рады в нем обмануться вкладывая основное . Ну и конечно то,что ИИ и сама может иногда обмануть.

Пугает то, что ИИ ни за что не отвечает. Пользуешься ИИ - контролируй. Не проконтролировал - получи. А еще ИИ зачастую делает не так, как ты его просишь

Не пугает, а скорее драйвит раскапывать dangerous split-behavior ИИ-моделей. Это чистый инженерный вызов: в 95% случаев агент выдает идеальный сценарий, а на оставшихся 5% так уверенно галлюцинирует, что без глубокой валидации дефект не поймать. В финтехе эти 5% - потенциальные миллионные убытки и штрафы от регуляторов из-за обращений клиентов. Из-за 95% идеальности у оператора системы возникает ложное чувство безопасности и просто замыливается глаз.

Поэтому хайп вокруг заклинателей промптов закономерно умирает. Нужно строить жесткие evals, проектировать механизмы защиты и выводить тест-кейсы из пограничных состояний вроде PARTIAL в уверенный PASS

Ошибки. Тупая как пробка

Ничего не пугает

В данный момент - реакция людей!

Даже когда ИИ всё сделал правильно и ты лично всё проверил и перепроверил. Даже когда отредактировал. И просто пытаешься донести всю необходимую информацию.

Это вызывает отторжение и негатив, только потому, что это ИИ.

Для меня это выглядит - как если бы в прошлом, я принёс напечатанный текст, вместо написанного от руки. Суть та же, формат другой.

Пугает то что автор паблика пишет вопрос с ошибками без проверки как лицо уполномоченное вести группу бренда. Хотя вопрос был составлен с помощью ИИ и я это вижу по двоеточию в середине вопроса, но даже так справится не удалось.