Вопрос
Кому-нибудь доводилось сталкивался с необходимостью проверки запросов к LLM-моделям на предмет предотвращения утечек конфиденциальных данных?
7 комментов
· 25.09.2025
С необходимостью нет, но с мыслью о том, что сами знания и формулировки могут повлиять на выводы, как раз свыкаюсь..
0
ответить
коммент удалён
· 29.09.2025
А сможете немного раскрыть тему? Знания - подразумевается точность промпта, который в итоге отправится к нейросети? Или речь про качество материалов, на которых была обучена нейросеть?
0
ответить
ответ удалён
· 29.09.2025
Первое, отмеченное вами. В том, что экспертные знания - бомба 🧨 , сомнений не было. В фантастике осведомленность роботов пугала 👻 А вот передача бытового опыта, массированные обращения с вопросами о смысле и конечности жизни - , мне кажется, открывают путь к оценке людей искусственным интеллектом. А оценка рождает и соотношение и отношение. Как ребёнок, когда начинает критиковать образ жизни родителей. Это раз. Два. Подача сухих знаний экспертами, возможно, даёт стерильный образ мира. Формирует ту "недалекость", из-за которой мы видим ошибки ИИ, фантазии. Но мы можем задавать дополнительно уточняющие вопросы. И если они позволяют ИИ найти формулу для людей решать реальные жизненные ситуации, то знания обретают форму, основу. Я разделяю мысль: хорошо поставленный вопрос, содержит ответ. Поэтому, научив ИИ задавать вопросы, научим его рефлексировать. Т.е. иметь основу для прогнозирования будущего. Если для него самого - полбеды 🤓 А на промежуточном этапе - для тех, кто пока распоряжается им. Надеюсь, удалось сформулировать то, что пока ещё в ощущениях..
PS Реально, считаю, "конфиденциальность" актуальна для нескольких десятков тысяч людей на планете. И то, им нужен труд и знания других людей. Поэтому она не может быть абсолютной. Для 8-ми же миллиардов открытость нашей жизни скорее, полагаю, наша защита. Если не грешить.. Так что сам вопрос секретности, думаю, раздут даже для коммерции и уровня стран. Это, например, иллюстрирует вскрытие российской внешней политикой подковёрных интриг, какая-то всё же искренность в нашем пространстве. Мнение 🙂
0
ответить
ответ удалён
· 30.09.2025
Ох, большое вам спасибо за такие размышления 🤝 Есть над чем задуматься
0
ответить
ответ удалён
· 24.09.2025
Вот вот. Часто вижу как ребята беспечно кормят в своих промптах спорными в плане безопасности данными. А на мое - «уголовкааа», кричат мне что я скуф и душный 😒
0
ответить
коммент удалён
· 25.09.2025
SSL-инспекции на таких нет 😀
0
ответить
ответ удалён
· 16.11.2025
Да, хз смотря что вы считаете конфедициальными данными… а то некоторые и структуру noname БД за уши могут притянуть, а по факту ничего там конфиденциального и нет
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён