arrow

назад

ask

Вопрос

Кому-нибудь доводилось сталкивался с необходимостью проверки запросов к LLM-моделям на предмет предотвращения утечек конфиденциальных данных?

repost

400

input message

напишите коммент


7 комментов

Да, хз смотря что вы считаете конфедициальными данными… а то некоторые и структуру noname БД за уши могут притянуть, а по факту ничего там конфиденциального и нет

0

ответить

С необходимостью нет, но с мыслью о том, что сами знания и формулировки могут повлиять на выводы, как раз свыкаюсь..

0

ответить

А сможете немного раскрыть тему? Знания - подразумевается точность промпта, который в итоге отправится к нейросети? Или речь про качество материалов, на которых была обучена нейросеть?

0

ответить

Первое, отмеченное вами. В том, что экспертные знания - бомба 🧨 , сомнений не было. В фантастике осведомленность роботов пугала 👻   А вот передача бытового опыта, массированные обращения с вопросами о смысле и конечности жизни - , мне кажется, открывают путь к оценке людей искусственным интеллектом. А оценка рождает и соотношение и отношение. Как ребёнок, когда начинает критиковать образ жизни родителей. Это раз.   Два. Подача сухих знаний экспертами, возможно, даёт стерильный образ мира. Формирует ту "недалекость", из-за которой мы видим ошибки ИИ, фантазии. Но мы можем задавать дополнительно уточняющие вопросы. И если они позволяют ИИ найти формулу для людей решать реальные жизненные ситуации, то знания обретают форму, основу.   Я разделяю мысль: хорошо поставленный вопрос, содержит ответ. Поэтому, научив ИИ задавать вопросы, научим его рефлексировать. Т.е. иметь основу для прогнозирования будущего. Если для него самого - полбеды 🤓 А на промежуточном этапе - для тех, кто пока распоряжается им.   Надеюсь, удалось сформулировать то, что пока ещё в ощущениях..

PS Реально, считаю, "конфиденциальность" актуальна для нескольких десятков тысяч людей на планете. И то, им нужен труд и знания других людей. Поэтому она не может быть абсолютной. Для 8-ми же миллиардов открытость нашей жизни скорее, полагаю, наша защита. Если не грешить.. Так что сам вопрос секретности, думаю, раздут даже для коммерции и уровня стран. Это, например, иллюстрирует вскрытие российской внешней политикой подковёрных интриг, какая-то всё же искренность в нашем пространстве. Мнение 🙂

0

ответить

Ох, большое вам спасибо за такие размышления 🤝 Есть над чем задуматься

0

ответить

Вот вот. Часто вижу как ребята беспечно кормят в своих промптах спорными в плане безопасности данными. А на мое - «уголовкааа», кричат мне что я скуф и душный 😒

0

ответить

SSL-инспекции на таких нет 😀

0

ответить

еще контент автора

пост закреплён — пока закрепить можно только один пост

trash bin
перейти к нему не получится