The art of programming
15.05
Утечки системных промптов.
Если вы давно работаете в ИТ, то наверняка привыкли к разного рода утечкам: то база данных «уплывёт», то исходники окажутся в интернете. Потом весь рынок обсуждает: а что же там такого утекло у конкурентов на этот раз?
Но сегодня я наткнулся на нечто действительно особенное — репозиторий с системными промптами (инструкциями) для крупных языковых моделей:
Если объяснить просто — это своего рода конфигурационные инструкции, которые управляют поведением нейросервисов. Причём это не просто формальные правила, а полноценные «команды», определяющие базовое поведение ИИ, его ограничения и даже стиль ответов.
Смотреть такие «внутренности» особенно интересно: пусть что-то из этого быстро устаревает, но подобные утечки позволяют заглянуть под капот современных языковых моделей, понять, как инженеры настраивают их «двигатель», чтобы получать нужный результат.
Попадаются довольно любопытные примеры:
🔵инструкции по цитированию: как правильно оформлять ссылки, когда давать короткие или развернутые цитаты, какой объём текста можно цитировать; 🔵рекомендации по работе с конкретными вопросами — буквально захардкоженные ответы на определённые типы запросов; 🔵этические ограничения и корпоративные нормы, которые задают границы допустимого поведения модели.
P. S. Когда поймаете себя на классическом «сопротивлении» мозговой работе — иногда полезно покопаться вот в таких штуках. Отлично помогает переключиться и вернуться к задачам с новыми мыслями!
еще контент в этом сообществе
еще контент в этом соообществе
The art of programming
15.05
войдите, чтобы увидеть
и подписаться на интересных профи