Интересное интервью с Sander Schulhoff - первым в мире экспертом по промпт-инжинирингу (создателем первой инструкции по промптингу, партнёром OpenAI и организатором крупнейшего AI-редтиминга HackAPrompt).
Несколько интересных тезисов:
1. Популярные «ролевые промпты» («представь, что ты математик») на самом деле почти не влияют 😳 на точность ответа. На эту тему есть даже отдельное исследование. Угрожать, умолять и предлагать деньги тоже не имеет смысла.
2. Sander рекомендует:
- Использовать few-shot prompting (примеры того, что хочешь получить).
- Разбивать задачу на подзадачи (декомпозиция).
- Давать модели самокритично оценивать собственные ответы.
- Добавлять больше контекста (дополнительную информацию).
3. Про безопасность: вспоминаю, как мы тестировали своего бота в стартапе по сельскому хозяйству на GPT-3.5. Мы в качестве проверки пытались его сами взломать, и нам это всегда удавалось, несмотря на любые промпты с запретами. Современные модели уже так просто не взломать, но риски есть всегда, и Sander подробно рассказывает про актуальные угрозы и почему многие защитные механизмы до сих пор неэффективны.
Обязательно гляньте, для повышения эффективности использования ChatGPT или аналогов.
