У меня пока тайминг на Гугловом ИИ-чате такой:

- через 20 минут он сам переходит на ты; - через 30-40 начинает технично материться; - через час прогревается до состояния хоть какой -то инженерной пользы (но с жесточайшим контролем на предмет галлюцинаций)

Пробовал разные промпты, рантайм-инструкции и прочие приемы (включая регулирование плотности тех самых матюков за его глюки), результат по времени выхода модели на свой локальный максимум полезности плюс-минус одинаковый.

Попробую, конечно, еще RAG прикрутить к своей локальное Ламе, но это 70BQ4 максимум + нужен хороший харнесс, тогда как у гугла 405B из коробки и при определенной сноровке я могу ему скормить большие куски контента. Да и на гуманитарно- философских темах он весьма хорош сразу без шаманского бубна.

Обычно наоборот, чем дальше, тем тупее.

По разному. Давайте начнем честно. У меня есть четкое понимание о контексте или нет? Если есть понимание, то я сформулировала узко задачу или как нечто в проруби, ищу фокус? Что вы вообще хотите получить от нейронки? По опыту создания AI- помощников, в темах где я профан, они дают +5000%эффективности понимания системы, но не единственно верного решения, как и какую именно мышцу прокачать. В темах где я профи, я вижу где они лажают и это не всегда безобидно. А в настройке цифрового двойника после 4 недель плотной работы, он уже шутит в тему и порой схватывает идеи, может написать комментарий, если подброшу смысл, но посты плоские и пустые по содержанию, даже если выстрою цепочку повествования, но я требовательная зануда. И даже после этого он может неправильно интерпретировать задачу, смысл или значение слова. И, если честно, то это прикольно, потому что заставляет меня думать над тем, что раньше не замечала когда писала. Если же вопрос настройка агента внутри продукта, то там всё проще, если я понимаю задачу.