API OpenAI - как домашка по учёбе воплощает мечты

Всё началось с того, что я бегло просмотрела домашку, увидела в одном из заданий это и решила, что не поеду гулять к морю, потому что это выглядит как возможность научиться делать то, о чём я давно мечтала - общаться с GPT не через привычный интерфейс чата (https://chatgpt.com/), а через блокнот с вызовом его по API и возможностью fine-tuning (температура, top_p, top_k, n, штрафы за повторы)...

И меня ждало куча открытий. Которым был дан старт благодаря своего рода "технической" помощи от студента А. первого курса нашей программы, спасибо, что стал моим проводником доступа к API.

И вот я получила заветный API key. Первое, что было для меня открытием - ключ не привязан к модели GPT, а является просто кошельком, откуда списываются деньги, пока ты можешь использовать самые разные модели, у которых различается стоимость за 1М токенов (кусочков, на которые разбивается текст). Кстати о токенах тоже было открытие - пока я искала токенайзер, о котором рассказывали одногруппники, я наткнулась на токенайзер от самого OpenAI. И вот я взяла текст, который в блокноте мне выдался как 400 токенов, чтобы проверить, а действительно ли это так. И вот тут выяснилось неожиданное - этот текст был длиною 400 токенов только в рамках модели GPT-3.5, в то время как на модели 4o этот же текст становится 221 токен. То есть они почти в 2 раза оптимизировали модель. Почему это имеет значение? Ты платишь именно за количество истраченных токенов. Fun fact - токенайзера на модель GPT-5 в открытом доступе нет, хотя очень интересно сравнить, конечно.

Дальше я столкнулась с тем, что в выбранной для API модели gpt-5 (а также gpt-5-mini и gpt-5-nano) мне выпадала ошибка, что температура не может быть ни больше, ни меньше 1. Выяснилось, что не все (далеко не все!) модели можно файн-тьюнить. Это было для меня открытием. После этого я обратила внимание, что когда открываешь на сайте https://platform.openai.com/ страничку модели, там есть пункт fine-tuning  и можно смотреть, где он подсвечен. Параллельно, на этой странице указана цена за 1М токенов - и прикол в том, что если в моделях gpt-5 это стоит от $0.40 до $10, то в моделях gpt-4 ценник в среднем $8 - есть разница. Вооружившись пониманием о том, что мне на данном этапе - когда хочу только попробовать впервые - нужна модель: а) с возможностью fine-tuning б) с наиболее близким к gpt-5 ценником

Я стала искать и нашла модель gpt-4.1-nano

И дальше я стала играться с настройками, которые были рекомендованы в задании. Исходный промпт, а также пример настроек на одном из его ответов видно на скриншоте. Можно наблюдать, как ответы различаются. К сожалению, у меня не сработал параметр n - то есть количество текстов - в блоке "Несколько вариантов" их должно было быть 3, причину ещё не выяснила.

Таким вот образом я впервые притронулась к API gpt-моделей - и моя давняя мечта исполнилась, благодаря нашей программе в ВШЭ. Спасибо 😊

p.s. как видите, все тексты от кофейного маньяка. Пойду сделаю чашечку кофе ☕️

API OpenAI - как домашка по учёбе воплощает мечты | Сетка — социальная сеть от hh.ru API OpenAI - как домашка по учёбе воплощает мечты | Сетка — социальная сеть от hh.ru API OpenAI - как домашка по учёбе воплощает мечты | Сетка — социальная сеть от hh.ru API OpenAI - как домашка по учёбе воплощает мечты | Сетка — социальная сеть от hh.ru