У OpenAI закрытые модели, внутрянку никто не показывает

Они по идее могут быть защиты в датасеты. С помощью промтов можно приблизительную логику вытащить.

Датасеты, на которых обучались модели, конечно, так же не раскрываются)

Я про то что по формату ответа частично можно понять

Архитекторы нейронки по ответу точно не восстановить

Архитектуру да, но саму логику частично можно воссоздать. Мне кажется что модель на архитекруре MoE на тех же трансформерах, в полагаю они сначала учат на специфической литературе, статьях с интернета и обезличенной переписке, а потом дообучают в режиме dpo на хороших и плохих ответах.