Очень хорошо и подробно о том как эти ваши линукса работают с памятью.

https://internals-for-interns.com/posts/linux-kernel-memory-manager/

P.S. malloc()/mmap() не резервируют физическую память. Это делается в отложенном режиме, когда только после первой ошибки обращения к странице, они выделяют кусочек реальной оперативки.