Na ovom linku možeš naći par objašnjenih algoritama.
http://www.osdcom.info/content/view/31/39/

alokacija dinamicke memorije ,odnosno heap-a , na linuxu se vrsi preko brk() i mmap() poziva

tj malloc i free ti daju memoriju koja je prethodno obradjena preko brk() ili mmap()

konkretno o preteci malloc algoriatama koji se danas koristi na linuxu , dlmalloc , mozes naci na
http://g.oswego.edu/dl/html/malloc.html

danas linux koristi ptmalloc2 , koji je u sustini dlmalloc koji ima mnogo bolju podrsku za niti