Mislim da je ono sto ti treba sdl_gfx http://www.ferzkopp.net/joomla/content/view/19/14/

Nema tu baš neke posebne filozofije oko rotacije, svaki piksel zarotiraš i dobiješ njegovu novu koordinatu.
Da bi to radilo prihvatljivo brzo, zarotiraš samo ćoškove a ostatak interpoliraš - u suštini je u pitanju
rasterizacija poligona. Anti aliasing ti treba za ivice slike?

Pa Toso u tome je stvar, sto ja ne znam kako da rotiram pixele.. i ne znam sta je interpolacija?

Hteo bi negde nauciti.

Interpolacija je konstrukcija tačke u zadatom opsegu. Recimo da imaš opseg od 0 do 1, ako bi faktor
interpolacije bio 0.5 onda bi ti interpolirana vrednost bila isto 0.5.
Ovako recimo: x = s + (e-s) * f, gde su s, e i f, početak opsega, kraj opsega i faktor interpolacije.
Potraži na internetu: rasterizacija, homogene koordinate i teksture maping.
Problem je u suštini jednostavan ali zahteva poznavanje više stvari koje su, čini mi se, tebi nove.
Najbolje je da kreneš da čitaš linearnu algebru, znanjem iste će ti većina ovih pitanja sama da se odgovori.

Možeš i da potražiš "roto zoom" efekat sa sors kodom po netu, veoma je slično onome što ti treba.

da u tome je stvar... u Skoli mi neucimo jos nista sto bih mogao primeniti u igrama, pa me interesuje sta sve treba da naucim od fizike/matematike, za igrice?

Kako bi izgledao learning curve? Jel linearna algebra neki uvod u to ili sta?

Linearna algebra ti je neophodna za dosta toga u programiranju, analitička geometrija takođe...
Zagrizi, sedi i nauči. Nećeš se kajati zbog toga :)