Nakon Drugog svetskog rata uvidelo se da i sport može značajno doprineti afirmaciji u svetu tadašnje socijalističke Jugoslavije, i predstavljati sredstvo kojim se poboljšava saradnja i zbližavanje među državama i narodima. U traganju za putevima i mogućnostima bržeg napretka sporta uočeno je da se to može postići samo kvalitetnijim stručnim radom, pa je Savez sportova Jugoslavije odlučio da se osnuje posebna institucija koja će izučavati problematiku vrhunskog sporta.
Tako je 1953. formiran Sportski institut Saveza sportova Jugoslavije, kao stručno-naučna institucija sa ciljem da se delovanje u oblasti sporta usmerava u metodološkom i razvojno-istraživačkom pravcu. Institut se nalazio u Gračaničkoj ulici u Beogradu, a njime je rukovodio Branko Polič.
Institut je orijentisao svoj rad na snimanje stanja i analizu uslova u kojima se razvijao sport u Jugoslaviji i svetu, sa ciljem da se utvrde faktori koji mogu doprineti njegovom bržem napredovanju. Rezultati tih proučavanja pokazali su da stabilan i intenzivniji razvoj vrhunskog sporta nije moguć bez rada na unapređivanju fizičke kulture u celini, posebno fizičkog vaspitanja u školama.
Takva orijentacija je prevazilazila mogućnosti i okvire delatnosti Saveza sportova Jugoslavije, te je predloženo Saveznoj komisiji za fizičku kulturu da uputi predlog Saveznom izvršnom veću da osnuje instituciju koja će na nivou Federacije proučavati mogućnosti za unapređivanje fizičke kulture u celini. Savez sportova Jugoslavije je ukinuo Sportski institut, a Savezno izvršno veće je prihvatilo ovaj predlog i donelo 9. marta 1956. godine.
Kadrovi i celokupna imovina Instituta su stavljeni na raspolaganje novonastalom Saveznom zavodu za fizičku kulturu, koji je otpočeo svoj rad na istoj lokaciji. Uredbom je Zavodu dat širok delokrug rada, a svoje zadatke on je realizovao pod nadzorom Saveznog izvršnog veća, preko Savezne komisije za fizičku kulturu. Zadaci povereni Zavodu, kao upravnoj ustanovi kojom neposredno rukovodi direktor postavljen od Saveznog izvršnog veća, obuhvatali su proučavanje stanja fizičke kulture i uslova za njen razvoj.
Tokom svog postojanja Zavod je menjao osnivače (država do 1969, do 1996. grad Beograd, a nakon toga Republika Srbija) i prema njihovim pravima i obavezama usklađivao delatnost i menjao ime (Savezni zavod za fizičku kulturu od 9. marta 1956. do 12. marta 1963; Jugoslovenski zavod za fizičku kulturu od 12. marta 1963. do 27. novembra 1969; Jugoslovenski zavod za fizičku kulturu i medicinu sporta od 28. maja 1971. do 17. decembra 1996; Republički zavod za sport od 17. decembra 1996. do 31. marta 2011. i sada Zavod za sport i medicinu sporta Republike Srbije).