Ivica Osim je igrao deset godina u Željezničaru u dva navrata (1959-1968. i 1969-1970) i dobio nadimak "Štraus sa Grbavice", jer je plenio neverovatnom tehnikom i lakoćom s kojom je prelazio protivničke igrače..
Sakupio je 220 nastupa i upisao 65 golova.
Kao trener predvodio je ekipu s Grbavice u periodu od 1978. do 1986. godine. Dva puta je zauzeo drugo mestu u tadašnjoj jugoslovenskoj ligi i stigao do polufinala Kupa UEFA.
Dubok trag ostavio je u Partizanu, sa kojim je osvojio kup Jugoslavije u sezoni 1991-92, Panatinaikosu, Šturmu iz Graca i japanskom Džef junajtedu.
Vodio je fudbalsku reprezentaciju Jugoslavije na Olimpijskim igrama 1984. godine u Los Anđelesu, gde su osvojili bronzanu medalju.
Seniorsku reprezentaciju Jugoslavije preuzeo je 1986. godine i doveo je do četvrtfinala na Svetskom prvenstvu 1990. godine.