In 2009 hing de 2,02 meter lange aanvaller al zijn interlandschoenen aan de wilgen. De Tsjech scoorde in totaal 55 doelpunten in 91 interlands voor zijn geboorteland. In clubverband beleefde Koller zijn hoogtijdagen in dienst van huidig titelhouder Borussia Dortmund, waar hij een succesvol duo vormde met huidig Arsenal-middenvelder Tomás Rosický.
Gedurende zijn loopbaan acteerde Koller verder in de shirts van Sparta Praag, FC Nürnberg, SK Lokeren, Anderlecht, AS Monaco en Krylia Sovetov.