In het kalenderjaar 1963 kwam Kohn bij Sportclub Enschede voetballen. Daarvoor was hij actief voor Karlsruher SC, FC Basel, en Fortuna '54. Na zijn tweejarige avontuur bij Sportclub Enschede kwam Kohn terecht bij Fortuna Sittard. Wel beëindigde hij zijn profloopbaan in Enschede, waar Sportclub Enschede inmiddels was omgedoopt tot FC Twente. Bij die club begon hij tevens zijn trainerscarrière, eerst als assistent-trainer van Kees Rijvers en vanaf 1972 als hoofdtrainer.
In totaal was Kohn zeven jaar lang keuzeheer van FC Twente. In die periode (1975) werd onder meer de finale van de UEFA Cup behaald. In 1977 werd de KNVB Beker gewonnen. Het betrof de eerste prijs in de geschiedenis van de club. Kohn zwaaide tevens de scepter bij Go Ahead Eagles en Club Brugge KV. In 1982 keerde hij terug in Enschede, waar hij in het seizoen 1982/'83 degradeerde met FC Twente. Onder Aad de Mos en Johan Cruijff was Kohn verder nog assistent-trainer bij Ajax.
Kohn, die op 17-jarige leeftijd debuteerde als international van Luxemburg, werd in 1988 aangesteld als interim-trainer van Ajax. Dit na het ontslag van Kurt Linder. Louis van Gaal was destijds de assistent-trainer van Kohn bij de Amsterdammers, die toen op de tweede plaats eindigden. Leo Beenhakker nam daarna de taken waar. Kohn was ook nog scout bij Udinese en SC Heerenveen.