Nacque in una famiglia di contadini poveri a Huhtalankylä, Lapua. Quando il padre morì, la vedova dovette occuparsi dei suoi bambini da sola, guadagnandosi da vivere lavorando come lavandaia e addetta alle pulizie. Koskela fu vittima di bullismo a scuola a causa delle sue origini, motivo che lo indusse a praticare sport. Fu interessato all'atletica leggera e al calcio, ma la scelta finale dello cadde sulla lotta olimpica, che praticò nel Lapuan Ponnistuksessa.[1]
Dopo la scuola, lavorò presso la Lapuan Patruunatehtaalla e, contemporaneamente, si unì al sindacato e al Partito Comunista Finlandese. Prese parte ai suoi primi incontri di lotta a metà degli anni venti. Koskela non ha mai partecipato ai campionati dell'Associazione sportiva dei lavoratori (TUL).
Nel 1930 fu vittima di molestie da parte del movimento di estrema destra a Lapua: fu rapito mentre si trovava nella sua casa e trasportato ad Alajärvi, ma sopravvisse al sequestro senza gravi ferite.
La crescente atmosfera di estrema destra in Finlandia, specialmente in Ostrobotnia, spinse Koskela a un bivio: smettere del tutto di lottare o cambiare club e passare al Lapuan Virkiään, società di estrazione borghese. Nell'autunno del 1930 decise di entrare nei ranghi del Lapuan Virkiään, conscio delle proprie capacità e delle possibilità di successo anche a livello internazionale. Come militante di sinistra, sarebbe certamente stato escluso dalla convocazione in nazionale e non avrebbe potuto prendere parte alle grandi manifestazioni internazionali, come, ad esempio, le Olimpiadi.
Vinse il suo primo campionato finlandese nel 1932 e nello stesso anno rappresentò la Finlandia ai Giochi olimpici estivi di Los Angeles 1932, vincendo la medaglia di bronzo nel torneo dei pesi piuma: perse l'incontro d'apertura contro l'italiano Giovanni Gozzi dopo soli 48 secondi, ma alla fine giunse terzo in classifica, alle spalle di questo e del tedesco Wolfgang Ehrl, con cui perse ai punti nella finale per l'argento.
Agli europei di Copenaghen 1936 si laureò campione continentale nella categoria dei pesi leggeri.
Nella vita, fu un uomo tranquillo e modesto. Divenne un personaggio noto, che impressionò per la sua avvenenza e fu elogiato come "Adone del Nord". Ricevette molte lettere di ammirazione.