Charlton Athletic FC bildades den 9 juni 1905 av en grupp 15- till 17-åringar i East Street, Charlton, som numera är känt som Eastmoor Street. Charlton tillbringade de flesta åren före första världskriget i ungdomsligor. Man introducera ett lag för seniorer 1913, samma år som närliggande Woolwich Arsenal flyttade till North London. Efter kriget gick de med i Kent League under en säsong (1919–20). Detta var innan de blev en professionell klubb och utsåg Walter Rayner till den första heltidsanställda huvudtränaren. De accepterades av Southern League men spelade där bara under en enda säsong (1920–21) innan man till hösten valdes in i Football League. Charltons första Football League-match var mot Exeter City i augusti 1921, som de vann med 1–0. 1923 föreslogs Charlton att slås samman med Catford Southend för att skapa ett större lag med större stöd.