Nguyễn Thiện Tơ sinh ra tại Hà Nội, xuất thân trong một gia đình công nhân (xưởng in Viễn Đông) tại căn nhà số 22 phố Charron mà nay là phố Mai Hắc Đế, quận Hai Bà Trưng, Hà Nội. Yêu thích âm nhạc từ năm 10 tuổi, vào năm lên 12, Nguyễn Thiện Tơ theo học ghi-ta Hawaii (Hạ Uy cầm) với thầy giáo Trần Đình Khuê; chỉ ba tháng thì ông đã được biểu diễn cùng thầy trên đài phát thanh Pháp. Sau đó ông theo học ghi-ta với một người Pháp và bắt đầu biểu diễn ở các phòng trà và chương trình từ thiện với hai nhạc cụ này.[1]
Nguyễn Thiện Tơ là người sáng lập nhóm Myosotis cùng với Dương Thiệu Tước, Thẩm Oánh,... nhưng theo nhạc sĩ Phạm Duy thì Nguyễn Thiện Tơ là một nhạc sĩ độc lập, tức là không thuộc nhóm nhạc nào.[2]
Năm 1938, khi mới 17 tuổi, Nguyễn Thiện Tơ sáng tác bản nhạc đầu tay "Giáo đường im bóng" viết về một cô gái theo đạo Thiên Chúa, 16 tuổi tên là Hà Tiên. Ông kể lại: "Trong kỳ nghỉ hè năm 1938 (lúc này còn là học sinh trường Thăng Long ở Hà Nội), tôi được mời tham gia biểu diễn đàn ghi-ta ở Nam Định. Ở đây tôi đã làm quen với cô nữ sinh Hà Tiên cũng đến đây đóng góp tiếng hát của mình. Sau buổi dạ hội ca nhạc, tôi được bạn bè cho biết là gia đình cô ấy theo đạo Thiên Chúa. Nghĩ mình là kẻ ngoại đạo nên mới viết nên "Giáo đường im bóng" sau ngày ấy."
Nguyễn Thiện Tơ hoàn thành phần nhạc của ca khúc Giáo đường im bóng trước, sau đó nhà thơ Phi Tâm Yến - bạn thân của Nguyễn Thiện Tơ - viết lời.[1] Theo Phạm Duy thì nhạc sĩ Lê Thương cũng thầm yêu cô Hà Tiên đó và đã viết nên ca khúc Nàng Hà Tiên.[3] Bản thân ông nhận xét có 2 ca sĩ hát bài này thành công nhất là Khánh Ly và Nga My. Khánh Ly hát như một bài hát trữ tình đượm thánh ca, còn Nga My thì lại hát như một bài thánh ca đượm chất trữ tình.
Ban đầu cuộc tình giữa Nguyễn Thiện Tơ và Hà Tiên không được gia đình cô chấp nhận bởi ngăn cách tôn giáo. Về sau hai ông bà đã thuyết phục được gia đình và thành hôn vào năm 1944.[1] Nguyễn Thiện Tơ tiếp tục dạy ghi-ta và ghi-ta Hawaii. Trong số những người học ông, có những nhạc sĩ nổi tiếng như Doãn Mẫn, Đoàn Chuẩn và Nguyễn Văn Quỳ.
^vansudia.net (21 tháng 8 năm 2022). “Nguyễn Thiện Tơ, nhạc sĩ cuối cùng của dòng nhạc tiền chiến, đã ra đi”. Văn Sử Địa Online - Giới thiệu, thông tin, quảng bá về văn học, lịch sử, địa lý Việt Nam và thế giới, giới thiệu các hình ảnh giao lưu, giải trí, hội thảo, các tác phẩm hay về văn học, lịch sử, địa lý…. Truy cập ngày 27 tháng 8 năm 2022.