Pada saat meninggalnya pada tahun 1 Maret.2006, Dia meninggalkan seorang istri (Henriette Josephine "Mans" Latuharhary, putri sulung perintis kemerdekaan Johannes Latuharhary), empat orang anak (tiga laki-laki, satu perempuan), dan lima orang cucu (3 laki-laki, 2 perempuan). Josef Mustika dikebumikan di Taman Makam Pahlawan Nasional Utama Kalibata, Jakarta Selatan.
U.S.-Army Command and General Staff College (Fort Leavenworth, Kansas, AS)
Pengalaman Kerja (antara lain)
1960–1965 - Wakil Asisten II Menteri/Panglima Angkatan Darat (Operasi, Latihan, Organisasi, Pendidikan)
1965–1970 - Kepala Staf Komando Antar Daerah Sumatra, merangkap Kepala Staf Komando Antar Daerah Pertahanan Sumatra (1967–1970: merangkap Kepala Staf Koordinasi Operasi Harapan).
1970–1973 - Direktur Jenderal Perdagangan (Dalam dan Luar Negeri), Departemen Perdagangan RI.
1974–1978 - Direktur Jenderal Perdagangan Dalam Negeri, Departemen Perdagangan RI.
1970–1978 - Merangkap Caretaker PT DSI Sarinah
1971–1978 - Merangkap Ketua Badan Pengurusan Kopra
1951–1978 - Merangkap tugas-tugas sebagai Ketua/Anggota berbagai Komisi/Tim/Panitia/Dewan/Misi militer maupun sipil.
(1955: merangkap sebagai guru Pendidikan Polisi Militer, Pendidikan Intelijen, Akademi Hukum Militer)
1979–1983 - Duta Besar RI untuk Republik Federal Jerman
1983–1988 - Sekretaris Wakil Presiden RI
1984 - Anggota Delegasi RI ke KTT-OKI ke-IV di Casablanca, Maroko.
1986 - Anggota Delegasi RI ke KTT-Non-Blok ke-VIII di Harare, Zimbabwe.
1987 - Anggota Delegasi RI ke KTT-OKI ke-V di Kuwait.
1987 - Anggota Delegasi RI ke Upacara Pemakaman Perdana Menteri India di New Delhi, India.
1988 - Anggota Delegasi RI ke Upacara Pemakaman Presiden Pakistan di Islamabad, Pakistan.
1970–1991 - Ketua/Pengarah/Peserta berbagai Seminar/Lokakarya di dalam dan di luar negeri.
1965 - Anggota Steering Committee Seminar-I Angkatan Darat.
1988–1993 - Anggota Dewan Pertimbangan Agung Republik Indonesia
1990 - Wakil Ketua Delegasi DPA ke Austria, Polandia, Jerman Timur, Jerman Barat, Prancis, Belanda.
1992 - Utusan Khusus Presiden RI ke Peru, Bolivia, dan Chile.
Pengalaman dalam organisasi
Pendiri Yayasan Dana Beasiswa Maluku
Pendiri Yayasan Kawedri
Gerakan Seribu Minang (Gebu Minang)
Berbagai kegiatan di bidang-bidang olahraga, pendidikan, pertanian, sosial, dan gereja.