Nato a Kōbe, in Giappone, era figlio di un celebre autore di libri per bambini, Taro Yashima. I suoi genitori si trasferirono negli Stati Uniti d'America per studiare arte quando lui era ancora un bambino. Makoto rimase in Giappone assieme ai nonni. Nel 1941, quando il suo paese e gli Stati Uniti entrarono in guerra, i suoi genitori rimasero negli USA e lavorarono per lo United States Office of War Information. Alla fine del conflitto il Congresso garantì loro la residenza negli States.
Mako li raggiunse solo nel 1949, prestando poi servizio militare nei primi anni cinquanta. Una volta arrivato negli Stati Uniti iniziò a studiare architettura. Durante il servizio militare scoprì il proprio talento artistico recitando e, lasciato l'esercito, frequentò la Pasadena Playhouse. Nel 1956 venne naturalizzato cittadino statunitense. Sposò l'attrice Shizuko Hoshi, da cui ebbe due figlie che gli diedero a loro volta tre nipoti.
Ricevette il primo ruolo cinematografico in Never So Few nel 1959. Nel 1965 si dichiarò frustrato dei ruoli stereotipati assegnati ad attori asiatici come lui, e mise in piedi assieme ad altri suoi connazionali la East West Players Theatre Company, la prima ad avere aderenze anche con la Chiesa. In breve, essa divenne una salda organizzazione per attori asiatici, un vero caposaldo, e Mako ne fu il direttore artistico fino al 1989. Fu nominato agli Academy Awards nel 1966 per Quelli della San Pablo, e al Tony Award per il musical Pacific Overtures a Broadway.[1]
Mako morì il 21 luglio 2006 a 72 anni per cancro all'esofago. Un giorno prima della sua morte fu annunciata la sua apparizione come doppiatore del personaggio di Splinter nel film sulle Tartarughe NinjaTMNT. Kevin Munroe, il regista del film, ha confermato che Mako aveva completato tutte le sue registrazioni. Il film è stato successivamente dedicato alla sua memoria. Viene inoltre onorato nello show Avatar: la leggenda di Aang: nel quindicesimo episodio della seconda stagione Tales of Ba Sing Se dopo una toccante scena del suo personaggio spunta la dicitura "In Honor of Mako".
