Under sin rundresa på Öland 1634 tecknade Johannes Haquini Rhezelius av kyrkor, borgar och runstenar m m. Från denna resa utgav han Monumenta runica och skrev dagbok. Det är tack vare hans enkla teckningar vi kan få en inblick i samtliga öländska kyrkors medeltida arkitektur. Sandby kyrka var enligt Rhezelius teckning en klövsadelkyrka med torn i väster och öster.[1]
Grundmurarna finns under nuvarande kyrkans golv
1782 byggdes medeltidskyrkan i Sandby om. Det innebar att valven raserades och övre delen av östtornet togs bort. Denna ombyggnad blev tydligen inte så lyckad. Redan 1832 togs frågan om byggandet av en helt ny kyrka upp gemensam med Gårdby församling men visade sig inte vara så enkelt att genomföra. Förslaget avvisades till slut av Kunglig Majestät 1858 .[2]
1860 påbörjade byggmästare Peter Isberg arbetet med uppförandet av den nya kyrkan. Isberg hade själv gjort ritningarna, som bearbetats av Johan Fredrik Åbom vid Överintendentsämbetet. Kyrkan stod färdig 1863 . Kyrkobyggnaden fick ett tidsenlig stil präglad av nyklassicism. Den består av rektangulärt långhus med kyrktorn i väster, tresidigt avslutat kor i öster samt sakristia i norr. Tornet försågs med en lanternin som kröns av en hög spira med kors. [2]
Altartavlan målades 1892 av Gustaf Lundqvist och har motivet: "Låten barnen komma till mig". Han var präst men målade även altartavlor.
Altaruppställning med två stora golvljusstakar på vardera sida tillkom 1898. Uppställningens sidostycken är utsmyckad med kransornament. Överstycket är prytt med en treenighetssymbol varur utgår solstrålar omslutet av änglahuvuden.
Halvrund altarring,öppen i mitten försedd med förgyllda symboler för tron (kors) ,hoppet (ankare) och kärleken (hjärta).
Den äldre altartavlan målades 1794 av Jonas Berggren. och finns uppsatt på sydväggen. Dess motiv är ""Jesu bön i örtagården".
Predikstolen med uppgång från sakristian är tillverkad av Jonas Berggren 1794.
Den nuvarande orgeln byggdes 1948 av Frederiksborg Orgelbyggeri, Hilleröd, bakom den tidigare orgelfasaden. Orgeln har mekanisk traktur och pneumatisk registratur. Stora delar av orgelpiporna från 1876 års orgel återanvändes i orgelverk.[6]