Die Band wurde etwa 1980 von Howe Gelb (* 1956) als Giant Sandworms gegründet und war lange Zeit in Los Angeles beheimatet. Die Mitglieder der Band wechselten über die Jahre, u. a. waren John Convertino (Schlagzeug) und Joey Burns (Bass), die später Calexico gründeten, langjährige Bandmitglieder. Weiter spielten Chris Cacavas (von Green on Red), Paula Jean Brown (Go-Go’s) und Tom Larkins (später Jonathan Richman) in der Band. Gastkünstler waren unter anderem Victoria Williams, Neko Case, Juliana Hatfield, PJ Harvey, John Parish, Vic Chesnutt, Steve Wynn, Vicki Peterson, Rainer Ptacek und fast alle Mitglieder der Band Poi Dog Pondering. Auch die gemeinsame Tochter von Gelb und Brown, Indiosa Patsy Jean, ist regelmäßig auf Platten zu hören.
Gelb veröffentlicht in regelmäßigen Abständen Soloalben. Andere Seitenprojekte sind The Band of Blacky Ranchette, OP8 (in Zusammenarbeit mit Lisa Germano). Auf den Alben der Band of Blacky Ranchette sind als Gäste u. a. Lucinda Williams, Kurt Wagner (von Lambchop) und Cat Power zu hören.
Die 2012 unter dem Namen Giant Giant Sand veröffentlichte RockoperTucson erreichte als erstes Album der Band in Deutschland die Charts in der Sparte „Independent–Newcomer“.[1]
2016 kündigte Gelb vorläufig die Abschiedstournee von Giant Sand an. 2018 nahm er mit der Urbesetzung der Band das Debütalbum von 1985 als Returns to Valley of Rain neu auf und spielte weiterhin Konzerte mit Giant Sand.[2]
↑Ulrike Rechel: Giant Giant Sand im Lido. Mit Howe Gelb und seinen Giant Giant Sand wird es niemals langweilig. tip Berlin, 21. August 2012, archiviert vom Original am 3. März 2016; abgerufen am 22. August 2012.