La batalla d’Ap Bac va ser una acció bèl·lica que va constituir la primera victòria important del Vietcong a la Guerra del Vietnam. Al llarg dels vint anys que es va allargar aquest conflicte, diversos músics es van inspirar en aquesta conflagració, ja fos per manifestar el seu rebuig a la participació americana com per denunciar l’horror i el drama humà que se’n desprenia. A Gimme Shelter els Stones van optar per aquesta segona via.

Impactats per les imatges que arribaven cada dia per televisió, Mick Jagger i Keith Richards van treballar la lletra i la música de la cançó intentant donar-li una aura tenebrosa que no tenia cap precedent en el repertori de la banda. A començament de 1969 van començar a enregistrar-la a Los Ángeles, però no va ser fins al cap d’un temps que van decidir afegir-hi una veu femenina que reforcés encara més el to cru i dramàtic que volien transmetre. 

La vocalista escollida va ser Merry Clayton, una cantant de gòspel que havia col·laborat amb diversos artistes de renom. Clayton recorda que estava al llit quan, a mitja nit, va rebre una trucada del seu amic i productor Jack Nitzsche comentant-li que era a l’estudi gravant amb uns nois anglesos i que li agradaria que s’hi acostés per fer-hi uns cors. Ella, tot i estar embarassadíssima en aquell moment, no va dubtar a presentar-s’hi amb el cap ple de rul·los i enfundada en el seu pijama de seda. Quan va arribar, Jagger li va explicar que estava cantant la frase “Rape, murder, it’s just a shot away” (violació, assassinat, està només a un tret de distància) i que justament aquesta era la línia on volia que ella li doblés la veu. Clayton va fer una presa de prova i seguidament va demanar als músics que sortissin per tal de poder entrar millor dins la cançó en la gravació definitiva.

El resultat va ser una veu esfereïdora una octava més alta del que havia cantat abans i que acabava trencant-se en el darrer “murder”, fet que va arrencar un espontani “Wow!” de Jagger que va quedar enregistrat al minut 3:02 del tema. L’excel·lent aportació de Clayton va donar a la cançó el punt que els Rolling Stones buscaven per transmetre la ràbia que sentien per tota la violència que generava aquella guerra. Però també va tenir unes conseqüències nefastes per a la cantant que, fruit de l’esforç físic que va fer durant la gravació, va patir un avortament al cap de pocs dies. 

El tema es va publicar el desembre d’aquell mateix any a l’àlbum Let it bleed, en el qual el nom de Clayton va quedar erròniament immortalitzat com a Mary.