De jaren 70
De band ontstond in Marin County. Garcia, Hart en Lesh kwamen van The Grateful Dead en spoedig daarna kwamen Dawson en Nelson. De NRPS speelden aanvankelijk als voorband van The Grateful Dead en kregen in 1970 een platencontract. Hart en Lesh verlieten de band en werden vervangen door Dave Torbet en Spencer Dryden (ex-Jefferson Airplane). In 1971 kwam het debuutalbum The New Riders of the Purple Sage op de markt, waarop een mengeling van West Coast Jazz en countrymuziek te horen was. Na het verschijnen van het album verliet Garcia ook de band en werd vervangen door Buddy Cage.
Er volgden de albums Powerglide (1972), Gypsy Cowboy (1973) en de single I Don't Need No Doctor. De 73e productie The Adventures of Panama Red, waarop Buffy Sainte-Marie en The Memphis Horns meewerkten als gasten, haalde zelfs de goudstatus.
Na het live-album Home, Home on the Road (1974) wisselde Torbert naar Kingfish. Zijn vervanger werd Skip Battin (ex-The Byrds), die voor de eerste keer te horen was op het country-album Brujo (1975). Op Oh What a Mighty Time (1975), waarbij ook Sly Stone meewerkte, verenigden de NRPS country, gospelmuziek en rockmuziek. De 76" lp New Riders bestond voor het grootste deel uit coverversies.
Nog voor Who Are Those Guys (1977) stapte Battin uit de band en werd vervangen door Stephen Love. Het door Bob Johnston geproduceerde album kreeg op voorhand slechte kritieken, hetgeen een vervolg kende bij de navolgende albums Marin County Line (1978) en Feelin' Alright (1980). Bij laatstgenoemd album waren Love en Dryden niet meer bij de band. Allen Kemp en Patrich Shanahan waren hun vervangers.
Na de miskleun van Feelin' Alright stapten ook David Nelson en de kortstondig teruggekeerde Buddy Cage uit de band. John Dawson, die als laatste originele lid achterbleef, vond in de multi-instrumentalist Rusty Gauthier een betrouwbare partner, die tot het laatst bij de band bleef. De nieuwe bezetting Dawson, Gauthier, Kemp, Val Fuentes en Bill Wolf kenmerkten nu een meer rockige sound. Een live-opname uit die periode, die de band bij de succesloze zoektocht naar een nieuw platenlabel diende, werd later op cd uitgebracht.
De jaren 80
Nieuwe plaatopnamen bleven vooralsnog uit, maar desondanks verdedigde de NRPS tijdens de jaren 80 in kleinere clubs hun reputatie als live-attractie. Na verdere personele mutaties vormden vanaf 1985 Dawson, Gauthier en Gary Vogensen de kern van de band. De bezetting van het ritmisch gedeelte met basgitaar en drums bleef verder onzeker. In 1989 verscheen eindelijk het nieuwe studio-album Keep On Keepin' On. De niet spectaculaire countryrock kon echter opnieuw niet overtuigen.
De jaren 90
Pas in 1992 kwamen de New Riders nog eens in hun beste vorm. Op de cd Midnight Moonlight presenteerde de band naast nieuw materiaal hun eigen oude nummers als Louisiana Lady en Glendale Train als akoestische folk/country, deels met cajun-dynamiek. Het album, waarop David Nelson een gastoptreden heeft, leeft vooral van Rusty Gauthiers instrumentale veelzijdigheid. Twee jaar later brachten de inmiddels tot trio gekrompen band een live-album uit met hitsingles van een Japanse tournee uit augustus 1993. In mei 1997 tenslotte beëindigde Dawson het hoofdstuk New Riders en verhuisde naar Mexico, waar hij zich als leraar Engels te ruste zette.
De jaren 2000
Ook na de ontbinding van de NRPS keerde Dawson zo nu en dan terug op het podium voor reünie-concerten en ook Rusty Gauthier zag men tussendoor onder de bandnaam optreden. In 2001 lukte het bandarchivaris Rob Bleetstein om Dawson, Nelson en Cage, samen met Bill Laymonn en Brent Ramponi, voor een gezamenlijk reünie-optreden te strikken. In september 2002 kregen de New Riders bij de Doobie Awards in New York de prijs voor hun levenswerk.
Sinds 2003 brachten de New Riders in de Live Archive CD Series in royale afleveringen oude concertopnamen op cd uit.
Kort voordat de band weer actief werd, overleed de voormalige drummer Spencer Dryden op 10 januari 2005 in Penngrove. Vanaf oktober 2005 keerden de weer verenigde New Riders of the Purple Sage terug op het podium met David Nelson, Buddy Cage, Michael Falzarano (van Hot Tuna), Johnny Markowski en Ronnie Penque. John Markowski nam wegens gezondheidsredenen niet deel, maar gaf toch zijn jawoord. Zijn zangpartijen nam Michael Falzarano voor zijn rekening. Met Where I Come From ontstond in 2009 zelfs een nieuw studio-album, waarna met 17 Pine Avenue in 2012 een opvolger kwam. Op 21 juli 2009 overleed mede-oprichter John "Marmaduke" Dawson.
