Jan Jansen studeerde aan het Utrechts Conservatorium orgel bij Cor Kee, piano bij Gérard van Blerk en klavecimbel bij Lenie van der Lee.

In 1970 behaalde hij de Prix d'Excellence voor orgel. Hij was gedurende 16 jaar cantor-organist van de Oude Kerk in Soest en van 1987 tot mei 2011  was hij organist van de Domkerk te Utrecht, waar hij naast de drukke liturgische praktijk de landelijk welbekende Zaterdagmiddagmuziek verzorgde, samen met de Domcantorij o.l.v. Remco de Graas.

Jan Jansen maakte een groot aantal CD opnamen, waaronder een integrale opname van de orgelwerken van Felix Mendelssohn Bartholdy, een CD met werken van César Franck, o.m. de "Trois Chorals".Van Johann Sebastian Bach nam hij de koraalpartita's, de Grote Orgelmis, de Achtzehn Leipziger Orgel Choräle, Preludes en Fuga’s,  de Goldbergvariaties en [samen met zijn zoon David] de Kunst der Fuge en de zes Triosonates op. De meest recente CD betreft een opname van het van Gruisenorgel te Hallum.

Voorts is hij een veelgevraagd continuospeler en speelde in deze hoedanigheid op de bekroonde CD van zijn dochter Janine met Vivaldi’s Vier Jaargetijden. Op de laatste CD van Janine Jansen met werken van JS Bach bespeelt hij het klavecimbel.

Als correpetitor en docent algemeen theoretische vakken was hij werkzaam aan de Hogeschool voor de Kunsten te Utrecht.