Jan van Mersbergen debuteerde in 2001 met de roman De grasbijter (Meulenhoff). Bij uitgeverij Cossee verschenen vervolgens De macht over het stuur en De hemelrat. In 2007 verscheen Morgen zijn we in Pamplona. Deze roman werd al snel herdrukt, werd vertaald in het Duits (Kunstmann) en Frans (Gallimard), en de filmrechten zijn verkocht aan IDTV. Medio 2011 verschijnt de Engelse vertaling (Peirene Press).
Zo begint het, zijn vijfde roman, werd gepubliceerd in 2009. Ook deze roman kwam uit in Duitsland. Momenteel werkt hij aan een nieuwe roman: een familiedrama dat zich afspeelt tijdens het Limburgse Carnaval: de Vastelaovend. De meest logische verschijningsdatum voor deze roman is 11 november 2011.
Korte verhalen van Jan van Mersbergen werden gepubliceerd in Vrij Nederland, in literaire tijdschriften (Tirade, De Gids, Bunker Hill) of voorgelezen bij de VPRO radioprogramma's Duizend woorden, waar hij jurylid was, en Het Voetlicht. Hij schreef voor muziektijdschrift Wahwah. Hij schrijft ook artikelen over sport, onder andere voor Hard gras, Achilles, Sportgeschiedenis en Tourkoorts.
Jan van Mersbergen werd veelvuldig genomineerd voor literaire prijzen: Debutantenprijs 2002, Dif Literatuurprijs 2005, Halewijnprijs 2007, BNG Nieuwe Literatuurprijs 2007 en 2009, le Prix Livres Européen / the European Book Prize. In april 2010 werd deze site door HP/De Tijd uitgeroepen tot beste literaire weblog van Nederland.
Sinds januari 2010 is hij redactielid van literair tijdschrift De Revisor, dat halfjaarlijks een boek uitbrengt en daarnaast publiceert op de website.