Il publie ses premières BD dans les années 1980. Fin 1982, avec Berroyer, il dessine La Parisienne. Dans les années 1990, avec Guy Vidal et Dominique Leguillier, il participe à des livres pour Médecins sans frontières. En 1995, il s’essaye à l’érotisme, avec Pinocchia.

En 1997, il publie le premier tome du diptyque Le Sursis, qui rencontre un incroyable succès. Julien Sarlat, qui observe la vie d’un village de l’Aveyron en 1943, personnage auquel le destin n’a donné qu’un sursis, et sa Cécile, conquièrent les lecteurs.

Dans le droit fil du Sursis, et dans la même collection trois ans plus tard, Gibrat livre un récit somptueusement colorisé, Le Vol du Corbeau, qui met en scène la jeune résistante Jeanne et le cambrioleur François dans le Paris occupé. La suite et fin paraît en 2005.
Jean-Pierre Gibrat a reçu en 2006 le Prix du dessin au Festival d'Angoulême pour le second tome du Vol du corbeau. En octobre 2008 paraît Mattéo, première époque, 1914-1915.

Gibrat obtient en 2010 le Grand Boum - Grand Prix du Festival de la BD de Blois pour l'ensemble de son œuvre, après avoir reçu en 2003 le Sanglier d'argent attribué au meilleur dessinateur du Prix Albert Uderzo.