Un marché fut signé en 1772 entre la ville de Vesoul et le facteur Rabiny. L'orgue fut achevé en 1776. Le grand corps était séparé en 2 parties de chaque côté de la verrière centrale. Le buffet fut réalisé par les menuisiers vésuliens Jean-François Caraville et Sébastien Paillote Leroux, Antoine Cupillard étant probablement l'auteur des sculptures. En 1808, François Callinet réunit les 2 corps du buffet. En 1887, les facteurs Jeanpierre et Didier de Rambervillers (Vosges) apportèrent d'importantes modifications et l'orgue fut inauguré le 27 octobre 1887. Vers 1918, il reçoit un ventilateur électrique. En 1921, la maison Bossier de Dijon transforme quelques jeux et effectue un relevage. Vers 1966, Alfred Kern restructure entièrement l'orgue, lui restitue plein jeux et mutations, le dote d'une console en fenêtre et rétablit la transmission mécanique.