Après avoir suivi les cours à l'École des Beaux-Arts de Nancy et un apprentissage chez le sculpteur Pierron, Joseph Mougin entre en 1896 dans l'atelier du sculpteur Barrias à l'École des Beaux-Arts de Paris. Il est rejoint en 1898 par son frère Pierre et débutent ensemble leur activité de céramistes. Les premiers essais parisiens s'avérant infructueux, Joseph et Pierre Mougin retournent à Nancy en 1906. Tout d'abord éditeurs de leurs propres modèles, ils font ensuite appel à d'autres artistes parmi lesquels Victor Prouvé (qui réalise pour eux des cartons publicitaires), Ernest Wittmann (1846-1921) et Alfred Finot, qui leur fournissent statuettes, modèles de vases et objets décoratifs.
Après 1918, Joseph et Pierre Mougin continuent leurs activités à Lunéville.
Sans avoir jamais fait partie du Comité directeur de l'École de Nancy, Joseph et Pierre Mougin adhèrent à ses principes esthétiques et sont présents à ses expositions.