Originaire d'Alsace, Jacques Gruber s'installe à Nancy comme de nombreux artistes issus des territoires annexés. Il étudie à Nancy puis, à partir de 1889, se forme à Paris, à l'École des Arts Décoratifs et à l'École des Beaux-Arts où il fréquente l'atelier du peintre Gustave Moreau.
En 1893, il est de retour à Nancy et entre à la manufacture Daum comme artiste-décorateur, jusqu'en 1897, où il crée des modèles de vases, en particulier les pièces hors série destinées aux expositions, qui témoignent d'une réelle harmonie entre la composition décorative et les techniques mises en œuvre. À la même époque, il s'intéresse au travail de la pyrogravure sur bois puis sur cuir, avec l'aide de René Wiener notamment. Il fournit à Majorelle plusieurs décors de meubles qui sont présentés à l'exposition d'art décoratif de Nancy en 1894 (plateau de table pyrogravé Fantaisies rabelaisiennes, table La Source.) Parallèlement, il enseigne la composition décorative à l'École des Beaux-Arts de Nancy jusqu'en 1913.
Vers 1896-1898, Jacques Gruber se tourne vers le vitrail qui a connu avec Laurent-Charles Maréchal de Metz, un véritable renouveau en Lorraine. Cet intérêt est étroitement lié au développement de l'architecture Art nouveau à Nancy qui donne une place prépondérante aux verrières, espace de transition entre l'intérieur et l'extérieur des édifices. C'est dans ce domaine que son talent de compositeur et de dessinateur va pleinement s'épanouir et faire sa réputation. Louis Majorelle, Eugène Corbin et Albert Bergeret notamment lui confient la réalisation de vitraux dans leurs demeures privées ou leurs établissements. Jacques Gruber créé ainsi le programme vitré de la Chambre de Commerce et d'Industrie, de la brasserie Excelsior, du Crédit Lyonnais, ou des Magasins Réunis à Nancy. À Paris, il conçoit la coupole du magasin parisien des Galeries Lafayette en 1911 dont Majorelle réalise les ferronneries. Son œuvre, d'une grande qualité graphique et parfois picturale, dominée par le répertoire naturaliste, témoigne également d'une réelle maîtrise des techniques verrières de l'époque.
Bien que s'intéressant principalement à cette technique, Jacques Gruber ne délaisse pas les autres aspects des arts décoratifs. Il collabore en effet avec plusieurs industriels et artisans nancéiens auxquels il fournit des modèles et des décors de mobilier, de reliure, d'objets en grès flammé. Il dessine également des menus et des programmes pour les imprimeurs nancéiens. Il conçoit des objets en bois, des meubles et des ensembles mobiliers, comme l'imposant bureau de Charles Masson, directeur des Magasins Réunis et beau-frère d'Eugène Corbin (musée de l'École de Nancy.)
Membre du Comité directeur de l'École de Nancy dès la création de l'association en 1901, Jacques Gruber participe aux principales manifestations artistiques de ce mouvement. Jacques Gruber s'installe à Paris à partir de 1914 et connaît une période prospère de renouvellement artistique pendant la période Art Déco.
Il est membre du Comité directeur de l'École de Nancy dès 1901.