Engagé volontaire à 50 ans pour la durée de la guerre, avec son grade de caporal, jJean Veber participe en 1914 à la bataille de Mamey au 168ème R.I..
En 1915 il forme les jeunes recrues de la classe 16 à Malay le Grand puis rejoint le front à Vauquois et gagne là ses galons d’adjudant ainsi que la Croix de Guerre.
En 1916 il intègre le 31ème RI et participe à la bataille de la Somme (Bouchavesnes). A cette occasion, il sera cité, recevant la Médaille militaire.
1917 le verra au Bois des Buttes (secteur Chemin des Dames). Là, il sera de nouveau cité, distingué de la Croix de Guerre Bronze et Vermeil avec palmes. En juillet de la même année, il sera gazé et sauvé par ses hommes d’une mort certaine. Son état de santé ne lui permettra pas de retourner au front.
Néanmoins, il retrouvera son régiment en 1918 pour l’entrée des troupes françaises en Alsace comme porte drapeau.
Jean Veber terminera le conflit Croix de Guerre, Bronze et Vermeil avec Palmes, Médaille Militaire, chevalier de la Légion d’Honneur et en deviendra officier en 1920. Le général Gouraud dira de lui : « Je l’admirais comme artiste, je l’admirais encore plus comme soldat, je le donne comme modèle. Il devrait servir d’exemple à tous les français. »