Son père, avocat à Bar-le-Duc, s'était présenté candidat pour la Meuse aux élections législatives en 1885 et 1889 en tant que représentant de Philippe d'Orléans, le comte de Paris, sans y parvenir. Louis Madelin se présente quant à lui comme républicain progressiste en 1910 dans les Vosges, dans la circonscription de Saint-Dié. Il y est battu par le radical Constant Verlot et ne se représente pas en 1914.
Il est sollicité par la droite en 1919 pour être de nouveau candidat mais refuse, préférant s'occuper de la formation de son Parti de réorganisation nationale ou mouvement IVe République. Il accepte finalement la proposition aux élections législatives suivantes, figure sur la liste menée par Maurice Flayelle et est élu député des Vosges de 1924 à 1928 sous la bannière de la Fédération républicaine, conservatrice. Il soutient le gouvernement de Raymond Poincaré puis critique le traité de Locarno. En 1928, il choisit l'arrondissement de Mirecourt pour faire campagne au nom de l'Union nationale mais échoue face au radical René Porterat, malgré l'appui financier apporté par des patrons comme Georges Laederich. Il renonce à se présenter à une élection sénatoriale partielle en décembre.