Enfant de l'Assistance publique, Léon est bedeau dans une petite église des environs d'Yvetot. La semaine, il joue de l'harmonium ; le samedi, de l'accordéon au bal du village. Cette double vie déplaît souverainement aux âmes dévotes. Et le jour où Léon remplace au pied levé l'accordéoniste de Mimi Pinson - une chanteuse réaliste qui fait scandale -, il est renvoyé de la paroisse. Léon part à Paris retrouver la chanteuse dont il s'est épris. Là, il commence une nouvelle vie...