Initialement dédiée à la Sainte-Croix et Saint-Vincent pour y abriter une croix d'or du Roi Salomon et la tunique du saint rapportée d'Espagne par Childebert Ier fils de Clovis, la première basilique fut construite à la demande de l'évêque de Paris, Germain, en 557. Peu après il lui fit adjoindre une abbaye au statut privilégié car indépendante de l'épiscopat. A la mort de Germain en 576, sa tombe devint un lieu de pélerinage fameux.

Après la cannonisation du saint homme la basilique fût rebaptisée Saint-Germain au IX ème siècle. Le succès de l' abbaye était tel qu'elle ne manqua pas d'être également visitée par les invasions barbares...