Die Basilika wurde vom römischen Kaiser Konstantin I. über der Grabstätte des Heiligen Paulus gegründet, wo es hieß, dass seine Anhänger nach der Hinrichtung des Apostels ein Denkmal errichteten, das Cella memoriae genannt wurde. Diese erste Basilika wurde 324 von Papst Sylvester geweiht.
Im Jahr 386 begann Kaiser Theodosius I. mit dem Bau einer viel größeren und schöneren Basilika mit einem Kirchenschiff und vier Schiffen mit einem Querschiff. Es wurde wahrscheinlich um 402 von Papst Innozenz I. geweiht. Die Arbeiten, einschließlich der Mosaiken, wurden erst unter Leo I. Pontifikat (440-461) abgeschlossen. Im 5. Jahrhundert war es größer als der alte Petersdom. Der christliche Dichter Prudentius, der es zur Zeit des Kaisers Honorius (395-423) sah, beschreibt die Pracht des Denkmals in wenigen ausdrucksstarken Zeilen.
Unter Leo I.wurden nach dem Einsturz des Daches durch Feuer oder Blitz umfangreiche Reparaturarbeiten durchgeführt. Insbesondere das Querschiff (d. h. Der Bereich um das Grab des Paulus) wurde erhöht und ein neuer Hauptaltar und Presbyterium installiert. Dies war wahrscheinlich das erste Mal, dass ein Altar über dem Grab des heiligen Paulus platziert wurde, der unberührt blieb, aber angesichts der neu erhöhten Bodenebenen von Leo weitgehend unterirdisch war. Leo war auch für die Befestigung des Triumphbogens und die Restaurierung eines Brunnens im Innenhof (Atrium) verantwortlich.
Unter Papst Gregor dem Großen (590-604) wurden der Hauptaltar und das Presbyterium umfassend umgebaut. Das Pflaster im Querschiff wurde angehoben und ein neuer Altar wurde über dem früheren Altar platziert, der von Leo I. errichtet wurde.
In dieser Zeit gab es zwei Klöster in der Nähe der Basilika: St. Aristus für Männer und St. Stefano für Frauen. Die Messen wurden von einer besonderen Gruppe von Klerikern gefeiert, die von Papst Simplicius eingesetzt wurden. Im Laufe der Zeit gingen die Klöster und der Klerus der Basilika zurück; Papst Gregor II. restaurierte die ersteren und beauftragte die Mönche mit der Pflege der Basilika.
Da sie außerhalb der Aurelianischen Mauern lag, wurde die Basilika im 9. Jahrhundert bei einem sarazenischen Überfall beschädigt. (872-82) befestigte die Basilika, das Kloster und die Wohnungen der Bauernschaft und bildete die Stadt Johannipolis (italienisch: Giovannipoli), die bis 1348 bestand, als ein Erdbeben sie völlig zerstörte.
Im Jahr 937, als der heilige Odo von Cluny nach Rom kam, vertraute Alberich II. von Spoleto, Patrizier von Rom, das Kloster und die Basilika seiner Kongregation an und Odo beauftragte Balduino von Monte Cassino. Papst Gregor VII. war Abt des Klosters, und zu seiner Zeit überreichte Pantaleone, ein reicher Kaufmann von Amalfi, der in Konstantinopel lebte, die Bronzetüren der Basilica maior, die von konstantinopolitanischen Künstlern ausgeführt wurden; Die Türen sind mit Pantaleones Gebet beschriftet, dass ihm die „Türen des Lebens“ geöffnet werden mögen. Papst Martin V. hat es den Mönchen der Kongregation von Monte Cassino anvertraut. Es wurde dann eine Abtei Nullius gemacht. Die Gerichtsbarkeit des Abtes erstreckte sich auf die Bezirke Civitella San Paolo, Leprignano und Nazzano, die alle Pfarreien bildeten.
Der anmutige Kreuzgang des Klosters wurde zwischen 1220 und 1241 errichtet.
Von 1215 bis 1964 war es der Sitz des lateinischen Patriarchen von Alexandria.
Am 15. Juli 1823 begann ein Arbeiter, der das Blei des Daches reparierte, ein Feuer, das zur fast vollständigen Zerstörung dieser Basilika führte, die allein unter allen Kirchen Roms 1435 Jahre lang viel von ihrem ursprünglichen Charakter bewahrt hatte.1825 veröffentlichte Leo XII. die Enzyklika Ad plurimas, in der er zu Spenden für den Wiederaufbau aufrief. Ein paar Monate später, Er gab den Befehl, die Basilika genau so wieder aufzubauen, wie sie im vierten Jahrhundert neu war, obwohl er auch vorschrieb, dass wertvolle Elemente aus späteren Perioden, wie die mittelalterlichen Mosaiken und der Tabernakel, auch repariert und erhalten werden. Diese Richtlinien erwiesen sich aus verschiedenen Gründen als unrealistisch und wurden bald nicht mehr durchgesetzt. Das Ergebnis ist eine rekonstruierte Basilika, die nur eine allgemeine Ähnlichkeit mit dem Original aufweist und keineswegs identisch ist. Der Wiederaufbau wurde zunächst dem Architekten Pasquale Belli anvertraut, der nach seinem Tod 1833 von Luigi Poletti abgelöst wurde, der das Projekt bis zu seinem Tod 1869 betreute und für den Löwenanteil der Arbeiten verantwortlich war. Viele Elemente, die den Brand überlebt hatten, wurden beim Wiederaufbau wiederverwendet. Viele ausländische Herrscher leisteten ebenfalls Beiträge. Muhammad Ali Pascha, Vizekönig von Ägypten, gab Säulen aus Alabaster, während der Kaiser von Russland kostbaren Malachit und Lapislazuli spendete, der an einigen Altarfronten verwendet wurde. Das Querschiff und der Hochaltar wurden 1840 geweiht und dieser Teil der Basilika wurde dann wieder eröffnet. Das gesamte Gebäude wurde 1854 in Anwesenheit von Papst Pius IX. und fünfzig Kardinälen neu geweiht. Viele Merkmale des Gebäudes waren zu diesem Zeitpunkt noch nicht ausgeführt, jedoch, und die Arbeit erstreckte sich letztendlich bis ins zwanzigste Jahrhundert. Der Quadriporticus mit Blick auf den Tiber wurde von der italienischen Regierung fertiggestellt, die die Kirche zum Nationaldenkmal erklärte. Am 23.April 1891 zerstörte eine Explosion im Schießpulvermagazin von Forte Portuense die Buntglasfenster der Basilika.Am 31.Mai 2005 ordnete Papst Benedikt XVI. an, die Basilika unter die Kontrolle eines Erzpriesters zu stellen, und ernannte Erzbischof Andrea Cordero Lanza di Montezemolo zum ersten Erzpriester.