Geboren wurde Paul Pfeiffer am 21. April 1875 in Elberfeld. Sein Studium begann er 1893 in Bonn, aber schon ein Jahr später zog es ihn nach Zürich, wo er 1898 bei Alfred Werner promovierte.
Werner arbeitete über Koordinationsverbindungen von Zentralteilchen (zumeist Atome) und begründete damit die Komplexchemie. Für seine Forschung erhielt er 1913 den Nobelpreis für Chemie. Auch Paul Pfeiffer setzte sich mit der Komplexchemie auseinander, untersuchte Chromkomplexe, das Verhalten von Aminosäuren, Kristallstrukturen sowie Komplexverbindungen mit Farbstoff-Eigenschaften. Dadurch verbreitete er einerseits die Forschung seines Lehrers Werner, andererseits etablierte er sich als Experte der Komplexchemie.
Im Jahr 1899 ging Paul Pfeiffer für weitere Studien nach Leipzig und Würzburg. In Leipzig forschte er bei einem anderen Nobelpreisträger für Chemie (1908): Wilhelm Ostwald, Entdecker der Ostwald-Reifung, und Mitbegründer der Physikalischen Chemie. 1900 kehrte er nach Zürich zurück, wo er sich ein Jahr später habilitierte und 1909 zum außerordentlichen Professor für theoretische Chemie ernannt wurde. 1916 folgte er einem Ruf nach Rostock und 1919 einem an die Technische Hochschule in Karlsruhe. 1922 kehrte er mit seiner Frau Julie geb. Hüttenhoff (1876-1949), die er 1901 geheiratet hatte, nach Bonn zurück. Dort starb er im Alter von 75 Jahren am 4. März 1951.
Olga Angern, seine frühere Doktorandin und langjährige wissenschaftliche Mitarbeiterin, verfasste für ihn 1947, im Jahr seiner Emeritierung, eine Denkschrift, in der sie Paul Pfeiffer als Menschen, hervorragenden Lehrer und bedeutenden Chemiker würdigt.
Diese Schrift ist Teil des Nachlasses von Paul Pfeiffer, der in der ULB Bonn aufbewahrt wird. In ihm befinden sich u.a. Briefe von zahlreichen Wissenschaftlern, darunter die Nobelpreisträger Kurt Alder, Otto Diels, Otto Hahn und Paul Karrer, sowie Lebensdokumente und autobiographische Texte. Der Nachlass ist vollständig in Kalliope nachgewiesen.