Basándose en el cartucho para pistola 7,65 mm Parabellum, Luger diseñó el 9 mm Parabellum en la compañía de armas Deutsche Waffen und Munitions Fabriken (DWM) y presentó una versión de su pistola Luger "Parabellum" al Comité Británico de Armas Pequeñas en 1902. El cartucho 9 mm Parabellum fue creado retirando el cuello de botella del cartucho 7,65 mm Parabellum.
Tres prototipos de pistola 9 mm Luger fueron presentados al ejército estadounidense para pruebas en el Arsenal de Springfield ("Sprignfield Armory", por entonces un arsenal estatal, no confundir con la actual empresa privada del mismo nombre) en 1903. El ejército alemán mostró interés en una versión de la pistola en 9 mm Parabellum en 1904.
En Estados Unidos el cartucho se hizo conocido por la pistola Luger, por esa razón en ese país y en otros se lo conoce también como "9mm Luger".
EL diseño original era de bala encamisada (full metal jacket o FMJ), con forma cónica truncada de 8 gramos. En Alemania, la bala fue sustituida por la misma FMJ del mismo peso y de diseño ojival de 1915 a 1916, pero las balas de punta truncada se siguieron usando en Estados Unidos.