En 1925 Rheinmetall proyecto y desarrollo un cañón contracarro de 37 mm, para el ejercito, ideal para atacar el débil blindaje de los carros de la época, la producción comenzó en 1928 y en ese entonces todavía se proyecto para tracción hipomóvil, con ruedas de radios de madera. la producción fue relativamente lenta, y cuando subió al poder el partido nazi, se acelero notablemente, en 1934 apareció la primera versión adaptada a la tracción mecánica con ruedas de acero y neumáticos, en 1936 recibió la denominación definitiva de Pak 35/36 de 3,7 cm.
La versión para carro recibió la denominación de KwK 36 L/45 y fue montada en los primeros carros Panzer III en 1934.