Los orígenes del Schnauzer minatura se remontan posiblemente al siglo XV cuando, a partir de varias selecciones, se utilizaron los ejemplares más pequeños de Schnauzer mediano y se cruzaron, probablemente, con Affenspinscher y Barbet (antecesor del Caniche).

Otra hipótesis es la que mantiene que el Schnauzer miniatura nace del cruce entre Schnauzer mediano y Spitz Alemán (Pomerania), siendo estos primeros Schnauzers de colores sólidos, apareciendo perros excepcionalmente particolores. Se cree que estos primeros ejemplares eran cruzados con Fox Terrier de pelo duro, aunque otros mantienen que también se cruzaron con los Scottish Terrier.

La verdad es que es difícil decantarse por una u otra opción. No se puede afirmar con seguridad qué circunstancias llevaron a los criadores de Schnauzers medianos a seleccionar a los ejemplares de menor tamaño. En 1879 encontramos en la primera edición del Pinscher Schnauzer Zuchtbuch (PSZ), al más antiguo Schnauzer registrado, de nombre FIDEL, una hembra de color negro.
De las ocho hembras registradas en este primer volumen, tres eran negras, tres de color trigueño, una de color negro y fuego, y una de color sal pimienta.

En los orígenes, cabe destacar cómo entre las camadas nacidas de Schnauzer miniatura, algunos cachorros eran registrados como Affenpinschers, otros como Pinscher miniatura y por supuesto, como Schnauzer mediano. A consecuencia de esto, en los pedigrees de principios de siglo se registraron ejemplares como Pinscher miniatura a perros como MICHAEL CHEMNITZ PLAUEN. Éste fue padre de unos de los primeros campeones de la raza en Alemania, el famoso Ch TRUMPF CHEMNITZ PLAUEN, que fue uno de los perros más significativos y que a su vez, era nieto de uno de los tres grandes: PRINZ VON RHEINSTEIN nacido en 1903 y criado por Kisel de Frankfurt, PETER VON WESTEBERG nacido en noviembre de 1902 y LORD VON DORNSBUSCH que era el más joven de los tres ya que nació en 1904. Estos tres perros fueron determinantes en la formación del Schnauzer miniatura tal y como lo conocemos actualmente.
Peter fue padre de 55 camadas y vivió hasta los doce años, siendo récord del PSK. Peter y Lord eran de color negro, mientras que Prinz poseía marcas grises y rubias en su manto. Lord era el más parecido al Schnauzer actual y dejó hijos que serían determinantes para la raza, como FRICK VON DORNSBUCH, FRITZ VON LOHR y RAUBER VON DORNSBUCH.

En Alemania, país de origen de nuestra raza, estos primeros ejemplares fueron también conocidos en un principio como Pinscher de pelo duro y popularmente con el sobrenombre de RATLER ya que eran utilizados como perros ratoneros al igual que muchos Terriers y, debido a este uso, en Estados Unidos se le considera un Terrier.
Uno de los hechos más decisivos en la evolución de la raza fue la fundación del Pinscher Club alemán, fundado en Colonia por Josef Berta en 1895 y del que fue presidente hasta 1921.

En Inglaterra no fue reconocida como raza por el Kennel Club hasta 1907, otorgándose los primeros CAC (Certificado Aptitud Campeón) en 1935. El primer club en Inglaterra tan sólo duró tres años, disolviéndose en 1936 y no creándose de nuevo hasta principios de los años cincuenta.

No existe medio alguno que permita determinar cuándo llegó el primer Schnauzer a América, aunque se cree que los primeros miniaturas recibidos por aficionados llegaron a Nueva Inglaterra, a los alrededores de Boston, en 1923, y fueron enviados por Herr Krappastsch, del famoso criadero Gold Bachohe. Llegaron a la estación de un pequeño pueblo, metidos en una gran cesta de mimbre dotada de una puerta con barrotes de hierro y con sus cabezas asomadas a través de ellos, causaron gran sensación. Era un grupo de tres hembras y un macho. Lamentablemente, el macho murió, lo que hizo que Krappastsch enviara un nuevo macho a Estados Unidos, este perro era AMSEL, que fue el primer Schnauzer miniatura exhibido en el país americano.
La raza fue aceptada por el American Kennel Club tras una larga lucha en el año 1926, y un año más tarde, se celebró la primera exhibición, con una inscripción de 22 ejemplares. Moses Taylor Von Affe fue el primer perro nacido en América que consiguió ganar un campeonato.