A hipótese mais provável sobre a origem do Rottweiler, remonta do século I D.C., quando as tropas romanas, extremamente numerosas, em expedições de conquista, realizaram a travessia dos Alpes e utilizaram um cão boiadeiro para cuidar do rebanho que serviria de alimento à tropa. Esta expedição terminou onde hoje é o sul da Alemanha, às margens do Rio Neckar.
Foi nesta região que surgiu a atual cidade de Rottweil, a qual o Rottweiler herdou o nome, Metzgerhund Rottweil (Cão de Açougueiro de Rottweil), uma vez que a cidade de Rottweil era um importante centro de comércio de gado, em meados do século XII. Posteriormente, seu nome foi abreviado para "o cão de Rottweil". Em alemão, Rottweiler. Ele foi utilizado como cão boiadeiro e cão de tração até meados do século XIX.
O fim do comércio de gado em Rottweil e o advento das rodovias quase extinguiram a raça no início do século XX. Mas graças às suas qualidades físicas, elevada inteligência, seu caráter firme, temperamento forte e sua coragem frente ao perigo, tornaram o Rottweiler o parceiro ideal para o serviço policial. Assim também surgiram clubes dedicados à preservação da raça. Em julho de 1921 foi fundado o Algemeiner Deutcher Rottweiler Klub (ADRK), que rege, até os dias de hoje, o padrão alemão da raça.
Com tantas virtudes, o Rottweiler logo conquistou admiradores pelo mundo. Chegou aos Estados Unidos da América ainda na década de 30, sendo reconhecido pelo American Kennel Club em 1935. E conquistou também o mais antigo clube cinófilo do mundo, o The Kennel Club, na Inglaterra, em 1936.
No Brasil o Rottweiler só chegou na década de 70, no estado do Rio de Janeiro. Posteriormente, foi se espalhando pelo país, sendo que hoje, os mais importantes centros de criação situam-se nos estados do Rio de Janeiro, São Paulo, Minas Gerais, Rio Grande do Sul e Paraná. A região nordeste tem crescido muito em qualidade nos últimos tempos.
Crescente também tem sido o número de filhotes de Rottweiler que nascem todos os anos no Brasil. Por vários anos consecutivos, tem sido a raça mais registrada na CBKC, chegando, em 1997, a 26.000 filhotes registrados, ou seja, de cada 5 filhotes registrados, pelo menos 1 era de Rottweiler. A história diz que ser "o cão da moda" pode levar à degeneração da raça no país, o que preocupa criadores e admiradores do Rottweiler. Pois ser o "cão da moda", atrai "fabricantes de cães", de olho no lucro fácil da venda de filhotes, deixando de lado a diretriz fundamental de qualquer criador sério: "Produzir filhotes com qualidade, dentro do padrão da raça, buscando o aprimoramento do cão." Veja adiante algumas dicas de como adquirir um filhote de Rottweiler, a fim de fugir desses comerciantes inescrupulosos. E também a importância de comprar certo.