De gemeente Landgraaf is in 1982 ontstaan door samenvoeging van de vroegere gemeenten Nieuwenhagen, Schaesberg en Ubach over Worms (vroeger ook wel de SUN-gemeenten genoemd). In 1986 is besloten om de naam Landgraaf ook als plaatsnaam te gebruiken, omdat de meeste kernen aaneen gegroeid waren. Deze ontwikkeling is voortgekomen uit de mijnbouw in de streek die gedurende de 20e eeuw voor een bevolkingsexplosie heeft gezorgd. In tegenstelling tot de buurgemeenten Heerlen en Kerkrade, die een soortgelijke ontwikkeling hebben ondergaan, heeft Landgraaf echter geen stedelijk karakter gekregen.
Formeel gezien is Landgraaf tegenwoordig één kern, maar feitelijk gezien bestaat de gemeente nog steeds uit aparte kernen. Rimburg is het meest oostelijke kerkdorp van de gemeente en heeft het karakter van een klein dorp het meeste weten te behouden.