Является самым высокогорным городом Российской Федерации. Город расположен в юго-западной части республики, по обоим берегам реки Баксан.
Город расположен в горной части республики, на высоте более 1300 метров над уровнем моря, и является одним из наиболее высоко расположенных городов России. Рельеф представляет собой изрезанную хребтами местность, с узкими ущельями в долинах рек. Фактически весь город расположен в долине Баксанского ущелья, за исключением части микрорайона Герхожан, который заходит в боковое ущелье одноимённой реки. Высшей точкой городского поселения является гора Тотурбаши (2786 м.). Перепады высот значительны и колеблются в пределах 1500—2000 метров.
Гидрографическая сеть в пределах города представлены реками Баксан и Герхожан-су, а также стекающими с хребтов более мелкими ручьями. Имеются источники и месторождения минеральных вод.
Климат умеренный. Из-за близости гор и расположенности в ущелье, климат в городе резко отличается от климата предгорной и равнинной части республики. В начале весны с резкими перепадами температур с гор дуют сильные сухие ветры (фён). Средняя температура колеблется от +16,5°С в августе до −4,5°С зимой. Среднегодовая температура воздуха — 6,5°С.