İlçe Elazığ il merkezine yaklaşık 77 km. uzaklıktadır. İlçenin nüfusu 2000 yılı nüfus sayımına göre merkez 10.103 köylerle beraber 25.550 dir. İlçeye Bağlı Beyhan ve Baltaşı beldeleri vardır.
İlçe arazisi Murat suyu civarındaki düzlükler ile güneydeki doğu toros silsilesini oluşturan Ak dağlardan meydana gelir. Murat Nehri İlçe topraklarının içinden geçmekte olup,vadisi genellikle dik ve sarptır.
İlçenin doğusunda Bingöl İli, batısında Elazığ, kuzeyinde Kovancılar İlçesi, güneyinde Arıcak ve Alacakaya ilçeleri bulunmaktadır. İlçe Murat nehri vadisinin üzerindedir.
İlçenin tarihi oldukça eskidir. Yörede ilkçağ ve ortaçağdan kalma birçok eser vardır. Palu ve çevresi Urartu, Roma ve Bizans hakimiyetlerinde kalmış, Halife Hz. Ömer devrinde İslam orduları buraları fethetmiştir (634). Bir müddet sonra Bizanslılar Palu ve Çevresini yeniden alarak Selçuklu akınlarına kadar bölgede varlıklarını sürdürmüşlerdir. Palu yakınlarındaki Şimsat kalesi, o dönemde oldukça önem arz etmiştir.
Selçuklular bu toprakları ele geçirdikten sonra önce Çubukoğullarının daha sonra da Artukoğullarının bölgede hakimiyetleri görülür. Osmanlı Hükümdarı Yavuz Sultan Selim'in komutanlarından Karaçinoğlu Ahmet'in 1515 yılında bölgeyi fethiyle yeni bir dönem başlamıştır.
Palu Cumhuriyetin ilanına kadar Diyarbakır İline bağlı Ergani-Maden Sancağının bir Levası (İlçesi) olarak idari taksimatta yer almıştır. Kale çevresinde görülen kalıntılardan zaman içerisinde Palu merkezinin yerleşme alanının üç kez değiştiği anlaşılmaktadır. İlk yerleşme yeri bugünkü Palu"nun 1.5 km. kadar doğusunda yer alan hakim kurulu Kale içidir. Daha sonra genişleyerek Kalenin eteklerinde yayılan Palu sırasıyla Yangın ve heyelan nedeniyle iki defa yer değiştirmiş ve nihayet 1953-1954 yıllarında bugünkü talabi bağları mevkiine yerleşmiştir.
Tarihi değerleri ; Palu Kalesi, Kara Cemşit Bey külliyesi, Merkez Camii, Alacalı Mescit, Ulu Camii, Küçük Camii.