Yiğitliği ve fevri davranışları nedeni ile “Deli” lakabıyla anılan Halit Paşa 1883 yılında Kastamonu’nun Taşköprü ilçesinden İstanbul’a göç etmiş bir ailenin çocuğu olarak İstanbul'da doğdu. 1901 yılında Kuleli Askerî Lisesi’ni bitirdi. 1903 yılında Kara Harp Okulu'ndan Teğmen rütbesi ile mezun oldu.
1908 yılında II. Meşrutiyet'in ilanından sonra Yemen'de görevlendirildi. Orada Yüzbaşı oldu.. 1910’da Trablusgarp Savaşı'na katıldı. Burada yan yana savaştığı Ali Bey (Çetinkaya) ile anlaşamadığı için görev yeri değiştirildi. Trablusgarp'taki görevinin ardından Balkan Savaşı'na katılmak üzere Çatalca'ya geçti.
1 Temmuz 1914’teKafkasya’da Yakup Cemil Alayı’nda tabur komutanı olarak Birinci Dünya Savaşı’na katıldı. 1915 yılı sonuna kadar Yakup Cemil’in Kafkasya’daki Mürettep Teşkilatı’nda görev yaptı ve Elviye-i Selase’nin (Kars, Ardahan ve Batum) kurtarılmasında çok büyük katkıları oldu. Çoruh Müfrezesi’yle yapmış olduğu hizmetlerine karşılık olarak rütbesi 1916 yılında yarbaylığa yükseltildi. 21/22 Haziran 1916 tarihinde cephede yaralanarak tedavi için önce İstanbul’a sonra da Viyana’ya gönderildi
Tedavi dönüşü 10 Mayıs 1917 tarihinde Garbi Dersim Komutanlığına atandı; savaşın en önemli milis güçlerinden birisini kurarak Erzincan, Mamahatun ve Erzurum'u geri aldı. Kafkas İslam Ordusu'nun 3. Fırka Komutanı olarak Ahıska'yı kuşattı. Mondros Ateşkes Antlaşması'nın imzalanması üzerine Ardahan, Kars ve Sarıkamış'ı tahliye ederek Tortum'a çekildi; Daha sonra Trabzon Üçüncü Tümen Komutanlığı’na atandı. Halit Bey Trabzon bölgesine görevlendirilince, İngilizler Ermeni tehcirinden suçlu gördükleri Halit Bey’in görevden alınmasını ve tutuklanarak İstanbul’a gönderilmesini hükümetten istediler. İngilizlerin İstanbul Hükümeti’ne yapmış olduğu baskı üzerine fırka kumandanlığından azledildi. Bu azli tanımayan Halit Bey, daha sonra Kâzım Karabekir ile anlaşarak sözde görevinden ayrıldı ve Bayburt’a gidip buradan tümenini el altından yönetmeye devam etti. Ali Rıza Paşa Kabinesi kurulduğunda, 9. Kafkas Fırkası Komutanlığı'na atandı. Ermenistan üzerine yapılan harekâttaki başarısı nedeniyle Miralay rütbesine terfi etti.
“Cenûb-i Şarkî Kafkas Hükümeti”nin kurulmasında önemli rol üstlendi. Cihangirzâde İbrahim Bey’in başkanlığa getirildiği hükümette, Halit Bey de Başkumandan seçildi. Cenûb-i Şarkî Kafkas Hükümeti’nin İngilizler tarafından dağıtılmasının ardından Erzurum’a geçen Halit Bey, Vilayet-i Şarkiye Müdafaa-i Hukuk Cemiyeti’nin kurulmasında başrolü oynadı.
Erzurum Kongresi'nde Trabzon delegelerinin Mustafa Kemal'e karşı çıkmalarını, aldığı yıldırma tedbirleriyle önledi. Bayburt’taki Şeyh Eşref İsyanını bastırdı. 1920 yılının sonlarında Kars ve Sarıkamış'ı, 1921'de de Ardahan'ı düşman işgallerinden kurtardı.
Halit Bey, Ali Rıza Paşa kabinesi zamanında tekrar 9 uncu Kafkas Fırkası Kumandanlığı’na tayin olundu. 27 Eylül 1920 senesinde Ermenistan Zaferi üzerine rütbesi albaylığa yükseltildi. 1921 yılı sonunda Şark Cephesi’nden Garp Cephesi’ne nakledildi ve Kocaeli Kolordu Komutanlığı’na tayin olundu.
Sakarya Meydan Muharebesi'nde 12. Grup Komutanlığın yürüttü. Savaşta cephenin biraz gerisinde yüksekçe bir yerde durup "Geri çekileni vururum" demesi ve birkaç sefer cepheden kaçan askerleri öldürmesiyle ünlendi. Ve “Deli Halit Bey” olarak anılmaya başladı. Büyük Taarruz'da Kocaeli Grubu Komutanlığı yaptı ve gerçekleştirdiği mezalimler ile ünlü Yunan 11. Tümeni'ni, Tümen Komutanı Tümgeneral Nikolaos Kladas ile beraber esir aldı. Büyük Taarruz'da Mirliva rütbesine terfi etti ve Paşa oldu. “Deli Halit Bey” unvanı da “Deli Halit Paşa”ya dönüştü
Halit Bey, uzun süre birlikte çalıştığı Yakup Cemil gibi gergin, kabına sığmayan, elinde silah, tenkide tahammülü olmayan ve patlamaya hazır bir tabanca gibiydi. İkinci Büyük Millet Meclisi'ne Ardahan Milletvekili olarak katıldı. Mecliste çatışmacı, kavgacı bir davranış sergiledi.
9 Şubat 1925 tarihinde Meclis koridorunda, Milletvekili Ali Çetinkaya ile arasında yaşanan bir arbede sonrasında sırtından aldığı bir kurşun yarasıyla yaralandı. Olaydan beş gün sonra 14 Şubat 1925 tarihinde hastanede öldü. Öldürülmesi, TBMM’de gerçekleşen ilk cinayettir.
Paşayı kimin vurduğu kesin olarak anlaşılamadı. Ancak Ankara Savcılığı Halit Paşa’yı Ali Çetinkaya’nın vurduğu kanaatine vardı; bir nefs-i müdafaa halinde olduğunu kabul ederek bu olaydan dolayı kovuşturma yapılmaması kararı verdi. Feridun Kandemir Siyasi Cinayetler kitabında “Asıl Katil Rauf’tu ama Kel Ali arkadaşını kurtarmak için suçu üstüne aldı. Aksi takdirde Rauf Bey ceza alacaktı ve hapse girecekti” demektedir. Lord Kinross’a göre ise yolsuzluk yapan bazı vekillerin (Rize Mebusu Rauf, Ali Kılıç, Ali Saip, Azmi Bey) bu yolsuzluklarını Halit Paşa Meclis’te yüzlerine vurduğu için Halit Paşa, Ali Çetinkaya’ ile kavga ederken onlardan birisinin arkadan gelip onu vurduğunu söyler. Ona göre de katil kesinlikle Ali Çetinkaya değildir.
Cenazesi, İstanbul'un Eyüp semtinde defnedildi. Mezarı, 1988 yılında Ankara'daki Devlet Mezarlığı'na taşındı. Soyadı Kanunundan sonra ailesi, Karsı geri alan birliklerin başında bulunduğu için “Karsıalan” soyadını aldı.
