Batum'un Ahıska beldesinde 1870 senesinde dünyaya geldi. Babası Şerif Efendi'dir. İki yaşında annesini, dört yaşında da babasını kaybeden Ali Haydar Efendi ilk ilim tahsilini memleketinde yapmıştır. Daha sonra Erzurum'da medrese tahsiline devam etmiştir. Erzurum'dan sonra İstanbul'a gelen Ali Haydar Efendi , Fatih Camii Şerifi'nde derslere devam ederek, Beyazıd dersiâmlarından Çarşambalı Hoca Ahmed Hamdi Efendi'den 1901 yılında icazet almıştır.
Ali Haydar Efendi (K.S.), Ahmed Hamdi Hoca'nın derslerine devam ederken, o devirde kadı yetiştiren Medresetü'l-Kuzat'a ( o zamanın Hukuk Fakültesi ) giderek, oradan da diploma almıştır. (1906) İlk adli vazifesi Burdur kadılığıdır. Sonra Uşak kadılığı ve sonra Denizli kadılığı olmuştur. Daha sonra İstanbul İstinaf Mahkemesi ( dava mahkemeleri ile temyiz mahkemeleri arasında bir derece yüksek mahkeme) üyeliğine getirildi.. Bu vazifede iken hukuk mektebinde Mecelle ve Usul-i Muhakematı Hukukiye derslerini okutmaya başladı. Ardından sırasıyla İstanbul Bidayet Mahkemesi, İkinci Hukuk Dairesi Başkanlığı, Bidayet Mahkemesi Başkanlığı, İstinaf Mahkemesi İkinci Hukuk Dairesi Başkanlığı, Temyiz Mahkemesi üyeliği, aynı mahkemenin hukuk dairesi üyeliği, sonra başkanlığı ve temyiz mahkemesi başkanlığı görevlerinde bulundu.
Ömer Nasuhi Bilmen Hoca, Hukuk-u İslâmiye ve Islahatı Fıkhiye Kamusu eserinde Ali Haydar efendiden bahsederken, "Yüksek çalışkan fukahamızdan sayılır" der ve devamla, "Mahkeme-i Temyiz riyasetinde, mülga fetvahane-i ali emanetinde ve adliye nezaretinde bulunmuştur. Mecelle-i ahkamı Adliye'ye yazmış olduğu 4 ciltlik mufassal şerhi, kıymetli bir eserdir. Birçok çalışmanın faideli bir semeresidir. Arazi, evkaf, mefkud, ahkâmına dair eserleri, intikal kanununa şerhi de vardır. Medresetül Kuzat'ta ve Darül Fünun'da mecelle vesaire müderrisliğinde bulunmuştu" diye övmüştür.
Sene 1914 Fatih Camii'nde talebe okutmaya başlamıştır. Fetvahanede fetva vermiş, gösterdiği büyük iktidarla, 1914 yılında Sahn Medresesi Fıkıh Müderrisliği'ne tayin edilmiştir.
Birinci Dünya Savaşı ardından, 14 Kasım 1914'te ilan edilen Cihad-ı Ekber fetvasını, Fetva Emini sıfatıyla Fatih Camii'nde okudu. Aynı zamanda 23 Kasım 1914'te Cihad Beyannamesinde bulunan 29 imzadan birisi de Ali Haydar Efendi'dir. 1915 yılında Şeyhü'l-İslamlık'ta yeni kurulan "Telif i Mesail Heyeti Reisliği"ne tayin edilmiştir. 1916 yılında Huzur Dersleri baş muhatablığına tayin edilmiştir. Rumeli Kazasker payeliğini elde etti. Aynı yıl emekliye ayrıldı. Tevfik Paşa'nın ikinci sadaretinde (Baş vezirlik) kısa bir süre Adliye Nazırlığı (Adalet Bakanlığı) yaptı. Bu görevde iken Medine'yi teslim etmeye yanaşmayan Fahrettin Paşa'ya Padişah'ın teslim konusundaki iradesini götürdü.
__________________ ""Her kim ederse emek, o akibet bulur yemek
Etmezsen emek, bulamazsın yemek""