İlk ve ortaöğrenimini Diyarbakır'da tamamladıktan sonra 1968 yılında Ankara Üniversitesi Siyasal Bilgiler Fakültesi'nden mezun oldu. Mezun olduğu yıl Diyarbakır Maiyet Memuru olarak göreve başlayan Aksu, Ergani kaymakam yardımcılığı, Bismil ilçesine bağlı Sinan Bucak Müdürlüğü, Genç ilçesi Akçadağ ilçesi ve Doğanşehir ilçesinde Kaymakam Vekilliği görevi yaptı.

1970 yılında 50. dönem kaymakamlık kursunu tamamlamasının ardından Kınık Kaymakamı olarak göreve başladı. Askerlik görevini, 1971 ve 1973 yılları arasında, Yedek Subay Adayı ve Aşkale Zırhlı Tugay Tank Taburu’nda Tank Takım Komutanı olarak yaptı.

Askerliğini tamamlamasının ardından 1976 yılına kadar Sarıkaya Kaymakamlığı yapan Aksu, 1 Eylül 1976'da getirildiği Malatya Emniyet Müdürlüğü görevini, 9 Ekim 1977 tarihine kadar sürdürdü. Abdülkadir Aksu, 9 Ekim 1977 ile 30 Ocak 1978 tarihleri arasında Kahramanmaraş Valiliği ve 1980 Eylül ayına kadar Merkez Emniyet Müdürlüğü ve Emniyet Genel Müdürlüğü görevlerini yürüttü.

29 Ağustos 1980 tarihindeki Bakanlar Kurulu kararı ile Rize Valisi olarak görevlendirilen Aksu, Rize valiliği yaptığı sırada Belediye Başkanlığı görevini de yürüttü.

9 Şubat 1984 ve 18 Eylül 1987 tarihleri arasında Gaziantep Valiliği yapan Aksu, 29 Kasım 1987'de Anavatan Partisi'nden 18. Dönem Milletvekili olarak seçilerek TBMM'ye girdi. 1987 yılında Anavatan Partisi Grup Başkan Vekilliği görevini yürüttü. 31 Mart 1989 tarihinde İçişleri Bakanlığına atandı ve bu görevini 24 Haziran 1991 tarihine kadar yürüttü. 24 Aralık 1995'te ANAP Diyarbakır Milletvekili olarak Parlamentoya girdikten kısa bir süre sonra ANAP Gurup Başkan Vekilliğine , daha sonrada Güneydoğu Anadolu Projesi'nden sorumlu Devlet Bakanlığına getirildi.

16 Ağustos 1996 tarihinde ANAP'tan ayrılan Aksu, Refah Partisi'ne katıldı ve bu partide Genelbaşkan Yardımıcısı olarak görev yaptı. Refah Partisi'nin Anayasa Mahkemesi tarafından kapatılmasından sonra Fazilet Partisi'ne geçti ancak, bu partininde kapatılması ile birlikte Adalet ve Kalkınma Partisi'nde görev almaya başladı.

AKP'nin kurduğu 59. Hükumet'te 22. dönem Millet Vekilliği ve İçişleri Bakanlığı yapan Aksu, AKP İstanbul Milletvekili olarak görevini sürdürmektedir. Evli ve iki çocuk babası olan Aksu, almanca bilmektedir.