Perpustakaan Pascasarjana IAIN Ar-Raniry adalah perpustakaan khusus yang pertama kali dibentuk pada tahun 1996 untuk program S-2 (magister) dan S-3 (doktror). Terbentuknya perpustakaan ini merupaka gagasan dari Almarhum Prof. Dr. H. Safwan Idris, MA yang pada saat itu menjabat sebagai Pembantu Rektor-1 IAIN Ar-Raniry. Sementara direktur Program Pascasarjana kala itu dijabat oleh Prof. Dr. H. Muslim Ibrahim, MA.
Perpustakaan Pascasarjana IAIN Ar-Raniry (sekarang UIN Ar-Raniry) didirikan berdasarkan persetujuan Menteri Agama RI Nomor 08 tahun 2003 tanggal 10 Januari 2003, mengenai statuta IAIN Ar-Raniry Darussalam Banda Aceh pasal 90 tentang Perpustakaan Program Pascasarjana IAIN Ar-Raniry:
a. Perpustakaan Program Pascasarjana adalah unsur penunjang pelaksanaan teknis akademis di bidang perpustakaan
b. Perpustakaan Program Pascasarjana dapat memiliki unit perpustakaan atau unit penunjang akademis lain yang diperlukan
Sejak didirikan pada tahun 1996, Perpustakaan Pascasarjana UIN Ar-Raniry sudah mengalami beberapa pergantian kepemimpinan baik pergantian karena berakhirnya masa jabatan maupun pergantian antar waktu.
Nama-nama pimpinan Perpustakaan Pascasarjana UIN Ar-Raniry sejak didirikan.
1) Drs. Zulkarnain Idham (1996-2009)
2) Abdul Manar, S.Ag.,SIP, M.Hum. (Periode 2009-2011)
3) Muslina, S.Ag.,SIP,M.Ag.,M.LIS (Periode 2011-2012)
4) Nazaruddin Musa, S.Ag.,SS, M.LIS (Periode 2012-2014)
5) Suherman,S.Ag.,SIP.,M.Ec. (Periode 2015-Sekarang, 2020)
6) Abdul Manar, S.Ag.,SIP, M.Hum. (Periode 2022-2023)