Perpustakaan UIN Walisongo Semarang tumbuh dan berkembang seiring dengan pertumbuhan dan perkembangan UIN Walisongo Semarang. Perpustakaan ini dibuka secara resmi pada tanggal 15 September 1973, tiga tahun setelah peresmian lembaga induknya (UIN).
Pada awal berdirinya, perpustakaan menempati satu ruangan di gedung kampus UIN, Jl. Ki Mangunsarkoro No. 17 Semarang. Tahun 1976 UIN pindah ke kampus baru di Jrakah dan perpustakaan menenpati dua ruangan di gedung C. Selanjutnya pada tahun 1979 perpustakaan menempati gedung tersendiri (yang saat ini menjadi gedung pascasarjana). Pada awal tahun 1994 perpustakaan pindah ke gedung baru berlantai 2 di kampus III, Jl. Prof. Dr. Hamka Km. 2 Ngaliyan Semarang hingga sekarang