Sejarah awal wujudnya perpustakaan Negeri Sembilan adalah melalui penubuhan sebuah Perpustakaan yang terletak di Jalan Dato’ Abd. Malek, Seremban iaitu Perpustakaan Sir Hendry Gurney. Perpustakaan Sir Hendry Gurney ini telah dibuka dengan rasminya pada 30 Julai 1952 . Menyedari tentang kepentingan perpustakaan kepada masyarakat, maka, kerajaan Negeri Sembilan telah mengambil alih pentadbiran perpustakaan ini pada tahun 1978 melalui Enakmen Perbadanan Perpustakaan Awam Negeri Sembilan ( 1974 ). Jawatankuasa Perpustakaan Gurney telah pun bersetuju untuk menyerahkan perpustakaan ini kepada Perbadanan mulai daripada 1 Oktober 1978. Pada asalnya, bangunan ini diperbuat daripada kayu dan hanya berukuran 60’x40’ serta beratap asbestos. Ianya hanya dapat menempatkan kira-kira 50 tempat duduk dan boleh menampung sejumlah 10,000 naskah buku sahaja. Bangunan tersebut telah dirobohkan dan bekas tapak tanahnya telah dimajukan.
Bermula dengan Perpustakaan Sir Hendry Gurney, PPANS telah berpindah dan menduduki Bangunan Lama Setiausaha Kerajaan Negeri Sembilan yang terletak di Jalan Dato’ Hamzah pada tahun 1987. Projek untuk mengubahsuai bangunan ini telah dimulakan pada 29 Mac 1988 dengan peruntukan dari Kerajaan Persekutuan melalui Jabatan Perpustakaan Negara Malaysia dan siap pada Mei 1989, manakala perkhidmatan kepada orang ramai mula diberikan pada Ogos 1989.
Bangunan Perpustakaan Negeri di Jalan Dato’ Hamzah untuk mengekalkan bangunan tersebut sebagai Bangunan Warisan, Negeri Sembilan. Sehubungan itu, Kerajaan Negeri telah menempatkan PPANS di Bangunan Wisma Umno sebagai Bangunan Sementara Perpustakaan Negeri, PPANS. Melalui peruntukan Kerajaan Negeri Sembilan , kerja-kerja mengubahsuai Bangunan Wisma Umno untuk dijadikan Perpustakaan Negeri merangkap pusat pentadbiran PPANS telah dapat disiapkan pada 11 Januari 2007. Bermula pada 11 Januari 2007 juga PPANS telah berpindah ke Bangunan Wisma Umno manakala Bangunan Perpustakaan Negeri di Jalan Dato’ Hamzah secara rasminya telah diserahkan kepada pihak SUK, Negeri Sembilan pada 29 Januari 2007. Perkhidmatan Perpustakaan Negeri di Jalan Dato’ Sheikh Ahmad mula beroperasi pada 2 April 2007.
Bangunan ini terletak di lokasi yang strategik iaitu ditengah-tengah bandar Seremban dan mampu menarik minat orang ramai untuk datang ke perpustakaan bagi menikmati kemudahan yang disediakan. Perpustakaan Negeri terdiri daripada tiga tingkat iaitu, tingkat bawah, tingkat mezzanine dan tingkat satu. Ruang di tingkat bawah bangunan menempatkan Zon Kanak-kanak ( perkhidmatan khas untuk kanak-kanak) seluas 6,597.74 k/p dan ianya diperluaskan dengan tingkat mezzanine yang seluas 5,174 k/p bagi menempatkan Pusat Pentadbiran PPANS, manakala di tingkat satu adalah merupakan Zon Dewasa yang dikhaskan untuk pengunjung dewasa iaitu seluas 13,362 k/p. Didapati sambutan dan kunjungan orang ramai adalah lebih menggalakkan apabila PPANS dipindahkan di Bangunan Wisma Umno disebabkan lokasinya yang strategik.