Гробница Низами была местом паломничества на протяжении многих столетий. Первое упоминание гробницы в исторических хрониках сделал Искандер Бек Мунши, хронист при сефевидском дворе, который сообщал, что в конце февраля 1606 года Шах Аббас I прибыл в Гянджу и разбил лагерь около мавзолея шейха Низами, где 24 марта отметил праздник Новруз.
Во время русско-персидской войны в 1826 году решающая битва между русскими и персидскими войсками состоялась около мавзолея Низами. Русские войска под командованием генерала Ивана Паскевича разгромили персидскую армию и вынудили её отступить. Посол России в Персии Александр Грибоедов упоминал в своем дневнике разговор с писателем и историком Аббас Кули Ага Бакихановым, являвшимся в то время сотрудником российской дипломатической миссии, в котором последний рассказал Грибоедову, что Елизаветпольская битва произошла вблизи мавзолея Низами.
К середине XIX века древний мавзолей разрушился, но был отстроен заново Мирза Адигёзаль-беком Карабахским.
В 1991 году был построен новый комплекс, включающий помимо самого мавзолея парк и скульптурную группу, иллюстрирующую произведения поэта.