南宁解放后，为了表达对革命先烈的褒扬、崇敬之情。1951年清明节前，市人民政府在人民公园后山——1927年“四一二”事变国民党当局分几批杀害革命先烈的地方，建起了一座“革命烈士公墓”，碑铭为市长莫文骅所题。4月5日清明节，适逢南宁市第三届二次各界人民代表会议召开期间，全体代表和省、市各界人士及学生几千人，捧持花圈到烈士公墓前，悼念公祭先烈。
1955年，广西省人民政府和南宁市人民政府决定将烈士公墓拆除，改建纪念碑，以供后人悼念凭吊。纪念碑于1956年12月建成，正面铭文“革命烈士纪念碑”是当时中共广西省委第一书记陈漫远所书写。纪念碑碑身、祭台、栏杆、登山石阶全是用石英云母石铺砌，纪念碑屹立山顶，蓝天白云掩映，分外肃穆庄严。山脚石阶前左右各安放一座石狮，石狮前面是一片宽广的草坪，广场左右各建有一座凉亭，上面各悬挂着“瞻忠”、“仰烈”的横匾。
1957年清明节上午，纪念碑落成典礼和公祭仪式举行，省、市领导，烈士家属和各界人士、学生等六七千人参加，花圈摆满纪念碑底座周围，由省、市领导主祭和讲话。1963年，自治区人民委员会公布其为自治区级文物保护单位，这是南宁市首次被确定的第一处自治区级文物保护单位。1988年，市委、市政府还增建了“南宁革命烈士碑志”。每年都有人前来悼念凭吊，尤其是青少年学生，经常来到纪念碑前举行入队、入团、入党的宣誓仪式，进行革命传统教育。