1949年9月30日，中国人民政治协商会议第一届全体会议通过了在首都建立人民英雄纪念碑的决议。北京市都市计划委员会随即向全国各建筑设计单位、大专院校建筑系发出征选纪念碑规划设计的通知。
1952年5月10日首都人民英雄纪念碑兴建委员会正式成立。该委员会主任由当时北京市委书记彭真同志担任，副主任由国际著名建筑家梁思成同志担任，秘书长为薛子正。
为了体现周恩来总理关于建筑纪念碑目的在于“纪念死者，鼓舞生者”的指示，1953年3月首都兴建委员会从240多种设计方案中精选出8种，向专业设计人员广泛征求意见。这8种设计方案包括：矮而分散的典型设计，高而分散的典型设计，做成三座门的设计，矩形主柱式碑形——高的典型设计，有瞭望台的设计，红墙上立碑的设计，碑顶立群像的设计和最后被采用的碑形设计。
关于纪念碑建在何处，也经过广泛的讨论。最后，中国人民政治协商会议决定将纪念碑设立在全国人民政治活动中心——天安门广场。
纪念碑的位置在天安门南约463米，正阳门北约440米的南北中轴线上。纪念碑总高37.94米，碑座分两层，四周环绕汉白玉栏杆，四面均有台阶，下层座为海棠形，东西宽50.44米，南北长61.54米，上层座呈方形，台座上是大小两层须弥座，下层须弥座束腰部四面镶嵌着八块巨大的汉白玉浮雕，另有两幅装饰浮雕。浮雕高2米，总长4.68米，雕刻着170多个人物，生动而概括地表现出我国近百年来人民革命的伟大史实。
1952年8月1日，修建纪念碑工程正式开工。
纪念碑的碑心石，是建碑中最主要的一块大石料，称得上是中国建筑史上少有的完整的花岗石。1953年7月开采出大石料荒料。大石料由开采地运至山场，经第二次加工后，运至青岛车站。根据铁道部规定又进行了第三次加工。10月抵达北京前门西站，一路平安。三个夜晚之后，碑心石奇迹般地出现在天安门广场工地。
1958年5月1日，矗立于天安门广场的人民英雄纪念碑正式落成，并举行了隆重的揭幕仪式。从此人民英雄纪念碑作为新中国第一座大型纪念性工程被载入史册，并成为了我国爱国主义教育的一个主要象征。