天津中山公园所在地原为天津盐商张霖莹的思源庄。1907年（清光绪三十三年），中山公园建成，该公园北起大经路（今河北区中山路），南至金钟河（现今已被填平），东临昆纬路，西靠近北洋造币总厂，共占地90余亩，初名“劝业会场”。1912年（民国元年）更名为“天津公园”，不久又称为“河北公园”。在北伐成功后，国民政府为纪念孙中山先生而将公园改称为现名，并将原来公园北边的大经路改称为中山路至今。1919年（民国8年）6月9日，天津各界人士在中山公园举行大会，声援北京爱国学生的五四运动，要求取消丧权辱国的二十一条，和拒绝在巴黎和约上签字。1936年（民国25年）天津被日本占领，公园又改称为“天津第二公园”。中华人民共和国建国后恢复中山公园的名称。

天津中山公园在最早期建园时，其面积比现在大接近3倍。在这个倘大的公园里，设计是以“西学东进，中西合璧”为理念，将中国传统园林艺术和西方建筑形式结合起来。公园以花园和公共设施为基础。早期的天津中山公园于公园前门面临大经路（即现今十月影院大门南食品街出口处），建立四柱牌楼，中间横匾写有“劝业会场”四字。大门内路面宽阔，两侧设有店铺。二门为过街钟楼（现今中山公园正门处），楼上镶嵌清朝国产自鸣钟，报时的时候方圆数里都可以听到其钟声。再进园内有小湖和假山，假山上矗立观音雕像，手持宝瓶向下注水，山下有水池承接，而池畔有可喷水的石雕小像。园内遍植花木，而羊肠小径在花木中穿插。

日本侵华时期，天津中山公园被日军占据，并遭到严重破坏。中华人民共和国成立后公园虽屡加修建，但己不复早年的容貌。战后政府为纪念该市为国捐躯的伟人烈士，便在园内分别矗立“魏士毅女士纪念碑”、“天津十五烈士纪念碑”及“南皮张氏两烈女碑等”。其中，建于1929年并于1984年复立于现中山公园西侧的“魏士毅女士纪念碑”和建于1931年并于1984年复立于现中山公园南侧的“天津十五烈士纪念碑”目前为天津市文物保护单位，而中山公园亦被国家定为“革命历史纪念地”。1996年，为纪念孙中山先生诞辰130周年，天津市河北区人民政府在中山公园内矗立孙中山塑像和纪念碑，碑阳为《中山公园记》，纪录公园的历史沿革；碑阴为《孙中山演讲辞》，纪录孙中山先生当年在公园的演说。