紫荆山其实并不是山，是郑州商城旧址上被大风吹堆出的沙丘。为了防止沙丘的黄沙南移，村民们在沙丘上种草植树，栽种最多的是耐寒耐旱、不择土壤和肥料、生命力强的紫荆树，把沙丘装扮得郁郁葱葱。紫荆树的大量生长，不但控制了沙丘的风化，每到春季紫荆花盛开，还把沙丘装扮得郁郁葱葱。这个沙丘被人们约定俗成地叫成了紫荆山。

    早先，紫荆山这代几乎无人居住，1958年，政府投资开始推土建园，经过大规模的挖湖堆山义务劳动和先绿化后美化的建园过程，使紫荆山公园的建设初具规模。当时国内正值文化大革命，以那时的历史背景，取名叫“东方红公园”。新建的公园里种满了紫荆花，春末夏初满园的紫荆花煞是好看。东方红公园也开始渐渐以紫荆花而闻名郑州，于是80年代初，东方红公园正式更名“紫荆山公园”。整个公园被金水河、道路自然分隔为东园、西园和南园三部分，现占地总面积为288亩，其中绿地占75.5%，水面积占11.3%。紫荆山公园里广植紫荆花，近年来为改变品种单一的格局，更好地让广大市民观花、赏花，公园又先后引进栽植了白花紫荆、巨紫荆、加拿大紫荆和红叶加拿大紫荆等品种，全园紫荆的栽植总数已达2000余棵。目前发现的紫荆品种有7个，紫荆山公园就有5个。

    关于“紫荆山”这个地理名词的由来还有着各种版本，甚至有的颇有点诡异的味道。

    一个版本说“紫荆山”乃是古代皇帝御赐的名号，据说有一个皇帝巡游到郑州，看到这里长满紫荆树，很有一种落英缤纷的味道，所以赐名叫紫荆山。

    另一个版本则是说古时候这里住了一个姑娘，很漂亮，后来去宫里做了妃子，却始终在后宫不得志，连皇帝的面都没见上一次，每天泪眼婆娑，十分想家，久而久之就去世了。香消玉殒之后，皇帝看她的遗容，惊为天人，后悔不及。多情的皇帝念她思乡心切，把她安葬在郑州。传说，这个姑娘在宫里的名字就叫紫荆。

    还有一个版本则是说，战国时期的有一天，政治家子产春游护城河（如今的金水河），看到满山郁郁葱葱中映出紫红色的花，就问随从这是什么花，可是没人知道。后来，旁边有一老者上前答道，很久以前，有一只无名鸟衔着一粒黑色种子，掉在了这山上，从此山上就长出树来，这树非常奇特，每到春天，先开出紫花，然后再长出心脏形的叶子，人们管这种树叫紫荆树，这花就叫紫荆花。子产听后笑道：咱这儿，有河有水难得有山，这座山就叫紫荆山吧。”