黄石市地处幕阜山北侧,为幕阜山向长江河床冲积平原的过渡地带,辖地内多低山。境内较大的山有东方山、黄荆山、云台山、父子山、七峰山等,最高峰为阳新境内的七峰山主峰南岩岭,海拨860米,次高峰为大冶太婆尖,海拔839.9米,最低处为阳新境内的富水南城潭河床,海拨8.7米。长江自北向东流过市境,北起鄂州市艾家湾,下迄阳新县天马岭,全长76.87公里,市境内主要水系有富水水系、大冶湖水系、保安湖水系、还有海口湖、磁湖、青山湖、三山湖、花马湖、葛湖、荆山源、上巢湖等水系。最大的水系为阳新境内的富水水系,富水河发源于通山,由西向东,注入长江,全长196公里,流域面积5310平方公里,在市境内阳新长81公里。
境内岩溶地貌发育,溶洞众多,很多具有旅游开发价值。全境地势由西南向东北倾斜,地形破碎,局部地方形成不完整的山间盆地。岗地坡度一般较为平缓,沿江一带标高较低。
市区形状呈“入”字形,三面环山,一面临江,风光绮丽的磁湖镶嵌市区中心。有东方山、西塞山、飞云洞等旅游景点。磁湖面积8平方公里,宛如嵌在市区中心一颗璀璨的明珠,是闻名遐迩的风景旅游胜地。市区城市建设用地一般在海拔18-50米之间。