据【玉泉志】记载，玉泉寺历史久远，早在东汉建安二十三年（218年），普净和尚就在这里结茅为庵，打坐修行了十余年。这也是湖北省最早的佛教寺庙。到隋开皇年间（581-600年），佛教天台宗创始人智顗和尚在这里正式创建了玉泉寺，与南京栖霞寺、山东长青灵岩寺、浙江天台国清寺并称为「天下丛林四绝」。
唐朝时，禅宗北宗创始人神秀从黄梅东山寺来此弘扬禅法，四海倾仰。宋朝时，玉泉寺达到鼎盛时期。特别是宋真宗天禧五年（1021年），明肃皇后赐建玉泉寺，扩建后规模宏大，殿宇辉煌，「为楼者九，为殿者十八，三千七百僧舍」。「占地左五里，右五里，前后十里」，并改名为「景德禅寺」，成为「荆楚丛林之冠。」
玉泉寺原为十方古刹，但自明末开始，演为「八堂十三家」。八堂分别指东禅堂、西禅堂、般若堂、观音堂、退居堂、藏经楼、圆通阁、小关庙，另加毗卢殿、大士阁、送子庵、大关庙、大云寺五家，合称十三家。其中以毗卢殿为十方丛林，设方丈一人，宗教活动统以毗卢殿为令，届时该殿钟鼓齐鸣，各自做早晚功课。经济上各家独立。这种形式延续到中华人民共和国成立前夕。
从宗派的传承关系讲，玉泉寺隋代属天台宗。唐代神秀于度门弘法大开禅风。自从莲月禅师住山后，他与两位侍者分别以西禅堂、东禅堂、般舟堂作为自己的子孙小庙。玉泉寺内，禅宗始分临济、临济刹、曹洞三派，八堂十三家依此演变出来，但玉泉寺始终是天台祖庭。
铁塔
玉泉寺矗立在山门外巍然挺拔的棱金铁塔。这座铁塔，被誉为「古代建筑中的明珠」。铁塔原名「如来舍利宝塔」，建于北宋嘉祐六年（1061年）。塔基为特制青砖砌成，塔身全为生铁铸造，高17.9米，13层，重10.66万斤，是中国现存最高、最重、最大的铁塔。塔基为双层须弥座，塔座有八个金刚武士，托塔挺立，造型威武雄壮。塔身是分段冶铸，然后采用堆土作「脚手架」由下而上逐级堆垒迭装而成。
各级塔身均设置腰檐平座，并作头拱出据。塔壁为八面楼阁式造型，雕有千余尊小佛像，故又称「千佛塔」。塔顶为仿木结构的腰榴斗拱，在角梁飞檐的前端，铸出凌空龙首，用以悬挂风铃。塔身微向北倾斜。宋代工匠们为了减弱冬季凛冽的北风对铁塔的影响，特意将塔的上半身向北倾斜。这座铁塔已历经千年，依然巍然屹立，真不愧是中国古建筑艺术和冶金技术史上的杰作。
明代诗人 袁宏道 叹为：「丛林忽涌中流地，铁塔曾擎半壁天。」据记载，此塔在元朝、清朝和本世纪60年代曾进行过三次维修。1992年，国家拨款100余万元，对玉泉铁塔进行维修。1993年2月动工，1995年底竣工。1996年5月，各级文化部门、文物、古建专家及宗教界人士30多人对玉泉铁塔修缮防护工程进行了验收和鉴定，现已重新对外开放。
大雄宝殿
大雄宝殿是玉泉寺的主体建筑，始建于隋初，鼎盛于唐宋，由于屡遭战乱，毁坏甚重。元初大修，元末又毁于兵火，明成化修复，崇祯年间增建四周围廊，达到面阔九间，进深七间，占地1253平方米。整个建筑以72根楠木大立柱支撑，立柱周围达2.2米。规模宏大，结构严谨，外形雄伟壮观，是湖北省现存的最大最古老木结构建筑。为了保护这一年久失修的古建筑，1982年至1984年，政府拨出专款对大殿进行了落架大修，全工程共用4万余工，木料800多立方米，重新制作龙脊和大小兽等艺术构件两千余件，更新全部格扇门窗，修补天花藻井9l块，并按原样油漆彩绘，再现了明代风貌和我国传统建筑的精湛技艺，灰顶朱柱，飞檐翘角，典雅大方，以古朴庄重的雄姿耸立在美丽的玉泉山下。
大殿内的释迦牟尼、弥陀、药师、观音四大塑像也重新塑造一新，两侧供奉着十八罗汉。大殿正中悬挂着「智者道场」四个大字的匾额，这是隋炀帝当年为嘉奖智顗在玉泉寺的开创之功而亲赐予他的。玉泉寺自智顗法师开创后，高僧辈出，唐代有高僧神秀、一行、神会，宋代的慕容、务本法师，元代有藏山、钟山法师，明代有常镇、无迹法师，清代有莲月法师，近代有祖印法师，建国后有尘空、超明法师，他们在玉泉寺讲经说法，对佛教文化作出了贡献。
大雄宝殿前放着一口隋代铁镬，重1.5吨，高89厘米，口沿直径157厘米。其上铸有铭文「隋大业十一年岁次乙亥十一月十八日当阳县治下李慧达建造铁镇一口用铁今秤三千斤，永充玉泉道场供养」。造型浑厚古朴，距今1300多年历史，对研究我国隋代衡计制度和冶炼技术具有重要的价值。此外，还陈列着元代的铁钟、铁釜，明清的鼎、炉和碑刻。在大雄宝殿左侧，有座碑亭，碑上刻有手托法轮足蹈莲台的观音像，线条流畅，笔触细腻，神态自然，艺术高超，相传为唐代大画家吴道子所画。
