石佛高三丈余,方面大耳,盘腿趺坐,双手环于胸前,神态安祥。据《徐州府志》记载:公元451年,北魏太武帝拓跋焘兴兵南侵,饮马长江。后因军中发生疫病传染,被迫撤兵。后撤途中,绕道攻打彭城,曾经屯兵云龙山。士兵打仗之余,偶发兴致,将山头一巨石凿成大佛头像。另据史载:宋明帝泰始二年(公元466年),北魏盛行开凿石窟。在大石佛两侧崖壁雕像群中发现刻有北魏太和十年(公元486年)的年号。大石佛像诞生至今已有1500多年。据统计,大石佛殿雕像群中有佛龛72个,250个佛教人物造像。
清代以前,大石佛只有一个头像,缺少身躯和四肢。康熙三十四年,臬司刘孟倬之父与知州王渑承出资请工匠为石佛添刻身躯及四肢。清代李澄之曾为此作记。
1967年8月,文化大革命期间,红卫兵造反,大搞“破四旧,立四新。”石佛像遭到严重破坏。1979年,园林部门重修石佛并贴金,令石佛焕然一新。