南京九华山位于太平门内西侧，北临明城垣与玄武湖毗邻，东接富贵山，是钟山余脉西走入城的第一山丘。这里风景优美，视野开阔。登临山巅，湖光山色尽收眼底。
早在春秋时期，南京九华山名覆舟山，因其临湖一侧陡峻如削，像一只倾覆的行船而得名。南朝刘宋元嘉时，玄武湖屡见“黑龙”，武帝将山改名为玄武山；另说是因山傍玄武湖，位于城北之故。陈太建年间，玄武山称为龙山、龙舟山。
六朝时，南京九华山是都城建康重要的屏障，也是皇家花园，称为“乐游苑”。乐游苑内，楼台亭阁，风光旖旎。据史书记载，南朝时，大科学家祖冲之与北魏人索驭麟比赛指南车，地点就在乐游苑内。祖冲之发明的水碓磨，也是在乐游苑内试制成功的。隋灭陈时，乐游苑被焚毁。山南麓建有小九华寺，故俗称“小九华山”，简称九华山。
民国年间，在南京九华山建三藏塔。三藏塔下葬有唐代高僧玄奘的一部分顶骨舍利。唐玄奘原葬于西安终南山紫阁寺塔，后毁于战火。宋朝天圣五年（1027年），建康天禧寺和尚可政去紫阁寺，寻得玄奘顶骨，带回建康（今南京），埋于城南天禧寺。清咸丰年间，寺、塔均毁于战火，玄奘灵骨下落不明。1943年2月，侵华日军高森部队在三藏塔一带建“稻垣神社”，施工中挖出玄奘顶骨，日本人欲攫为己有，后经伪政府再三交涉，最终允留一部分给中方。1443年2月23日，举行玄奘法师佛骨移交仪式，灵骨由汪伪外交部长褚民谊接收，安置于九华山寺供奉。1944年覆舟山建三藏塔，葬有一部分玄奘佛骨。该塔仿西安大雁塔式样，为5级4面砖塔，南面门楣上刻有“三藏塔”三字，底层须弥座上刻有“玄奘法师灵骨”六字。
由于玄奘法师为中国佛教的发展做出了重大贡献，唐太宗曾亲自为他所译的佛经作序。他不畏艰险、矢志不渝的精神激励了千万中国人。梁启超称他为“天下一完人”，鲁迅誉之为“民族脊梁”。
1978年，南京九华山辟为公园，山上建筑为一殿一塔，配以凉亭。2003年成立玄奘寺。
