净觉寺始建于明洪武二十一年（公元1388年），系朱元璋敕建。郑和第七次下西洋前夕，奏请明宣宗重修使规模再次扩大，占地达40余亩。

明末清初先贤刘智、王岱舆等在此研习经典，弘扬“以儒传经”，开启了中国伊斯兰教学术研究的先河，在伊斯兰教中国化的过程中起到了重要作用。净觉寺历史上屡遭燹毁几番复建，现大部分建筑为清末重建。南京市伊斯兰教协会也在此办公。

净觉寺被授予“省文物保护单位”“全国模范清真寺”“江苏省五星级宗教活动场所”“南京市标准化宗教活动场所”等称号。