清末确立新学制，各地兴办学堂。1907年，举人任学椿在南阳创办了南阳县师范传习所，其后改名为师范短训班、南阳县立师范、南阳县立简易乡村师范，学校校址也几经迁移，南阳县察院、常平仓、元宗学堂、潦河街、卧龙园艺学校等都曾留下了学校曲折发展的足迹。

1948年11月，南阳解放前夕，各类学校都被国民党守军王凌云裹胁南下。南阳解放后，南下师生纷纷归来要求复校。

南阳专署于1948年6月30日向当时的河南省人民政府教育厅请示“在南阳设立师范学校一所”，得到批准。但是，由于条件所限，新批准设立的师范学校并没有单独设置办学，而是暂挂靠在省立南阳中学作为师范班，边筹建边招生。1951年，师范班从省立南阳中学中独立出来，成立河南省立南阳师范学校，从此拉开了南阳师范教育新的篇章。

1957年，河南省立南阳师范学校与南阳第二师范学校合并。1958年9月，河南省立南阳师范学校更名为南阳师范专科学校。

1961年，南阳师范专科学校与南阳艺术师范学校合并。1962年3月，南阳师范专科学校更名为南阳师范学校。1962年８月，南阳师范学校与南阳教育行政干校合并。

1978年，南阳师范学校更名为南阳师范专科学校。1992年5月，南阳师范专科学校更名为南阳师范高等专科学校。

2000年3月，经国务院批准，南阳高等师范专科学校与南阳教育学院合并组建南阳师范学院，成为南阳历史上第一所省属全日制本科高等学校，实现了南阳高等教育的历史性跨越。