1950年12月,中共建阳地委、南平地委按照中共中央《关于建立检察机构问题的指示》,分别成立福建省人民检察署建阳专区分署和南平专区分署。1954年12月15日,根据宪法、人民检察院组织法和最高人民检察院指示,建阳、南平两分署分别更名为福建省人民检察院建阳专区分院和南平专区分院。1956年6月15日,根据国务院关于撤销建阳专区,所辖各县并入南平专区的决定,建阳分院并入南平分院。1967年5月,南平地区革命委员会成立,下设人民保卫组,取代公、检、法三机关工作。1975年1月17日,四届全国人大一次会议修改通过的《宪法》规定,检察机关的职权由各级公安机关行使,检察机关从立法上被撤销。1978年3月5日五届全国人大一次会议修改通过《宪法》,规定设置人民检察院,10月,中共建阳地委按照中共中央《关于建立检察机关的通知》,成立建阳分院。1989年1月1日,地区自建阳搬迁南平办公,建阳分院相应更名为南平分院。1995年1月18日,南平撤地改市,至此,南平分院相应改为南平市人民检察院。
南平人民市检察院按照法律规定和业务分工设置内部机构,目前共设有21个工作部门(详见主要内设机构及职责),此外,在建阳监狱、武夷山监狱、南平劳教所、南平市看守所还分别设立了4个检察室,选派干警常年入驻,对监管工作实行监督。南平市人民检察院下辖10个县级检察院,全市检察机关现有在编干警723人,其中本科以上学历600人,占83%,硕士研究生40人。市检察院机关核定编制148人,实际在岗138人,目前有副厅级1人,正处级8人,副处级14人,正科级29人,副科级34人。