洛阳市人民检察院成立于1951年2月，当时名称为洛阳市人民检察署，由检察长、副检察长、检察员和助理检察员组成。1954年，依据《宪法》规定，洛阳市人民检察署更名为洛阳市人民检察院。在十年动乱期间，洛阳市检察机关遭到了严重破坏，1968年实行军事管制，1975年被取消。1979年，根据第五届全国人民代表大会通过的新《宪法》的规定，洛阳市人民检察院恢复建立。