Zemplén megyei levéltárának legrégebbi őrzőhelye Csicsva vára volt, ahol 1527-ben tűzvész áldozata lett az egész középkori iratanyag. Később sem volt állandó helye, s mivel a megyegyűléseket változó színhelyeken tartották, ezért az iratanyag is hol Patakra, hol Újhelyre, hol Csicsvára, hol Gálszécsre, Tokajba, Tállyára került. 1768-ban épült fel a megyeháza Sátoraljaújhelyen. Az új székház északi szárnyának emeletén két szobában kapott helyet. Az addig összegyűjtött iratok elhelyezése 1844-ben újabb három teremmel bővült, s ma is ezekben őrzik a megye feudális iratanyagát. A levéltár logikai rendjének kialakítója Szirmay Antal volt, aki 1777-1785 között végezte el ezt a munkát. Zemplén megye levéltárának leghíresebb gondozója, Kazinczy   Ferenc 1815–1831 között állt a levéltár élén.

A levéltár legértékesebb gyűjteménye a mohácsi csata előtt keletkezett 39 db oklevél, melyek családi levéltárakból kerültek a levéltár őrizetébe.