Karlovačka gimnazija, osnovana kao Gimnazija u Srba, najstarija je srpska gimnazija, počela je sa radom 1791. godine. Glavni inicijatori i finansijeri su bili mitropolit Stevan Stratimirović i trgovac Dimitrije Anastasijević Sabov. Današnja zgrada je sagrađena 1891. godine po projektu Julijusa Partoša, mađarskog arhitekte. Kada je sagrađena, ujedno je bila i Patrijaršijski dvor i smatrana je najreprezentativnijom srpskom građevinom u Vojvodini.

Škola ima veoma vrednu biblioteku za istoriju Srba u Mađarskoj. Danas je u ovoj zgradi filološka gimnazija. U sklopu gimnazije nalazi se Volnijev herbarijum s kraja 18. veka, najstarija herbarska zbirka na Balkanu.

Mnoge znamenite ličnosti su pohađale Karlovačku gimnaziju ili su podučavala za katedrom. Među njima su Dimitrije Davidović, Sima Milutinović Sarajlija, Stevan Šupljikac, Jovan Sterija Popović, Branko Radičević, Milan Jovanović Batut, Vasa Stajić, Borislav Mihajlović Mihiz, Dejan Medaković...