Schwiegersohn von G. Semper (s. d.). S., der einer sächs. Pastoren- und Gelehrtenfamilie entstammte, stud. nach Absolv. des Gymn. in Magdeburg ab 1845 zunächst Theol. an der Univ. Halle, 1847–50 in Berlin, wo er sich unter dem Einfluß Karl Lachmanns der Geschichte und Philol. zuwandte; 1850 Dr. phil. der Univ. Halle. Seine Forschungen in Paris 1850–53 (mit einer längeren Unterbrechung) zur Geschichte Burgunds und Lothringens finanzierte er als Ztg.korrespondent und als Übers.; damals auch erste Kontakte zur École des chartes. Nach Aufenthalten in Südfrankreich, der Schweiz und Mailand (1853/54) wurde er vom französ. Unterrichtsmin. 1854/55 mit wiss. Missionen in Mailand, Venedig und Turin, schließl. 1855/56 in Wien beauftragt.1855 hatte er durch einige Monate den Betrieb der École des chartes eingehender kennengelernt. Eher zufällig als Lehrer für Paläographie an dem 1854 in Wien gegründeten Inst. für Österr. Geschichtsforschung (IÖG) engagiert, konnte er hier Fuß fassen, wurde 1857 zum ao. Prof., 1867 zum o. Prof. der Geschichte und hist. Hilfswiss. ernannt und wurde 1869 zunächst prov., schließl. 1873 def. Dir. des IÖG. Rufe nach Tübingen (1867) und Berlin (1872) lehnte er ab. 1875 übernahm er die Leitung der neu eingerichteten Diplomata-Abt. der Monumenta Germaniae Historica (MGH).Nach der Öffnung des Vatikan. Archivs, an der S. maßgebl. Anteil hatte, leitete er ab 1881 die österr. Forschungen in Rom und betrieb dort die Gründung (1883) des Istituto austriaco di studi storici (Österr. Hist.Inst.). 1891 ließ sich S. als Prof. und Vorstand des IÖG beurlauben, um sich auf die Leitung des Inst. in Rom zu konzentrieren. 1901 i. R., verbrachte er die letzten Jahre in Meran. S. gilt als einer der Begründer der nach den strengen method. Grundsätzen der hist. Hilfswiss. (v. a. Paläographie und Diplomatik) betriebenen Quellenforschung. Seine Untersuchungen und Editionen setzten v. a. auf dem Gebiet der Urkundenforschung neue Maßstäbe und begründeten das Renommee des IÖG, das auch als österr. Archivschule fungierte und Generationen von Historikern und Archivaren prägen sollte. Die neuen Forschungsprinzipien übten größten Einfluß auch auf andere Disziplinen, etwa die Kunstgeschichte (Franz Wickhoff, Alois Riegl, s. d.), aus. Zu den Erfolgen S.s haben Selbstdisziplin, Organisationsgabe und Durchsetzungsvermögen ebenso beigetragen wie sein gesellschaftl. Talent; er verkehrte in Wien im Haus Gerold und führte in Wien und Rom selbst ein gastl. Haus. Er besaß den Blick für das Wesentliche und Machbare. Bei dem Tafelwerk der „Monumenta graphica …“ etwa, das dem Mangel an Lehrmaterial abhelfen sollte, kam 1859 zum ersten Mal in revolutionierender Weise die damals noch junge Photographie zur Anwendung. Ehrungen und Ausz. verschiedenster Art haben seine wiss. und berufl. Karriere begleitet: 1877 HR, 1884 nob., ab 1889 lebenslängl. Mitgl.des Herrenhauses des Reichsrats, wurden ihm 1899 Titel und Charakter eines Sektionschefs verliehen. Er war Mitgl. zahlreicher Akad. der Wiss., u. a. in Wien (1864 k. M., 1870 w. M.), München (1866 k. M., 1884 auswärtiges Mitgl.), Göttingen (1868 k. M., 1886 auswärtiges Mitgl.) und Berlin (1876 k. M., 1899 auswärtiges Mitgl.), des Institut de France (1887 k. M., 1890 associé étranger), der Zentraldion. der MGH in Berlin (1874–94), Dr. jur. h. c. der Univ. Würzburg (1882) und Czernowitz (1900) sowie Inhaber höchster nationaler und internationaler Orden.