Die Wahrscheinlichkeit eines digitalen "dunklen Zeitalters" ist sehr hoch

Von Dagmar Henn

Vielleicht ist es der Wunsch, einfach eine Zeit lang in die andere Richtung zu blicken, fort von den Kriegen. Oder es sind wirklich zwei der jüngsten Ereignisse, die das Nachdenken ausgelöst haben. Das erste ist der Erweiterungsbau der Deutschen Nationalbibliothek, genau genommen die Tatsache, dass Kulturstaatsminister Wolfram Weimer ihn angehalten hat; mit der Begründung, zukünftig nur noch digital zu sammeln.

Was er übrigens trotz öffentlicher Kritik und seiner Erklärung, die Erweiterung sei nicht gestrichen, sondern nur zur Überprüfung gestoppt, nicht widerrufen hat. Denn während vergangene Woche ein Ministeriumssprecher sagte. “Grundsätzlich strebt Staatsminister Weimer an, die Pflichtablieferung an die Deutsche Nationalbibliothek zukünftig weitestgehend digital abzubilden”, was beispielsweise hieße, Bücher nur in Gestalt von E-Books zu bewahren, sagte Weimer jetzt nur, man werde “gemeinsam auch in Zukunft den Erhalt eingehender physischer Medienwerke sicherstellen”. Das bedeutet nur, dass analoge Medien, die als Pflichtexemplare eingehen, nicht zurückgewiesen werden.

Das zweite Ereignis gehört nun doch zu den laufenden Kriegen: der Drohnenangriff auf Amazon-Rechenzentren in den Vereinigten Arabischen Emiraten und in Bahrain. Eine Premiere, die eine bisher kaum wahrgenommene Verwundbarkeit der digitalen Welt sichtbar machte, die nicht nur Clouds betrifft, sondern auch weitere Teile der digitalen Struktur.

Das führte mich zurück zu Gedanken, die ich bereits vor längerer Zeit einmal niedergeschrieben hatte: Welche Risiken verbergen sich in der Digitalisierung, bzw. vor allem in der Verdrängung der Papierdokumente durch digitale Daten?

Es sind grundlegende Eigenschaften dieser digitalen Daten, die die Probleme schaffen: Sie sind immer grundsätzlich veränderbar. Egal, ob es sich um eine Textdatei handelt, ein Bild oder ein Video. Man muss nur an die ganze Debatte “Lebt Netanjahu?” denken, um wahrzunehmen, wie tief inzwischen die Verunsicherung eingedrungen ist, welche Daten echt sind und welche nicht.

Information gleich welcher Art digital zu fälschen ist wesentlich einfacher, als es das in der analogen Welt wäre. Wer ein Buch aus dem Jahr 1830 fälschen will, braucht die richtigen Schrifttypen, das richtige Papier, den richtigen Klebstoff, die richtige Druckfarbe – das ist nicht unmöglich, aber sehr aufwendig. Dasselbe Buch in seiner digitalen Version zu fälschen, schafft jeder, der weiß, wie man ein Bildbearbeitungsprogramm bedient. Oder der Zugriff auf eine KI hat, die das auf Zuruf erledigt.

Man muss noch nicht einmal auf Grundbücher verweisen, um zu erkennen, dass rein digitale Daten auf Dauer ein Problem darstellen. Wobei es natürlich beim Beispiel des Grundbuchs besonders einleuchtet. Klar ist es angenehm, auf die Daten jederzeit digital zugreifen zu können – aber in dem Moment, in dem die analoge Version verschwindet, ist das gesamte Kompendium nicht mehr zuverlässig. Und der Aufwand für digitale Fälschungen wird stetig geringer. Das Stichwort hierzu lautet KI-Bot. Eine relativ neue Entwicklung, aber eine Vervielfachung der Gefahr: weil Manipulationen, die früher Expertenwissen voraussetzten, dadurch wesentlich leichter möglich werden.

Entscheidender als der Verlust der Verlässlichkeit einzelner Daten, auch wenn der schlimm genug ist, ist der kumulative Effekt. Denn die Gewissheit, auf Grundlage identischer Kopien zu agieren, war eine der Voraussetzungen für die technologische Entwicklung der letzten Jahrhunderte. Der Buchdruck war nicht nur eine Verbreitungstechnik, er war ein gewaltiger Gewinn an Verlässlichkeit, der überhaupt erst eine wissenschaftliche Gesellschaft entstehen ließ. Welche Folgen es auf die Gesellschaft hat, wenn Informationen nicht verlässlich weitergegeben werden können, und wenn die Möglichkeit besteht, sie völlig aus dem Kreislauf zu entnehmen, ist eines der verborgenen Motive in Umberto Ecos “Der Name der Rose”, in dem auch dargestellt wird, wie Anfänge von Wissenschaftlichkeit noch völlig von Beziehungen zwischen Personen abhingen.

Dabei ist es nicht einmal erforderlich, dass die Daten, auf denen die Kommunikation, die Entwicklung beruht, in nennenswertem Maß korrumpiert sind, da sich nicht länger überprüfen lässt, ob sie es sind oder nicht. Wobei nicht einmal ein vollständiger Abgleich mit allen digital verfügbaren Kopien etwas nützen würde. Denn wer garantiert denn, dass sie nicht alle der selben Fälschung unterzogen wurden?

Die Geschichte ist voller Auseinandersetzungen um derartige Themen. Sie finden sich bei allen essenziellen Texten auf Schrifttum beruhender Religionen, rund um die Erstellung des Kanons; ja schon dieser Schritt selbst, das Bedürfnis, aus vorhandener Überlieferung eine Auswahl zu treffen, was als legitim angesehen wird und was nicht, gibt es nur, weil die Identität der Kopien für die Kommunikation so bedeutend ist. Wobei natürlich die Auswahl, die dann getroffen wurde, selten ein neutraler und meist ein eminent politischer Akt ist – was man daran erkennen kann, welche Wirkungen manche der apokryphen, also nicht offiziell anerkannten Versionen immer noch entwickeln konnten. Auch das findet sich im Zusammenhang mit allen derartigen Texten, nicht nur mit den christlichen.

Neben der Frage, ob gezielte Fälschungen noch erkennbar sind oder nicht, gibt es auch noch technische Probleme. Nur sehr wenige digitale Speichertechniken sind so haltbar wie phyische Bücher. Die beste marktverfügbare Variante heißt M-Disc und soll mindestens 300 Jahre haltbar sein; dafür kostet sie auch das fünffache einer gewöhnlichen DVD. Lange Haltbarkeit ist schon aus einem weiteren technischen Grund erforderlich – selbst wenn keine Gefahr einer gezielten Veränderung einer Ersatzkopie besteht, ist jede neue Kopie nicht hundertprozentig identisch.

Das sind Bücher genau genommen auch nicht, aber die Unterschiede betreffen innerhalb einer Auflage nicht die Buchstaben, die die Information tragen, sondern sind auf kleine Unterschiede in der Gestalt dieser Buchstaben begrenzt.

Tatsächlich versuchen große Bibliotheken und Archive bereits, gegenzusteuern; unter anderem, indem sie so weit irgend möglich zwar Materialien auch digital zur Verfügung stellen, auf die analoge Lagerung aber keinesfalls verzichten. Außerdem werden Kopien, die erstellt werden, genau überprüft, um die Auswirkungen der technischen Fehlerrate möglichst klein zu halten. Weimer hat sich jedenfalls vor seiner Entscheidung zur Nationalbibliothek offensichtlich zu dieser Frage nicht erkundigt, was da Stand der Wissenschaft ist.

Das sind aber bisher nur Strategien, die mögliche Schäden durch einen Teil der Probleme begrenzen. In jüngerer Zeit ist ein weiteres Problem aufgetaucht: KI-Bots. Man muss nur ein paar Berichte rund um OpenClawd lesen, um zu erkennen, was die Schattenseite dieser Entwicklung ist. Diese Agenten sind billig, und sie ermöglichen ein tiefes Eindringen in digitale Strukturen selbst ohne Expertenwissen. Was, wenn jemand eine ganze Armee derartiger Bots losschicken würde, um einzelne Informationen zu löschen oder zu ersetzen? Wären alle Archive digital, könnte auf diese Weise tatsächlich die Geschichte umgeschrieben werden. Das wäre noch vor wenigen Monaten nur staatlichen Akteuren möglich gewesen; vor einigen Jahren brauchte es dafür außerdem noch eine Menge menschlicher Hilfskräfte (ein kleiner Blick in die Geschichten aus Wikihausen zeigt, wie so etwas funktioniert; das digitale Lexikon Wikipedia verwandelte sich binnen weniger Jahre in etwas weit weniger Verlässliches als einst die großen Enzyklopädien).

Umschreibung ist aber nur die kleine Form des Risikos; die große ist ein Informationsverlust im Ausmaß desjenigen der Spätantike. Der so gravierend war, dass er tatsächlich die Weitergabe des Wissens unterbrach, bis Aristoteles dann im Mittelalter aus dem Arabischen nach Europa zurückgeholt wurde, zusammen mit anderer Literatur, was dann die Entstehung von Universitäten auslöste …

Vielleicht werden manche sagen, ich habe geschummelt, aber ich habe, um in diesem Zusammenhang einige Fragen zu klären, es mit einem Dialog mit einer KI versucht; die Ergebnisse des letzten Schritts in diesem Dialog waren so alarmierend, dass ich den gesamten Verlauf auf einer Archivseite gespeichert habe, damit möglichst viele auf alle Informationen zurückgreifen und vielleicht selbst weiter darüber nachdenken können. Denn was ich eigentlich wollte, nach einer Abklärung der Punkte, die ich als Risiken sehe, war eine Berechnung, wie hoch das Risiko eines großen Informationsverlusts vom Format der Spätantike ist, wenn man all die einzelnen oben erwähnten Gefahren zusammenrechnet.

Das sind natürlich noch keine vollständig verlässlichen Daten, und vermutlich werde ich den ganzen Ablauf mit mindestens einer weiteren KI wiederholen. Und womöglich habe ich noch mehrere Risiken übersehen, die ebenfalls einbezogen werden müssten. Eingegangen sind folgende Punkte: die physischen Probleme digitaler Speicherung, das Problem der nicht gesicherten Identität von Kopien, die Möglichkeit böswilliger Akteure, die grundsätzliche Manipulierbarkeit digitaler Versionen, das Verschwinden der Unterscheidbarkeit von Original und Fälschung, und zuletzt ein Komplettverlust von Daten durch physische Angriffe auf die Digitalstruktur.

Das Ergebnis lautete:

“86 bis 93 Prozent Wahrscheinlichkeit eines schweren bis katastrophalen Informationsverlusts innerhalb der nächsten 50 bis 100 Jahre.”

Ein solcher Informationsverlust hätte den Zusammenbruch der technischen und ökonomischen Infrastruktur zur Folge. Handelswege, die zur Zeit der Spätantike den gesamten Mittelmeerraum und darüber hinaus, bis Indien und China, umspannten, brachen zusammen. Die Millionenstadt Rom schrumpfte auf etwa 30.000 Einwohner, die um das Jahr 1.000 herum inmitten eines gigantischen Ruinenfeldes hausten, weil wirkliche Großstädte ein großräumiges Versorgungsumfeld benötigen, das es nicht mehr gab. Das antike Rom hatte Tageszeitungen, Straßenbeleuchtung, fließendes Wasser und Kanalisation; es dauerte bis ins 19. Jahrhundert, ehe dieses Niveau an Infrastruktur wieder erreicht wurde. Das ist die Tiefe des Einbruchs, der denkbar ist; und das ganz ohne nuklearen Winter, allein durch die gebündelten Risiken einer technologischen Entwicklung, die ohne Gegenmaßnahmen in der Informationssicherheit hinter die Erfindung des Buchdrucks zurückfällt.

Ja, selbst wenn einem derzeit hundert andere Dinge um die Ohren fliegen: Es ist nötig, sich darüber ernsthaft Gedanken zu machen.

Mehr zum Thema – Die digitale Demenz