Warum die Integrität unserer Informationsumgebung mittlerweile genauso wichtig ist wie die Intelligenz der Systeme, die wir entwickeln
Wenn über künstliche Intelligenz gesprochen wird, geht es meist darum, was sie leisten kann. Sie kann dabei helfen, Medikamente zu entwickeln, Software zu schreiben, riesige Datensätze zu analysieren, Sprachen zu übersetzen und Aufgaben zu erledigen, die früher einen erheblichen Aufwand an menschlicher Zeit und Fachkenntnis erforderten. Doch es gibt noch eine andere Frage, die mehr Beachtung verdient: Wie wirkt sich KI auf das Umfeld aus, in dem wir entscheiden, was wahr ist?
Diese Frage habe ich kürzlich in einem Beitrag untersucht, den ich für das AI4Peace Global Symposium in Rom verfasst habe. Mein Argument war, dass eine der folgenschwersten Herausforderungen, die durch künstliche Intelligenz entstehen, nicht einfach die Produktion falscher Informationen ist. Es ist die schrittweise Verschlechterung des gemeinsamen Informationsraums, von dem funktionierende Gesellschaften abhängen.
Generative KI hat die Kosten für die Erstellung überzeugender synthetischer Inhalte drastisch gesenkt. Bilder lassen sich fälschen, Stimmen klonen und plausible Erzählungen in Sekundenschnelle erstellen. Die unmittelbare Reaktion konzentrierte sich verständlicherweise auf die Erkennung solcher Fälschungen, und bessere Authentifizierungsverfahren, Herkunftsstandards und Schutzmaßnahmen im Zusammenhang mit synthetischen Medien sind durchaus notwendig.
Doch die Fälschung ist nur ein Teil des Problems. Die schwierigere Frage betrifft das, was geschieht, nachdem Informationen in das digitale Ökosystem gelangt sind. Empfehlungssysteme entscheiden darüber, was Milliarden von Menschen täglich sehen, und diese Systeme wurden größtenteils eher auf Interaktion als auf Genauigkeit, Kontext oder Komplexität optimiert.
Empörung, Gewissheit und Inhalte, die bestehende Überzeugungen bestätigen, verbreiten sich oft weiter als Material, das diese relativiert, verkompliziert oder in Frage stellt. KI verstärkt diese Dynamik noch, indem sie die Erstellung von Inhalten in enormem Umfang ermöglicht, die Anpassung von Botschaften an bestimmte Zielgruppen erlaubt und dafür sorgt, dass Systeme immer effektiver darin werden, Aufmerksamkeit zu erregen.
Die Gefahr besteht nicht einfach darin, dass Menschen einzelne Falschinformationen glauben. Vielmehr schwächt sich das Vertrauen in das Informationsumfeld selbst ab. Wenn fast jedes Bild gefälscht, jede Stimme geklont und jedes Ereignis überzeugend rekonstruiert werden kann, kann sich Skepsis vom Falschen auf das Echte ausbreiten. Das letztendliche Ergebnis könnte weniger eine Gesellschaft sein, in der die Menschen alles glauben, als vielmehr eine, in der sie sich in der Lage fühlen, fast alles zu glauben.
Demokratien waren noch nie darauf angewiesen, dass sich alle einig sind. Meinungsverschiedenheiten sind für sie unverzichtbar. Produktive Meinungsverschiedenheiten erfordern jedoch eine gewisse gemeinsame Grundlage: die Fähigkeit festzustellen, dass bestimmte Dinge geschehen sind und andere nicht, die Überzeugung, dass Beweise zählen, sowie Institutionen, die in der Lage sind, Fakten mit einem angemessenen Maß an Glaubwürdigkeit zu ermitteln.
Sobald diese gemeinsame Grundlage zu verschwinden beginnt, ändern politische Meinungsverschiedenheiten ihren Charakter. Die Menschen streiten sich nicht mehr nur darüber, was getan werden sollte. Sie streiten sich zunehmend darüber, was real ist.
Jüngste Ereignisse warnen davor, wohin dies führen kann. Nach den Morden in Southport im Vereinigten Königreich im Jahr 2024 verbreiteten sich im Internet rasch Falschinformationen über die Identität und den Hintergrund des Täters, noch bevor grundlegende Fakten geklärt waren. Während der Präsidentschaftswahlen in Rumänien im Jahr 2024 wurden koordinierte Online-Aktivitäten unter Einbeziehung sozialer Plattformen, Bot-Netzwerke und manipulierter Inhalte Teil einer Krise, die so schwerwiegend war, dass das Verfassungsgericht des Landes das Ergebnis der ersten Wahlrunde für ungültig erklärte. In den Vereinigten Staaten erhielten Wähler in New Hampshire durch KI generierte automatisierte Anrufe mit einer synthetischen Version der Stimme von Präsident Joe Biden, in denen sie dazu aufgefordert wurden, bei den Vorwahlen des Bundesstaates im Jahr 2024 nicht ihre Stimme abzugeben.
Die Technologien und Umstände waren unterschiedlich, doch die allgemeine Lehre daraus ist ähnlich. Die Integrität des Informationsumfelds kann nicht länger als nebensächliches technologisches Problem behandelt werden. Sie wird zunehmend zu einem Bestandteil der Infrastruktur einer demokratischen Gesellschaft.
Die Regierungen haben begonnen zu reagieren. Das europäische Gesetz über digitale Dienste und das KI-Gesetz stellen ernsthafte Versuche dar, mehr Rechenschaftspflicht, Transparenz und Schutzmaßnahmen im Zusammenhang mit Technologie zu schaffen. Sie sind wichtig, doch die Regulierung wird bei einem sich so schnell entwickelnden Problem unweigerlich an ihre Grenzen stoßen.
Vorschriften können eine Offenlegungspflicht vorschreiben. Regulierungsbehörden können Plattformen untersuchen. Regierungen können bestimmte Praktiken verbieten. Was sich durch Gesetzgebung jedoch viel schwerer ändern lässt, ist die Anreizstruktur einer Informationswirtschaft, die darauf ausgerichtet ist, Aufmerksamkeit zu gewinnen.
Wenn Empörung mehr Engagement hervorruft als differenzierte Darstellungen, gibt es einen wirtschaftlichen Grund, diese Empörung zu verstärken. Wenn emotional aufgeladene Falschinformationen sich schneller verbreiten als eine sorgfältig fundierte Richtigstellung, lässt sich ihre Wirkung nicht dadurch beseitigen, dass man sie erst mehrere Stunden später entfernt. Regulierung kann schädliche Inhalte angehen, ohne notwendigerweise die Systeme zu verändern, die diese Inhalte überhaupt erst wirtschaftlich attraktiv machen.
Deshalb kann die Antwort nicht allein bei den Regierungen liegen. Technologieunternehmen, KI-Entwickler, Universitäten, Forscher, zivilgesellschaftliche Organisationen und ethische Institutionen halten jeweils unterschiedliche Teile der Lösung in der Hand. Es bedarf besserer technischer Standards, um festzustellen, woher Inhalte stammen. Unabhängige Forscher benötigen einen sinnvollen Zugang zu Daten, damit Empfehlungssysteme angemessen untersucht werden können. Im Bildungswesen muss mehr Wert auf den kritischen Umgang mit Informationen gelegt werden.
Technologieunternehmen müssen sich zudem einer umfassenderen Frage stellen. Die Einhaltung von Vorschriften ist wichtig, aber ebenso wichtig ist das gesellschaftliche Umfeld, zu dessen Gestaltung ihre Designentscheidungen beitragen.
All dies ist kein Grund, pessimistisch gegenüber künstlicher Intelligenz zu sein. KI beschleunigt bereits wissenschaftliche Entdeckungen, verbessert die Gesundheitsversorgung, steigert die Produktivität, unterstützt die Umweltüberwachung und hilft Menschen, über sprachliche und kulturelle Grenzen hinweg zu kommunizieren. Ihr Potenzial, das menschliche Leben zu verbessern, bleibt enorm.
Dieselben Technologien, die neue Risiken schaffen, können auch dazu beitragen, diese anzugehen. KI-Systeme könnten die Herkunft und Überprüfung von Informationen verbessern. Empfehlungssysteme könnten so gestaltet werden, dass sie den Nutzern glaubwürdige alternative Perspektiven aufzeigen, anstatt bestehende Überzeugungen endlos zu verstärken. KI könnte dabei helfen, koordinierte Manipulationen zu erkennen, den Dialog zwischen Gemeinschaften zu erleichtern und das Auffinden hochwertiger Informationen zu vereinfachen.
Die zentrale Frage ist daher nicht, ob KI gut oder schlecht ist. Es geht darum, welche Ziele wir bei ihrer Gestaltung und ihrem Einsatz wählen.
Dies steht in engem Zusammenhang mit dem Gedankengut hinter dem „Human Code“ bei NJF Holdings. Das Rahmenwerk geht von dem Grundsatz aus, dass technologischer Fortschritt letztendlich die Handlungsfähigkeit des Menschen und das menschliche Gedeihen stärken sollte. Das bedeutet, nicht nur zu fragen, was eine Technologie leisten kann, sondern auch, welche Art von Gesellschaft ihre Anreize und Systeme fördern.
Die nächste Phase der KI wird mehr erfordern als nur immer leistungsfähigere Modelle. Sie wird auch Unternehmen, Institutionen und politische Entscheidungsträger erfordern, die bereit sind, ernsthaft über das Informationsumfeld nachzudenken, zu dessen Entstehung diese Modelle beitragen.
Es ist verlockend, Falschinformationen als die Verantwortung anderer zu betrachten. Regierungen sollten sie regulieren, Plattformen sollten sie moderieren und Technologieunternehmen sollten sie aufspüren. Alle drei spielen eine wichtige Rolle, doch die tiefgreifendere Herausforderung ist auch kultureller Natur.
Gesunde Gesellschaften sind auf Neugier, intellektuelle Demut und eine gewisse Bereitschaft angewiesen, sich mit Menschen auseinanderzusetzen, die die Welt anders sehen. Sie brauchen Bürger, die Beweise von Behauptungen unterscheiden können, ohne anzunehmen, dass Meinungsverschiedenheiten an sich schon auf böse Absicht hindeuten. Diese Eigenschaften lassen sich nicht einfach per Gesetz schaffen.
Technologie kann sie stärken oder schwächen. Die Informationssysteme, die heute aufgebaut werden, werden über Jahrzehnte hinweg prägen, wie Milliarden von Menschen die Welt verstehen; daher sollten sie nicht nur danach beurteilt werden, wie intelligent sie werden, wie schnell sie reagieren oder wie erfolgreich sie Aufmerksamkeit erregen.
Sie sollten auch danach beurteilt werden, ob sie den Menschen helfen, einander zu verstehen, die Unterscheidung zwischen authentischen und synthetischen Informationen zu bewahren und die gemeinsame Grundlage zu schützen, auf der pluralistische Gesellschaften beruhen.
KI muss uns nicht dazu bringen, einer Meinung zu sein. Aber sie sollte es uns ermöglichen, über dieselbe Realität unterschiedlicher Meinung zu sein.
Nicole Junkermann ist eine internationale Unternehmerin und Investorin sowie Gründerin von NJF Holdings. Über NJF Capital und die umfassendere Investitionsplattform von NJF Holdings hat sie in Technologieunternehmen aus den Bereichen künstliche Intelligenz, Cybersicherheit, Healthtech und anderen Bereichen neuer Technologien investiert. Ihr „Human Code“-Konzept untersucht, wie technologischer Fortschritt die menschlichen Fähigkeiten, die Resilienz und die Handlungsfähigkeit stärken kann.