By using this website, you agree to the use of cookies as described in our Privacy Policy.

Künstliche Intelligenz – wenn der Mensch die Kontrolle über seine eigene Schöpfung verliert

Eine künstliche Intelligenz kann einen Brief entwerfen. Ein KI-Agent kann darüber hinaus Daten zusammentragen, Programme bedienen und den Brief unter Umständen selbst versenden. Mit jedem zusätzlichen Handlungsspielraum stellt sich eine Frage: Wer kann noch eingreifen, wenn etwas schiefläuft? Für LIWAHRAS reicht diese Frage bis zur Menschenwürde und zur Freiheit des Gewissens.

Was heute belegt ist

KI-Agenten können mehrstufige Aufträge ausführen. Ein Agent verbindet ein KI-Modell mit Werkzeugen und Berechtigungen. Er kann Zwischenergebnisse auswerten, den nächsten Schritt auswählen und in angebundenen Anwendungen handeln. Wie viel er tatsächlich tun kann, hängt davon ab, welche Zugänge und Freigaben Menschen ihm erteilen. Ein Fehler kann sich über mehrere Schritte fortsetzen. Der International AI Safety Report 2026 beschreibt weiterhin deutliche Zuverlässigkeitsgrenzen bei längeren und komplexeren Aufgaben.

KI kann an der Verbesserung von KI mitwirken. Modelle können etwa Programmcode und Tests entwerfen oder Vorschläge für Forschungsversuche liefern. Eine Korrektur innerhalb eines Auftrags, beispielsweise das Überarbeiten eines Skripts nach einem fehlgeschlagenen Test, lässt die trainierten Modellparameter in der Regel unverändert. Die Entwicklung einer leistungsfähigeren Modellversion erfordert je nach Verfahren weitere Daten, Rechenleistung, Training und Auswertung. Eine überprüfte Verbesserung in einem einzelnen Test sagt zudem wenig darüber aus, ob ein System auch in anderen Situationen besser urteilt.

Schon heute können überzeugend formulierte Antworten falsch sein. Wenn eine Sachbearbeiterin einen plausiblen KI-Vorschlag nur noch abnickt, kann der Fehler zur amtlichen Entscheidung werden. Die formelle Freigabe allein sagt wenig darüber aus, wie gründlich eine Person den Vorschlag prüfen konnte.

Zukunftsrisiken und Machtkonzentration

Wie weit könnte Selbstverbesserung gehen? Denkbar wäre ein System, das wiederholt bessere Varianten entwickelt, prüft und einsetzt und dadurch seine Fähigkeiten über mehrere Entwicklungsrunden steigert. Wie weit sich ein solcher Prozess automatisieren liesse und ob die Verbesserungen über verschiedene Aufgaben hinweg anhielten, ist offen. Der Sicherheitsbericht von 2026 beschreibt Fortschritte bei einzelnen Teilfähigkeiten. Für einen anhaltenden technischen Kontrollverlust wären zusätzliche Fähigkeiten und Einsatzbedingungen nötig, etwa zuverlässiges Handeln über lange Zeiträume und die Möglichkeit, menschliche Eingriffe unwirksam zu machen.

Kontrolle kann auch durch Abhängigkeit verloren gehen. Wenn viele Behörden und Unternehmen dieselben wenigen Anbieter für Modelle, Rechenleistung oder digitale Infrastruktur nutzen, gewinnen deren Entscheidungen über Zugang, Preise und Nutzungsregeln an Gewicht. Selbst ein vollständig abschaltbares System kann schwer ersetzbar sein, wenn Organisationen ihre Abläufe darauf ausgerichtet haben. In einem hypothetischen Fall könnten mehrere Stellen dasselbe fehlerhafte Risikomodell nutzen. Ein falscher Eintrag könnte dann gleichzeitig den Zugang zu mehreren Leistungen erschweren.

Man stelle sich vor, eine KI solle ausschliesslich eine Umweltkennzahl verbessern. Ein eng gefasster Auftrag kann einschneidende Massnahmen als rechnerisch günstig erscheinen lassen. Ob eine Massnahme gerecht, rechtmässig und menschenwürdig ist, müssen verantwortliche Menschen und Institutionen beurteilen. Menschenwürde gilt unabhängig davon, wie eine Person zur Verbesserung einer Kennzahl beiträgt.

Menschenwürde und Gewissensfreiheit in der Schweiz

Die Bundesverfassung setzt den Massstab für staatliches Handeln. Art. 7 BV verlangt, die Würde des Menschen zu achten und zu schützen. Art. 8 schützt Rechtsgleichheit und vor Diskriminierung, Art. 13 die Privatsphäre und vor Missbrauch persönlicher Daten. Art. 15 schützt die Glaubens- und Gewissensfreiheit, einschliesslich der Freiheit, keiner Religionsgemeinschaft anzugehören und keine religiöse Handlung vorzunehmen. Art. 16 schützt die Meinungs- und Informationsfreiheit. Art. 29 gewährleistet in Verfahren vor Gerichts- und Verwaltungsinstanzen unter anderem das rechtliche Gehör. Wer staatliche Aufgaben wahrnimmt, ist nach Art. 35 Abs. 2 an die Grundrechte gebunden. Einschränkungen von Grundrechten unterliegen Art. 36 BV. Dazu gehören grundsätzlich eine gesetzliche Grundlage, ein öffentliches Interesse oder der Schutz von Grundrechten Dritter und die Verhältnismässigkeit. Der Kerngehalt bleibt unantastbar.

Ein Beispiel wäre eine Behörde, die Gesuche mit Unterstützung einer KI beurteilt. Für die betroffene Person ist entscheidend, dass sie einen falschen Eintrag bestreiten und ihre Sicht im Verfahren darlegen kann. Art. 21 des Bundesgesetzes über den Datenschutz regelt im Anwendungsbereich des Gesetzes die Information bei einer ausschliesslich automatisierten Einzelentscheidung mit Rechtsfolge oder erheblicher Beeinträchtigung. Grundsätzlich kann die betroffene Person auf Antrag ihren Standpunkt darlegen und eine Überprüfung durch einen Menschen verlangen. Das Gesetz sieht Ausnahmen vor. Bei kantonalen oder kommunalen Stellen ist das anwendbare Datenschutz- und Verfahrensrecht zusätzlich zu klären.

Auch internationale Menschenrechte sind einschlägig. Art. 1 der Allgemeinen Erklärung der Menschenrechte (AEMR) stellt die gleiche Würde und die gleichen Rechte aller Menschen an den Anfang. Art. 12 schützt das Privatleben, Art. 18 die Gedanken-, Gewissens- und Religionsfreiheit und Art. 19 die Meinungs- und Informationsfreiheit. Die AEMR ist eine Erklärung der UNO-Generalversammlung. Für die Schweiz verbindliche Vertragsgarantien finden sich unter anderem in Art. 8–10 der Europäischen Menschenrechtskonvention sowie in Art. 17–19 des UNO-Pakts II. Art. 18 Abs. 2 des Pakts schützt ausdrücklich vor Zwang, der die Freiheit beeinträchtigt, eine Religion oder Weltanschauung eigener Wahl zu haben oder anzunehmen.

Eine christliche Deutung von Offenbarung 13

Offenbarung 13 erzählt in apokalyptischen Bildern von zwei Tieren. Das zweite bringt die Menschen dazu, das erste anzubeten. Ein Kennzeichen entscheidet darüber, wer kaufen oder verkaufen darf (Offb 13,16–18). So verbindet der Text Macht, erzwungene Loyalität und wirtschaftliche Teilhabe. Der Ausdruck «Antichrist» begegnet dagegen in den Johannesbriefen. In 1 Joh 2,18–22 steht er im Zusammenhang mit der Auseinandersetzung darum, wer Jesus Christus ist. Wer die Stellen aufeinander bezieht, nimmt eine theologische Auslegung vor.

Eine heutige Parallele liegt in der Frage, was geschieht, wenn Menschen ihre Überzeugungen preisgeben müssen, um am gesellschaftlichen Leben teilzunehmen. Wer befürchten müsste, wegen seiner religiösen Überzeugung von Zahlungen oder grundlegenden Diensten ausgeschlossen zu werden, stünde unter erheblichem Druck. Die biblische Warnung kann Christinnen und Christen dafür sensibilisieren, solche Abhängigkeiten früh zu erkennen. Die Zuordnung einer konkreten KI, einer digitalen Identität oder eines Zahlungsmittels zum Tier oder zur Zahl 666 wäre eine spekulative Deutung. Der Text gibt dafür keinen überprüfbaren technischen Anhaltspunkt.

Was menschliche Kontrolle praktisch bedeutet

Eine verantwortliche Stelle muss wissen, wofür sie ein System einsetzt, welche Daten es verwendet und wer für Fehler einsteht. Bei folgenreichen Entscheidungen braucht es genügend Zeit, Sachkenntnis und Befugnis, um einen Vorschlag zu überprüfen oder zu verwerfen. Betroffene brauchen einen erreichbaren Ansprechpartner und einen gangbaren Weg zur Korrektur. Für Behörden und andere Betreiber gehört zur Kontrolle auch die Fähigkeit, einen fehlerhaften Prozess anzuhalten und die betroffene Leistung weiterhin zugänglich zu halten.

Die Frage für LIWAHRAS lautet deshalb: Kann der einzelne Mensch eine Entscheidung verstehen, ihr widersprechen und eine faire Prüfung erreichen, auch wenn sie mit KI vorbereitet wurde? Daran lässt sich im Alltag erkennen, wie viel Verantwortung Menschen tatsächlich behalten.

Quellen und Bibelstellen