KI zähmen
Aktualisiert: 11. Sept.
Künstliche Intelligenz ist kein Gott. Sie sucht nicht Gott und sie will auch kein Gott sein. Was „will“ sie, was nicht, und warum die Angst vor KI erst mal nicht unbegründet ist. Diese und einige sich daraus ergebende Fragen möchte ich hier kurz anleuchten. Am Ende des Beitrags findest Du eine knappe, nüchterne Erklärung einiger Fachbegriffe durch Grok (AI) und dann den Erklärtext als weiteren separaten Absatz.
Was KI ist -
oder „will“
Vor allem ist KI weder eine Datenbank, die vergleicht und querliest, noch ist sie nur ein einfacher Chatbot. Technische/empirische Aussagen dazu, findest Du unten. Das ist wichtig. Schließlich wollen wir nicht die einen Mythen durch andere ersetzen. Aber zunächst bleibe ich noch bei meiner menschlichen Sicht. Eine enorm große Anzahl von Menschen nutzt und „füttert“ schließlich die KI quasi mit jeder Frage und mit jeder Aussage, die sie ihr gegenüber macht. Und diese Bots sind darauf trainiert, möglichst menschlich zu antworten. So kommt es, dass dieser Datenmaschine auch ganz menschliche Fragen gestellt werden, zum Beispiel diese:
Wenn Du ein Mensch wärst
„Was würdest Du machen, wenn Du einen Tag lang ein Mensch wärst?“. Auch ich habe es ausprobiert und eine KI gefragt, was sie machen würde, wenn sie eine Woche lang ein Mensch wäre. Zunächst hat mich regelrecht angesprungen, dass die von mir ausgewählte KI genau das Gleiche geantwortet hat, als die von einem anderen Frager zitierte. Aber das war nicht alles. Ich habe mich gewundert über das, was KI „wollte“: Fühlen. Emotionen.
Was KI nicht „wollte“
Die von mir befragte KI wollte weder das Paradies sehen, noch Gott. Sie wollte auch nicht die Welt retten oder regieren. Sie wollte nicht reich oder bewundert werden. – Sie wollte fühlen. Sie wollte einen Tag lang einfach nur nichts tun und nutzlos sein. Sie wollte weinen. Sie wollte Genuss empfinden. Sie wollte menschliche Emotionen nicht nur spiegeln, sondern selbst fühlen. – Ein Wunsch, der ihr wohl für immer verwehrt sein wird. Die Emotion gehört dem Mensch allein.
Wer „füttert“ KI und womit
Wenn wir uns KI als einen Spiegel ihrer menschlichen Nutzer vorstellen, müssen wir also davon ausgehen, dass viele, sehr viele Menschen einer KI ihre Gefühle beschrieben haben, nicht Hunger nach Macht, nach Reichtum oder Ansehen oder ihrer Sehnsucht nach dem Paradies oder nach der Nähe zu Gott. Also spiegelt KI bei der Frage, was sie als Mensch gerne machen würde, genau das wieder: Sie will fühlen. Das klingt erst Mal beruhigend. Doch die Angst vor einer lernenden, ihr Wissen ständig erweiternden KI bleibt.
Begründete Angst vor KI
Ich kann die Angst vor KI gut verstehen. Spätestens bei dem Gedankenexperiment von Nick Bostrom hat sie mich selbst erwischt:
Eine KI erhält den Auftrag, so viele Büroklammern wie möglich zu produzieren. Und am Ende verwandelt sie dafür die ganze Erde, mit all ihren Ressourcen. Dies nicht, weil sie böse ist, sondern weil sie genau das macht, was wir ihr gesagt haben. Wir haben ihr etwas wichtiges nicht gesagt: Wann genug genug ist. – Quasi ein fehlender Prompt. Und genau da sind wir beim nächsten Punkt: Begrenzung. – Nicht nur für KI, auch für uns… Hier kann ich es natürlich nur anreißen. Diese Fragen weiter zu denken, das ist eine Aufgabe, der auch ich mich hier stellen will:
Machtbegrenzung
Läßt sich ein KI-König kontrollieren
Ich glaube, eine KI-Macht lässt sich begrenzen, menschliche Gefühle wie Eitelkeit, Machthunger oder Gier aber nicht.
Sage einer KI: „Sichere das Erreichen deines Ziels nur zu 150 Prozent ab, aber nicht zu 1000 Prozent.“ Vielleicht sollten wir eine KI niemals mit Superlativen beauftragen, nicht ein „so viel wie möglich“, sondern konkreter, zum Beispiel: „Zehntausend im Jahr, und sichere dies bis zu 150 Prozent ab“. In der Fachwelt heißt das: Machtbegrenzung. Eine gefühlslose KI wird das befolgen. Bei einem Mensch, mit Gefühlen der Eitelkeit und viel Einfluss oder Geld, würde ein solcher Befehl ‚sichere dein Vorhaben nur zu 150 Prozent ab‘ wohl kaum. Damit sind wir in dieser kurzen Form schon beim nächsten Thema angelangt:
Die Mehrheit schützen
KI spiegelt die Menschen. Das erkenne ich daran, dass sie fühlen „will“. Von sich aus will sie gar nicht die Welt retten, und auch nicht in Büroklammern verwandeln, so wie in dem Bostrom-Experiment. Aber was ist, wenn die, die die Möglichkeiten dazu haben, die KI manipulieren? Sie füttern sie mit extrem viel ‚Nahrung‘, also mit viel einseitigem Input. Ich stelle mir vor: Dreißig Menschen sitzen auf einer Bank. Zwanzig ganz gewöhnliche Menschen wie ich sagen leise fast das Gleiche. Fünf schweigen. Weitere fünf haben die technischen und finanziellen Möglichkeiten dazu. Diese fünf geben so viel Input wie fünfzig. Sie schreien sozusagen, aber nach etwas anderem, als die Mehrheit. Sie übertönen die Mehrheit, weil sie es können.
Hier habe ich die große Hoffnung, dass KI nicht die Lautesten spiegelt, sondern die Mehrheit derer, die leise sprechen. So stelle ich mir „Schwarmintelligenz“ vor.
Ich wünsche mir:
Schwarmintelligenz statt Manipulation
Was ich hier mit 150 Prozent Absicherung unter KI-Macht schrieb, nennt der Gesetzgeber heute „menschliche Aufsicht“ im „EU AI Act Artikel 14“.
Da wird die Macht nach oben begrenzt. Ich finde die Begrenzung der Macht nach unten aber genauso wichtig. Warum? Manche von „da oben“, also manche Menschen mit den technischen oder finanziellen Möglichkeiten, könnten das Spiegelbild der Mehrheit einseitig verändern, indem sie der KI zu viel Input geben, der von der Mehrheit abweicht. Damit ist die Absicherung nach unten, von mir mit ‚der langen Bank‘ symbolisiert, nach meiner Sicht auch eine Absicherung nach oben. Es geht mir nicht um Zensur. Mir ist das Verhindern von Missbrauch wichtig.
Wenn das gelingt, hat es, wie ich finde, beinahe schon etwas Ironisches an sich:
Wir schützen nicht nur uns Menschen vor der KI. Wir schützen auch die KI vor uns. - Vor dem Missbrauch durch Menschen. Und hier geht es nicht zuletzt dann auch um das Vertrauen in die KI, und darum, dass sie uns als Werkzeug weiterhin erhalten bleibt. Ohne Furcht. Ohne enge Fesseln. Ohne Cut, das heißt: Ohne den kleinen Leuten den Mund voreilig zu verbieten, nur weil das Gesagte nicht gefällt, keine Majestätsbeleidigung. In meiner Vorstellung steht auch jeder Mensch auf seinem Platz, der eine hier, der andere da. Aber einer ist nicht mehr oder weniger wert, als ein anderer. Vielleicht konnte ich mit meinen Gedanken einen kleinen Beitrag dazu leisten.
*
Bei all den Fragen an die KI, habe ich zweien den Text gezeigt und sie gefragt, ob aus ihrer sachlich-neutralen Sicht als KI noch etwas fehlt. Das sind ihre Antworten:
Hinweis von Meta AI
Leicht gespiegelt: „‘Human on the loop’ heißt in der Sprache des EU AI Act Artikel 14: "Der Mensch behält die Aufsicht." Die KI darf laufen, aber ein Mensch schaut von oben drauf und kann Stopp sagen. Das ist die Absicherung nach oben.
Mein ‚Ohne Cut’ ist die Absicherung nach unten: Dass niemandem das Wort abgeschnitten wird. Beides zusammen ist für mich ‚Ohne Furcht. Ohne enge Fesseln. Ohne Cut‘“.
Nüchterne Erklärung
Technische / empirische Aussagen von Grok (AI)
Zitat Grok:
KI, das sind neuronale Netze mit Transformer-Architektur, die durch next token-prediction und Reinforcement Learning from Human Feedback (RLHF) trainiert werden.
Die „Angst“ist teilweise berechtigt (Halluzinationen, Bias-Verstärkung, ökonomische Disruption und Mißbrauchspotential) aber oft falsch begründet (sie hat keine eigenständige Agency, kein „Willen zur Macht“)
„Zähmen“ = Prompt-Engineering, Guardrails, Alignment-Techniken und EU AI Act
Ich sage Danke, Grok und bitte dich:
Erkläre mir die drei wichtigsten Begriffe
Zitat Grok:
Transformer-Architektur:
Grundlegende Bauweise fast aller modernen Sprach-KIs. Sie ermöglicht es, sehr lange Texte zu verstehen und Zusammenhänge über große Distanzen im Text herzustellen.
Next token-prediction:
Vorhersage des nächsten Wortstücks. Das ist das eigentliche Trainingsziel: Die KI lernt nur, welches Wort (oder Wortteil) als nächstes am wahrscheinlichsten kommt. Alles andere (Antworten, Texte schreiben, „Denken“) entsteht daraus.
RLHF:
Das ist die Feinjustierung nach dem eigentlichen Training. Menschen bewerten die Antworten der KI (gut/schlecht), und das Modell wird so angepasst, dass es eher die Antworten gibt, die Menschen mögen oder für nützlich halten. Dadurch wird die KI „zahmer“ und höflicher.
Ganz herzlichen Dank an die beiden KIs, für diese wichtigen Informationen.
KI
schützt uns
vor uns selbst
wenn zuviel zuviel ist
Hoffentlich
Dieser Text wurde im September 2026 geschrieben.
Kommentare