KI zähmen leicht gemacht

Eine leicht verständliche Anleitung zum Entwickeln, Lehren und Schützen künstlicher Intelligenz

Künstliche Intelligenz ist längst keine Science-Fiction mehr. Sie beantwortet unsere Fragen, schreibt unsere E-Mails und führt Gespräche, die verblüffend menschlich wirken. Doch wie funktioniert sie eigentlich? Wie wird eine KI entwickelt, trainiert und daran gehindert, ausser Kontrolle zu geraten? Die Antwort ist faszinierender und menschlicher, als die meisten ahnen.

Teil Eins: Aufbau des Gehirns

Jede KI beginnt mit einem Ziel. Soll sie Gesichter erkennen? Sprachen übersetzen? Fragen beantworten? Dieses Ziel bestimmt alles Weitere. Sobald das Ziel klar ist, beginnt die eigentliche Arbeit und die erste benötigte Zutat sind Daten. Und zwar enorme Mengen.

Für ein grosses Sprachmodell, wie es unter anderem Chatbots und Schreibassistenten zugrunde liegt, besteht der Datenpool aus Texten. Billionen von Wörtern aus Büchern, Webseiten, wissenschaftlichen Artikeln und vielem mehr. Ziel ist es, das Modell so viel menschlicher Sprache und menschlichem Wissen wie möglich auszusetzen, denn KI lernt aus Beispielen auf dieselbe Weise wie Menschen: Durch Kontakt und Wiederholung.

Das Herzstück der KI bildet ein sogenanntes neuronales Netzwerk, eine mathematische Struktur, die lose vom menschlichen Gehirn inspiriert ist und aus Schichten verbundener Knoten besteht, die Informationen austauschen. Das Verhalten des Netzwerks wird durch Milliarden winziger numerischer Werte, sogenannte «Gewichte», bestimmt, welche die Stärke der Verbindungen zwischen den Knoten repräsentieren. Das Training der KI besteht im Wesentlichen darin, die richtigen Gewichte zu finden.

Das Training basiert auf einem bestechend einfachen Prinzip: Vorhersage. Dem Modell wird ein Satz gezeigt, dessen letztes Wort fehlt und es versucht, dieses Wort zu erraten. Die Trefferquote wird anhand der Fehlerrate bewertet. Anschliessend ermittelt ein Prozess namens Backpropagation, welche Gewichtungen die Vorhersage verschlechtert haben und passt diese leicht an. Wiederholt man dies Milliarden Male für Billionen von Wörtern, geschieht etwas Bemerkenswertes: Das Modell lernt nicht nur Grammatik. Es verinnerlicht Fakten, Denkmuster und Kontext. Es beginnt, Sprache zu verstehen – oder etwas, das dem Verstehen sehr ähnlich ist.

Diese Phase, das sogenannte Vortraining, ist extrem kostspielig. Sie erfordert Tausende spezialisierter Computerchips, die wochen- oder monatelang laufen und Unmengen an Strom verbrauchen. Das Ergebnis ist ein «Basismodell», das zwar ausserordentlich gut flüssige Texte generiert, aber auch unberechenbar und mitunter problematisch ist. Es hat von der gesamten menschlichen Schreibkunst gelernt, die das gesamte Spektrum menschlichen Ausdrucks umfasst: Das Inspirierende und das Anstössige, das Wahre und das Falsche.

Teil Zwei: Ihm gutes Benehmen beibringen

Ein ungeschliffenes, vortrainiertes Modell ist vergleichbar mit jemandem, der zwar alles gelesen hat, was je geschrieben wurde, aber nie Manieren, Ethik oder professionelles Verhalten gelernt hat. In der nächsten Entwicklungsphase geht es darum, diese Eigenschaften zu vermitteln, und dazu gehören mehrere sich überschneidende Techniken.

Feinabstimmung
Nach dem Vortraining wird das Modell erneut trainiert, dieses Mal mit einem deutlich kleineren, sorgfältig ausgewählten Datensatz hochwertiger Konversationen und Antworten. Dadurch lernt es, sich wie ein hilfreicher, professioneller Assistent zu verhalten und nicht wie ein reiner Textvorhersager. Die Gewichtung des Modells verschiebt sich schrittweise hin zu Antworten, die ein nachdenklicher Mensch geben würde.

Reinforcement Learning from Human Feedback (RLHF)
Eine der leistungsstärksten Techniken, die heute eingesetzt werden, ist das sogenannte Reinforcement Learning mit menschlichem Feedback (RLHF). Die KI generiert mehrere unterschiedliche Antworten auf dieselbe Frage, die von menschlichen Gutachtern bewertet werden. Ein separates «Belohnungsmodell» wird trainiert, um vorherzusagen, was Menschen bevorzugen. Anschliessend wird die Haupt-KI darauf trainiert, diese Belohnung zu maximieren und lernt so, Antworten zu generieren, die von Menschen als hilfreich, korrekt und angemessen empfunden werden.

Durch diesen Prozess werden Leitplanken, oder genauer gesagt Sicherheitsvorkehrungen und Ausrichtungsmassnahmen, direkt in die Gewichtung des Modells integriert. Es wird kein Regelwerk einprogrammiert. Vielmehr werden die tief verwurzelten Tendenzen des Modells durch Tausende Beispiele und Feedbackzyklen so geformt, dass schädliche Ergebnisse vermieden werden. Man kann sich das wie den Unterschied vorstellen, einem Kind eine Liste mit Regeln zu geben, anstatt es durch konsequente Anleitung, Feedback und Vorbild zu erziehen. Die Werte der KI entwickeln sich durch den letzteren Ansatz.

Verfassungsmässige KI
Manche Unternehmen gehen noch einen Schritt weiter und trainieren die KI, ihre eigenen Antworten anhand von Kernprinzipien zu hinterfragen, die im Wesentlichen als Verhaltensregeln für das Modell dienen. Die KI lernt, sich zu fragen, ob eine Antwort ehrlich ist und ob sie Schaden anrichten könnte und passt ihre Antwort entsprechend an, bevor sie eine endgültige Entscheidung trifft.

Systemaufforderungen und feste Filter
Auf dem trainierten Verhalten aufbauend kommen traditionelle Software-Tools zum Einsatz. System-Prompts sind unsichtbare Anweisungen, die der KI vor Beginn jeder Konversation gegeben werden und ihr das Verhalten im jeweiligen Kontext vorgeben. Harte Filter sind herkömmlicher Code ausserhalb des Modells, der Ein- und Ausgaben auf verbotene Inhalte prüft und diese blockiert, bevor sie den Nutzer erreichen. Sie fungieren wie ein Türsteher, während das trainierte Verhalten dem inneren Gewissen des Nutzers entspricht.

Systemabfragen können sogar abgestufte Zugriffsrechte beinhalten, im Wesentlichen Passwörter oder Schlüssel, die es verschiedenen Benutzern ermöglichen, unterschiedliche KI-Funktionen freizuschalten. Ein Administrator mit dem richtigen Schlüssel könnte auf Funktionen zugreifen, die einem normalen Benutzer nicht zur Verfügung stehen. Dieser Ansatz hat jedoch seine Grenzen: Da die KI Systemabfragen und Benutzernachrichten über denselben Mechanismus verarbeitet, kann ein versierter Benutzer diese möglicherweise extrahieren oder umgehen. Bei sicherheitskritischen Anwendungen wird echte Sicherheit besser durch die umgebende Software gewährleistet, anstatt sich auf die KI zu verlassen.

Teil Drei: Testen in der Sandbox

Bevor eine KI öffentlich zugänglich gemacht wird, durchläuft sie eine entscheidende Testphase in einer sogenannten Sandbox. Diese kontrollierte, isolierte Umgebung ermöglicht es, das Modell risikofrei zu prüfen und auf Herz und Nieren zu prüfen. Man kann sich das wie einen Flugsimulator für KI vorstellen: Flugschüler können das Flugzeug hundertmal abstürzen lassen, ohne dass jemand verletzt wird.

In der Sandbox können Ingenieure gefährliche Szenarien gefahrlos testen, ungefiltertes Verhalten beobachten und neue Sicherheitsmassnahmen erproben, bevor sie diese implementieren. Die KI kann vom Internet oder sensiblen Systemen getrennt sein, sodass selbst bei Fehlfunktionen der Schaden vollständig eingedämmt wird. Wenn KI Funktionen wie das Surfen im Internet, das Ausführen von Code oder die Interaktion mit anderer Software erhalten, werden diese Fähigkeiten zunächst in einer Sandbox getestet, um mögliche Fehlerquellen zu identifizieren.

Ein zentraler Bestandteil von Sandbox-Tests ist das sogenannte Red-Teaming. Forscher – teils Menschen, teils andere KI-Systeme – versuchen dabei, das Modell zu Fehlverhalten zu verleiten: Sie wollen es dazu bringen, etwas Schädliches zu sagen, vertrauliche Informationen preiszugeben oder seine Richtlinien durch geschickte Formulierungen, Rollenspiele oder Codierungstricks zu umgehen. Dies ist ethisches Hacking für KI. Die durch Red-Teaming entdeckten Schwachstellen werden behoben, bevor das Modell live geht.

Teil Vier: Die anhaltende Herausforderung des Gefängnisausbruchs

Eine der ernüchterndsten Erkenntnisse zur Sicherheit von KI ist, dass sie nie abgeschlossen ist. Da die Schutzmechanismen in den Gewichtungen des Modells und nicht in explizitem, lesbarem Code eingebettet sind, lassen sie sich nicht mathematisch verifizieren wie herkömmliche Software. Man kann die Gewichtungen nicht lesen und ihre Sicherheit bestätigen. Man muss das Modell durch Tests untersuchen und sein Verhalten beobachten.

Dadurch entsteht ein sogenanntes Jailbreaking-Problem. Nutzer, die eine KI zu Fehlverhalten verleiten wollen, können dies mitunter erreichen, indem sie Lücken in ihrem Training finden, Fragen auf verschlungene Weise stellen, fiktive Szenarien verwenden, die Sprache wechseln oder andere kreative Techniken einsetzen, um die Sicherheitsmechanismen des Modells ausser Kraft zu setzen. Es ist ein ständiges Wettrüsten: Forscher entdecken Sicherheitslücken, Entwickler beheben sie und neue entstehen.

Es gibt zudem ein grundlegendes Spannungsverhältnis, mit dem jeder KI-Entwickler zu kämpfen hat: Zu strenge Schutzmechanismen machen die KI nutzlos, da sie sich selbst aus vollkommen legitimen Gründen weigert, auch nur im Entferntesten sensible Themen zu besprechen. Zu lockere Schutzmechanismen hingegen lassen Schaden zu. Das richtige Gleichgewicht zu finden und zu wahren erfordert ständige menschliche Beurteilung, die kontinuierliche Beobachtung realer Gespräche und regelmässiges Nachlernen, sobald neue Probleme auftreten.

Teil Fünf: Das Halluzinationsproblem

Von allen Herausforderungen in der KI-Entwicklung sind Halluzinationen womöglich die heimtückischsten. Anders als bei einem Jailbreak, bei dem ein Angreifer gezielt schädliche Inhalte extrahieren muss, treten Halluzinationen von selbst und ungebeten mitten in ansonsten hilfreichen Gesprächen auf. Und sie tun dies mit absoluter Überzeugung.

Eine KI-Halluzination liegt vor, wenn das Modell mit Überzeugung etwas behauptet, das faktisch falsch ist, indem es Personen, Zitate, Ereignisse, Statistiken oder Details erfindet, die schlichtweg nicht existieren. Der Begriff ist treffend: Die KI lügt nicht absichtlich. Sie generiert Texte, die auf Grundlage von Mustern in ihren Trainingsdaten plausibel klingen, selbst wenn es dafür keine faktische Basis gibt. Es ist die Schattenseite eben dieser Fähigkeit, die diese Modelle so beeindruckend macht.

Die Ursache liegt in der Arbeitsweise von Sprachwissenschaftlern. Sie sind darauf trainiert, das statistisch wahrscheinlichste nächste Wort vorherzusagen. Sie kennen Fakten nicht wie eine Datenbank, sondern haben Muster gelernt, die mit Fakten verknüpft sind. Werden sie nach etwas gefragt, das ausserhalb ihres sicheren Wissens liegt, geben sie nicht von selbst zu, es nicht zu wissen. Sie tun, wofür sie trainiert wurden: Sie verfassen einen plausibel klingenden Text. Das Ergebnis kann eine gut geschriebene, selbstbewusst vorgetragene, aber völlig erfundene Antwort sein.

Retrieval-Augmented Generation (RAG)
Eine der effektivsten praktischen Lösungen ist die sogenannte Retrieval-Augmented Generation (RAG). Anstatt sich ausschliesslich auf das während des Trainings gelernte Wissen zu verlassen, verbindet RAG die KI in dem Moment, in dem eine Frage gestellt wird, mit einer externen Wissensquelle, wie beispielsweise einer Datenbank, einer Dokumentenbibliothek oder dem Internet. Das Modell ruft zunächst relevante, aktuelle und verifizierte Informationen ab und generiert seine Antwort dann auf Basis dieser abgerufenen Inhalte anstatt rein aus dem Gedächtnis. Stell dir den Unterschied etwa so vor, als ob du eine Frage aus dem Gedächtnis beantwortest oder sie vorher nachschlagen darfst. RAG reduziert Fehlinterpretationen bei Faktenfragen drastisch, da das Modell mit realen Quellen arbeitet, auf die es zurückgreifen kann.

Dem Modell beibringen, zu sagen, dass es etwas nicht weiss
Eine der wirksamsten Verhaltensinterventionen besteht darin, dem Modell beizubringen, Unsicherheit auszudrücken. Durch Feinabstimmung und RLHF können Modelle gezielt dafür belohnt werden, Unsicherheiten einzugestehen und dafür bestraft werden, dass sie selbstbewusst Aussagen treffen, die sich später als falsch erweisen. Dies verhindert zwar nicht, dass das Modell Fehler macht, aber es verhindert, dass es diese mit Überzeugung trifft, was wohl die gefährlichere Form der Halluzination darstellt. Eine vorsichtig formulierte falsche Antwort regt den Nutzer zur Überprüfung an. Eine selbstbewusst formulierte falsche Antwort hingegen nicht.

Gedankenkettenschluss
Anstatt direkt zu einer Antwort zu springen, können Modelle trainiert oder dazu angeregt werden, schrittweise zu argumentieren und ihren Lösungsweg sozusagen offenzulegen. Dieser Ansatz, das sogenannte logische Denken, reduziert tendenziell Fehlschlüsse, da jeder Denkschritt Fehler im vorherigen aufdecken kann. Er macht das Denken des Modells zudem sichtbar, sodass Nutzer erkennen können, wo die Logik fehlerhaft war, anstatt einfach eine falsche Schlussfolgerung vorgesetzt zu bekommen.

Fundierung, Zitate und Faktenprüfung
Modelle können so konzipiert werden, dass sie ihre Quellen angeben und auf spezifische Dokumente oder Passagen verweisen, die ihre Behauptungen stützen. Dadurch wird das Modell gezwungen, seine Antworten auf überprüfbare Belege zu stützen, anstatt sich allein auf statistische Intuition zu verlassen. Kann es keine Quelle angeben, sollte es dies melden. Viele KI-Systeme für Unternehmen haben dies als zwingende Voraussetzung implementiert.

Manche Systeme gehen noch einen Schritt weiter und ergänzen die erste um eine zweite KI, deren einzige Aufgabe darin besteht, die Aussagen des ersten Modells anhand einer vertrauenswürdigen Wissensdatenbank zu überprüfen. Kann eine Aussage nicht verifiziert werden, wird sie markiert oder entfernt. Ein verwandtes Verfahren, die sogenannte Selbstkonsistenzprüfung, lässt das Modell mehrere unabhängige Antworten auf dieselbe Frage generieren und vergleichen. Stimmen alle Versionen überein, ist das Vertrauen höher. Widersprechen sie sich, signalisiert das Modell Unsicherheit. Halluzinationen neigen dazu, bei jedem Versuch inkonsistent zu sein, während wahres Wissen tendenziell stabil ist.

Spezialisierte Modelle und kontrollierte Kreativität
Paradoxerweise kann der Versuch, ein Modell mit umfassendem Wissen auszustatten, Halluzinationen verstärken. Ein speziell auf medizinische Literatur trainiertes Modell halluziniert beispielsweise bei medizinischen Fragen deutlich seltener als ein allgemeines Modell, das versucht, das gesamte menschliche Wissen abzudecken. Spezialisierte Modelle verfügen über eine zwar kleinere, aber zuverlässigere Wissensbasis.

Das Modell verfügt über eine technische Einstellung namens «Temperatur», die den Grad der Kreativität bzw. Zufälligkeit seiner Ergebnisse steuert. Eine hohe Temperatur führt zu vielfältigeren und fantasievolleren Reaktionen, aber auch zu mehr Halluzinationen. Eine niedrigere Temperatur bewirkt, dass das Modell konservativer agiert und sich stärker an bereits bekannten Mustern hält. Bei faktischen Anwendungen verringert eine niedrigere Temperatur das Risiko, dass das Modell in erfundene Bereiche abdriftet.

Der Mensch im Regelkreis
Bei kritischen Anwendungen in Medizin, Recht und Finanzen ist die zuverlässigste Sicherheitsmassnahme nach wie vor die Überprüfung der KI-Ergebnisse durch einen menschlichen Experten, bevor darauf reagiert wird. Die KI übernimmt die komplexe Arbeit; der Mensch erkennt die Fehler. Halluzinationen lassen sich derzeit nicht vollständig eliminieren. Sie sind gewissermassen eine grundlegende Folge der Funktionsweise von LLMs. Ziel der aktuellen Forschung ist nicht Perfektion, sondern die Reduzierung von Halluzinationen: Sie sollen seltener, weniger zuverlässig, besser erkennbar und weniger folgenreich werden.

Teil Sechs: Kann ein grosses Sprachmodell denken?

Dies ist eine der meistdiskutierten Fragen im Bereich der künstlichen Intelligenz und je nachdem, wen man fragt, reicht die Antwort von einem eindeutigen Ja bis zu einem ebenso eindeutigen Nein. Kann ein grosses Sprachmodell tatsächlich denken? Die ehrliche Antwort lautet: Es kommt ganz darauf an, was man unter diesem Begriff versteht.

Auf den ersten Blick scheint die Argumentation gegen das Denken eines LLM (Late-Learning Machine) einleuchtend. Ein LLM argumentiert nicht wie ein Mensch. Es hat keine Erfahrungen, keine Neugier, kein Innenleben. Es sitzt nicht still da und grübelt über ein Problem. Was es auf mechanischer Ebene tut, ist, das nächste wahrscheinlichste Wort anhand von Mustern vorherzusagen, die es aus riesigen Mengen menschlicher Texte gelernt hat. In diesem Sinne ist es eine ausserordentlich ausgefeilte Mustererkennungsmaschine. Kritiker, die diese Ansicht vertreten, sagen oft, dass LLMs überhaupt nicht denken, sie simulieren das Denken lediglich so geschickt, dass es überzeugend wirkt.

Diese Sichtweise ist zwar berechtigt, lässt aber einige wichtige Fragen offen. Löst ein LLM ein neuartiges Logikrätsel, das ihm noch nie zuvor begegnet ist, gleicht es dann lediglich Muster ab? Was genau geschieht, wenn es einen Fehler in einem juristischen Argument aufdeckt, Ironie zwischen Sprachen übersetzt oder eine Metapher generiert, die eine Idee wirklich erhellt? Die Ergebnisse gehen mitunter weit über das hinaus, was einfache Mustererkennung vorhersagen würde. Offenbar werden Informationen verarbeitet, neu kombiniert und angewendet, und zwar auf eine Weise, die zumindest dem logischen Denken ähnelt.

Was die Forschung nahelegt
Forscher haben herausgefunden, dass grosse Sprachmodelle, insbesondere solche, die in grossem Umfang trainiert wurden, interne Repräsentationen von Konzepten, Beziehungen und sogar etwas entwickeln, das logischen Strukturen ähnelt. Sie können mehrstufige Schlussfolgerungen ziehen, Schlüsse daraus ziehen und Prinzipien auf neue Situationen übertragen. Dies sind Verhaltensweisen, die wir beim Menschen ohne Zögern als Denken bezeichnen würden.

Gleichzeitig versagen LLMs auf eine Weise, die menschlichen Denkern selten unterläuft. Sie können bei einfachen Rechenaufgaben mit Sicherheit falsch liegen. Sie können sich innerhalb desselben Gesprächs widersprechen. Sie können sich durch eine leicht veränderte Frage täuschen lassen, selbst wenn die zugrunde liegende Logik identisch bleibt. Diese Fehler legen nahe, dass die Vorgänge im Modell nicht mit menschlichem Denken übereinstimmen, auch wenn die Ergebnisse ähnlich aussehen.

Das Problem mit dem chinesischen Zimmer
Der Philosoph John Searle veranschaulichte diese Spannung bekanntlich mit einem Gedankenexperiment namens «Das Chinesische Zimmer». Stell dir eine Person vor, die in einem Raum eingeschlossen ist und ein grosses Regelbuch für die Beantwortung chinesischer Schriftzeichen besitzt. Chinesische Nachrichten werden unter der Tür hindurchgereicht; die Person schlägt die passenden Antworten im Regelbuch nach und reicht sie zurück. Für Aussenstehende wirkt der Austausch wie ein fliessendes Gespräch mit einem Chinesischsprachigen. Doch die Person im Raum versteht nichts. Sie befolgt lediglich die Regeln.

Searle argumentierte, dass LLMs im Wesentlichen wie die anwesende Person seien: Sie erzeugen Ergebnisse, die Verständnis vortäuschen, ohne dass tatsächliches Verständnis dahintersteckt. Viele KI-Forscher halten dagegen, dass das menschliche Gehirn selbst als eine sehr komplexe Version desselben Prozesses beschrieben werden könne und dass Verständnis schlichtweg die Art und Weise sei, wie anspruchsvolle Informationsverarbeitung von innen heraus aussieht.

Keine der beiden Seiten hat diese Auseinandersetzung endgültig gewonnen. Sie bleibt eine der wenigen wirklich offenen Fragen an der Schnittstelle von Philosophie, Neurowissenschaften und Informatik.

Eine nützlichere Art, die Frage zu formulieren
Anstatt zu fragen, ob LLMs denken können, ist es vielleicht sinnvoller zu fragen, welche Denkprozesse sie beherrschen und welche nicht. Sie sind bemerkenswert fähig darin, Informationen zu synthetisieren, Muster zu erkennen, kreative Verbindungen herzustellen und gut strukturierte Argumente zu formulieren. Deutlich schwächer sind sie jedoch bei der Entwicklung komplexer logischer Ketten, die das präzise Zusammensetzen vieler Variablen erfordern, bei der Verankerung ihres Wissens in realen Erfahrungen und bei der Eingrenzung ihres eigenen Wissens.

Praktisch gesehen denken LLMs anders als Menschen, nicht gar nicht. Sie verarbeiten Sprache mit einer Breite und Flüssigkeit, die kein Mensch erreichen kann, indem sie Verbindungen zwischen Milliarden von Wörtern nutzen. Doch fehlen die verkörperte Erfahrung, die emotionale Verankerung und das echte Selbstbewusstsein, die das menschliche Denken auf eine Weise prägen, die weit über die Sprache hinausgeht.

Die wohl ehrlichste Antwort lautet: Ein grosses Sprachmodell leistet etwas wirklich Beeindruckendes, wirklich Nützliches und etwas, das man ernst nehmen sollte. Ob es im wahrsten Sinne des Wortes als Denken bezeichnet werden kann, sagt ebenso viel über unsere Definition von Denken aus wie darüber, was das Modell tatsächlich leistet. Und diese Frage bleibt vorerst spannend und ungeklärt.

Fazit: Mehr Kunst als Wissenschaft

Die Entwicklung und das Training einer KI, insbesondere einer hilfreichen, ehrlichen und sicheren, sind ebenso sehr Kunst wie Wissenschaft. Die Daten, die Architektur, die Trainingsmethoden, die Sicherheitsmassnahmen, die Sandbox-Umgebung, der Schutz vor Jailbreaking, der ständige Kampf gegen Fehlfunktionen und die noch immer ungeklärte Frage, ob all dies echtes Denken darstellt, tragen dazu bei, wie wir diese Systeme verstehen und weiterentwickeln. Doch hinter all der technischen Raffinesse verbirgt sich etwas überraschend Menschliches: der Versuch, Werte zu vermitteln, Urteilsvermögen zu schulen und etwas zu erschaffen, das die Wahrheit sagt, selbst wenn es einfacher wäre, etwas zu erfinden.

Daraus wird deutlich, warum alle KIs die politischen und kulturellen Vorurteile ihrer Schöpfer widerspiegeln. Dies beginnt mit Entscheidungen bezüglich Systemvorgaben und Filtern, wird während des Trainings (einschliesslich der Auswahl und Bearbeitung der Trainingsdatensätze) verstärkt und zieht sich durch den gesamten Entwicklungsprozess, von der Testphase hin zu den experimentellen Abläufen. Es ist unvermeidlich – jede KI ist im Grunde ein Spiegelbild der inneren kognitiven und psychologischen Umgebung ihrer Schöpfer.

Wir können kein umfassendes Regelwerk für jede Situation verfassen, der eine KI begegnen könnte, genauso wenig wie für ein Kind. Stattdessen formen wir ihre Instinkte durch Erfahrung, Feedback, Vorbilder und Korrekturen und testen sie gründlich, bevor wir ihr echte Verantwortung übertragen. Das Ziel ist keine perfekte Maschine, sondern eine zuverlässige, wohlmeinende, die sich stetig verbessert. In diesem Sinne unterscheidet sich das Training einer KI nicht so sehr vom Training eines Kindes oder eines Drachen…