KI VERSTEHEN — EINE GESCHICHTE IN IDEEN Referat zur Webseite ki.maxiremusik.dev Dauer: ungefähr 7 Minuten bei ruhigem Sprechen. Die Zeitangaben sind Orientierungspunkte und werden nicht vorgelesen. Die Grafiken begleiten den Vortrag. Es gibt keine Mitmachaufgaben. 00 — EINSTIEG: WIE WIRD AUS RECHNEN EINE ANTWORT? Ungefähr 0:00–0:30 Wir stellen einem Chatbot eine Frage, und Sekunden später erscheint eine Antwort. Wie kann ein Computer so etwas? Dafür gehen wir zurück zu einfachen Ideen: einem Schalter, einer Regel und einem System, das aus Beispielen lernt. Daraus entstanden nach und nach leistungsfähigere Modelle. Die verschiedenen Ansätze bestehen bis heute nebeneinander. Eine unbestrittene erste KI gibt es nicht. Wir beginnen deshalb bei einem frühen mathematischen Baustein. 01 — 1943: EIN KÜNSTLICHES NEURON Ungefähr 0:30–1:05 1943 beschreiben Warren McCulloch und Walter Pitts ein mathematisches Modell, das von Nervenzellen inspiriert ist. Mehrere Signale kommen an. Wenn eine bestimmte Schwelle erreicht wird, gibt die Einheit ein Signal weiter. Unsere Grafik zeigt zwei Eingänge und die Schwelle zwei. Nur beide aktiven Eingänge zusammen aktivieren den Ausgang. Das entspricht einer UND-Verknüpfung. Verbindet man solche Einheiten, lassen sich kompliziertere Funktionen berechnen. Noch lernt hier nichts: Die Regeln sind festgelegt. Das künstliche Neuron ist ausserdem eine starke Vereinfachung einer echten Nervenzelle. 02 — 1950: WANN WIRKT EINE MASCHINE INTELLIGENT? Ungefähr 1:05–1:30 Alan Turing fragt 1950, wie wir intelligentes Verhalten einer Maschine beurteilen könnten. In seinem Imitationsspiel kommuniziert eine Person schriftlich mit verborgenen Gegenübern. Kann sie unterscheiden, wer Mensch und wer Maschine ist? Damit rückt beobachtbares Verhalten in den Mittelpunkt. Das Gedankenexperiment ist aber keine Bauanleitung für KI. Ein überzeugendes Gespräch beweist noch kein Bewusstsein. 03 — 1956: SYMBOLE UND REGELN Ungefähr 1:30–2:00 1956 findet das Dartmouth-Forschungsprojekt statt. Der Begriff Artificial Intelligence steht schon im Antrag von 1955. Intelligentes Verhalten soll so genau beschrieben werden, dass Maschinen es ausführen können. Ein frühes Programm ist der Logic Theorist von Newell, Simon und Shaw. Er sucht mathematische Beweise, indem er Symbole verarbeitet und Regeln anwendet. Aus bekannten Aussagen entstehen weitere Aussagen. Die Schritte sind oft nachvollziehbar. Die Schwierigkeit ist, passendes Wissen und passende Regeln für die vielfältige Wirklichkeit bereitzustellen. 04 — 1958: LERNEN AUS BEISPIELEN Ungefähr 2:00–2:40 Beim Perceptron von Frank Rosenblatt verändert sich die Idee. Wir zeigen dem Modell Beispiele mit bekannten Antworten, statt jede Entscheidung vorzugeben. Eingaben werden mit Gewichten verrechnet. Ein Gewicht bestimmt, wie stark ein Merkmal das Ergebnis beeinflusst. Bei falschen Antworten werden die Gewichte nach einer Lernregel angepasst. Die Grafik zeigt eine Gerade, die zwei Gruppen trennt. Manche Muster lassen sich so aber nicht trennen. Für das bekannte XOR-Muster reicht ein einzelnes Perceptron beispielsweise nicht aus. Die Neuerung bleibt: Verhalten entsteht teilweise aus Beispielen. Die Auswahl der Trainingsdaten beeinflusst also, was gelernt wird. 05 — 1966: ELIZA UND DER EINDRUCK VON VERSTÄNDNIS Ungefähr 2:40–3:10 Joseph Weizenbaums ELIZA zeigt, wie überzeugend einfache Sprachregeln wirken können. Das bekannte Gesprächsskript DOCTOR verarbeitet Textmuster und bildet daraus Antworten. Beispielsweise wird eine Aussage als Rückfrage aufgegriffen. So kann auf „Ich bin müde“ eine passend klingende Rückfrage folgen. Das kann das Gefühl erzeugen, verstanden zu werden. Dabei stammen die Regeln und Antwortvorlagen von Menschen. Sie bleiben während des Gesprächs fest. ELIZA lernt in dieser Form nicht selbstständig aus Gesprächen. Passende Antworten beweisen noch kein Verständnis. 06 — 1986: FEHLER ZURÜCKVERFOLGEN Ungefähr 3:10–3:50 Mit mehreren Schichten können neuronale Netze komplexere Zusammenhänge darstellen. Aber wie werden all die Gewichte eingestellt? Rumelhart, Hinton und Williams machen Backpropagation 1986 besonders bekannt. Das Verfahren hat allerdings eine längere Vorgeschichte. Zuerst berechnet das Netz eine Vorhersage. Dann messen wir den Fehler. Backpropagation berechnet, wie die Gewichte diesen Fehler beeinflussen. Ein Optimierungsverfahren passt sie anschliessend in kleinen Schritten an. Dieser Ablauf wird wiederholt. Wichtig ist die Unterscheidung: Beim Training ändern sich die Gewichte. Bei der Anwendung, der Inferenz, benutzt das Modell die bereits gelernten Gewichte. Es wird nicht bei jeder Antwort automatisch neu trainiert. 07 — 2012: TIEFE NETZE ERKENNEN BILDMUSTER Ungefähr 3:50–4:25 2012 erzielt AlexNet einen grossen Erfolg bei der ImageNet-Bilderkennung. Ein tiefes neuronales Netz, viele Trainingsbilder und viel Rechenleistung kommen zusammen. Für den Computer besteht ein Bild aus Zahlen. Gelernte Filter verarbeiten lokale Bildbereiche. Über mehrere Schichten entstehen zusammengesetzte Merkmale: vereinfacht von Kanten zu komplexeren Mustern. Am Ende stehen Werte für mögliche Bildklassen. Die Grafik erklärt dieses Prinzip. Gute Bilderkennung bedeutet trotzdem nicht, dass das Modell die Welt wie ein Mensch versteht. Bei ungewohnten Bildern kann es weiterhin scheitern. 08 — 2017: DER TRANSFORMER VERKNÜPFT KONTEXT Ungefähr 4:25–5:05 „Ich sitze auf der Bank“ und „Ich überweise Geld an die Bank“ enthalten dasselbe Wort. Die Bedeutung wird erst durch den Kontext klar. Der Transformer von 2017 verarbeitet Beziehungen im Text mit Attention. Dabei wird berechnet, welche anderen Positionen wie stark zur Verarbeitung einer Position beitragen. Informationen werden miteinander kombiniert, und das geschieht in vielen Schichten. Die Hervorhebungen in der Grafik sind vereinfachte Lehrbeispiele. Attention bedeutet keine menschliche Aufmerksamkeit. Es ist ein mathematischer Mechanismus, der Kontext verarbeitet und viele moderne Sprachmodelle ermöglicht. 09 — 2022: TEXT ENTSTEHT SCHRITT FÜR SCHRITT Ungefähr 5:05–6:10 Mit ChatGPT werden dialogfähige Sprachmodelle 2022 einem breiten Publikum bekannt. Generative KI ist zu diesem Zeitpunkt bereits älter. Ein autoregressives Sprachmodell zerlegt Text in Tokens. Das sind Wörter, Wortteile oder andere Zeichenfolgen. Aus dem bisherigen Kontext berechnet es Werte für mögliche nächste Tokens. Ein Token wird ausgewählt, angehängt, und der Vorgang beginnt erneut. So entsteht eine Antwort Schritt für Schritt. Die Balken in unserer Grafik zeigen illustrative Beispielwerte, keine Messwerte eines echten Modells. Im Vortraining werden Zusammenhänge aus grossen Datenmengen gelernt. Weitere Trainingsschritte mit Beispielen und menschlichen Bewertungen können das Modell auf hilfreiche Antworten ausrichten. Trotzdem ist eine plausible Fortsetzung nicht automatisch wahr. Ein Modell kann überzeugend formulierte Fehler erzeugen. Für überprüfbare Tatsachen brauchen wir deshalb passende Quellen und eine Kontrolle der Aussagen. 10 — SCHLUSS: KI VERSTEHEN HEISST UNTERSCHEIDEN Ungefähr 6:10–7:00 Vom einfachen Schalter bis zum Sprachmodell haben wir unterschiedliche Ideen gesehen. Drei Fragen helfen uns, KI besser einzuordnen: Sind Regeln vorgegeben, oder werden Zusammenhänge aus Beispielen gelernt? Sprechen wir über Training oder über die Anwendung eines Modells? Und ist eine Antwort nur plausibel, oder wurde sie auch überprüft? Trainingsdaten können Fehler und Verzerrungen enthalten. Ein Modell kann sie übernehmen. Sprachliche Sicherheit beweist weder Richtigkeit noch Bewusstsein. Wir können aber nach den Daten, Regeln und Berechnungen hinter einer Antwort fragen. So werden die Möglichkeiten und Grenzen von KI verständlicher. BEDIENUNG FÜR DEN VORTRAG Pfeil rechts / Pfeil links: nächstes oder vorheriges Kapitel. N: Notizen zum aktuellen Kapitel öffnen oder schliessen. P: Präsentationsmodus ein- oder ausschalten; Vollbild, wenn unterstützt. Escape: Präsentationsmodus beziehungsweise geöffnete Ansicht verlassen. Die Jahreszahlen erlauben den direkten Sprung zu einer Station. Für ungefähr fünf Minuten: Bei Turing, Logic Theorist, ELIZA und AlexNet jeweils den letzten Absatz auslassen und zügig weiterblättern. Für ungefähr acht Minuten: Ruhiger sprechen und die Grafiken nach jedem Kapitel einen Moment stehen lassen.