Wer über KI entscheidet, muss sie nicht bauen können. Aber er sollte verstehen, worüber gesprochen wird — sonst kauft er nach Gefühl. Die meisten Begriffe in diesem Feld klingen schwieriger, als sie sind: Ein «Token» ist ein Wortstück, ein «Kontextfenster» ein Gedächtnis mit Rand, eine «Halluzination» eine erfundene Angabe im Brustton der Überzeugung. Diese Sammlung erklärt 21 Begriffe in gewöhnlicher Sprache und sagt bei jedem dazu, warum er im Alltag einen Unterschied macht. Sie ist als Nachschlagewerk gedacht: einmal quer lesen, später gezielt zurückkommen.
A
- Agent
- Ein Modell, das nicht nur antwortet, sondern Werkzeuge benutzt: im Netz suchen, eine Datei lesen, eine Buchung anlegen, eine Mail schreiben. Der Nutzen ist gross, das Risiko ebenfalls — denn ab hier verändert das System Dinge, statt nur zu reden. Für jeden Schritt, der etwas auslöst oder nach aussen geht, gehört eine ausdrückliche Freigabe eingebaut.
- API (Schnittstelle)
- Der programmierbare Zugang zu einem Modell, im Gegensatz zum Chatfenster. Wer KI in eigene Abläufe einbaut — Formulare vorsortieren, Texte klassifizieren, Antworten vorbereiten —, arbeitet über die Schnittstelle. Abgerechnet wird dort nach Token, nicht pauschal, und die Bedingungen unterscheiden sich von denen der Chat-Abos.
E
- Embedding
- Die Umrechnung von Text in eine Zahlenfolge, die die Bedeutung abbildet. Zwei Sätze mit ähnlichem Sinn ergeben ähnliche Zahlenfolgen — auch wenn kein Wort übereinstimmt. Das ist der Grund, warum eine RAG-Suche «Wie storniere ich?» und «Rückgabe möglich?» als verwandt erkennt, während eine klassische Volltextsuche daran scheitert.
F
- Feinabstimmung (Fine-Tuning)
- Ein fertiges Modell mit eigenen Beispielen nachschärfen, damit es einen bestimmten Stil oder ein bestimmtes Format zuverlässig trifft. Aufwendiger als ein guter Prompt und in den meisten KMU-Fällen unnötig: Wer Fachwissen einbringen will, fährt mit RAG besser. Feinabstimmung ändert das Verhalten, nicht das Wissen.
G
- GPU und VRAM
- Sprachmodelle laufen auf Grafikprozessoren, nicht auf gewöhnlichen Server-CPUs. Entscheidend ist deren eigener Speicher, das VRAM: Das ganze Modell muss hineinpassen, sonst wird es zäh oder startet nicht. Genau daran scheitert die verbreitete Vorstellung, man könne ein grosses Modell «einfach auf dem eigenen vServer» betreiben — gewöhnliche Miet-Server haben keine GPU.
H
- Halluzination
- Eine erfundene Angabe, die das Modell mit derselben Selbstsicherheit vorträgt wie eine richtige — ein Paragraph, den es nicht gibt, eine Quelle, die nie erschienen ist, eine Zahl, die plausibel klingt. Das ist kein Fehler im engeren Sinn, sondern eine Folge der Funktionsweise: Das Modell erzeugt, was wahrscheinlich klingt, nicht was belegt ist. Praktische Konsequenz: Alles, was zählt — Zahlen, Zitate, Rechtsangaben, Namen —, gehört gegengeprüft. RAG senkt das Risiko deutlich, beseitigt es aber nicht.
I
- Inferenz
- Der Betrieb, im Gegensatz zum Training: das, was passiert, wenn Sie eine Frage stellen und eine Antwort bekommen. Training geschieht einmal und kostet enorm viel Rechenleistung; Inferenz geschieht bei jeder Anfrage und kostet vergleichsweise wenig. Wer ein Modell selbst betreiben will, braucht Hardware für die Inferenz — nicht fürs Training.
K
- Kontextfenster
- Wie viel Text ein Modell gleichzeitig überblicken kann — die Summe aus Ihrer Eingabe, allem Vorangegangenen im Gespräch und der Antwort. Gemessen wird es in Token. Ist das Fenster voll, fällt der Anfang hinten heraus, ohne Warnung. Genau daran scheitern lange Gespräche: Das Modell «vergisst» nicht aus Schwäche, sondern weil das Frühere nicht mehr im Fenster liegt. Für die Arbeit mit Verträgen oder Handbüchern ist diese Zahl die wichtigste Eigenschaft überhaupt.
M
- Multimodal
- Ein Modell, das nicht nur Text verarbeitet, sondern auch Bilder, Ton oder Video — ein Foto beschreiben, eine Aufnahme zusammenfassen, ein Diagramm auswerten. Nicht jedes Modell, das gut schreibt, kann auch gut sehen. Wenn eine Aufgabe Formate mischt, gehört das ausdrücklich geprüft.
O
- Offene Modelle (Open Weights)
- Modelle, deren trainierte Werte frei herunterladbar sind und die sich damit auf eigener Hardware betreiben lassen — von Meta, Mistral, DeepSeek und anderen. «Offen» meint hier die Gewichte, nicht zwingend die Trainingsdaten; mit quelloffener Software im klassischen Sinn ist das nicht dasselbe. Für Daten, die das Haus nicht verlassen dürfen, ist es der sauberste Weg, sofern die Hardware vorhanden ist.
P
- Prompt
- Die Anweisung, die Sie dem Modell geben. Der Unterschied zwischen einem brauchbaren und einem unbrauchbaren Ergebnis liegt meistens hier und nicht am Modell. Was verlässlich hilft: Rolle und Ziel nennen, Beispiele mitgeben, das gewünschte Format beschreiben, und sagen, was nicht gewünscht ist. Siehe auch Systemprompt.
- Parameter
- Die einstellbaren Grössen im Inneren eines Modells, angegeben in Milliarden — etwa «8B» oder «70B». Grob gilt: mehr Parameter, mehr Fähigkeit, mehr Speicherbedarf. Die Zahl ist aber kein Gütesiegel; ein neueres kleines Modell schlägt oft ein älteres grosses. Praktisch relevant wird sie beim Selbstbetrieb, weil sie bestimmt, wie viel Grafikspeicher nötig ist.
Q
- Quantisierung
- Ein Modell mit gröberer Zahlengenauigkeit speichern, damit es weniger Speicher braucht — statt 16 Bit je Parameter etwa 4. Ein Modell, das unquantisiert 140 Gigabyte belegt, passt danach in rund 40. Der Preis ist ein meist kleiner Qualitätsverlust. Für den Selbstbetrieb ist das der Hebel, der aus «unbezahlbar» ein «machbar» macht.
R
- RAG (Retrieval-Augmented Generation)
- Das Verfahren hinter «KI, die unsere eigenen Dokumente kennt». Vereinfacht: Zu jeder Frage werden zuerst die passenden Stellen aus Ihren Unterlagen gesucht und dem Modell mitgegeben, dann antwortet es auf dieser Grundlage. Der Vorteil gegenüber Feinabstimmung: Neue Dokumente sind sofort verfügbar, und die Antwort lässt sich auf die Quelle zurückführen. Für Handbücher, Preislisten und interne Richtlinien ist das der übliche Weg. Grundlage dafür sind Embeddings.
S
- Sprachmodell (LLM)
- Ein Programm, das gelernt hat, welches Wort auf welches folgt — trainiert an sehr grossen Textmengen. «Large Language Model» heisst nur: ein besonders grosses davon. Es versteht Sprache nicht wie ein Mensch, sondern rechnet Wahrscheinlichkeiten. Das erklärt beides: warum es erstaunlich gute Texte schreibt und warum es gelegentlich Unsinn behauptet, ohne es zu merken. Siehe auch Halluzination.
- Systemprompt
- Eine dauerhafte Anweisung, die vor jedem Gespräch gilt und die der Endnutzer nicht sieht — etwa «Du bist der Support-Assistent der Firma X, antworte auf Deutsch, verspreche nie Liefertermine». In betrieblichen Anwendungen steckt hier der grösste Teil der eigentlichen Arbeit. Wichtig zu wissen: Ein Systemprompt ist eine Anweisung, keine Sicherheitsschranke. Er hält Menschen davon ab, Unsinn zu tun, aber niemanden, der ihn gezielt umgehen will.
- Schlussfolgern (Reasoning)
- Eine Betriebsart, in der das Modell vor der Antwort sichtbar oder unsichtbar länger «nachdenkt» — also Zwischenschritte erzeugt, statt sofort zu antworten. Das verbessert Ergebnisse bei Aufgaben mit mehreren Schritten spürbar, kostet aber mehr Zeit und mehr Token. Für einfache Formulierungsarbeit ist es Verschwendung, für Analyse und Fehlersuche oft den Aufpreis wert.
T
- Token
- Die Recheneinheit, in der ein Modell Text zerlegt — meist ein Wortstück. «Datenschutz» kann zwei Token sein, «und» eines. Als Faustregel gilt für deutschen Text: rund 100 Token je 70 Wörter. Warum das zählt: Bei einer Abrechnung über die Schnittstelle wird nach Token bezahlt, für Eingabe und Ausgabe getrennt. Wer lange Dokumente verarbeitet, sollte deshalb nicht nach Monatspreis rechnen, sondern nach Token.
- Training
- Der Vorgang, bei dem ein Modell aus sehr grossen Datenmengen seine Parameter bildet. Das dauert Wochen, braucht Tausende spezialisierter Prozessoren und ist für ein KMU keine Option. Wichtiger ist die andere Frage: Werden Ihre Eingaben zum Training verwendet? Bei Geschäftszugängen ist das üblicherweise ausgeschlossen oder abschaltbar, bei kostenlosen oft nicht — nachzulesen im Beitrag zu KI und Datenschutz.
- Temperatur
- Ein Regler für die Zufälligkeit der Antwort. Niedrig eingestellt antwortet das Modell konservativ und gut reproduzierbar, hoch eingestellt überraschender und abwechslungsreicher. Für Extraktion, Klassifikation und alles, was verlässlich gleich ausfallen soll: niedrig. Für Ideensammlungen: höher. In fertigen Anwendungen ist der Regler oft gar nicht sichtbar.
W
- Wissensstichtag (Knowledge Cutoff)
- Der Zeitpunkt, bis zu dem die Trainingsdaten eines Modells reichen. Alles danach kennt es nicht — es sei denn, es kann suchen oder bekommt die Information mitgeliefert. Wer nach aktuellen Preisen, Gesetzesständen oder Versionsnummern fragt und keine Quelle mitgibt, bekommt im besten Fall einen Hinweis auf den Stichtag und im schlechteren eine Halluzination.
Wozu diese Liste gut ist
Es gibt zwei Sorten von Missverständnissen bei KI-Projekten. Die eine entsteht, weil jemand zu viel erwartet, die andere, weil jemand zu wenig fragt. Beide lassen sich mit ein paar Begriffen vermeiden.
Ein Beispiel: Ein Anbieter verspricht «unsere KI kennt Ihre Dokumente». Wer weiss, was RAG ist, stellt daraufhin die richtigen Fragen — wie kommen die Dokumente hinein, wie schnell sind Änderungen wirksam, lässt sich die Antwort auf die Quelle zurückführen? Wer den Begriff nicht kennt, kauft eine Blackbox.
Ein zweites: Ein Angebot wirkt günstig, weil der Monatspreis niedrig ist. Wer weiss, dass über die Schnittstelle nach Token abgerechnet wird und dass lange Dokumente viele davon verbrauchen, rechnet vorher nach statt nachher.
Die vier Begriffe, die am meisten sparen
Wenn Sie sich nur vier merken wollen, dann diese:
- Kontextfenster — weil es bestimmt, ob Ihr Anwendungsfall überhaupt geht.
- Halluzination — weil es bestimmt, was Sie gegenprüfen müssen.
- Token — weil es bestimmt, was es kostet.
- RAG — weil es der übliche Weg ist, eigenes Wissen einzubringen.
Welches Modell zu welcher Aufgabe passt, steht in unserem Beitrag Welches KI-Modell wofür. Was beim Umgang mit Personendaten gilt, im Beitrag zu KI und Datenschutz.