Ein KI-Sprachmodell wie ChatGPT hat ein begrenztes Kontextfenster von 128.000 Tokens, kann keine langfristigen Erinnerungen speichern und versteht Sprache durch Mustererkennung. Klare, präzise Fragen führen zu besseren Antworten, während die Stärken in der Texterstellung und Co-Kreation liegen. Die Qualität der Frage bestimmt den Wert der Antwort.

Möglichkeiten und Grenzen eines KI-Sprachmodells

Was kannst du heute realistischerweise von einem LLM wie ChatGPT erwarten – und wo sind seine Grenzen? Wenn du dich fragst, warum ein KI-System manchmal brillant antwortet und dann wieder scheinbar Wichtiges "vergisst", findest du hier Antworten. Ich zeige dir, was unter der Haube passiert und wie du das Wissen für deine Arbeit oder deinen Alltag nutzen kannst.

1. Wie viel passt in den "Kopf" von ChatGPT?

Ein Large Language Model (LLM) hat kein Gedächtnis wie du und ich. Es erinnert sich nicht an gemeinsame Gespräche oder speichert Inhalte über Wochen hinweg. Was es aber hat, ist ein sogenanntes Kontextfenster. Das kannst du dir wie ein sehr leistungsfähiges, aber begrenztes Kurzzeitgedächtnis vorstellen.

Aktuell (Stand April 2025) liegt dieses Fenster bei 128.000 Tokens. Das entspricht etwa 300 bis 400 A4-Seiten Text. Klingt erstmal nach sehr viel, oder? Und das ist es auch. Aber eben nicht unbegrenzt. Sobald du mit deinem Text diesen Rahmen sprengst, wird der Anfang einfach weggeschnitten – systematisch. Keine Vergesslichkeit, sondern ein klarer Schnitt.

Was ist ein Token?

Ein Token ist ein Textbaustein. Es kann ein ganzes Wort sein, ein Wortteil oder auch ein Satzzeichen. Zum Beispiel besteht das Wort "Verarbeitungskapazität" aus drei Tokens. In der Praxis bedeutet das: Etwa 750 Wörter ergeben 1.000 Tokens.

Diese scheinbare Kleinigkeit ist wichtig, denn je mehr du dem Modell gibst, desto genauer musst du darauf achten, was es überhaupt "sehen" kann.

Mein Tipp: Reduziere lange Eingaben auf das Wesentliche. Wenn du viel einbindest, formuliere klar, worauf es sich konzentrieren soll. So nutzt du den "Kopf" von ChatGPT optimal.

2. Wie durchsucht ChatGPT Dokumente?

Wenn du ein Dokument hochlädst, fragt sich das Modell nicht wie ein Mensch: "Wo steht das nochmal?". Es liest auch nicht das komplette Dokument von vorne bis hinten. Vielmehr wird dein Text zuerst in kleinere Blöcke, sogenannte Chunks, zerlegt. Jeder Chunk wird analysiert und mit semantischen Schlagwörtern versehen. Stell dir das wie Karteikarten vor, die das Modell je nach Anfrage durchsucht.

Wenn du nun eine Frage stellst, sucht das LLM nicht alles durch, sondern nur nach den ähnlichsten Chunks – denjenigen, die zur Frage passen. Diese werden in den Arbeitsspeicher geladen, und daraus wird die Antwort gebaut.

Was bedeutet das für dich?

Wenn du allgemeine Fragen stellst wie "Was sagt das Dokument über Kommunikation?", könnte das Modell ins Leere greifen. Fragst du hingegen: "Was sagt das Dokument im Abschnitt über Feedbackkultur zum Thema Vertrauen?", ist die Chance deutlich höher, dass du eine präzise Antwort bekommst.

Mein Vorschlag: Nimm dir beim Fragenstellen die gleiche Zeit wie beim Schreiben. Je gezielter du formulierst, desto klüger wird dein digitaler Assistent.

3. Warum dauert die Bildgenerierung manchmal länger?

Ein Bild, das aus einer Beschreibung heraus entsteht, ist kein einfaches Produkt, sondern ein Prozess. Die KI arbeitet dabei mit einem Verfahren namens Diffusion: Sie beginnt mit einem Rauschen – einem grauen Nebel aus Pixeln – und formt schrittweise das Bild heraus. Wie ein Maler, der Schicht für Schicht aufträgt.

Je detaillierter und komplexer dein Prompt ist, desto mehr Schritte sind nötig. Das dauert. Wenn gerade viele Anfragen gleichzeitig eingehen (Serverlast), kommt es zusätzlich zu Verzögerungen.

Drei Dinge, die du beeinflussen kannst:

• Die Klarheit deines Prompts: "Eine Katze" ist schneller erzeugt als "Eine weiße Katze mit blauen Augen, die auf einem violetten Kissen vor einem Kamin liegt und dabei eine Geige spielt."
• Die Stilsicherheit deiner Sprache: Kurze, bildhafte Beschreibungen wirken oft stärker als lange, ungenaue Ausführungen.
• Deine Erwartungshaltung: Gute Bilder brauchen manchmal Geduld. Auch digitale Kunst will geformt werden.

4. Wie "versteht" ChatGPT Sprache?

"Verstehen" ist ein Wort, das uns schnell in die Irre führt. Ein LLM versteht nicht wie ein Mensch, sondern es erkennt sprachliche Muster. Es analysiert nicht, ob etwas wahr oder falsch ist, sondern berechnet, welches Wort mit hoher Wahrscheinlichkeit als nächstes passen könnte.

Das ist kein "Denken" im menschlichen Sinne. Aber es ist eine hochpräzise Vorhersage, die auf Milliarden Textbeispielen basiert. Es ist, als würdest du einem Sprachjongleur zuhören, der immer das nächste passende Teilchen findet.

Was kannst du daraus mitnehmen?

Wenn du möchtest, dass dein ChatGPT dir klug antwortet, hilf ihm mit Klarheit:

• Formuliere eindeutig, worum es geht
• Wechsle keine Themen mitten im Absatz
• Gib dem Modell Rollen: "Du bist mein Kommunikationstrainer."

Je klarer du bist, desto sicherer wird die Antwort. Kommunikation ist eben keine Einbahnstraße – auch nicht mit einer KI.

5. Was kann ChatGPT noch nicht gut?

Trotz aller Power gibt es Grenzen – und es ist wichtig, sie zu kennen. Hier ein paar Beispiele:

• Langfristiges Erinnern: GPT-4 speichert keine Gespräche dauerhaft. Auch wenn du denkst: "Das hatten wir doch schon" – für das Modell ist jeder neue Chat eine neue Welt.
• Komplexe Urteile treffen: Die KI kann Texte vergleichen, Argumente analysieren, aber sie hat kein eigenes Wertsystem. Sie kann keine ethische Entscheidung treffen, nur deren Muster wiedergeben.
• Ironie erkennen: Ohne klaren Kontext ist Ironie schwer zu greifen. Was für dich eindeutig ist, ist für das Modell nur ein stilistisches Rätsel.
• Zuverlässige Quellenangaben: Es kann sein, dass eine Quelle genannt wird, die nicht existiert. Fakten müssen deshalb gegengeprüft werden.

Mein Impuls:

Nimm ChatGPT nicht als Orakel. Sondern als Sparringspartner. Dann kannst du seine Schwächen einplanen – und seine Stärken gezielt nutzen.

6. Was klappt schon richtig gut?

Die Stärken von ChatGPT liegen nicht in der Wahrheit, sondern im Sprachfluss, in der Struktur, in der Sortierung von Gedanken. Wenn du mit dieser Erwartung an das Modell herangehst, bekommst du erstaunlich gute Ergebnisse.

Besonders hilfreich ist ChatGPT bei:

• Texterstellung: Gliederungen, Einleitungen, Überschriften, Bulletpoints, Blogartikelentwürfe
• Co-Creation: Gemeinsames Denken, Perspektiven vergleichen, Argumente durchspielen
• Zusammenfassen und Umformulieren: Längere Texte strukturieren, vereinfachen oder in einen neuen Ton bringen
• Gesprächsvorbereitung: Leitfragen entwickeln, Moderationen entwerfen, Feedback strukturieren

Mein Lieblingssatz dazu:

Nicht die Antwort entscheidet über den Wert von KI, sondern die Qualität der Frage.

Du kannst mit einem schlechten Prompt eine mittelgute Antwort erzwingen – oder mit einem klugen Prompt eine inspirierende Reaktion erleben. Und genau darum geht es.

Zum Schluss

Ich schreibe dieses Update, weil ich oft gefragt werde: "Was kann ChatGPT eigentlich wirklich?" Die kurze Antwort: Viel – aber anders, als viele denken. Wenn du weißt, wie das System denkt (bzw. rechnet), kannst du ihm die Art von Gesprächspartner sein, die zu erstaunlichen Ergebnissen führt. Probiere es aus – am besten mit einer Frage, die dir wirklich wichtig ist.