Wenn der Roboter falschliegt
Lädt …
Das lernst du
Am Ende kannst du zwei Arten von KI-Fehlern erklären und eine Antwort vor der Verwendung prüfen.
Rui fragt eine Hausaufgabenhilfe: „Wie viele Monde hat der Mars?“ Die KI antwortet: „Der Mars hat 3 Monde: Phobos, Deimos und Ares.“ Das klingt sicher. Rui prüft auf der Website einer Raumfahrtagentur nach: Der Mars hat zwei bekannte Monde. Der dritte Name ist erfunden, ohne dass die Antwort Unsicherheit erkennen lässt.
Erklärung lesen
Generative KI berechnet, wie eine passende Antwort wahrscheinlich aussieht. Auch bei fehlendem Wissen kann sie überzeugend klingende Namen, Daten, Quellen oder Behauptungen erzeugen; das wird oft „Halluzination“ genannt. Außerdem können einseitige Trainingsdaten und Designentscheidungen verzerrte Ergebnisse begünstigen. Solche Fehler tragen nicht immer eine Warnung — deshalb muss ein Mensch wichtige Angaben prüfen.
- Sicher zu klingen ist nicht dasselbe wie recht zu haben.
- Frage: Wo lässt sich diese Angabe zuverlässig prüfen — etwa in einem aktuellen Fachbuch, bei einer zuständigen offiziellen Stelle oder in einer Bibliothek?
- Nutze KI als Hilfsmittel für Ideen, nicht als letzte Instanz für Wahrheit oder wichtige Entscheidungen.