Früher war das Ergebnis einer Softwarefunktion vorhersehbar: gleiche Eingabe, gleiche Ausgabe. Bei einem Modell stimmt das nicht mehr. Es liefert einen Vorschlag, und jemand muss entscheiden, ob er trägt.
Drei Fragen, die jedes KI-Feature beantworten muss
Woher kommt diese Antwort? Wie sicher ist sie? Und wie korrigiere ich sie, ohne von vorn anzufangen? Ein Chatfenster beantwortet keine davon, es verschiebt sie nur in einen Dialog, in dem der Nutzer raten muss.
Kennzeichnung ist dabei kein Etikett, sondern eine Entscheidungshilfe. „KI-generiert“ allein sagt nichts. Nützlich wird es erst, wenn daneben steht, worauf der Vorschlag beruht und was passiert, wenn man ihn übernimmt.
Korrektur ist der eigentliche Kern
Ein gutes KI-Feature erkennt man nicht daran, wie oft es richtig liegt, sondern daran, wie günstig ein Fehler ist. Wenn das Korrigieren länger dauert als das Selbermachen, wird die Funktion nicht genutzt, unabhängig von der Qualität des Modells.
