Design oder nicht sein:
Gestaltungsprinzipien für eine bessere Akzeptanz künstlich intelligenter Systeme

34 Grad im Schatten. Ich bin für die letzten beiden Stunden meiner Kernarbeitszeit in ein Ulmer Freibad eingecheckt. Das ist okay, befinde ich. Sofern es gelingt einen guten Beitrag zu schreiben. Einen, der Gestaltungsleitlinien aus dem human centered Design auf die Entwicklung von spezifizierten KI Systemen transferiert. Wie baut man chat bots, Agenten oder RAG Systeme eigentlich so, dass die am Ende auch benutzt werden. Technologieakzeptanz ist das Stichwort. Die letzten 24 Monate haben wir ausprobiert, was mit KI alles geht. Fragen wir heute, wie die Sachen eigentlich gut werden.

KI muss einfach funktionieren

Ich bin Gestalter und Entwickler digitaler Medien, außerdem Certified Professional for User Experience - lese ich sicherheitshalber nochmal nach. So einer versteht sich ja darauf, menschzentriert zu gestalten. Also entlang konkreter Bedürfnisse und Verhaltensweisen, um eine gezielte Nutzungserfahrung zu gewährleisten. Was für eine wäre wohl wünschenswert?

Kurzer Ausflug in die 80er. Viswanath Venkatesh und Hillol Bala sind bekannte Forscher im Bereich der Wirtschaftsinformatik. Im Jahr 2008 entwicklen sie das Technology Acceptance Model 3 (TAM3). Es soll Managern helfen, fundierte Entscheidungen bei der Einführung neuer Technologien in Unternehmen zu treffen und führt frühere Forschungen zur Akzeptanz von Informationstechnologien am Arbeitsplatz zusammen. Zentrale Faktoren sind hierbei der wahrgenommene Nutzen (perceived usefulness) und die wahrgenommene einfache Bedienbarkeit (perceived ease of use).

Noch was. TAM3 ist eine von mehreren Revisionen des Technology Acceptance Model. Bereits 1989, in der ersten Version von Fred Davis and Richard Bagozzi, findet sich ein weiterer entscheidender Einflussfaktor auf die Qualität der Erfahrung von Usern mit Systemen: Ihre Erwartungshaltung.

"People form attitudes and intentions toward trying to learn to use the new technology prior to initiating efforts directed at using", folgern Davis und Bagozzi. Eine Erwartungshaltung haben Nutzer also bereits vor der ersten Interaktion mit dem System.

Randbemerkung. Fast 40 Jahre später ist das keine Einbahnstraße mehr, ergänze ich mal. Es liegt nahe, auch künstlich intelligenten Systemen eine Haltung zu attestieren, die es für erfolgreiche Mensch-Machine Interaktion mit der des Users in Einklang zu bringen gilt. Ein Werkzeug hat keine Haltung? Ich halte es hier mit dem israelische Historiker Yuval Noah Harari:

"Die industrielle Revolution war fundamental anders als das, was jetzt passiert: Diesmal erschaffen wir Akteure, nicht Werkzeuge."

Fokussieren wir uns im folgenden allerdings nicht auf die Erwartungshaltung der Maschinen sondern auf Systemkomponenten jenseits von Model Training, Alignment, Finetuning oder Prompting.

Sechs mit Sternchen

Wir möchten also ein nützliches System, einfach zu bedienen und bitte erwartungskonform. Wie bringt man nun das theoretische Modell auf die Straße? Zurück zum human centered design. Dabei werden Heuristiken etabliert. Heuristiken? Klare Kriterien, als Entscheidungshilfen im Gestaltungsprozess. Praktisch, etablieren wir welche. Der dänische Informatiker Jakob Nielsen, Experte für Usability und User Experience, Mitbegründer eines renommierten Beratungsunternehmens für Usability und Benutzerforschung hat 10 generelle Usability-Regeln aufgestellt. Da schauen wir mal:

Die 10 Usability-Regeln nach Jakob Nielsen

1. Sichtbarkeit des Systemstatus*

2. Übereinstimmung von System und Wirklichkeit*

3. Benutzerkontrolle- und Freiheit

4. Konsistenz und Standards

5. Fehlervermeidung*

6. Wiedererkennung statt Erinnerung*

7. Flexibilität und Effizienz

8. Ästhetisches und minimalistisches Design

9. Hilfestellung beim Erkennen, Bewerten und Beheben von Fehlern*

10. Hilfe und Dokumentation*

Alle brauchbar, danke Herr Nielsen. Schauen wir uns allerdings die mit Sternchen im weiteren Verlauf genauer an. Ich finde nämlich die, im Hinblick auf KI gestützte Systeme, besonders relevant.

Promised Land Muddy waters

Die sechs Heuristiken mit Stern sorgen für Transparenz. Die ist wichtig, weil User dank zunehmender Berührungspunkte mit "Consumer Chat Bots" wie ChatGPT einige Systemkomponenten mittlerweile unreflektiert voraussetzen, andere noch nie bemerkt haben und die meisten überhaupt nicht verstehen. Muddy waters. Während eine Mehrzahl der User »KI« noch vorsichtig karthografieren, manifestieren sich Abweichungen von der neu eroberten Landkarte schnell in Frust, Angst und Vermeidungsreflexen.

ChatGPT, Claude, Gemini, Grok, Kimi oder Deepseek klingen überzeugend, biedern sich an, sind ausgestattet mit dem Wissen der Welt und integrierten Fähigkeiten wie Web Recherche, Bildgenerierung oder Dokumentverarbeitung. Das gängige User Interface umfasst neben dem gestreamtem Output der Modelle im wesentlichen die klassischen Komponenten einer Chatmechanik; so mit Schlitz zum Tippen, Dialogverlauf und Gespächshistorie. Darüber hinaus haben sich Indikatoren für eine laufende Websuche, Quellenangaben und vorübergehende Gedankengänge zum mitlesen etabliert. Viele User sind mit der Gefahr von Halluzinationen vertraut und nutzen die Services der sog. Frontier Labs in der Regel innerhalb von Abo Modellen oder kostenlos.

Das sind wichtige Beobachtungen, die Designer nach Davis und Bagozzi antizipieren sollten. Sie bilden die Grundlage für jene Erwartungshaltung, das mentale Modell, mit der User den für sie neuen, unbekannten KI gestützten Systemen gegenübertreten, die wir zunehmend konzipieren, gestalten und entwickeln.

Die folgenden Heuristiken sind also die, die besonders geeignet sind, die mentalen Modelle von Mensch und Maschine zu synchronisieren. Das macht sie besonders heikel beim Bau und der Integration eigener Systeme. Abweichungen müssen aufgezeigt, Ergänzungen eingeführt werden.

Zur Sache also

Sichtbarkeit des Systemstatus

Die Nennung der Modells und ggf. dessen Leistungsprofil kann Usern Anhaltspunkte über die potentiellen Fähigkeiten des Systems geben und deren Erwartungshaltung maßgeblich justieren.
Prozesse, die den System Output bereichern sollten transparent sein. Beispielsweise erschwert ein stiller Verzicht auf gelernte Indikatoren für Tool Calls oder Retrievals die anwenderseitige Evaluation von System Output und führt mit hoher Wahrscheinlichkeit zur Verschleiherung von Halluzinationen.
Je nach Anwendungskontext kann es ausserdem sinnvoll sein, auflaufende Kosten transparent zu machen. Darüber hinaus geben live streaming von model output und Reasoning Usern weiteren Aufschluss über den Status der Anwendung.

Übereinstimmung von System und Wirklichkeit

Das System sollte im Einklang mit der Erwartungshaltung der User stehen. Die resultiert im wesentlichen aus Erfahrungen in der echten Welt und mit ähnlichen Systemen. Symbole sollten also nicht im Widerspruch zu den natürlichen Assoziationen der User stehen. Wo sie abweichen entsteht Erklärungsbedarf. Ein Mülleimersymbol beispielsweise steht demnach auch in der KI Anwendung bitte fürs löschen.
KI klingt in der Regel überzeugend und verkauft auch Unsinn "overconfident". Quellentransparenz beugt hier Mißverständnissen vor.
Ähnlich verhält es sich mit dem stillen Beschnitt gewohnter Fähigkeiten oder der Veränderung typischer Wesenszüge verbreiteter Modelle. Der Zugriff aufs offene Web zum Beispiel oder devoter, politisch korrekter Gehorsam im Rahmen gesetzlicher Vorgaben, Ausschluss gewaltverherrlichender Inhalte und Jugendschutz werden erstmal vorausgesetzt. Abweichungen sollten aktiv vermittelt werden.

Fehlervermeidung

Fehlern bei der Benutzung gilt es vorzubeugen. Gerade vor dem Hintergrund drohender Halluzinationen, dem typischen Konfabulieren und dem selbstbewussten Ton großer Sprachmodelle ist Quellentransparenz unabdingbar.
Bei der Fehlervermeidung hilft darüber hinaus die Automatisierung von Routineaufgaben. Regelmäßiges Speichern von Arbeitsständen in Form von Threads mit sprechenden Titeln, copy paste Buttons für System Output, die Vorformulierung von Anschlussfragen oder Maßnahmen zur Barrierearmut bieten sich an.
Qualitätsmanagement von System Output oder retrievals zur Laufzeit, Aufgabendekomposition und sub tasking beugen ebenfalls Fehlern und Fehlinterpretationen vor.

Wiedererkennung statt Erinnerung

Die konsistente Verwendung von visuellen Elementen und das Wiederaufgreifen verbreiteter UI Komponenten erleichtert die Einarbeitungszeit und die generelle Bedienbarkeit der Systeme erheblich.
Dasselbe gilt für funktionale Komponenten wie Vorschläge für Folgefragen, -anweisungen oder eine automatische Vervollständigung beim Tippen.

Hilfestellung beim Erkennen, Bewerten und Beheben von Fehlern, Hilfe und Dokumentation

Das System sollte User bei der Problemlösung unterstützen. Fehler entstehen häufig durch abweichende mentale Modelle zwischen Mensch und Maschine. Abweichungen vom Standard sollten vor der Nutzung transparent gemacht werden. Aber auch zur Laufzeit eignen sich gerade KI gestützte Systeme neben Analyse-Tools für die Ausgabe klarer Fehlermeldungen, automatische Fehlererkennung, kontextsensitive Hilfe und eine dynamische Vermittlung von Dokumentationen.

Fazit

Ob wir ein System kennen oder nicht, wir begegnen ihm mit einer Erwartungshaltung. Eine Besonderheit bei der Arbeit mit Large Language Modellen ist, dass auch ihnen eine Erwartungshaltung eingeschrieben ist. Beide mentalen Modelle müssen bei der Entwicklung KI gestützter Systeme in Einklang gebracht werden, damit die Kollaboration frustfrei funktioniert. Erwartungsmanagement ist also ein wichtiger Schlüssel für Wertschöpfung mit KI. Bewährte Gestaltungsprinzipien geben Orientierung bei der Umsetzung.