TRR 318 - Subproject C1 - Gesundes Misstrauen in Erkl?rungen
?berblick
Systeme mit künstlicher Intelligenz (KI) machen Fehler: Die Gitarre im Raum wird als Mensch erkannt, die Bahnverbindung führt zu einem falschen Zielort oder das gro?e, rote Feuerwehrauto wird von der KI übersehen. In diesen Situationen und vor allem bei Empfehlungen für Entscheidungen sollten Menschen der KI ein gesundes Misstrauen entgegenbringen. Die Projektmitglieder untersuchen das Konzept des Misstrauens aus einer psychologischen sowie einer technischen Sicht. In psychologischen Experimenten soll herausgefunden werden, ob es ein gesundes Misstrauen gibt und durch welche ?u?eren Variablen es gef?rdert werden k?nnte. Ein technisches Ziel ist, dass KI-Systeme auf m?gliche Unstimmigkeiten zwischen Maschine und Mensch hinweisen und diese erkl?ren k?nnen.
