Manchmal macht die künstliche Intelligenz doch völlig überraschende Dinge. So nun auch bei einem internationalen Forschungsteam aus Australien, Kanada und den USA geschehen. Hier erkannte die eingesetzte künstliche Intelligenz aus Röntgenaufnahmen die Hautfarbe der Patienten und irritierte die Forscherinnen und Forscher.
Nachdem das Team der KI Röntgenaufnahmen verschiedener Patienten zum Training hinterlegt hat, begann die künstliche Intelligenz nicht nur medizinische Befunde auszugeben, sondern wies auch auf die Ethnie der Patienten hin, obwohl dazu keine Daten geliefert wurden.
Wirklich irritiert war das Team von der Tatsache, dass sie selbst nicht nachvollziehen können, was die künstliche Intelligenz zur korrekten Vorhersage der Hautfarbe verleitet hat. Das Studiendesign war so ausgelegt, dass auch indirekte visuelle Merkmale nicht genutzt werden konnten. Trotz allem hat die Maschine neue Zusammenhänge erkannt, die weitere Forschungen notwendig machen.
Trotz aller Begeisterung über die Funde warnt das Forscherteam jedoch auch. Da es ein bekanntes Problem in der Medizin ist, dass Menschen unterschiedlicher Hautfarbe häufig unterschiedlich behandelt werden, müssen die Wissenschaftler und Ärzte in Zukunft mitdenken, damit die KI nicht Rückschlüsse aus diesem Fehlverhalten schließt und Aktionen startet, die von den Erschaffern gar nicht angedacht waren.
Die vollständigen Erkenntnisse des Forschungsteams gibt es hier als PDF!
