Kognitive Verzerrungen in der Künstlichen Intelligenz sind ein weit verbreitetes Phänomen. Vor diesem Hintergrund haben Prof. Brem und Prof. Georgia Rivieccio ChatGPT gefragt, was die kognitiven Verzerrungen der KI sind. In dem Artikel "Artificial Intelligence and Cognitive Biases: A Viewpoint" reflektieren sie kritisch die Antwort der Generative AI und diskutieren kognitive Verzerrungen im Allgemeinen.
Anschließend konzentrieren sich die Autoren auf konkrete Auswirkungen auf den Umgang mit kognitiven Verzerrungen. So könnten z. B. Algorithmen und Techniken implementiert werden, die KI-Systemen helfen, Voreingenommenheit zu erkennen und zu reduzieren, sowie standardisierte Techniken, um KI-Systeme vor der Implementierung auf Voreingenommenheit zu prüfen. Sie betonen dabei, wie wichtig es ist, Verfahren für die laufende Beobachtung und Eingabe zu entwickeln, um Vorurteile in KI-Systemen zu erkennen und zu korrigieren, sobald sie in Betrieb sind.
Die Autoren kommen zu dem Schluss, dass die Beseitigung solcher Vorurteile eine allumfassende Strategie erfordert, die Experten aus anderen Bereichen einbezieht und neben technischen Lösungen auch moralische Fragen in den Vordergrund stellt. Auf diese Weise kann die Entwicklung von KI-Technologien gefördert werden, die nicht nur fortschrittlich, sondern auch ethisch vertretbar und für die Gesellschaft als Ganzes von Nutzen sind.
Kontakt
Hanna Dewes
Wiss. Mitarbeiterin