Risiken durch KI-Systeme
Wenn es um Künstliche Intelligenz (KI) geht, denken viele Menschen an die Möglichkeit einer „Super-Intelligenz“, die Menschen kontrolliert. Dieses Szenario ist eher unwahrscheinlich. Jedoch gibt es reale Risiken, die mit dem zunehmenden Einsatz von künstlicher Intelligenz einhergehen. So kann es sein, dass Algorithmen unsere Wahrnehmung von Inhalten beeinflussen und damit auch die Grundlage unserer Meinungsbildung. Denn KI-Systeme können immer nur so gut sein wie die Qualität der Trainingsdaten.
Diskriminierung
Ein KI-Modell lernt anhand von Trainings- und Testdaten. Ist in den Daten bereits eine verzerrte Wiedergabe der Realität enthalten (ein sogenannter „Bias“), entsteht auch ein verzerrtes Modell. Enthalten die Daten zum Beispiel rassistische, homophobe oder sexistische Inhalte, wird dies im KI-System abgebildet. Bei der Verarbeitung neuer Daten würde das Modell dann auf diese erlernten Vorurteile und Diskriminierungen zurückgreifen und darauf basierende Entscheidungen ableiten.
Beispiel
Eine Künstliche Intelligenz wurde von dem Unternehmen Amazon genutzt, um Bewerbungsunterlagen zu sichten und passende Bewerber*innen einzuladen. Um die KI zu trainieren, gab man ihr Bewerbungen aus den vergangenen Jahren und die Information, welche der Bewerber*innen eingeladen wurden. Das Resultat: Die KI schlug ausschließlich Männer für eine Einladung vor. Wie konnte das passieren? Die KI hatte anhand der Trainigsdaten gelernt, dass in der Vergangenheit besonders häufig Männer eingeladen wurden. Also zog sie die logische Schlussfolgerung, dass Männer die besseren Kanditaten sind. Durch die sexistische Auswahl von Bewerber*innen in der Vergangenheit waren die Trainingsdaten sozusagen „verunreinigt“. Eine KI, die mit solchen Daten trainiert wird, reproduziert zwangsläufig dasselbe sexistische Verhalten.
Desinformation
Werden Inhalte bewusst verzerrt, umgedeutet oder erfunden und gezielt verbreitet, spricht man von Desinformation. Das Ziel ist es, Einfluss auf die öffentliche Meinung zu bestimmten Themen zu nehmen. Im Gegensatz zur Falschinformation geht es hier um eine gezielte Täuschungsabsicht, um Menschen in die Irre zu führen und zu manipulieren. Desinformationen machen bewusst Stimmung, polarisieren und können Kippmomente verstärken, die den gesellschaftlichen Zusammenhalt bedrohen.
Desinformation gibt es schon lange im Internet – was ist also neu?
Zum einen hat sich die Quantität der Desinformation verändert. Mithilfe generativer KI-Tools können massenhaft gefälschte Nachrichtenartikel und Social-Media-Beiträge erstellt werden. Social Bots können dazu genutzt werden, künstlich Reichweite zu generieren, indem sie solche Inhalte sichtbar machen und hier den Eindruck von Popularität und Unterstützung vortäuschen. Social Bots sind automatische Computerprogramme, die vortäuschen, ein echter Mensch zu sein, der Likes verteilt, kommentiert oder Beiträge teilt.
Zum anderen hat sich die Qualität von Desinformation verändert. Auf der einen Seite, weil sich die Menge der im Netz vorhanden Desinformation auch auf die KI-Modelle auswirken kann, die solche Inhalte reproduzieren. Und auf der anderen Seite sind sogenannte Deep Fakes möglich, die immer überzeugender werden. Mithilfe generativer Tools können täuschend echte Fotos, Videos oder Audiodateien erzeugt werden. Diese Inhalte werden benutzt, um Personen Dinge tun oder sagen zu lassen, die nicht wirklich passiert sind. Solche Inhalte können extrem manipulativ und irreführend sein.
Warum ist das gefährlich?
Die Grundlage für eine starke und lebendige Demokratie ist eine informierte Bevölkerung. Bei Desinformation geht es darum, gezielt das Vertrauen in glaubwürdige Informationen zu zerstören. Das ist gefährlich, denn Menschen könnten ihre Meinung auf Grundlage von falschen Informationen bilden und das Vertrauen in traditionelle Medien und demokratischen Institutionen verlieren. Damit fehlt es auch an Orientierung, welchen Informationen man eigentlich noch glauben kann und welchen nicht. Das kann Menschen verunsichern, Ängste verstärken und Verschwörungserzählungen einen Nährboden bieten.