PodcastAlgorithmen - warum es wichtig ist, dass der Mensch die Führung behält
Hier ihre Aussagen im Auszug:
Algorithmen sind, wie alle Technologien, nicht per se gut oder schlecht, sondern es kommt darauf an, welche Ziele ihnen zugrunde liegen.
Wir sehen beispielsweise, dass gerade Sicherheitsbehörden in den letzten Jahren mithilfe digitaler Technologien die Kontrolle von Bürgerinnen und Bürgern stark erhöht haben.
Im Kontext der Gesichtserkennung kann es zur Gefährdung demokratischer Strukturen führen. Weil Menschen sich einfach, wenn sie das Gefühl haben, ständig überwacht zu werden, anders verhalten, sich stärker entlang von Normen orientieren. Dadurch können auch oppositionelle Kräfte und Kreativität stark eingeschränkt werden.
Algorithmen sind konsistent, sie treffen jede Entscheidung nach dem gleichen Muster. Das ist eine Chance zur Fehlerreduktion. Was sie nicht gut können, anders als Menschen, ist mit Ausnahmen umgehen.
Wir sollten verstehen, dass auch Systeme immer Fehler machen werden, und dass es deshalb auch menschliche Aufsicht braucht. Wenn Algorithmen Fehler machen, skalieren diese sehr schnell.
Techno solutionism besagt, dass man die Fähigkeiten der Technologie überschätzt und die Komplexität des sozialen Problems unterschätzt. Deshalb benötigen wir Maßnahmen, um diese Software ordentlich einzubetten.
Wenn Algorithmen Bildungs-, Gesundheits-, Personalfragen entscheiden, dann müssen wir vor dem Einsatz prüfen, ob sie bestimmte diskriminierende Eigenschaften aufweisen.
