conference logo

Playlist "PrivacyWeek 2019"

Algorithmenethik

Philipp Schaumann

Der Vortrag zeigt das Ausmaß der Überwachung und die Macht der Algorithmen auf, und erarbeitet dann Kriterien für Algorithmen die mehr Fairness und Gerechtigkeit liefern sollen.

Algorithmen greifen auf Grund der immer stärkeren Datensammlung (vor allem durch große IT-Konzerne) immer tiefer in das Leben aller Menschen ein. Entscheidungen über uns werden durch Algorithmen getroffen, Algorithmen lenken durch ihre cleveren Vorschläge ganz subtil unsere Handlungen und es gibt nur noch begrenzt Möglichkeiten, sich dessen zu entziehen.

Um so wichtiger ist es, Kriterien für faire, gerechte und nicht-diskrminierende Algorithmen zu haben und diese politisch durchzusetzen. Aber auch bei der Programmierung der Algorithmen können "data scientiest" bereits ethische Kriterien berücksichtigen. So ist es wichtig, dass Algorithmen "sich erklären" können ("explainable AI"), und dass es eine Nachvollziehbarkeit ihrer Entscheidungen gibt. Automatische Fehlerkorrekturen müssen eingebaut werden damit Vorurteile und Diskriminierungen möglichst früh erkannt werden.

Ebenso wäre es wichtig, dass die Optimierungskriterien auf denen die Entscheidungen der Algorithmen beruhen klar kommuniziert werden. Ebenso dürfen Deep Learning Algorithmen die zu möglicherweise katastrophalen Fehlentscheidungen führen können nicht in kritischen Bereichen eingesetzt werden.