Wie greifen Algorithmen in unser Leben ein, was können sie dabei anrichten, welche Ungenauigkeiten, Generalisierungen, Vorurteile, Diskriminierungen werden beim Design und der Implementierung von Algorithmen umgesetzt und wie könnte eine Reglementierung aussehen?
Immer öfter und immer tiefer greifen Algorithmen in unser Leben ein. Dies geschieht entweder auf der Basis von Statistik oder auch Artificial Intelligence, was aber letztendlich oft für die Betroffenen keinen Unterschied macht. Dabei entstehen auf Grund inherenter Problematiken Fehler wie z.B. vielfältige Formen der Diskriminierung, bzw. die Perpetuierung bestehender Verhältnisse und Systeme. Dies wird an Hand von Beispielen wie dem AMS-Algorithmus, automatic sentencing, und anderen dargestellt und untersucht.
Der Vortrag stellt dann eine Systematik der Fehlerquellen vor. Das beginnt bei Fehlern in der Programmierung, aber viel wichtiger sind Fehler bei der Auswahl des Verfahrens und die Limitierung dass für den Algorithmus grundsätzlich immer nur die Daten verwendet werden können, die nun mal vorliegen oder erhebbar sind. Dazu kommen weitere Probleme durch die Parametrisierung des Algorithmus, d.h. das Setzen von Prioritäten und Zielvorgaben. Dazu darf nicht vergessen werden, dass die letztendlichen Ziele die der Algorithmus implementieren soll grundsätzlich von außen vorgegeben werden und nichts mit neutraler Mathematik zu haben.
Zum Abschluss werden die aktuellen Entwicklungen zur Kategorisierung und möglicher Reglementierung von Algorithmen analog zu Konzepten der Datenschutzgrundverordnung (DSGVO) vorgestellt.
Details zu problematischen Algorithmen auch auf https://sicherheitskultur.at/Manipulation.htm#diskriminierung