Vorausschauende Polizeiarbeit und Racial Profiling: diskriminierungsrechtliche Herausforderungen zwischen Chancen und Grenzen

En Suisse, un besoin croissant de sécurité est observé au sein de la société. En conséquence, les autorités – notamment la police – sont soumises à une pression accrue pour intervenir de manière préventive, c’est-à-dire avant même qu’une infraction ne soit commise. C’est précisément dans ce contexte qu’intervient le Predictive Policing. Son objectif est de prévenir les infractions à l’aide de systèmes de décision algorithmiques. Il est toutefois aujourd’hui largement reconnu que ces programmes sont sujets à des erreurs et présentent – tout comme les êtres humains – certaines limites. Leur utilisation peut engendrer des discriminations, voire les renforcer, y compris dans le cadre du Predictive Policing. L’une des formes de discrimination susceptibles d’être reproduites par des systèmes algorithmiques est le racisme.
Ce mémoire de master propose d’abord une introduction complète au Predictive Policing et examine les défis en matière de discrimination liés à l’usage d’outils décisionnels algorithmiques. Il aborde ensuite la pratique du profilage racial, avant d’en analyser les manifestations spécifiques dans le contexte du Predictive Policing. Dans ce cadre, le concept de profilage racial algorithmique est présenté et analysé à la lumière de l’interdiction de la discrimination inscrite à l’art. 8 al. 2 Cst. Sur cette base, les défis juridiques actuels en matière de discrimination posés par de tels systèmes sont étudiés – en mettant un accent particulier sur le profilage racial. Enfin, des pistes de solution sont développées et présentées afin de concevoir des outils décisionnels algorithmiques plus équitables.

In der Schweiz ist ein wachsendes Sicherheitsbedürfnis in der Gesellschaft zu beobachten. Dadurch geraten insbesondere die Behörden – allen voran die Polizei – zunehmend unter Druck, bereits präventiv, also vor der Begehung einer Straftat, einzugreifen. Genau hier setzt die vorausschauende Polizeiarbeit, auch Predictive Policing genannt, an: Ihr Ziel ist es, Straftaten mithilfe algorithmischer Entscheidungssysteme zu verhindern. Inzwischen gilt jedoch als unbestritten, dass solche Programme fehleranfällig sind und – wie der Mensch – gewisse Grenzen aufweisen. Ihr Einsatz kann zu Diskriminierungen führen, die unter Umständen sogar verstärkt werden – auch im Rahmen der vorausschauenden Polizeiarbeit. Eine der Diskriminierungsformen, die durch algorithmenbasierte Systeme reproduziert werden können, ist Rassismus.
Die vorliegende Masterarbeit bietet zunächst eine umfassende Einführung in die vorausschauende Polizeiarbeit und beleuchtet die damit verbundenen, diskriminierungsrelevanten Herausforderungen algorithmischer Entscheidungstools. Im Anschluss wird die Praxis des Racial Profiling erläutert, bevor spezifisch auf dessen Erscheinungsformen im Kontext der vorausschauenden Polizeiarbeit eingegangen wird. In diesem Zusammenhang wird das Konzept des algorithmischen Racial Profiling vorgestellt und anhand des in Art. 8 Abs. 2 BV verankerten Diskriminierungsverbots analysiert. Darauf aufbauend werden aktuelle diskriminierungsrechtliche Herausforderungen solcher Systeme untersucht – mit besonderem Fokus auf Racial Profiling. Abschliessend werden Lösungsansätze zur Entwicklung fairerer algorithmischer Entscheidungstools erarbeitet und vorgestellt.