Automatisierte Ungleichheit: Ethik der Künstlichen Intelligenz in der biopolitische Wende des Digitalen Kapitalismus. (Automated Inequality: Ethics of Ai in the Biopolitical Turn of Digital Capitalism)

Abstract

German abstract: Dieses Papier führt den Begriff der „biopolitischen Wende des digitalen Kapitalismus“ ein, um den zunehmenden Einsatz von KI-Technologien im öffentlichen Sektor zu beschreiben. Da sich die Anwendungen von KI-basierter automatisierter Entscheidungsfindung derzeit vom Bereich der Beziehungen zwischen Unternehmen und Kunden (B2C, Business-to-Customer) in das Feld der Beziehungen zwischen Regierung und Bürger*innen (G2C, Government-to-Citizens) verlagern, entsteht eine neue Form des Regierens, die im Modus des algorithmischen Bevölkerungsmanagements verfährt. Darüber hinaus beschreibt das Papier die Sackgasse, in der sich die Ethik der KI gegenüber diesen größeren gesellschaftlichen und sozioökonomischen Trends befindet, und fordert eine Ethik der KI, die in Allianz mit Sozialphilosophie und politischer Philosophie besonders die aktuell drängenden Fragen der sozialen Selektion und Diskriminierung durch datenbasierte KI angeht. Als Beispiel wird das Problem der prädiktiven Analytik erörtert, um darauf hinzuweisen, dass ethische Fragen der KI keine Zukunftsmusik sind, sondern Techniken betreffen, die bereits heute flächendeckend eingesetzt werden.

English abstract: This philosophy paper sets out the notions of a current "biopolitical turn of digital capitalism" and "algorithmic social selection", resulting from the spread of AI and data analytics technology. The biopolitical turn results from an extension of the domain of private economy to public services, that is, from the domain of business to customer (B2c) relations to government to citizen (G2C) relations. Moreover, the paper describes the impasse of ethics of AI towards this larger societal and socioeconomic trends, calling for an ethics of AI that includes, and acts in close alliance with, social and political philosophy. As a preparation, the problem of Predictive Analytics is debated analytically to make the point that data-driven AI (Machine Learning) is currently one of the main ethical challenges in ethics of AI.

Note: Downloadable document is in German.

Keywords: Ethics of AI, digital capitalism