Algorithmen werden vielfältige soziale Funktionen zugeschrieben: Vermeintlich entscheiden sie über die Vergabe von Krediten, über Potenziale auf dem Arbeitsmarkt, den schnellsten Weg zum Ziel und die Relevanz von Nachrichten. Zudem werden sie verantwortlich gemacht für die globale Verbreitung von Misinformation und die Verschärfung sozialer Ungleichheiten. Gleichzeitig positionieren viele Unternehmen und manche politische Institutionen weiterhin Algorithmen als adäquate Lösung für soziale Probleme: Facebooks CEO Marc Zuckerberg beantwortete Fragen nach Strategien des Unternehmens zur Bekämpfung von Misinformation, Hate Speech und Datendiebstahl mehr als ein dutzend Mal mit „AI will fix this“ oder „in the future, we will have technologies in place…“.

Und tatsächlich nutzen Plattformen tagtäglich automatisierte Systeme zur Klassifikation von Inhalten, mitunter auch zur direkten Filterung oder Sperrung wie etwa das ContentID auf YouTube. Ob ein solcher “technological fix” allerdings die Widersprüchlichkeiten in der Regulierung und Ordnung von Plattformen (wie auch in anderen Kontexten) auflösen kann, ist mehr als fraglich.

Der Vortrag rekonstruiert und diskutiert diese Fragen aus einer konzeptuellen Perspektive, die techniksziologische und institutionentheoretische Arbeiten kombiniert. Im Ergebnis wird Regulierung „durch“ Algorithmen nicht als technisch-funktionale Entwicklung verstanden, sondern als institutionelle Formation, die technologische Fortschritte (etwa in der Klassifikation von Inhalten) einbettet in diskursive und politische Agenden. Damit wird deutlich, dass wir derzeit eine Institutionalisierung und “Infrastrukturisierung” von algorithmischen Systemen erleben. Damit einher geht die die Gefahr, dass mit der Verlagerung von Entscheidungen über umstrittene Inhalte in Technik und Infrastrukturen inhärent politische Fragen (etwa um die Grenzen der Meinungsfreiheit) der öffentlichen Debatte entzogen und der Entscheidungshoheit von Anbietern überlassen werden. Dieser Prozess ist aber keine technisch-funktionale Notwendigkeit, sondern politisch und gesellschaftlich gestaltbar.