Für eine echte Innovationsethik

moneta: Was tun Ethiker und Ethikerinnen, die sich mit ­digitaler Innovation beschäf tigen?
Johan Rochel: Ethix möchte einerseits bestimmte Themen in den Fokus rücken und ­andererseits Kompetenzen vermitteln. In den Bereichen, mit denen wir uns beschäftigen, werden ethische Fragen oft erst nach Skandalen aktuell. ­Ohne Cambridge Analytica oder die Datendiebstähle bei Finanzdienst­leistern würden unsere Fragestellungen auf weniger öffentliches Inte­resse stossen. Diese Skandale stellen digitale Innovationen infrage. Wem und wozu dienen diese Daten? ­Innovation ist nie neutral.

Welches sind die ethischen ­Herausforderungen in diesem Bereich?
Zuerst einmal die verwendeten Werkzeuge selbst, zum Beispiel die Daten, doch auch die Algorithmen, mit denen sie ausgewertet werden. Wer programmiert sie? In welchem Bezugs­rahmen? Danach kommt die Frage der eigentlichen Nutzung. Wenn ein Teil der Bevölkerung von der Nutzung neuer Technologien ausgeschlossen ist, stellen sich Fragen in Bezug auf die soziale Gerechtigkeit: Welches sind die Auswirkungen dieser Technologie auf den Arbeitsmarkt? Wie beeinflusst sie unser Handeln? Schliesslich konfrontieren uns manche dieser Innova­tionen mit ganz grossen Fragen: Was ist der Mensch? Was bedeutet die künst­liche Intelligenz für uns? Führt sie zu einem Konflikt zwischen Natur und Technologie, oder legt sie die Grundlagen für die Zusammenarbeit zwischen Mensch und Maschine?

Gibt es eine Möglichkeit, vielleicht unbewusste Motive oder Ziele aufzudecken?
Wir versuchen, in unseren Workshops die verschiedenen Hierarchiestufen des Unternehmens zusammenzubringen, denn jede Abteilung sieht ­einen anderen Teil der Geschichte. Die mit der Programmierung beauftragten Ingenieure spüren, dass das Produkt heikle Fragen aufwerfen wird, an welche die Marketingabteilung beispielsweise nicht denkt. Wir gehen diese Fragen an, indem wir mit Szenarien arbeiten und indem wir manchmal auf Methoden zurück­greifen, die von Science-Fiction-Filmen inspiriert sind – so etwa die bri­tische Fernsehserie «Black Mirror». Wir treiben diese Szenarien dann ziemlich weit, um die ­Teilnehmenden dazu zu bringen, sich möglicherweise unangenehme Fragen zu stellen. In welcher Art Gesellschaft möchten wir leben? Wir halten ihnen einen Spiegel vor, damit sie die Kohärenz ihrer ­Vorstellungen von richtig oder falsch reflektieren.

Welche Resultate werden in Ihren Workshops erzielt?
Sie können die Form einer Werteliste oder einer Charta für das Personal, ­eines Plans für die interne und externe Kommunikation oder von Unter­lagen für Investorinnen und Investoren annehmen. Wir identifizieren auch die Prozesse, die eingeführt werden müssen, damit die ethischen Überlegungen konkrete Auswirkungen haben, zum Beispiel wenn es um so wichtige Fragen wie die Entlöhnung geht oder darum, eine echte Diversität in Projektteams zu erlangen.

Doch der Druck der Investorinnen und Investoren bleibt. Google beispielsweise hat sich unlängst von seiner Devise «Don’t be evil» verabschiedet. Kann man ein Geschäftsmodell tatsächlich mit Diskussionen über Ethikfragen verändern?
Ja, wenn die Userinnen und User, die Investoren oder der Gesetzgeber ­einen gewissen Druck ausüben. Eine Anwendung «nützlich» und «praktisch» zu machen, reicht nicht mehr aus, das rechtfertigt nicht alle Nachteile, die das mit sich bringt. Die Erwartungen in Bezug auf die Achtung ­gesellschaftlicher Grundwerte sind klar gestiegen. Das gilt bereits im ­Bereich der Daten und wird bald auch in Bezug auf die Gesichtserkennung, prädiktive Algorithmen oder auch Technologien, die Informatik und Medizin miteinander verbinden, der Fall sein.

Ethik dient also nicht einfach als Alibi, sondern kann tat­sächlich ein Gegenmittel zur schrankenlosen Gewinn­maximierung darstellen?
Es gibt zwei Sichtweisen der Ethik. Man kann die Unternehmen radikal kritisieren. Oder aber man lässt sich auf eine Diskussion ein, tauscht Ansichten aus und einigt sich mit den Unternehmen auf Werte, die ­verteidigt werden sollen. Wir haben uns für den zweiten Ansatz ent­schieden und betrachten die Risiken und Chancen, die eine Technologie mit sich bringt. Meiner Ansicht nach haben die Unternehmen kaum ­eine Wahl. Diejenigen, die sich nicht freiwillig auf den Dialog einlassen, werden früher oder später dazu gezwungen sein. Die Konsequenzen von katastrophalen Fehlentscheiden der grossen Firmen fallen weltweit auf die anderen Akteure der Branche zurück. Und Werte wie individuelle Freiheit und Respekt bekommen gerade ein noch nie da gewesenes soziales Momentum.

Wäre ethische Kohärenz ein Verkaufsargument für ­Unternehmen?
Aber sicher! Die Innovationsbranche ist sehr wettbewerbsorientiert, nicht nur bei der Gewinnung von Kunden, sondern auch von qualifizierten Mitarbeitenden. Indem Unternehmen öffentlich zeigen, dass sie an ihren Werten und deren Auswirkungen arbeiten, senden sie ein starkes Signal – Usern, aber auch den zukünftigen Angestellten gegenüber. Ein Unternehmen, das zum «Warum» seines Geschäftsmodells Stellung bezieht, baut Vertrauen auf und schafft sich gleichzeitig die Basis für wirtschaftlichen Erfolg.

Die Privatsphäre des Einzelnen steht auf dem Spiel. Be­deutet Ihr Ansatz, dass Sie sich für Selbstregulierung starkmachen?
Nein, unser Ansatz verläuft parallel zur rechtlichen Diskussion. Ein Unternehmen muss die gesetzlichen Bestimmungen einhalten, beispielsweise im Bereich Datenschutz. Das ist das Minimum. Es kann sich aber dafür entscheiden, bestimmten ethischen ­Fragen einen besonderen Stellenwert einzuräumen und sich so zu positionieren. So kann das Unternehmen Erwartungen der Öffentlichkeit ent­sprechen, noch bevor der Gesetzgeber sich mit der Frage beschäftigen ­konnte oder wollte. Das eine geht ohnehin nicht ohne das andere: Zwischen dem Recht und der Ethik findet ein dauernder Austausch statt.

Wer sollte den ethischen ­Diskurs führen?
Die Bürgerinnen und Bürger sollten sich alle mit diesen Fragen beschäf­tigen und verstehen, dass ihre individuellen Rechte, aber auch grund­sätzliche gesellschaftliche Werte auf dem Spiel stehen. Es ist an ihnen, den Unternehmen die klare Botschaft zu senden: «Achtet auf diese Heraus­forderungen der Digitalisierung und nehmt unsere Erwartungen ernst.» Idealerweise entwickelt sich daraus ein «virtuous circle», eine positive Resonanz.

Wie gehen Sie Ihre Aufträge konkret an?
Am Anfang steht die Identifikation der Risiken, die mit den Technologien unserer Auftraggeber und ihrer Nutzung verbunden sind. Wir wurden beispielsweise schon von Start-ups aus Bereichen wie Tracking, Gesichtserkennung oder Gesundheit beauftragt. Wir untersuchen die vorgeschlagenen Innovationen mithilfe eines Rasters auf drei wichtige Wertegruppen: Freiheit/Gleichheit, Auswirkungen auf die Gesellschaft und Auswirkungen auf die Umwelt.

Sozial oder ökologisch – was ist wichtiger?
Bei Innovationen im Bereich Digitalisierung steht die gesellschaftliche ­Frage momentan klar im Vordergrund. Was geschieht zum Beispiel, wenn ein privates Sicherheitsunternehmen diese Technologie kaufen möchte, um Bürgerinnen und Bürger zu tracken? Die Ideale werden auf den Prüfstand gestellt, sobald es einen Konflikt gibt zwischen unternehmerischen Zielen und den Werten, die das Un­ternehmen vertreten möchte. Im Zusammenhang mit solchen Konflikten stellen sich wiederum Fragen der Verantwortung. Wo hört die Verantwortung des Unternehmens und dessen Mitarbeitenden auf, und wo beginnt jene der Nutzerinnen und Nutzer beziehungsweise der breiten Öffentlichkeit?