Text vom 23. April 2023 auf Linkedin

Vergangene Woche besuchte ich die 5. Ausgabe der Shift-Konferenz für Digitale Ethik in Zürich. In diesem Beitrag fassen wir unsere Höhepunkte der Konferenz zusammen.

Sind soziale Roboter und KI-Systeme die besseren Menschen?

Zum Auftakt der Konferenz sprach Oliver Bendel über soziale Roboter. Welche Rechten und Pflichten sollen ihnen zugesprochen werden und ab wann? Können Entitäten, welche kein Bewusstsein und keine Empfindungs- und Leidensfähigkeit haben, Rechte geltend machen? Wird sich darauf geeinigt, dass Roboter moralisch handeln sollen, stellt sich die Frage: auf Basis von wessen Moral? Sollen KI-Systeme auf kulturell geprägte menschliche Moralvorstellungen trainiert werden? Oder sollen sich Roboter Moral mittels maschinellen Lernens selbst beibringen? All diesen Fragen stellen sich heute Expert:innen in den Bereichen Roboter- und Maschinenethik. Nebst all diesen Fragen gibt es bereits auch sehr praktische Massnahmen wie beispielsweise das “Moral-Modul” wie es bei Pflege-Robotern zum Einsatz kommen kann. Dieses Modul erlaubt es Patient:innen, ihre jeweiligen Moralvorstellungen am Roboter einzugeben. So kann eine Patientin dem Pflegeroboter beispielsweise mitteilen, dass sie sich lieber erst umzieht, wenn der Roboter sich umdreht.

Was sich aber nicht wegdiskutieren lässt, ist die zunehmende Durchdringung unseres Alltags mit Robotern. Von Staubsaugern und Rasenmähern bis hin zu Pflege-Robotern – bald sind die “intelligenten” Maschinen nicht mehr aus unserem Alltag wegzudenken. Diesen Helfern werden teils menschliche Eigenschaften zugeschrieben. Sie erhalten Namen und es werden ihnen Gefühle wie Dankbarkeit oder Ärger entgegengebracht. Durch diese Alltags-Integration und damit auch Gesellschafts- und Familienintegration sind Fragen rund um Moral und Ethik unumgänglich. Sind denn Roboter und KI-Systeme nun die besseren Menschen? Laut Oliver Bendel ist die Antwort klar: nein.

Datafizierung und People Analytics am Arbeitsplatz

Datenanalysen und Daten-Dashboards sind mittlerweile integraler Bestandteil von Human Resources, Marketing, Sales und weiteren Abteilungen in Unternehmen. In der Breakout Session von Cornelia Diethelm und Oliver Kasper wurden die Datafizierung am Arbeitsplatz unter ethischen Gesichtspunkten beleuchtet. Dabei ist eines klar; Daten sollen Entscheide in Organisationen anreichern und keinesfalls alleinige Entscheidungsgrundlage sein. Es braucht Vertrauen und einen verantwortungsvollen Umgang mit Daten in Unternehmen sowie einen rigorosen Prozess besonders im Bereich People Analytics. Zudem müssen Mitarbeitende jeweils ihr Einverständnis zur Datenerhebung und Datenanalyse geben. Ebenfalls ist es wichtig, dass die Mitarbeitenden jeweils wissen, wie die Ergebnisse der Analyse schliesslich implementiert werden. Basierend auf Erfahrungswerten haben auch wir bei der Zeilenwerk uns mit Datenanalyse auseinandergesetzt und dabei folgende Grundsätze erstellt:

1. Daten sind sehr hilfreiche und informative Indikatoren zum Aufdecken von Problemen und Defiziten sowie eine Unterstützung bei der Lösungsfindung
2. Daten stellen allerdings nur einen Teil der Wahrheit dar und sollten immer mit Kontext angereichert werden, um eine gültige und Realitäts-nahe Interpretation zu ermöglichen
3. Daten-Dashboards werden durch einen Prozess von Datensammlung, Daten-Bereinigung, -Sortierung, -Auswertung und -Visualisierung generiert. In jedem dieser Prozessschritte können Fehler unterlaufen – Daten-Dashboards sollten also nie mit Realität gleichgesetzt werden

Implementierung von digitaler Ethik in Organisationen

Ethik findet immer auch in einem kulturellen Kontext statt. Dieser variiert von Land zu Land, aber auch von Organisation zu Organisation. Bei Zeilenwerk haben wir damit begonnen, ein Ethics Playbook zu verfassen, welches wir stets weiterentwickeln und neuen oder veränderten Bedürfnissen anpassen. Zudem haben wir seit März 2023 ein Ethik Board etabliert, welches sich mit verschiedenen ethischen Themen rund um die Firma, aber auch rund um unsere Dienstleistung befasst. Dabei sehen wir es ebenfalls als zentral an, die Ethik möglichst früh “by Design” in Entscheidungen einbringen zu können.

Ein Learning aus den Diskussionen und spannenden Beiträgen an der Shift ist, dass es keine Lösung gibt, die für alle Organisationen passt. Sondern dass sich jede Unternehmung einen für ihre eigenen Bedürfnisse passenden Prozesse und Greminen schaffen muss.

ChatGPT & Friends

Ein Thema, welches sich durch die gesamte Konferenz durchgezogen hat, war ChatGPT – resp. generative künstliche Intelligenz. ChatGPT als Technologie ist schon länger vorhanden – wird aber erst seit Anfang Jahr in einer breiten Öffentlichkeit diskutiert. Damit ging auch die Frage einher, ob wir uns der sogenannten Singularität annähern oder ist diese in Teilen sogar bereits erreicht? Auf der Plenumdiskussion ein heiss diskutiertes Thema.

Künstliche Intelligenz oder sogenannte Automated Decision Making-Systeme (ADM-Systeme) haben viele positive Eigenschaften und können der Menschheit besonders in medizinischen Anwendungen bedeutende Vorteile und Erleichterungen verschaffen. Algorithmen sind nicht per se schlecht. Was wir daraus machen, kann es allerdings sein. Deshalb auch wird die Regulation von ADM-Systemen auf allen möglichen politischen Ebenen vorangetrieben. Beispielsweise mit dem AI Act der Europäischen Union, den Angela Müller von AlgorithmWatch CH vorgestellt und eingeordnet hat. Dabei werden algorithmische Anwendungen in unterschiedliche Kategorien und damit Gefahrenstufen (oder threat levels) eingeteilt. Die Frage, ob eine Technologie als kritisch oder gar gefährlich eingestuft werden soll, ist allerdings meist vom Kontext, indem die Technologie eingesetzt wird, abhängig.