Künstliche Intelligenz: Zwischen Datenmacht und Menschenrechten

Herr Professor Kirchschläger, Qualität war lange stark technisch und prozessorientiert geprägt. Stehen wir mit datenbasierten Systemen und Digitalisierung vor einer neuen Qualitätsepoche?

Prof. Dr. Peter G. Kirchschläger: Aus ethischer Sicht sollten wir beim Einsatz von datenbasierten Systemen (DS) weiterhin an unseren Qualitätsansprüchen festhalten und DS daher gezielt in den Intelligenzbereichen einsetzen, in denen DS unsere kognitiven Möglichkeiten übertreffen. Dort, wo DS mit uns Menschen nicht mithalten können, sollten wir die Finger von DS lassen.

Sie sprechen bewusst von datenbasierten Systemen statt von künstlicher Intelligenz. Warum?

«Künstliche Intelligenz» ist keine echte Intelligenz. Sie hat weder Bewusstsein noch Verständnis für ihr eigenes Handeln. Bereiche wie emotionale und soziale Intelligenz sowie Moralfähigkeit bleiben zudem für Maschinen unerreichbar. Sie sammeln, erzeugen und analysieren Daten. Alles, was sie tun, basiert auf diesen Daten.

Wo sehen Sie derzeit die grössten Risiken im Umgang mit datenbasierten Systemen?

Die grössten ethischen Risiken von DS sind Verletzungen von Datenschutz, Privatsphäre und Urheberrechten sowie Möglichkeiten politischer und wirtschaftlicher Manipulation. Hinzu kommen besonders unterschätzte ökologische Folgen durch hohen Energie- und Wasserverbrauch sowie Menschenrechtsverletzungen bei Rohstoffabbau und Produktion von DS an Billigproduktionsstandorten.

Sie betonen, dass sich technologische Systeme an Menschenrechten orientieren müssen. Was bedeutet das für Unternehmen, die solche Systeme entwickeln oder einsetzen?

Menschenrechtsbasierte DS bedeuten für Unternehmen, dass sie darauf achten, dass während des gesamten Lebenszyklus von DS die Menschenrechte eingehalten werden. Dafür braucht es staatliche Unterstützung und eine globale Regulierung durch eine Internationale Agentur für datenbasierte Systeme (IDA) bei der UNO nach dem Modell der Internationalen Atomenergiebehörde (IAEA).

Braucht es aus Ihrer Sicht ethische Qualitätskriterien für datenbasierte Systeme?

Eine zentrale Aufgabe der IDA wäre ein Marktzulassungsprozess, damit keine menschenrechtsverletzenden DS auf dem Markt landen. In anderen Branchen wie der Pharmaindustrie werden Produkte vor der Zulassung auf Schäden für Mensch und Umwelt geprüft. Im Bereich von DS gibt es so etwas noch nicht.

Worauf sollten Unternehmen achten, wenn KI Aufgaben automatisiert oder neu verteilt?

Bei ethisch relevanten Entscheidungen sollte immer der Mensch das letzte Wort haben. Zudem müssen Ergebnisse von DS nachvollziehbar sein, damit Menschen die Verantwortung für DS tragen können. Da DS viele bezahlte Tätigkeiten reduzieren, braucht es zudem Anpassungen im Wirtschafts- und Gesellschaftssystem. Basierend auf meiner Forschung schlage ich eine Entkopplung von Arbeit und Einkommen durch ein bedingtes Grundeinkommen im Rahmen des «Society-, Entrepreneurship-, Research-Time Model (SERT)» vor. Dieses Modell verbindet ein Grundeinkommen mit einem frei gewählten gesellschaftlichen Beitrag und schafft gleichzeitig Anreize für Innovation, Forschung und Unternehmertum.

Die rasante technologische Entwicklung wirft auch grundlegende Fragen nach Freiheit, Autonomie und Sinn auf. Was kann die Ethik zur aktuellen KI-Debatte beitragen?

Leider werden DS heute meist nur zur Effizienzsteigerung eingesetzt und von wenigen multinationalen Technologiekonzernen dominiert, die technologischen Fortschritt mit ihren eigenen Interessen verwechseln. Dies bedroht Freiheit, Autonomie, Umwelt und Klima. Ethik kann helfen, diese Entwicklungen kritisch zu prüfen und zu Lösungen beizutragen, damit DS allen Menschen und dem Planeten Erde eine menschenwürdige und nachhaltige Gegenwart und Zukunft garantieren können.

Der Tag der Schweizer Qualität (TSQ) steht unter dem Motto «Qualität für die Zukunft: Nachhaltig. Digital. Menschlich.». Wo sehen Sie die grösste Spannung und das grösste Potenzial zwischen diesen drei Begriffen?

Digitale Transformation und DS kennen das ethisch positive Potenzial, unsere Welt nachhaltiger und menschlicher zu machen. Aktuell verläuft dieser technologische Fortschritt aber leider in die entgegengesetzte Richtung. Wir sollten dringend das Ruder herumreissen und DS gezielt zum Wohl der Menschheit und des Planeten Erde entwickeln und einsetzen.

Zum Abschluss: Was möchten Sie mit Ihrem Beitrag am TSQ den Besucherinnen und Besuchern auf den Weg mitgeben?

DS und digitale Transformation geschehen nicht einfach, sondern wir Menschen gestalten sie. Wir entscheiden, welche DS wir entwickeln und verwenden oder auch aus ethischen Gründen nicht einsetzen. Nicht jede Innovation ist per se ethisch positiv, denken Sie nur an die Atombombe.