KI: Was sollen die Maschinen dürfen?

STZ, November 2019 - Die künstliche Intelligenz hält Einzug in unseren Alltag – so schnell, dass die politische und gesellschaftliche Diskussion um Chancen und Risiken hinterherläuft. In einem Weissbuch gibt die Schweizer Akademie der Technischen Wissenschaften jetzt Empfehlungen für eine KI-Strategie.

Die künstliche Intelligenz (KI) wird unser Leben verändern. Schon jetzt begegnen wir in unserem Alltag immer häufi er Systemen, die sich des maschinellen Lernens bedienen. Sie erkennen unsere Gesichter, «verstehen», was wir sagen, und können unsere Sprache inzwischen in eine andere übersetzen. KI-Systeme helfen, Krankheiten zu diagnostizieren und zu behandeln, die Entwicklung an den Finanzmärkten zu prognostizieren oder unser Konsumverhalten vorauszusagen. Und das ist erst der Anfang, denn die Liste zukünftiger Anwendungsmöglichkeiten für die künstliche Intelligenz ist lang. KI-Systeme könnten dereinst unsere Autos steuern, Kranke behandeln, Gerichtsurteile fällen oder Verbrechen bekämpfen, bevor diese überhaupt begangen werden. Der rasche und ungeregelte Vormarsch der KI wirft – zumindest bei manchen Menschen – die Frage auf: Wollen wir das überhaupt? Wollen wir, dass die Maschinen immer mehr Aufgaben übernehmen? Wollen wir ihnen immer mehr Entscheidungen überlassen? Und werden wir ihnen dafür auch weiterhin bereitwillig unsere persönlichen Daten zur Verfügung stellen? Anderen kann die Einführung der KI nicht schnell genug gehen. Sie sehen weniger die Risiken, sondern vor allem den Nutzen, den die Technologie für Menschen und Gesellschaft bietet. Und sie sehen die Möglichkeit für hoch entwickelte, aber ressourcenarme Länder wie die Schweiz, mit KI Geld zu verdienen und im internationalen Wettbewerb die Nase vorn zu behalten.

Eine Strategie fehlt bisher

Ein breit angelegter gesellschaftlicher Dialog zur Frage, wie wir mit der künstlichen Intelligenz umgehen wollen, wozu wir sie benutzen wollen und wozu nicht, und wie wir die Voraussetzungen dafür schaffen, scheint angebracht. Doch wer kümmert sich darum? Wer bringt diesen Dialog auf den Weg und wer moderiert ihn?  Eine dedizierte Strategie für den Umgang mit der künstlichen Intelligenz gibt es in der Schweiz bisher nicht. Der Bundesrat behandelt die KI als eines von vielen Themen in der Strategie «Digitale Schweiz». Zudem hat der Bundesrat eine interdepartementale Arbeitsgruppe KI eingesetzt, die demnächst ihren Bericht präsentieren soll. Ebenfalls noch in diesem Jahr soll eine im Auftrag der Stiftung für Technologiefolgenabschätzung TA-Swiss erstellte Studie zu den Chancen und Risiken der KI erscheinen. Etwas schneller war die Schweizer Akademie der Technischen Wissenschaften (SATW): Sie hat ein Weissbuch erstellt, das Empfehlungen für eine Schweizer KI-Strategie enthält. Entstanden ist das Papier im Rahmen der SATW Themenplattform «Künstliche Intelligenz». Federführend haben mehrere Autoren von IBM Research daran mitgewirkt, aber auch Vertreter der Hochschulen und anderer Organisationen. Das Dokument formuliert Empfehlungen für eine KI-Strategie für die Schweiz – und zwar mit einem klaren Ziel, nämlich «die Schweiz als führendes KI-Land zu positionieren und die positiven Auswirkungen der KI auf die Schweizer Wirtschaft zu verstärken und zu beschleunigen».

Mehr Macht über die eigenen Daten

 Unter anderem befasst sich das Weissbuch mit der Frage, wie die digitale Gesellschaft mit personenbezogenen Daten umgehen sollte. Diese Daten sind der Treibstoff für die digitale Wirtschaft. Deshalb, so die Autoren, müsse geregelt werden, wie einerseits personenbezogene Daten am besten auf faire und nachhaltige Weise genutzt werden und andererseits die Privatsphäre und die digitale Selbstbestimmung des Einzelnen geschützt werden können. Die Autoren empfehlen, die Hoheit der Bürger über ihre personenbezogenen Daten zu stärken und die Regeln der Datenschutz- Grundverordnung (DSGVO) der Europäischen Union für die Datenportabilität zu übernehmen. Die DSGVO räumt jedem Bürger das Recht ein, eine digitale Kopie seiner personenbezogenen Daten zu erhalten. Demokratisch kontrollierte Genossenschaften könnten dann eine geeignete Organisationsform darstellen, um die Aufbewahrung und den Austausch solcher Daten zu organisieren.

Eine staatliche Kontrollinstanz

 «Bislang gibt es keine klaren, allgemein akzeptierten Richtlinien für die Implementierung von KI-Systemen», stellen die Autoren des Weissbuchs fest. Angesichts der neuen Risiken, die mit dem Einsatz von KI- und Entscheidungsalgorithmen verbunden seien, sei es aber notwendig, die grundlegenden Anforderungen zu definieren, die von einem KI-System und den damit verbundenen Verifikationsprozessen erfüllt werden müssen. Die Definition solcher ethischen und sicherheitstechnischen Anforderungen und deren Überprüfung erfordere ein fundiertes technisches Fachwissen, aber auch einen eher gesellschaftlichen, politischen und philosophischen Blickwinkel. Die Autoren des SATW-Papiers empfehlen daher, in der Schweiz eine Institution auf Regierungsebene zu definieren, die die Verantwortung für die Anforderungen und die Überprüfung von KI-Systemen übernimmt.

Vertrauen schaffen durch Transparenz

Angesichts des weit reichenden Einflusses, den die Technologie auf unser Leben in Zukunft haben dürfte, sei es wichtig, das Vertrauen der Menschen in die künstliche Intelligenz zu stärken. Dafür müssen die Menschen wissen, was sie von der KI erwarten können – was sie zu leisten vermag, und auch wo ihre Grenzen liegen. Eine staatliche Kontrollinstanz könne, so das SATW-Papier, zu dieser Vertrauensbildung beitragen. Ebenso wichtig sei es aber auch, dass KI-Systeme nicht wie eine Black Box funktionierten, sondern transparent seien: «Zum Beispiel, wenn die KI lebensverändernde Entscheidungen trifft wenn es um strafrechtliche Verurteilungen, Fürsorge oder medizinische Entscheidungen geht, ist es angemessen anzunehmen, dass die Betroffenen wissen müssen, wie diese Entscheidungen getroffen wurden», schreiben die Autoren im Weissbuch.

Autor: Hendrik Thielemann
Bildquelle: Shutterstock
Artikel aus der STZ: Ausgabe Nov. 2019