Was passiert, wenn künstliche Intelligenz beginnt, Entscheidungen zu beeinflussen, die unsere Arbeit, unsere Chancen und unser demokratisches Leben betreffen? In seinen neuesten Überlegungen untersucht Ignacio Packer, Geschäftsführer der Stiftung Caux, was es bedeutet, sich in einem Zeitalter der KI zurechtzufinden - und was dabei für Vertrauen, Demokratie und unsere gemeinsame Verantwortung auf dem Spiel steht.

Ausgehend von einem interaktiven Workshop gestern im Rahmen der Genfer Demokratiewoche reflektiert er über Jugendbeschäftigung, die Bedeutung der Einbeziehung verschiedener Generationen und Perspektiven sowie die Rolle, die Caux auf dem "Weg nach Genf" spielen kann. Seine zentrale Frage ist einfach, aber weitreichend: Wenn KI unsere Handlungsmöglichkeiten erweitert, wie stellen wir dann sicher, dass die Entscheidungen, die wir treffen, wirklich menschlich bleiben?

Ein ungewöhnliches Format - und das Unbehagen der Entscheidungsfindung

Gestern haben wir bei der Genfer Demokratiewoche einer Gruppe von Menschen verschiedener Generationen und Herkunft eine einfache Frage gestellt: Was sollten wir niemals vollständig an künstliche Intelligenz delegieren?

Sollte ein Unternehmen zehn junge Absolvent.inn.en statt zwanzig einstellen, weil KI mittlerweile die Hälfte der Aufgaben übernehmen kann, die traditionell Nachwuchskräften übertragen werden? Sollte ein KI-System nicht nur empfehlen, wie ein Unternehmen umstrukturiert wird, sondern auch, wer seinen Arbeitsplatz verlieren soll? Und ab wann wird eine vollkommen rationale Geschäftsentscheidung zu einer Frage von übergeordnetem öffentlichem Interesse?

Dies waren einige der Dilemmata, die im interaktiven Workshop „Entscheidungsfindung im Zeitalter der KI: Jugendbeschäftigung und demokratisches Vertrauen“ erörtert wurden, der im Rahmen der Genfer Demokratiewoche in der Genfer Industrie- und Handelskammer (CCIG) stattfand und in Zusammenarbeit mit der Kofi-Annan-Stiftung, dem Centre for Digital Trust (EPFL), In.ception Marketing und HyperSecureIT organisiert wurde.

Unser Ziel war es nicht, eine weitere Konferenz zum Thema KI zu veranstalten. Stattdessen versetzten wir die Teilnehmenden in die etwas unbequeme Lage, eine Entscheidung treffen zu müssen. Vor allem aber drehte sich die Diskussion nicht nur um junge Menschen. Wir freuten uns sehr, dass mehr als 20 Schüler.innen des Genfer Collège Calvin aktiv an der Veranstaltung teilnahmen und so die Stimmen einer Generation in den Raum trugen, die besonders unmittelbar mit jenen Entscheidungen leben wird, die wir heute treffen.

Das Format war bewusst ungewöhnlich gewählt. Die Teilnehmenden schlüpften in die Rolle von Bürger.inn.n und Aktionär.inn.en. Einige übernahmen die Rollen des oder der CEO, des oder der Personalleiter.in, des oder der jungen Mitarbeitenden, des Arbeitnehmervertretenden, der Zivilgesellschaft - und sogar der künstlichen Intelligenz selbst. Die übrigen wurden zu den betroffenen Bürger.inn.n, die letztendlich entscheiden mussten.

Was mich jedoch am meisten interessierte, war nicht, ob die Menschen mit Ja oder Nein stimmten. Es war das, was zwischen den Abstimmungen geschah: Die Menschen hörten einander zu. Sie waren unterschiedlicher Meinung. Sie änderten ihre Perspektive. Manchmal änderten sie ihre Einstellung.

Das mag recht gewöhnlich klingen, aber in der heutigen polarisierten Gesellschaft halte ich es zunehmend für alles andere als normal.

Menschen hörten einander zu. Sie waren unterschiedlicher Meinung. Sie änderten ihre Perspektive. Manchmal änderten sie ihre Einstellung- in der heutigen polarisierten Gesellschaft ist dies alles andere als normal.

Von der Geneva Demokratiewoche zum „Weg nach Genf“

Es gibt einen übergeordneten Grund, warum Gespräche wie diese gerade jetzt wichtig sind. Am 21. und 22. Juni 2027 wird die Schweiz Gastgeberin des Genfer KI-Gipfels sein. Unter der Leitung der Schweizerischen Eidgenossenschaft ist der Gipfel Teil einer internationalen Reihe von KI-Gipfeln, die 2023 begann. Sein übergreifendes Thema, „Brücken schlagen zwischen Innovation und Vertrauen“, könnte für die Fragen, mit denen wir uns auch in Caux beschäftigt haben, kaum relevanter sein.

Was mich jedoch besonders interessiert, ist das, was vor dem kommenden Juni geschieht.

Der "Weg nach Genf" ist mehr als ein zentral organisiertes Programm. Es handelt sich um eine globale Reihe dezentraler Veranstaltungen und Konsultationen mit verschiedenen Interessengruppen im Vorfeld des Hauptgipfels, die Organisationen und Netzwerken Raum bieten, sich durch offizielle Vorveranstaltungen, einen „Call for Issues“ (gestartet im Herbst 2026) und später durch unabhängige Nebenveranstaltungen einzubringen. Mit anderen Worten: Es gibt einen Weg zum Gipfel - und viele Menschen können dabei helfen, ihn zu gestalten.

Das Ökosystem des „Internationalen Genf“ mobilisiert sich bereits rund um Fragen der Innovation, des digitalen Vertrauens, der Governance und der Sicherheit. Für mich wirft dies eine weitere Frage auf: Was könnten die Stiftung Caux und ihre Aktivitäten zu diesem Weg beitragen? Vielleicht mehr, als wir uns ursprünglich vorgestellt haben.

Das Thema des Gipfels, „Brücken schlagen zwischen Innovation and Vertrauen“, könnte für die Fragen, mit denen wir uns auch in Caux beschäftigt haben, kaum relevanter sein.

Vertrauen ist nicht in erster Linie eine technologische Frage

Der Caux Palace, unser Zentrum für Dialog und Friedensförderung in der Nähe von Montreux, ist kein Forschungszentrum für künstliche Intelligenz. Und wir sollten auch nicht versuchen, eines zu werden. Unser Beitrag liegt woanders. Seit 80 Jahren beschäftigt sich Caux mit Fragen des Vertrauens, des Friedens, eines verantwortungsvollen Leaderships und der Fähigkeit von Menschen mit völlig unterschiedlichen Perspektiven, einander zu begegnen und miteinander in Dialog zu treten.

KI macht diese Fragen dringlicher, nicht weniger dringlich. Während eines kürzlichen Gesprächs für CARAC TV habe ich versucht, dies anhand von drei einfachen Gedanken zu verdeutlichen:

• Je intelligenter unsere Werkzeuge werden, desto mehr müssen wir in unsere menschliche Intelligenz investieren.
• Vertrauen bedeutet nicht, den Menschen zu versprechen, dass sich nichts ändern wird. Es bedeutet, sie nicht im Stich zu lassen, während sich alles verändert.
• KI erweitert unsere Handlungsfähigkeit. Sie mindert nicht unsere Verantwortung.

Die Diskussion bei der gestrigen Veranstaltung hat diese Ideen sehr konkret verdeutlicht.

Wenn KI viele der Einstiegsaufgaben überflüssig macht, durch die junge Fachkräfte traditionell ihr Handwerk erlernen, wie sollen sie dann die Erfahrung sammeln, die nötig ist, um die Fachleute von morgen zu werden?

Ein.e junge.r Jurist.in, der oder die damit beginnt, Rechtsprechung zu recherchieren und erste Analysen zu erstellen. Ein.e junge.r Finanzexpert.in, der oder die Tabellen erstellt und Daten analysiert. Ein.e junge.r Kommunikationsexpert.in, der oder die erste Entwürfe verfasst. Nachwuchskräfte, die durch Beobachten, Ausprobieren, Fehler machen und durch Korrekturen erfahrenerer Kollegen lernen. Genau das sind einige der Aufgaben, die KI zunehmend übernehmen kann.

Die Frage der KI ist daher nicht einfach nur eine Personalfrage. Sie wird zu einer Frage der Inklusion, der Chancen und letztlich des Vertrauens in unsere wirtschaftlichen und demokratischen Institutionen. Eine Generation, die das Gefühl hat, dass technologische und wirtschaftliche Entscheidungen ständig über sie, aber ohne sie getroffen werden, könnte letztendlich nicht nur das Vertrauen in Arbeitgebende, sondern auch in die Institutionen um sie herum verlieren.

Genau hier wird KI zu einer Frage der Demokratie. Deshalb war es so wichtig, dass Schüler.innen eines örtlichen Collège an der gestrigen Diskussion in Genf teilnahmen - abstimmten, Annahmen hinterfragten und die getroffenen Entscheidungen kritisch betrachteten.

Und genau deshalb fördert und veranstaltet die Stiftung Caux seit jeher regelmässig Veranstaltungen zum Thema Demokratie, wie zum Beispiel das von Jugendlichen geleitete Schulungsprogramm Reimagining Democracy(ies), in Zusammenarbeit mit dem Jugendprogramm der Stiftung, Creative Leadership, und das Caux Forum für Demokratie.

Die Frage der KI ist daher nicht einfach nur eine Personalfrage. Sie wird zu einer Frage der Inklusion, der Chancen und letztlich des Vertrauens in unsere wirtschaftlichen und demokratischen Institutionen. Sie wird auch zu einer Frage der Demokratie.

Wir gehen diesen Weg nicht allein

Eines ist mir im Laufe des letzten Jahres immer deutlicher geworden: Caux muss kein KI-Experte werden, um sich an der KI-Diskussion zu beteiligen. Es muss mit Fachleuten zusammenarbeiten und dabei das einbringen, was Caux über Vertrauen, Dialog, Demokratie und zwischenmenschliche Beziehungen weiss.

Das geschieht bereits. Der gestrige Workshop war selbst das Ergebnis einer Zusammenarbeit über verschiedene Bereiche hinweg.

Olivier Crochat vom Center for Digital Trust (EPFL), brachte Perspektiven zu digitalem Vertrauen, Forschung und Zukunftskompetenzen ein. Declan O’Brien von der Kofi-Annan-Stiftung warf Fragen zu Demokratie und Regierungsführung auf. Peter Osazuwa von HyperSecureIT beleuchtete die Chancen und Herausforderungen der KI. Inès Bekkis von In.ception Marketing brachte die Erwartungen einer jüngeren Generation ein. Meine Kollegin Sarah Noble konzentrierte sich darauf, wie unsere Entscheidungen zutiefst menschlich bleiben können.

Die Zusammenarbeit erstreckte sich auch über die Podiumsdiskussion hinaus. Bénédicte Casaï von der Fondation pour Genève brachte über Code Critique eine weitere wesentliche Dimension ein: kritisches Denken und unsere Fähigkeit, das, was uns die Technologie vermittelt, zu hinterfragen.

Dieses Netzwerk ist wichtig, ebenso wie die anderen Beziehungen, die Caux in diesem Bereich aufbaut, darunter die Partnerschaft mit PoliSync bei den Lernprogrammen „AI for Social Good“.

Und die Reise geht weiter. Vom 28. bis 30. Oktober wird unser Intensivprogramm „Mit Menschlichkeit führen im Zeitalter der künstlichen Intelligenz“ im Caux Palace erneut verschiedene Fachgebiete miteinander verbinden. In Zusammenarbeit mit Chemin 28 arbeiten wir mit dem Center for Digital Trust (EPFL), PROMOVE, der CCIG und der Inner Development Goals Foundation sowie mit Führungskräften aus der Wirtschaft und internationalen Akteur.inn.en zusammen.

Caux muss kein KI-Experte werden, um sich an der KI-Diskussion zu beteiligen. Es muss mit Fachleuten zusammenarbeiten und dabei das einbringen, was Caux über Vertrauen, Dialog, Demokratie und zwischenmenschliche Beziehungen weiss.

Von der Frage, was KI leisten kann, hin zur Frage, was wir tun wollen

Vertrauenswürdige KI wird nicht allein von Technolog.inn.en geschaffen werden, genauso wenig wie sie von der Zivilgesellschaft, Regierungen oder Unternehmen im Alleingang geschaffen werden kann. Es bedarf Räume, in denen diese unterschiedlichen Fachkenntnisse - und verschiedene Generationen - aufeinandertreffen können. Vielleicht ist genau das der Punkt, an dem die Stiftung Caux einen Beitrag zum „Weg nach Genf“ leisten kann.

Die Zusammenarbeit mit anderen bestärkt mich in einer Überzeugung, die ich zunehmend teile: Unser Beitrag besteht nicht darin, das technologische, regulatorische oder betriebswirtschaftliche Fachwissen zu duplizieren, das im Ökosystem Genf–Genfer See bereits vorhanden ist. Vielmehr geht es darum, dieses Fachwissen mit den menschlichen Fragen zu verknüpfen, die die Technologie allein nicht beantworten kann.

Die Frage lautet daher nicht einfach: Was kann KI leisten? Sie lautet vielmehr: Nun, da wir dazu in der Lage sind, was wollen wir damit tun? Wer sollte an dieser Entscheidung beteiligt sein? Und welche Verantwortung sind wir bereit, für die Folgen zu übernehmen? Diese Unterscheidung könnte auf dem "Weg nach Genf" zunehmend an Bedeutung gewinnen.

Vertrauen entsteht nicht allein durch Regulierung, Algorithmen oder technische Standards. Vertrauen entsteht – oder wird zerstört – auch durch Beziehungen. Dadurch, ob Menschen das Gefühl haben, gehört zu werden. Dadurch, ob sie verstehen, warum Entscheidungen getroffen werden. Dadurch, ob die von Veränderungen Betroffenen einen gewissen Einfluss auf deren Gestaltung haben. Und manchmal durch etwas, das zunehmend gegen den Zeitgeist geht: lange genug innezuhalten, um nachzudenken, bevor man entscheidet.

In Caux legen wir seit langem Wert auf diese Momente der Besinnung und sogar des bewussten Schweigens. In einer Welt der KI und der sofortigen Antworten mag das seltsam altmodisch erscheinen.

Ich glaube, das Gegenteil ist der Fall. In einer Welt, die immer schneller wird, könnte das Wissen, wann man vor einer wichtigen Entscheidung einen Gang zurückschalten muss, zu einer strategischen Kompetenz werden. Seit 80 Jahren erlebt die Stiftung Caux den Wert, Raum für Besinnung und Stille zu schaffen – und hilft so Einzelpersonen und Organisationen, Klarheit und Orientierung für ihre Entscheidungen und Handlungen zu finden.

In einer Welt, die immer schneller wird, könnte das Wissen, wann man vor einer wichtigen Entscheidung einen Gang zurückschalten muss, zu einer strategischen Kompetenz werden.

Ein Weg, dem es sich zu folgen lohnt

Nun, da ich mich darauf vorbereite, mein Amt als Geschäftsführer der Stiftung Caux niederzulegen, habe ich den "Weg nach Genf“ in meine Amtsübergabe einbezogen, da ich darin eine wertvolle Gelegenheit für Caux sehe, seine bestehende Arbeit weiterhin mit diesem umfassenderen Weg zu verknüpfen. Es bestehen bereits enge Verbindungen zu Themen wie Jugendbeschäftigung, verantwortungsvolles Leadership, innere Entwicklung, Vertrauen, Dialog, Demokratie und bürgerschaftliches Engagement. Auf diesen Verbindungen aufzubauen, könnte Caux in den kommenden Jahren sinnvolle Wege eröffnen, um zur Debatte beizutragen.

Und wer weiss – vielleicht ergibt sich irgendwo auf diesem Weg die Möglichkeit für eine Zusammenkunft in Caux selbst. Keine weitere konventionelle KI-Konferenz, sondern ein Ort der Zusammengehörigkeit, an dem Menschen, die normalerweise nicht genug Zeit oder Gelegenheit haben, zusammenzukommen, ihre institutionellen Rollen hinter sich lassen, zuhören, sich gegenseitig herausfordern und reflektieren können. Denn das ist schlieslich etwas, was Caux gut kann.

Am 7. Oktober beendeten wir unseren Workshop mit einer Frage: Welche der heute getroffenen Entscheidungen werden wir in fünf Jahren noch als unsere eigene bezeichnen wollen – und für die wir die Verantwortung übernehmen?
Diese Frage scheint es mir wert, bis nach Genf mitgenommen zu werden. Denn eine „erweiterte Demokratie“ ist sicherlich keine, in der künstliche Intelligenz bessere Entscheidungen für uns trifft. Es ist eine, in der wir besser darin werden, Entscheidungen zu treffen – gemeinsam.

Welche der heute getroffenen Entscheidungen werden wir in fünf Jahren noch als unsere eigene bezeichnen wollen – und für die wir die Verantwortung übernehmen?

______________________________________________________________________________________

Ignacio Packer ist Geschäftsführer der Stiftung Caux, einer Schweizer gemeinnützigen Stiftung, die sich für die Förderung von Vertrauen, ethischem Leadership, nachhaltiger Lebensweise und menschlicher Sicherheit einsetzt. Mit über 30 Jahren Erfahrung in der humanitären Hilfe und Entwicklungszusammenarbeit war er zunächst bei der Europäischen Bank für Lateinamerika und anschließend bei KPMG tätig, bevor er sich über 25 Jahre lang als anerkannter Leiter von Nichtregierungsorganisationen und internationalen Bündnissen engagierte. Als Experte für Menschenrechte und soziale Fragen setzt er sich insbesondere für den Schutz von Migrant.inn.en und Flüchtlingen ein, vor allem von Kindern und Jugendlichen.