Digitales Vertrauen als Wettbewerbsvorteil

Lisa Bechtold, Head of AI Governance, ist eine inspirierende und innovative Führungskraft im Technologie-Department der Zurich Insurance Group. Der verantwortungsvolle Einsatz neuer Technologien wie Künstlicher Intelligenz (KI) ist für sie seit vielen Jahren die Grundlage erfolgreicher, nachhaltiger Innovation im Unternehmen. Aufgrund ihrer Passion für Digitalisierung und algorithmische Entscheidungsprozesse erweiterte die gelernte Juristin ihre anwaltliche Ausbildung (Promotion, LL.M. UC Berkeley) kontinuierlich durch technologische und strategische Qualifikationen (MIT Sloan, Stanford Graduate School of Business). Lisa Bechtold will digitale Innovation fördern – mit den Kunden im Fokus, im Einklang mit rechtlichen Vorgaben und relevanten Sicherheitsstandards.

thebroker spricht mit Lisa Bechtold, Head of AI Governance bei Zurich Insurance Group. 

AI Governance ist ein relativ neues, jedoch strategisch höchst relevantes Gebiet. Wie sehen Sie die jüngsten Innovationen, den Mehrwert, den KI für die Menschheit bringen kann? Und wie bewerten Sie die Risiken?

Wichtig ist, dass wir KI-Lösungen so einsetzen, dass relevante Vorteile und situative Verbesserungen für Menschen entstehen. Das Spektrum reicht von Verbesserungen der Servicequalität und des Produktportfolios über Effizienzgewinne zur Steigerung der Produktivität und Kostensenkungen. Das amerikanische Finanzministerium gab kürzlich bekannt, dass 2023 dank des Einsatzes von KI Schäden in Höhe von 4 Milliarden USD infolge erfolgreicher Betrugsprävention verhindert werden konnten. Eine neue Generation spezialisierter Generativer KI-Agenten, orchestriert auf einer KI-Plattform, ermöglicht nun die Identifikation und das Design neuer Use Cases entlang der Wertschöpfungskette einer Institution. Das Potential von KI ist also noch lange nicht ausgeschöpft! Aber der Einsatz von KI birgt auch Risiken, beispielsweise in Verbindung mit Datenschutz, der Fehleranfälligkeit von KI-Modellen, und im Bereich Cybersecurity. Grundsätzlich gilt: Je autonomer die KI-Systeme werden, desto grösser wird auch ihre Vulnerabilität (Beispiel: «Prompt Injection»-Angriffe). Bei Generativer KI führten Fehlinformationen («Hallucinations») auch in diesem Jahr wieder zu Skandalen, was auch in der Öffentlichkeit breit diskutiert wurde.

Was bedeutet für Sie der verantwortungsvolle Umgang mit KI? Wie kann man sich als Unternehmen auszeichnen? Was macht dieses Gebiet für Sie so spannend?

Das Ziel einer guten AI Governance muss es sein, die Vorteile der Technologie zu optimieren und gleichzeitig die Risiken effektiv zu minimieren. Bei AI Governance geht es um das «Wie» des Einsatzes von KI. Wie wir KI nutzen, betrifft schon heute fast alle Bereiche unseres Privat- und Geschäftslebens. Die Akzeptanz und auch das Erfolgspotential von KI wird auch vom jeweiligen Rechtssystem und der Kultur eines Landes oder einer Region beeinflusst sein. Die Fragen, die bei der Analyse und Bewertung des Einsatzes von KI auftreten, sind sehr interdisziplinär und erfordern eine holistische Perspektive mit einer ausgeprägten strategischen Komponente. Das macht dieses Gebiet so spannend!

KI Innovation, neue, disruptive Generative KI Modelle werden derzeit quasi wöchentlich oder monatlich lanciert. Wie können Sie hier den Überblick behalten und unternehmensweit den verantwortungsvollen Umgang mit KI sicherstellen?

Die aktuelle Geschwindigkeit, mit der Innovation im Bereich Generativer KI auf den Markt kommen, stellt tatsächlich eine Herausforderung dar: Die Technologie wird immer komplexer und anspruchsvoller. Im Vorfeld grösserer Investitionen müssen sowohl der tatsächliche Mehrwert als auch die möglichen Risiken verstanden werden. Gleichzeitig muss man auch sehen: Wir leben in einer unglaublich spannenden Zeit mit disruptiven, transformativen technologischen Entwicklungen. Dies miterleben und mitgestalten zu können ist faszinierend … und setzt definitiv zusätzliche Energien frei!

Wo setzt für Sie der verantwortungsvolle Umgang mit KI ein? Erfolgt eine Prüfung vor der Lancierung eines neuen Produkts, eines neuen Service?

Der verantwortungsvolle Einsatz von KI-Lösungen beginnt idealerweise bereits bei der Entwicklung, der Datenaufbereitung, Modellierung, einer vorausschauenden Risikoprognose, rechtlichen Vorprüfung sowie strategischen Beratung. In diesen Schritten wird beurteilt, wie ein optimales Design des Use Case unter Governance-, Compliance- und Risikomanagement-Aspekten aussehen könnte. AI Governance kann so – früh in den Entwicklungsprozess integriert – einen signifikanten Mehrwert schaffen und verantwortungsvolle Innovation hoher Qualität fördern. Wichtig ist, das AI Governance auch nach der Lancierung über den gesamten Lebenszyklus einer KI-Lösung relevant bleibt, um eine kontinuierlich hohe Sicherheit und Qualität der Resultate zu gewährleisten.

In den verschiedensten Ländern und Regionen entsteht derzeit neue KI-Regulierung. Voraussichtlich weitreichende Implikationen hat der AI Act der Europäischen Union. Wie bewerten Sie dies und was bedeutet diese Regulierungswelle für Ihre tägliche Arbeit?

Tatsächlich besteht derzeit eine hohe Regulierungsdynamik im Bereich AI Governance, sowohl auf nationaler Ebene als auch auf der weltpolitischen Bühne. Man denke nur an die starken Impulse internationaler Organisationen und Institutionen wie den G7, G20, den Vereinten Nationen, die OECD und das World Economic Forum. Wenn man sich die jeweiligen Regulierungsbestrebungen und konkreten Gesetze genauer anschaut, sieht man jedoch eine grosse Konvergenz im Hinblick auf die grundlegenden Prinzipien zum verantwortungsvollen Einsatz von KI: Transparenz, Erklärbarkeit, Robustheit, Sicherheit, Fairness und die Letztverantwortung des Menschen gehören zu den Leitprinzipien des öffentlichen Diskurses und der internationalen Regulierung der KI. Dieser globale Konsens erleichtert die Arbeit auch für in multiplen Jurisdiktionen tätige Organisationen. Nichtsdestotrotz ist die Implementierung verschiedener Regulierungsvorgaben, einschliesslich neuer Reporting-Mechanismen, die beispielsweise der EU AI Act für hochriskante KI-Systeme aufstellt, eine herausfordernde Aufgabe.

Wie sind Sie und Ihr Team in KI-Innovationen involviert?

AI Governance spielt sowohl für intern entwickelte als auch für extern bezogene Tools und Applikationen entlang des Lebenszyklus eines KI-Systems eine wichtige Rolle. Die Zurich engagiert sich traditionell für Innovation im Bereich der Digitalisierung und KI. In diesem Zusammenhang coachen wir auch internationale Start-ups, die für die Zurich relevante, KI-augmentierte Services entwickeln und diese beispielsweise im Rahmen der Zurich Innovation Championships präsentieren. AI Governance ist ein integraler Bestandteil der Wertschöpfungskette mit dem Fokus auf der Förderung verantwortungsvoller KI-Innovationen.

Ihre Spezialgebiete sind äusserst vielfältig. Von künstlicher Intelligenz in all ihren Facetten, über Daten-Governance und -Regulierung, Datenschutz, operatives und digitales Risikomanagement, digitale Transformation, Nachhaltigkeit, sowie Corporate Governance aus der Konzernperspektive. Welches Gebiet interessiert und fordert Sie am meisten?

Tatsächlich ist es so, dass in meinem aktuellen, sehr interdisziplinären Aufgabenspektrum all diese Gebiete relevant und miteinander verknüpft sind. Gerade der nachhaltige Einsatz neuer Technologien wie Generativer KI wird immer relevanter – in den Bereichen Nachhaltigkeit und Technologie besteht hier weltweit ein wichtiges Optimierungspotential. Ein wichtiger Aspekt ist, dass man gerade beim Einsatz von Large Language Models (LLMs) den Energieverbrauch versteht und ohne Qualitätsverluste hinsichtlich Performance und Output auch den Einsatz alternativer KI-Modelle berücksichtigen kann. Einen Beitrag zur nachhaltigen Optimierung von KI zu leisten, liegt mir persönlich sehr am Herzen.

Seit fast einem Jahr sind Sie zudem als Mitglied der AI Governance Alliance (AIGA) für das World Economic Forum tätig. Welche Aufgaben hat dieses Bündnis und was sind Ihre Aufgaben?

Die AI Governance Alliance des World Economic Forum fördert globales Wachstum und wirtschaftliche Prosperität durch KI-Innovationen, wobei der Mensch stets ins Zentrum gestellt wird. Unsere Arbeit fokussiert sich auf verantwortungsvolle und nachhaltige Governance, den Einsatz robuster, sicherer und resilienter Technologie im Einklang mit der Regulierung und technischen Sicherheitsstandards für KI, die wir mitgestalten. In diesem Zusammenhang werden einerseits innerhalb der Alliance Erkenntnisse und praktische Erfahrungen zu AI Governance aus den verschiedenen Industriesektoren ausgewertet. Andererseits arbeiten wir innerhalb des WEF beispielsweise mit dem Cybersecurity Center, dem Financial and Monetary Systems sowie dem Health and Healthcare Center zusammen im Hinblick auf gemeinsame Initiativen für den sicheren und verantwortungsvollen Einsatz von KI.  

Haben Sie keine Angst, dass KI viele Menschen arbeitslos machen wird?

Fei Fei Li, Direktorin des Human-Centered AI Institute (HAI) der Universität Stanford, hat dies aus meiner Sicht einmal sehr gut auf den Punkt gebracht: KI kann zunehmend für Aufgaben eingesetzt werden, die bisher von Menschen durchgeführt werden. KI kann und soll jedoch nicht den Menschen ersetzen.  Auch frühere technische und technologische Revolutionen wie die Industrialisierung Mitte des 19. Jahrhunderts haben den Arbeitsmarkt transformiert, hierbei wurden allerdings auch immer neue Arbeitsstellen geschaffen. KI hat bereits neue Rollenprofile gestaltet und wird weiterhin eine grosse Dynamik auf dem Arbeitsmarkt entfalten. Das wirtschaftspolitische Ziel ist es, dass durch technologische Revolutionen ausgelöste Transformationen insgesamt der Menschheit zugutekommen, wie dies in einer in diesem Jahr veröffentlichten Studie des Internationalen Währungsfonds hervorgehoben wird.

Welche Vorteile bringt KI für Menschen im Allgemeinen und für Firmen?

Das Spektrum der Vorteile und Verbesserungen, die KI für Menschen individuell und die Gesellschaft insgesamt generieren kann, ist sehr weit. Es reicht von der Qualitätsverbesserung von Entscheidungen (Vollständigkeit und Genauigkeit der Informationsgrundlage) über die Vereinfachung unseres Alltags durch KI-Applikationen (Voice Assistants, Logins via Gesichtserkennung, verschiedenste Generative KI-Modelle wie ChatGPT, DALL-E, Gemini, Claude), die uns als Individuen in die Lage versetzen, neue Dinge zu tun und uns zugleich Zeit zurückgeben. Für die Gesellschaft wird KI bereits heute vielfältig für den Klimaschutz eingesetzt (Analyse von Satelliten-Daten, Risiko-Modellierung und Entwicklung effizienterer Umweltschutzmassnahmen). Auch für das Bildungs- und Gesundheitswesen besteht Grund für Optimismus. Richtig genutzt ist das Transformationspotential von KI gesellschaftspolitisch und auch für die verschiedensten Industriesektoren in vielen Bereichen signifikant. Speziell im Versicherungsbereich kann durch traditionelle KI die Risikomodellierung optimiert werden, während Generative KI beispielsweise via Knowledge Bots oder im Bereich der Schadenbearbeitung und Betrugsprävention Effizienzgewinne verschiedenster Art erzielen kann.

KI lernt nicht nur auf Emotionen zu reagieren, sie kann bereits selbst emotional sein. Elon Musk arbeitet an mehreren Robotern. Sein bereits 2-jähriger «Optimus» soll dank seines Gehirns auf Basis der Autopilot-Software(Tesla) einen Vorsprung auf andere Automarken haben. Dieser Roboter wird weitertrainiert und soll zu einem Preis von 20’000 Dollar angeboten werden. Was halten Sie von diesen Entwicklungen?

Es gibt tatsächlich verschiedene Use Cases, wo KI Empathie zeigen können muss: Beispielsweise bei der Entgegennahme von Anrufen bei medizinischen oder Notfall-Hotlines. Hier muss ein KI-System in der Lage sein, die Gefühlslage eines Menschen via sprach- oder gesichtsbasierte Emotionserkennung richtig einzuordnen, um eine der Situation angemessene Antwort zu generieren und hierdurch im Zweifel Leben zu retten. Wichtig ist: Eine KI-basierte Analyse und Handhabung menschlicher Emotionen führt zu grosser Verantwortung. Es handelt sich hierbei um einen höchst sensitiven, zugleich praktisch zunehmend relevanten Bereich. Ganz grundsätzlich glaube ich aber nicht, dass die «Vermenschlichung» von KI-Systemen das Ziel sein sollte. Vielmehr sollte KI eingesetzt werden, um die Qualität menschlichen Lebens in den verschiedensten Bereichen zu verbessern. 

Erzählen Sie uns bitte, wie viele Stunden hat Ihr Tag und wie bringen Sie alles unter einen Hut?

Auch mein Tag hat nur 24 Stunden, und der aktuell rasante technische Fortschritt erfordert eine kontinuierliche Anpassung der Prioritäten. Insgesamt schätze ich mich sehr glücklich, dass ich einer so spannenden Arbeit gemeinsam mit einem fantastischen Team in einem internationalen Umfeld nachgehen und meinen Horizont täglich erweitern kann. 

Wie hilft Ihnen Ihr vielseitiger Hintergrund bei Ihrer Arbeit?

Bei der Analyse von KI-Applikationen, Tools und Use Cases müssen diverse Risikofaktoren wie die Entscheidungsautonomie des KI-Modells, die Modellkomplexität, Datenqualität und Datenschutzaspekte sowie die möglichen Implikationen (finanzielle, operative, strategische Aspekte sowie Reputation) verstanden und adressiert werden. Dies erfordert eine holistische Betrachtungsweise und oft interdisziplinäre Kooperation, wobei mir mein grosses Netzwerk sehr hilft. Wichtig ist die klare Kommunikation oft hochkomplexer Zusammenhänge, um ein gemeinsames Verständnis verschiedenster Stakeholder zu erreichen.

Was tun Sie in Ihrer «Freizeit!»?

Ich liebe die Berge und ziehe mich sehr gerne dorthin zurück, um neue Energie und Inspiration zu finden. Musik, Sport und Kunst sind für mich ebenfalls sehr wichtig – die höchste Priorität meiner knapp bemessenen Freizeit geniesst allerdings die Familie!

Zum Schluss würden wir gerne wissen: Besitzen Sie auch, wie Elon Musk, einen oder mehrere Roboter?

Nachdem wir vor gut 15 Jahren erstmals mit einem Staubsauger-Roboter experimentiert hatten, beschränken wir uns derzeit auf einen Fensterputz-Roboter, der tatsächlich sehr effizient ist. Alle anderen Roboter in unserem Haushalt, die für deutlich komplexere Aufgaben eingesetzt werden können, sind fest im Besitz unserer drei Kinder.

DISCLAIMER:

Dieses Interview reflektiert die persönliche Perspektive von Dr. Lisa Bechtold und nicht notwendigerweise die Perspektive der Zurich Insurance Group.

Dr. Lisa Bechtold, LL.M. (Berkeley), Leiterin der KI-Governance, Zurich Insurance Group

Lisa steuert den sicheren und kundenorientierten Einsatz von KI-Lösungen der Zurich im Einklang mit internationalen Vorschriften, Branchenstandards an der Schnittstelle von Strategie, Risikomanagement und Technologie. Sie kam 2009 zu Zurich und hatte verschiedene leitende Positionen in den Bereichen Group Legal (Corporate Finance, Governance) und Group Risk Management (Digital Risk Governance, Data & AI Risk) inne, bevor sie 2021 als Global Lead AI & Data Governance zu Group Technology & Operations wechselte. Seit 2023 konzentriert sie sich auf die Operationalisierung der Governance von KI-Innovationen.

Bevor sie zu Zurich kam, begann Lisa ihre Karriere als Rechtsanwältin im Bereich M&A und Asset Management in Deutschland und den USA (New York). Sie hat einen Doktortitel in internationalem Recht (Köln), einen LL.M.-Abschluss (Berkeley) und absolvierte ein Weiterbildungsprogramm zum Thema KI an der MIT Sloan School of Management sowie ein Leadership-Programm an der Stanford Graduate School of Business.

Lesen Sie auch: ACHTUNG: KI-Nutzung aus rechtlicher Sicht