ETH und EDA fördern sichere KI für alle

Im Rahmen des World Economic Forum (WEF) in Davos haben die Eidgenössischen Technischen Hochschulen (ETH) Zürich und Lausanne die Gründung des "Pilot Gen AI Redteaming Network" angekündigt. Dabei handelt es sich um ein Forschungsnetzwerk für generative künstliche Intelligenz (Gen AI). Tech-Firmen und öffentliche Forschungsinstitute sollen darin zusammenkommen, um die mit grossen Sprachmodellen verbundenen Risiken zu mindern.

AWS, IBM, Microsoft und Swisscom

Die ETH Zürich nennt auch schon die ersten Firmen aus der Privatwirtschaft, die sich am "Pilot Gen AI Redteaming Network" beteiligen. Dazu gehören etwa Aleph Alpha, AppliedAI Institute for Europe, AWS, Cohere, IBM, Microsoft, Roche, SAP, Swisscom und die Zurich Insurance Group. Die Firmen "werden Szenarien und Bedrohungsmodelle für KI-Modelle mit Forschenden austauschen, damit diese getestet und angegriffen werden können, um potenzielle Schwachstellen aufzudecken", teilt die ETH Zürich mit. Die Informationen über Angriffsvektoren und Abwehrtechniken sollen in einer Datenbank gesammelt werden. "Diese Bemühungen werden auch den Regulierungsbehörden helfen, effektive und standardisierte KI-Tests zu entwickeln", heisst es weiter.

Die Initiatoren des Netzwerks räumen ein, dass Unternehmen und Forschungsinstitute bereits Arbeiten zur Minderung der Risiken von Gen-AI-Tools eingeleitet haben. Diese seien jedoch noch zu fragmentiert.

Geleitet wird die Initiative von Florian Tramèr, Leiter des Secure and Private AI Labs der ETH Zürich, und Carmela Troncos, assoziierte Professorin am Security and Privacy Engineering Laboratory der ETH Lausanne.

KI für alle

Das Netzwerk entstand im Rahmen der Initiative "Swiss Call for Trust & Transparency", an der auch das Eidgenössische Departement für auswärtige Angelegenheiten (EDA) beteiligt ist. Gemeinsam mit den ETHs Lausanne und Zürich hat das EDA auch die Lancierung des International Computing and AI Network (ICAIN) angekündigt, dessen Organisationsstrukturen bis 2025 vollständig aufgebaut sein sollen. Das ICAIN hat es sich zur Aufgabe gemacht, "KI-Technologien zu entwickeln, die einen gesamtgesellschaftlichen Nutzen haben, für alle verfügbar und nachhaltig sind und so dabei helfen, die globale Ungleichheit zu reduzieren", wie die ETH mitteilt.

Warum dies nötig ist, erläutert Alexandre Fasel, Staatssekretär des EDA, wie folgt: "Heute liegen die Kapazitäten zur Entwicklung generativer KI-Modelle vor allem in den Händen von privaten Unternehmen. Dadurch entsteht die Gefahr, dass in erster Linie Lösungen entwickelt werden, die sich schnell monetarisieren lassen und die für Akteure und Akteurinnen in einkommensschwächeren Ländern nicht erschwinglich sind."

In einem ersten Pilotprojekt arbeitet das ICAIN mit Data Science Africa (DSA) zusammen. Dabei geht es darum, mithilfe von KI die Landwirtschaft resilienter gegenüber negativen Auswirkungen des Klimawandels zu machen. Die Ergebnisse der von ICAIN unterstützten Projekte sollen der Allgemeinheit zur Verfügung gestellt und sowohl hinsichtlich der KI-Modelle als auch der Trainingsdaten transparent sein.

Übrigens: Im Dezember 2023 stellten die ETHs Lausanne und Zürich die "Swiss AI"-Initiative vor. Zu ihren Zielen gehört, quelloffene und transparente Large-Language-Modelle zu entwickeln und grundlegende KI-Fragen zu klären. Eine zentrale Rolle spielt ein neuer Supercomputer im Tessin. Mehr dazu erfahren Sie hier.