Open-Source-Tool verwandelt komplizierte KI in Farben und Formen

Ein Start-up der ETH Lausanne namens L2F (Learn To Forecast) will komplexe KI-Algorithmen durchschaubarer machen. Wie die Hochschule mitteilt, wurde dafür das Tool "Giotto". Dieses stellt die mathematischen Daten eines KI-Prozesses grafisch dar.

"Was KI zu berechnen in der Lage ist, übersteigt oft unser Verständnis und wirft für den Benutzer

Fragen zur Zuverlässigkeit und Vertrauenswürdigkeit auf", wird Matteo Caorsi, wissenschaftlicher Leiter bei L2F, zitiert. Es sei schwierig, den angebotenen Lösungen zu vertrauen oder vorherzusagen, wann diese Algorithmen möglicherweise falsch sein könnten.

Und CEO Aldo Podestà erläutert: "Die Menschen verstehen Formen und Farben besser als Zahlen und Gleichungen. Deshalb glauben wir, dass die Wissenschaft der Formen und die Topologie dabei helfen werden, eine neue Verständigungsmöglichkeit zwischen KI und dem Benutzer zu entwickeln."

Konkret liefert "Giotto" eine Reihe von Tools, mit denen sich die Daten eines KI-Algorithmus in multidimensionalen Graphen darstellen lassen. Damit sollen sich insbesondere die grundlegenden Strukturen in den Daten aufspüren lassen, schreibt die ETH Lausanne weiter. Dadurch würden die Daten wiederum verständlicher und könnten besser extrahiert werden. Es sei nicht nötig, dass der Anwender die Mathematiktheorie beherrsche, um "Giotto" einzusetzen. Die Software sei nutzerfreundlich umgesetzt und soll Längerfristig Wissenschaftlern helfen, maschinelles Lernen etwa in Materialwissenschaften, Neurowissenschaften oder Biologie anzuwenden.

Den Namen verdankt das Projekt dem Maler Giotto di Bondone, der im 13. Jahrhundert als Erster Gemälde mit Perspektiven malte. "Giotto" ist Open Source und kann auf der Projektseite

giotto.ai kostenfrei heruntergeladen, genutzt und verändert werden.

Vertrauen in die KI ist insbesondere bei medizinischen Entscheidungen ein zentrales Thema. Auch hierzu gibt es ein Forschungsprojekt, wie Sie hier lesen können.