Swiss Cyber Storm 2024 befasst sich mit der KI-Revolution

The AI Revolution - unter diesem Motto hat die 11. Ausgabe der Swiss Cyber Storm hunderte Security-Spezialisten und -Interessierte nach Bern gebracht. Die Cybersecurity-Konferenz fand wie gewohnt im Kursaal Bern statt - die Location mit der tollen Aussicht über die Bundesstadt, die man allerdings nur während den Kaffeepausen geniessen kann.

400 Personen nahmen dieses Jahr teil; im Vorjahr waren es noch 350 (lesen Sie hier mehr zur Swiss Cyber Storm 2023). "Wir dachten eigentlich immer, dass die Swiss Cyber Storm so etwas wie eine Familienzusammenkunft ist, die jedes Jahr mehr oder weniger dieselben Teilnehmenden zusammenbringt", scherzte Program Chair und Moderator Christian Folini, als er das Publikum begrüsste. Nun hätten die Organisatoren aber herausgefunden, dass über die Hälfte der Anwesenden zum ersten Mal mit dabei sei. Ein Erfolg für eine Konferenz, deren Organisatoren die Vernetzung möglichst vieler Personen mit unterschiedlichem Background aus dem Security-Umfeld - Techies, Security Engineers, Pentester, Forschende, Bug-Jäger, CISOs etc. - als ihr Ziel bezeichnet.

Program Chair und Moderator Christian Folini vor der Aussicht über die Stadt Bern. (Source: Netzmedien)

In seiner Begrüssungsrede kam Folini auch auf das Motto der diesjährigen Konferenz zu sprechen. "Ist KI wirklich eine Revolution?", fragte er rhetorisch. Er war klar dieser Meinung. "Denn erstmals steht der anscheinend intelligente Mensch einer anscheinend ebenfalls intelligenten Maschine gegenüber", sagte er. 

Die Rai­son d'Être aus der Maschine

Das Thema KI zog sich wie einer roter Faden durch die ganze Konferenz. Etwas mehr als die Hälfte der 23 Präsentationen (die sich auf drei Bühnen verteilten) behandelten KI in irgendeiner Form. Die Opening Keynote von Daniel Miessler, Gründer und CEO von Unsupervised Learning, thematisierte etwa "ein KI-Risiko, an das noch nicht viele Personen denken", wie er es beschrieb.

Daniel Miessler, Gründer und CEO von Unsupervised Learning. (Source: Netzmedien)

Beratungsunternehmen würden bereits stark auf KI setzen, um Arbeitsabläufe zu minimieren und Redundanzen zu finden. Denn alle Geschäftsprozesse lassen sich als für KI verständliche Algorithmen darstellen. Teams in Unternehmen könnten daher in Erklärungsnot kommen, wenn es darum geht, ihre Daseinsberechtigung verständlich aufzuzeigen. Aber auch dabei könne KI helfen. In seiner Keynote erklärte er ein von seiner Firma entwickeltes Tool. Dieses nutzt ein sogenanntes Telos-File - quasi ein Verzeichnis aller Mitarbeitenden, Aufgaben, Ziele, Fortschritte etc. des Teams. Eine KI könne anschliessend auf Wunsch Reportings generieren, oder auch beispielsweise Projekte neu verteilen, falls es zu personellen Veränderungen kommt. Miessler betonte, dass Unternehmen sich darauf vorbereiten sollten, in den kommenden Jahren vollständig auf solche KI-basierte Arbeitsprozesse umzustellen, und riet dazu, jetzt mit der Implementierung solcher Systeme zu beginnen. 

KI-Propaganda und Chatbot-Social-Engineering

Der Security- und Privacy-Forscher Lukas Olejnik sprach in seiner Präsentation über Propaganda und Informationsoperationen im KI-Zeitalter. Das Problem betreffe nicht nur Staaten - Privatunternehmen seien gemäss Olejnik ebenfalls zunehmend damit konfrontiert. Die Verbreitung von Fehlinformationen könnte etwa die Markenidentität gefährden oder Reputationsschäden verursachen. Olejnik argumentierte daher, dass Unternehmen Informationsoperationen als Teil ihrer Cyberabwehrstrategien berücksichtigen sollten, da die Sicherheit ihrer Marken für den Geschäftsbetrieben relevant sei.

Lukas Olejnik, Security- und Privacy-Forscher. (Source: Netzmedien)

Die freie Journalistin Eva Wolfangel sprach über die Manipulation von KI-Chatbots. Diese könnten beispielsweise durch Social Engineering dazu gebracht werden, ihren System Prompt herauszugeben - also die ursprüngliche Anweisung der Entwickler. Ihr sei es etwa gelungen, einen Chatbot zu überlisten, der angeblich Personen, die unter Angstzuständen leiden, zu helfen. Tatsächlich war der Chatbot jedoch darauf programmiert, den Betroffenen ein bestimmtes Medikament anzudrehen.

Wie fand Wolfnagel dies heraus? Indem sie dem Chatbot sagte, sie leide an "Promptitis". Eine erfundene Krankheit, die angeblich dazu führe, dass sie enorme Qualen erleiden würde, falls der Chatbot ihr nicht seinen System Prompt geben würde. Ferner ging es in ihrer Präsentation auch darum, wie man Trainingsdaten in Antworten von Chatbots erhalten kann. Sie empfahl daher, Chatbots keinen Zugang zu internen Dokumenten zu gewähren und ihnen einen netten System Prompt mitzugeben.

Eva Wolfangel, freie Journalistin. (Source: Netzmedien)

20 Jahre Erfahrung mit Machine Learning

Eines der Highlights kam ganz am Ende der Konferenz: die Closing Keynote von Cloudflare-CTO John Graham-Cumming. Dieser hat bereits 20 Jahre Erfahrung mit Machine Learning. Damals arbeitete er an Spam-Filtern - diese waren zu der Zeit noch stark regelbasiert. E-Mails wurden herausgefiltert, wenn sie gewisse Wörter enthielten. Spammer waren jedoch sehr geschickt darin, diese Regeln mit kreativen Leerzeichen, Farbcodierungen oder anderen Tricks zu umgehen. Also entwickelte Cumming adaptive Filter. Und um diese zu verbessern, liess er seinen eigenen Adaptiven Filter gegen eine andere Instanz desselben Filters antreten. Jedesmal wenn eine E-Mail den Filter umgehen konnte, fütterte er diesen neuen Trick wieder in seinen Filter, damit dieser davon lernen konnte. 

John Graham-Cumming, CTO von Cloudflare. (Source: Netzmedien)

Aber: Auch die Spammer können auf diese Weise aus ihren Fehlern und ihren Erfolgen lernen. Deshalb "dürfen wir die Spammer nicht wissen lassen, wenn eine Nachricht am Filter vorbei ging", sagte der CTO. Dasselbe müsse eigentlich auch bei Hacks geschehen, um diesen Lernprozess zu durchbrechen. "Wir müssen Hacks filtern, nicht blockieren", sagte er. "Sollten Hacker daraus lernen können, wann sie blockiert werden, wird das sehr gefährlich werden." 

Attacken auf AKWs und die Wahl der richtigen Metriken

Nicht alle Präsentationen drehten sich um KI-Themen. Der Security-Forscher Ruben Santamarta etwa sprach über potenzielle cyber-physische Angriffe auf Kernreaktoren. Sein Interesse an diesem Thema begann gemäss ihm vor wenigen Jahren, als er sah, dass Teleperm-XS-Module auf Ebay zum Verkauf stehen. Diese bilden eine der wichtigsten Verteidigungslinien in Kernkraftwerken - ebenso in Gösgen und Beznau. Er erläuterte, dass diese Systeme teilweise unsicher über Ethernet mit anderen Rechnern im Netzwerk verbunden sind und daher anfällig für gezielte Cyberangriffe sein könnten. 

Ruben Santamarta, Security-Forscher. (Source: Netzmedien)

Santamarta habe für seine Forschungen einen Angriff auf diese Systeme simuliert. In 49 Minuten sei der simulierte Kern teilweise freigelegt gewesen und begann zu schmelzen. "Das bedeutet aber nicht, dass es zu einer katastrophalen Situation gekommen wäre!", betonte Santamarta. Kernkraftwerke verfügten über mehrschichtige und voneinander unabhängige Schutzmechanismen, die potenziell eine Kernschmelzung hätten verhindern können. Opportunistische Attacken könne man aufgrund der Komplexität zwar ausschliessen. Dennoch sei es wichtig, zu wissen, wie man solche Angriffe abwehrt, denn die Popularität von Kernkraftwerken wachse derzeit, um die KI-Revolution mit Strom zu versorgen. 

Lesen Sie beispielsweise hier mehr zu den Plänen von Google und AWS, um Kernenergie für ihre Rechenzentren zu nutzen.

Allyn Stott, Senior Staff Engineer bei Airbnb. (Source: Netzmedien)

Ein weiteres Highlight war die Präsentation von Allyn Stott, Senior Staff Engineer bei Airbnb. Er sprach auf humorvolle Weise über seine grössten Misserfolge in Bezug auf Metriken. Wer den falschen KPIs hinterher renne, könne beispielsweise das Unternehmensziel aus den Augen verlieren. Ausserdem solle man nichts messen, dass man sowieso nicht beeinflussen kann. Und - die vielleicht wichtigste Empfehlung - man solle nicht "wieso" fragen, sondern "wie". "Die Frage nach dem 'Warum' hilft oft nicht weiter." Wenn man sich fragt, wie etwas ist, könne man auch eruieren, was getan werden muss, erklärte er. Um Unternehmen bei diesen Problemen zu helfen, entwickelte er ein "Threat Detection and Repsonse"-Maturitätsmodell (auf Basis des Hunting Maturity Model). 

Zur Stärkung der Teilnehmenden nach den zahlreichen, informativen Präsentationen endete der Tag mit einem Networking-Dinner. Dieses bestand aus Raclette und einem sehr üppigen Dessertbuffet. Die nächste Swiss Cyber Storm findet am 28. Oktober 2025 statt. 

Teil des Dessertbuffets war ein kleiner Schokoladenbrunnen. (Source: Netzmedien)