Microsoft will gegen Deepfakes und Desinformation vorgehen

Microsoft hat zwei Tools angekündigt, mit denen das Unternehmen gegen Deepfakes und Desinformation aus dem Netz vorgehen will. Gemäss Blogeintrag sind die Technologien Teil von Microsofts Defending-Democracy-Programm, mit dem das Unternehmen die Bekämpfung von Desinformation sowie auch den Schutz demokratischer Prozesse und beteiligter Personen vorantreiben will.

Mit Video-Authentifizierung gegen Deepfakes

Das eine der angekündigten Tools nennt Microsoft den Microsoft Video Authenticator. Es soll Deepfakes entlarven. Dabei handelt es sich um Bilder oder Videos, die jemand mithilfe von künstlicher Intelligenz manipuliert hat. Auf dem Video sieht es dann etwa so aus, als würde eine Person etwas sagen, das sie in der Realität nie gesagt hat. Oder die Person ist auf dem Video an einem Ort, an dem sie gar nicht gewesen ist. Hier soll der Video Authenticator Abhilfe schaffen. Er sei in Zusammenarbeit mit der AI Foundation entwickelt worden und könne Standbilder sowie Videos analysieren. Das Programm liefert eine prozentuale Wahrscheinlichkeit der Echtheit des Inhalts. Bei einem Video werde die Wahrscheinlichkeit jedes einzelnen Frames bewertet. Das Tool erkennt die Mischgrenze der Deepfake- und subtilen Fading- oder Graustufenelemente, die vom menschlichen Auge nicht erkannt werden können.

Mit der zweiten Technologie von Microsoft sollen Nutzer die Authentizität von Inhalten bestimmen können. Dazu sei in Azure ein Tool integriert, mit dem der Produzent des Inhalts Hashes und Zertifikate als Metadaten hinzufügen kann. Ein Reader, der als Browser-Erweiterung oder in anderen Formen vorliegen kann, überprüft diese Zertifikate und Hashes dann. So können Nutzer dank des Readers mit einem hohen Mass an Genauigkeit davon ausgehen, dass die Medien, die sie betrachten, von einer vertrauenswürdigen Quelle stammen und nicht verändert wurden. Ausserdem liefert das Tool gemäss Blogeintrag Details zu dem, der die Inhalte produziert hat.

Die Technologien sollen zum neuen Standard werden

Die Partnerschaft mit der AI Foundation ist laut Microsoft nur eine von mehreren, die das Unternehmen im Rahmen dieses Projekts eingegangen ist. Es ist ausserdem eine Partnerschaft mit einem Konsortium von Medienunternehmen eingegangen, darunter auch BBC und die New York Times. Dieses testet die Authentifizierungstechnologie und steuert somit zu deren Entwicklung bei. So soll sie zu einem Standard werden, der auf breiter Basis übernommen werden kann.

Die Trusted News Initiative, zu der eine Reihe von Verlagen und Social-Media-Unternehmen gehören, hat sich ebenfalls dazu bereiterklärt, sich mit der Technologie zu befassen. Microsoft hofft gemäss Blogeintrag, die Arbeit in diesem Bereich künftig auf noch mehr Technologieunternehmen, Nachrichtenverlage und Social-Media-Unternehmen auszuweiten.

Schliesslich arbeite Microsoft auf mit der University of Washington, Sensity und USA Today zusammen, um die Medienkompetenz der Bevölkerung zu erhöhen.

Die Swisscom schneidet Microsoft Azure jetzt für KMUs zu. Mehr darüber erfahren Sie hier.