Hoe Microsoft een oorlog leidt tegen deepfakes
VR Technologie

Hoe Microsoft een oorlog leidt tegen deepfakes

De nieuwe tool van Microsoft detecteert digitale manipulatie in realtime op basis van bijna onzichtbare onvolkomenheden.

Hoe Microsoft een oorlog leidt tegen deepfakes

Geloof het of niet, dit is niet de voormalige Amerikaanse president Barrack Obama. Dit is eigenlijk een video van de veelgeprezen regisseur / schrijver / acteur Jordan Peele die is aangepast om eruit te zien als de 44e president van de Verenigde Staten met behulp van kunstmatige intelligentiesoftware. Ze worden deepfakes genoemd, digitaal bewerkte video’s waarin het gezicht van een persoon wordt vervangen door dat van een ander, en ze beginnen vragen op te werpen met betrekking tot desinformatie en nepnieuws.

Hoe Microsoft een oorlog leidt tegen deepfakes

U heeft deze technologie waarschijnlijk eerder gebruikt. In het afgelopen jaar hebben we verschillende deepfake-video’s online viraal zien gaan, waarvan er vele hilarische face-swaps tussen bekende beroemdheden en andere publieke figuren bevatten; mijn persoonlijke favoriet is de absoluut verbluffende Jennifer Buscemi. Natuurlijk is het, net als elke nieuwe technologie, slechts een kwestie van tijd totdat iemand de macht ervan misbruikt om aan zijn eigen snode agenda te voldoen.

Dat is precies waar Microsoft zich zorgen over maakt in de aanloop naar de monumentale verkiezing van 2020 van dit jaar. Meer specifiek het gebruik ervan als een instrument om desinformatie en nepnieuws te verspreiden door het imago van potentiële kandidaten te manipuleren. In wezen zijn ze bang dat sommige minder eerlijke mensen zullen proberen het imago van bepaalde individuen te schaden door grote groepen te manipuleren met valse informatie. Het is een terechte zorg, vooral als je bedenkt hoe gemakkelijk de video’s te maken zijn. Sommige van de meer vakkundig gemaakte video’s zijn bijna niet te onderscheiden van het echte leven, daarom slaat Microsoft terug met een krachtige eigen technologie.

Eerder deze week kondigde Microsoft de lancering aan van een geheel nieuwe tool die video’s kan identificeren die digitaal zijn gewijzigd met behulp van kunstmatige-intelligentietechnologie. Microsoft Video Authenticator is ontwikkeld als onderdeel van het Defending Democracy-programma van Microsoft en analyseert zowel video’s als stilstaande beelden om tekenen van kunstmatige manipulatie te detecteren, waardoor gebruikers een procentuele verandering of ‘vertrouwensscore’ krijgen op basis van de bevindingen.

Hoe doet het dat precies? Simpel gezegd, de tool scant op kleine onvolkomenheden aan de randen van het onderwerp, waarvan sommige onzichtbaar zijn voor het menselijk oog, waaronder subtiele vervagings- en grijsschaalelementen. Het kan zelfs percentages in realtime weergeven over elk frame terwijl het wordt afgespeeld. Naarmate de deepfake-technologie zich blijft ontwikkelen, zal het bedrijf zoeken naar krachtigere detectiemethoden om de authenticiteit van toekomstige media te waarborgen.

“We verwachten dat methoden voor het genereren van synthetische media steeds geavanceerder zullen worden”, stelt Microsoft in een officiële blogpost. “Omdat alle AI-detectiemethoden uitvalpercentages hebben, moeten we inzicht hebben in en klaar zijn om te reageren op deepfakes die door detectiemethoden heen glippen. Daarom moeten we op de langere termijn zoeken naar sterkere methoden om de authenticiteit van nieuwsartikelen en andere media te behouden en te certificeren. Er zijn tegenwoordig weinig tools om lezers te verzekeren dat de media die ze online zien, afkomstig zijn van een vertrouwde bron en dat deze niet is gewijzigd. “

Het is echter niet alleen Microsoft die deze groeiende epidemie van kunstmatig gemanipuleerde inhoud bestrijdt. Onderzoekers van UC Berkeley ontwikkelen hun eigen methode voor digitaal forensisch onderzoek, waarbij ze meerdere video’s van een onderwerp analyseren met behulp van machine learning-technologie om unieke gezichtsmanieren te identificeren.

Nu meerdere organisaties zich voor het eerst verdiepen in deepfake-detectie, is het duidelijk dat deze voortdurende trend van digitaal gemanipuleerde video’s zich alleen maar zal blijven uitbreiden. Bezoek hier voor meer informatie over Microsoft Video Authenticator en de andere wereldwijde initiatieven van het bedrijf.

LEZEN  ‘Superhot’-ontwikkelaar reageert op vragen over VR-ondersteuning voor aankomend vervolg

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *