Kampen mot deepfakes, hur kan vi bekämpa dem

Kampen mot deepfakes, hur kan vi bekämpa dem

Mitt i den digitala tidsåldern har oro för falska nyheter alltmer uppmärksammats av offentliga organisationer, media och personligheter av alla slag. Inte för ingenting har Fake News haft en viss vikt i viktiga valprocesser som presidentvalet i USA 2016, folkomröstningen om Förenade kungarikets utträde ur Europeiska unionen eller generalerna i Brasilien som gav Bolsonaro seger.

Utan att behöva gå så långt var Facebook i vårt land nyligen tvunget att stänga tre stora högernätverk som genom 30 sidor, grupper och duplicerade konton samlade mer än en och en halv miljon följare och mer än 7 miljoner interaktioner . Dessa grupper var dedikerade till att sprida bluffar och falska bilder.

Men nu står vi inför en annan typ av digitalt hot som genererar ny huvudvärk. Vi pratar om den så kallade Deepfake, en term som härrör från kombinationen av "Deep Learning"  och "Fake". I grund och botten är det en form av artificiell intelligens  som tillåter alla användare att redigera falska videor och ljud från människor som verkar verkliga. För detta används  antagonistiska generativa nätverk (AGR) , en slags algoritm som kan skapa nya typer av data från andra uppsättningar som redan finns.

Kort sagt, "deepfakes" är ytterligare en form av digital manipulation , och en av de mest troliga att användas för "trolling" i bästa fall. Men hur kan vi upptäcka dem? Och framför allt, vad gör privata institutioner och företag för att förhindra dess katastrofala konsekvenser? I denna special kommer vi att granska de ansträngningar som görs för att stoppa denna nya digitala plåga.

Varför är deepfakes så farliga?

”Deepfake” -teknologin gör det möjligt för oss att enkelt ersätta en persons ansikte mot en annans, som om det var en slags digital mask eller mask, för att få oss att tro  att han har sagt vissa saker som egentligen aldrig ägde rum . Som du kan gissa har dessa tekniker en serie ganska betydelsefulla konsekvenser för att bestämma legitimiteten för den information som cirkulerar på internet.

Även om de ofta används för att skapa humoristiska videor, är sanningen att "deepfakes" har en mörk potential att förstöra en persons offentliga image eller att påverka allmänheten genom att använda desinformation. Tyvärr måste vi säga att detta missbruk är mer utbrett än vi skulle vilja, och med enorm framgång bör vi lägga till.

Ett tydligt exempel är i DeepNude-appen, som gjorde det möjligt för dig att ladda upp bilden av en person med kläder och skapa  en ny av samma nakna person . Lyckligtvis är den redan stängd, men vi måste betona den enkla användningen av denna typ av verktyg som ingen redigeringskunskap krävs för eftersom algoritmen själv gör hela jobbet.

deepnude

När det gäller DeepNude erbjöd plattformen otroligt realistiska resultat och var helt tillgänglig via sin webbplats för Windows och Linux . Och som förväntat tog montagen med kändisar som Katy Perry eller Gal Gadot inte lång tid att visas i nätverket, så att trycket från advokaterna från dessa skådespelerskor inte slutade förrän viktiga webbplatser för vuxeninnehåll tog bort videoklippen .

Detta är bara toppen av isberget för den hanteringskapacitet som dessa typer av applikationer kan ha. Föreställ dig nu konsekvenserna av en sådan kampanj riktad mot en viss politisk person för att manipulera en valprocess i ett land eller en region. Det onda känner inga gränser.

djupfake

Hur kämpar man med djupa förfalskningar?

Ett av de första företagen som uttalade sig var ingen ringare än Google, som meddelade sin fasta vilja att bekämpa djupa förfalskningar och, som de säger i dessa fall, släcks brand. Teknikjätten bekräftade lanseringen av en hel databas med upp till 3000 videoklipp som manipulerats med artificiell intelligens (deepfakes) som har skapats specifikt för att förfina forskarnas detekteringsverktyg.

För att göra detta har Google anställt riktiga skådespelare för att spela in sina ansikten och använda dem som referenspunkt för att avgöra om en video har ändrats artificiellt. Med hjälp av deepfake-genereringsmetoder tillgängliga för alla skapas tusentals deepfakes från dessa inspelningar.

De resulterande videorna, riktiga och falska, laddas upp till den samarbetsvilliga utvecklingsplattformen GitHub så att forskare förstår vad systemet producerar. Denna databas är, som vi säger, helt tillgänglig, även om de först måste ge dig tillstånd .

För sin del planerar Facebook också att skapa en liknande databas i slutet av detta år. Enligt verkställande direktören Mark Zuckerberg är huvudproblemet att  branschen inte har ett standardiserat system för att upptäcka dem . Det är därför det har samarbetat med Association of AI, Microsoft och akademiker från Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park och University of Albany-SUNY för att bygga Deepfakes Detection Challenge. (DFDC för dess förkortning på engelska).

Detta makroprojekt kommer att innehålla en omfattande databas och en detaljerad klassificering , förutom ekonomiskt stöd och donationer för att uppmuntra så många medarbetare som möjligt. Tanken är att skapa ett slags samhälle som hjälper till att upptäcka och undvika manipulerade videor genom en AI.

Det råder ingen tvekan om att spridningen av "deepfakes" har blivit en mycket allvarlig fråga med allvarliga konsekvenser som inte kan ignoreras. Även om de åtgärder som de viktigaste agenterna föreslår för denna sak kan verka opraktiska eller till och med kontraproduktiva på lång sikt, kan de vara det enda sättet att utrota detta brott. Även om det kan verka kontraintuitivt, kan bekämpning av "deepfakes" med mer "deepfakes" hjälpa detekteringsverktyg att absorbera mer data för att hjälpa dem lättare att hitta dessa typer av montage .