Geloof niemand: wat bedreigt het neurale netwerk, het maken van porno
Dmitry Kurkin
Nep porno video'swaarin de ster van de film "Wonder Woman" Gal Gadot naar verluidt seks had met zijn stiefbroer, die deze week op het web verscheen, bleek niet alleen een nepproduct, maar een nepproduct van kunstmatige intelligentie.
De auteur van de video, een anonieme gebruiker van reddit met de bijnaam deepfakes, bevestigde in een interview met Vice dat hij het neurale netwerk gebruikte om het gezicht van Gadot te "fotograferen" met het lichaam van de pornoactrice. De nep is over het algemeen merkbaar en de deepfakes waren niet van plan er geld mee te verdienen - volgens hem wilde hij alleen maar controleren hoe gemakkelijk het zou zijn om het met behulp van AI te maken. En hij heeft slecht nieuws voor ons: het was heel gemakkelijk om valse porno thuis te maken.
Over het algemeen zit het probleem niet in pornofeaks: de vraag naar foto's en video's, waar beroemdheden als acteurs en actrices seks hebben, was, is en zal bij de fetisjisten en fans van sensaties zijn. Over de externe gelijkenis met de sterren in de porno-industrie, worden hele carrières gemaakt - dit fenomeen heeft zelfs geleid tot een uitstekende kop van de gele pers: "Gordon Ramsay-dwerg wordt dood gevonden in een dasgat".
Maar als vóór de productie tijd, middelen en wat vaardigheid nodig was, vereenvoudigde een neuraal netwerk, getraind om gezichten naar een afbeelding te lassen, de taak aanzienlijk. Er komen robots bij, geen man, en robots worden van tijd tot tijd slimmer, wat betekent dat namaakgoederen er steeds betrouwbaarder uitzien. De deepfakes-gebruiker verduidelijkte dat hij zijn AI-software verzamelde van de geïmproviseerde elementen in de open source-bibliotheken en foto's en video's maakte in publieke riolen en hosting zoals YouTube. Simpel gezegd, alle tools voor het genereren van pornofeikov lagen onder zijn neus, niet alleen met hem, maar ook bij miljoenen mensen over de hele wereld.
En dit, strikt genomen, zelfs geen nieuws. In 2003 waarschuwden experts van de University of Oregon Health and Science dat audiofraude "gemakkelijk te maken en moeilijk te bepalen zijn". Tegen 2017 is de voorspelling uitgekomen en er waren valse spraakopnamen gegenereerd door neurale netwerken, die erg moeilijk te onderscheiden zijn van echte. Na het beluisteren van de audio is de video gestopt. De ontwikkeling van de staf van de Universiteit van Washington synchroniseert de gelaatsuitdrukkingen van iemands gezicht met zijn spraak: in de videoclip met bijvoorbeeld Barack Obama is alleen audio aanwezig, de foto wordt gegenereerd door het programma. Verbind de een met de ander - en nu zijn er klaar valse video's, waarin bijvoorbeeld een bekende liberale politicus zijn sympathieën voor Hitler "bekent".
Het vergt nogal wat verbeeldingskracht om je voor te stellen hoe misbruik van kunstmatige intelligentie kan leiden tot - de chatbots van Microsoft, die de trollen van Twitter binnen een dag tot racist hebben gemaakt, zullen een mooie grap lijken. En natuurlijk wordt de Porno-technologie niet primair bedreigd door Gal Gadot, Taylor Swift of Jennifer Lawrence. Ze zijn voldoende beveiligd om een leger van IT-specialisten in te huren die een neppe herkennen, en een vloot van advocaten die iedereen aanklagen die deze vervalsingen probeert te gebruiken voor persoonlijk gewin.
Nee, eenvoudige stervelingen zullen het slachtoffer worden van nieuwe onschadelijke algoritmen. Digitale vervalsingen kunnen worden gebruikt voor pornografie, cyber-stalking, netwerkpesten, chantage en manipulatie door mensen die gemakkelijk te suggereren zijn en niet speciaal nieuws volgen op het gebied van geavanceerde technologieën ("Uw dochter is op video opgenomen, direct geld overmaken, anders wordt ALLES zichtbaar"). En we hebben het niet noodzakelijkerwijs over porno: vervalsingen kunnen ook in het netwerk worden gelanceerd voor politieke propaganda en het aanzetten tot haat.
"Maar dit is monsterlijk!" Ja, monsterlijk, en het is niet de deepfakes-codeur die de schuld heeft. Omdat hackers soms inbraken in banksystemen niet om geld te stelen, maar om de cyberdefensie-afdeling te wijzen op veiligheidslekken, zo werd het uitgevonden door een anonieme AI-programmeur die ons alleen maar voor de feiten plaatst: het tijdperk van digitale vervalsingen is geen anti-utopisch horrorverhaal "Black Mirror", en de komende realiteit. Ze is nog niet begrepen door de moderne ethiek (kunnen pornofielen worden beschouwd als een inbreuk op de privacy van andere mensen?), Noch door de geldende wetgeving. Maar het is in haar dat we de komende jaren op een of andere manier moeten leven. Het is dus noodzakelijk om een tegengif tegen dergelijke vulling te ontwikkelen.
Collins woordenboekcuratoren noemden de term 'nepnieuws' de uitdrukking van 2017, waarmee wordt benadrukt dat de gemiddelde gebruiker verslaafd is aan clickbate en sensationele koppen opnieuw plaatst zonder tijd te verspillen aan het controleren van de authenticiteit van de informatie. Ondertussen kan nepnieuws de resultaten van verkiezingen en referenda beïnvloeden. En dit is ook een deel van de nieuwe realiteit waarin we al bestaan en waarin we moeten leren minder frivool te zijn.
Sociale netwerken hebben internet al tot een huis met glazen wanden gemaakt waar miljoenen mensen elke dag naar je leven kunnen kijken - zelfs als je het niet wilt. Nu is het duidelijk dat er geen deur in dit huis is: iedereen kan proberen je persoonlijke ruimte binnen te vallen, door AI te gebruiken om je gezicht te neuken op de pornorol of de film "The Lord of the Rings". Privacy is dood, maar niet alleen Big Brother is hier schuldig aan in de vorm van speciale diensten en wereldwijde bedrijven, maar ook onszelf.
De wereld van digitale vervalsingen komt eraan, maar dit is geen reden voor paniek, paranoia, weigering om internet te gebruiken of de vereisten om neurale netwerken te verbieden. Dit is een reden om na te denken over netwerkhygiëne en nieuwe ethiek, waarin voor eens en voor altijd wordt vastgesteld dat het gebruik van het imago van een ander om een digitale nep te maken verwerpelijk en illegaal is. De tijden waarin mensen onvoorwaardelijk geloofden dat alles wat ze op tv zeggen (zelfs als ze zeggen dat "Lenin een paddenstoel was") vervagen. Op dezelfde manier wennen we ons geleidelijk aan om alles te geloven wat op het internet staat geschreven.
Cover:Warp-records