Asiantuntijat herättävät epäilyjä siitä, että tekoälyä käytettiin sellaisen videon luomiseen, jota poliisi kutsuu 'syvävalehteluksi' ja joka on Pennsylvaniassa käynnissä olevan oikeudellisen taistelun keskipiste.
optad_b
Tapaus tuotti kansainvälisiä uutisia viime kuussa sen jälkeen, kun lukion cheerleaderin äitiä syytettiin kuvien ja videoiden manipuloinnista, jotta saataisiin näyttämään siltä, että tyttärensä kilpailijat juovat, tupakoivat ja poseeraa alastomana.
Äiti, 50-vuotias Raffaela Spone, lähetti väitetyn sisällön tuntemattomasta numerosta kolmelle cheerleaderille ja heidän valmentajilleen.
Bucksin piirikunnan asianajajavirasto, joka syytti Sponea kolmesta lapsen verkkohäirinnästä ja kolmesta häirinnästä, viittasi termiin deepfake keskustellessaan kuvista sekä videoon, joka kuvasi väitetyn uhrin höyryä.
Mutta syytös herättää vakavia kysymyksiä lainvalvontaviranomaisten ymmärryksestä syvähaitoteknologiasta ja tiedotusvälineiden halukkuudesta toistaa väitteensä ilman todentamista.
Vaikka syyttäjät eivät ole esittäneet yksityiskohtia, työkalut, jotka on suunniteltu saamaan naiset näyttämään alastomilta kuvissa tekoälyn (AI) avulla ovat olemassa . Sen sijaan väitetty höyryävä video on herättänyt merkittävää palautetta syväfake-asiantuntijoilta.
Vaikka väitetty syväfake ei ollut alun perin ollut saatavilla yleisölle, NBC News sai viime kuussa matkapuhelintallennuksen toisesta höyrykuvaa toistavasta laitteesta, kun yksi väitetyistä uhreista tuli esiin.
Madi Hame, 17-vuotias cheerleader Victory Vipers -joukossa, kielsi NBC Newsille, että kuvassa todellakin näkyi hänen höyrystyminen. Hame sanoo saaneensa tiedon videosta sen jälkeen, kun Spone on lähettänyt sen hänen cheerleading-valmentajilleen.
'Luulin, että jos sanoisin sen, kukaan ei uskoisi minua, koska ilmeisesti on todisteita, video on olemassa - mutta tietysti sitä videota manipuloitiin', Hame kertoi NBC Newsille.
Daily Dot otti yhteyttä Hameen äitiin Jenniferiin, joka esiintyi Hameen rinnalla NBC News -haastattelussa tiedustellakseen höyryävasta videosta, mutta ei saanut vastausta lehdistötyöhön mennessä.
Isossa-Britanniassa toimiva syväfake- ja synteettisen median asiantuntija Henry Ajder oli yksi ensimmäisistä, joka nosti esiin kysymyksiä höyrystyvästä videosta sen jälkeen, kun ABC News esitti samanlaisen raportin.
'Minulla oli varauksiani siitä, kuinka äiti teki syväpeliä tyttärensä cheerleading-kilpailijoista', Ajder twiitti viime kuussa. 'Yksi ABC: n julkaisemista videoista ei näytä olevan syvä väärennös, mutta ne silti merkitsevät sen yhdeksi ilman merkittäviä todisteita tai analyyseja.'
Muilla syväfake-asiantuntijoilla näyttää olevan samat huolenaiheet. Suosittu deepfake-luoja, joka tunnetaan verkossa lempinimellä Tohtori Fakenstein - joka työskentelee tällä hetkellä tekoälytaiteilijana komediaesityksessä Sassy Justice kehitti South Parkin luojat Trey Parker ja Matt Stone - kertoi Daily Dotille, ettei höyryävä video näyttänyt olevan keinotekoisesti tuotettua.
Tohtori Fakenstein totesi, että videosta puuttui tiettyjä virheitä, jotka näkyvät melkein aina syvissä väärennöksissä, kun toinen esine estää kasvoja.
'On vaikea nähdä, koska se on video videosta, mutta se ei näytä minulta syvän väärennöksen', he sanoivat. 'Valo muuttuu kuin se on luonnollista, ei jumittumista käden peittävien alueiden ympärillä, ei häiriöitä, kun vape-pilvi menee kasvojen eteen, mikä on erittäin vaikeaa, ellei mahdotonta tehdä ilman häiriöitä.'
Daily Dot otti yhteyttä Hilltown Townshipin poliisilaitos , joka tutki ja myöhemmin suoritti pidätyksen Sponeä vastaan tiedustellakseen höyrykuvasta.
Poliisipäällikkö Christopher Engelhart totesi uskovansa, että Sponea vastaan esitetyt laskutusasiakirjat eivät merkinneet videota lopullisesti syvävaletelmaksi.
'Ymmärrän, että se on lueteltu joko syväfake tai vastaava tekniikka', Engelhart sanoi.
vuonna rikosvalitus Sponea vastaan Hilltownin kaupungin poliisivirkailija Matthew Reiss viittaa höyryttävään videoon 'ohjelman, joka on tai on samanlainen kuin' Deep Fakes ', työ.'
Kun Engelhart kysyi, oliko osasto viihdyttänyt mahdollisuutta, ettei höyryävä video ole lainkaan syvävalhe, hän ilmoitti olevansa epävarma siitä, oliko väitetyn uhrin tai poliisin esittämä videon kuvaamiseen käytetty terminologia.
Engelhart väitti edelleen, että tutkijat olivat tehneet rikosteknisen analyysin videosta selvittääkseen, että sitä oli manipuloitu.
'Väite on, että kyseinen uhri ei höyrynyt', Engelhart lisäsi. 'Väite on, että hän [Spone] pystyi manipuloimaan sitä saadakseen vaikutelman, että hän höyrysi.'
Asiantuntijat ovat kuitenkin skeptisiä, että jopa parhaat deepfake-tekijät voisivat tuottaa niin vakuuttavan videon, puhumattakaan Sponesta. Kun Engelhartilta kysyttiin, oliko 50-vuotias äiti mahdollisesti saanut apua syväfake-luojalta, hän totesi, että vaikka se onkin mahdollista, mikään todiste ei tällä hetkellä viittaa siihen, että Sponella olisi ollut avustaja.
Derpfakes, toinen tunnettu syväfake-taiteilija, jonka luomukset ovat kerääntyneet miljoonia näkymiä verkossa, katsoi myös NBC Newsin esittämän höyryävän videon ja kertoi Daily Dotille, etteivät he voineet sanoa varmasti, että sitä oli manipuloitu.
'Tahtoisin sanoa, että se on aito', Derpfakes sanoi. 'Jos kyseessä on syvä väärennös, se vaati tietyn tason visuaalisia tehosteita kuin valmiita syvävääriä ohjelmistoja.'
Aikana lehdistötilaisuus viime kuussa Bucksin piirikunnan asianajaja Matt Weintraub näytti ehdottavan, että höyryävä video perustui uhrin sosiaalisen median tilien olemassa olevaan kuvamateriaaliin.
'Videot tai kuvat olivat jo jossakin muodossa ja sitten väitteemme - tämä on tietysti todistettavissa oikeudenkäynnissä, hän on syytön, kunnes syyllisyytensä osoitetaan - mutta väitteemme on, että rouva Spone otti olemassa olevista kuvista olemassa olevasta sosiaalisesta mediasta näistä kolmesta uhrien olemassa olevia sosiaalisen median tilejä ja manipuloinut heitä ”, Weintraub sanoi.
Lausunto on samanlainen kuin Engelhartin Daily Dotille esittämät väitteet, joiden mukaan Spone väitti käyttäneensä laillista videota perusteeksi väärennökselle. Poliisi ei tiennyt, onko väitetyn uhrin kasvot lisätty videoon toisesta nuoresta naisesta höyrystymisestä vai onko höyrytyskynä ja savu lisätty digitaalisesti väitetyn uhrin lailliseen videoon.
Asiantuntijat ovat skeptisiä siitä huolimatta, että kumpikin skenaario kuvaa tarkasti kuvaa.
Näkyvä syväfake-luoja tunnetaan nimellä Shamook , jonka videoita on katsottu pelkästään YouTubessa yli 21 miljoonaa kertaa, väitti, että vaikka höyryävän videon resoluutio on 'erittäin matala, se on aivan liian puhdasta ollakseen syvä väärennös'.
'Minun näkökulmastani se ei ole syvä väärennös', Shamook kertoi Daily Dotille. 'Vape: n savua olisi liian vaikea luoda ... En vain näe mitään uskottavaa näyttöä siitä, että se on syvä väärennös.'
Weintraub totesi myös lehdistötilaisuuden aikana, että tutkijat totesivat, että höyryävän videota oli manipuloitu analysoituaan sen 'metatiedot', termi, joka viittaa upotettuihin tietoihin digitaalisessa mediassa, joka voi paljastaa, miten ja milloin sitä viimeksi muokattiin.
Mutta otettuaan yhteyttä Sponeen tutkineen virkamiehen Reissin kanssa Daily Dot sai tietää, että poliisi ei koskaan saanut alkuperäistä höyryvideota. Sen sijaan, kuten NBC Newsissa nähtiin, poliisilla oli pääsy vain Sponen ottamaan matkapuhelintallenteeseen erillisellä laitteella toistettavasta höyryvideosta. Metadata-analyysi ei siten sisältäisi tietoja lähdevideoon.
Vastauksena kysymyksiin siitä, miten olisi voitu todeta, että höyrykuvaa manipuloitiin ilman pääsyä alkuperäiseen videoon, Reiss väitti pystyvänsä näkemään 'paljain silmin' elementtejä, joilla 'ei ole järkeä'.
'Lähde siitä, mistä rouva Spone keksi videon, on edelleen kysymys', Reiss sanoi. 'Ja toivomme, että rouva Spone valaisee meitä alustavan kuulustelun tai oikeudenkäynnin aikana siltä osin kuin hänen lähteensä ja aikomuksensa olivat.'
Reiss totesi lopullisesti, että 'tekoälyä käytettiin' valokuvissa, jotka saivat useat cheerleaderit näyttämään alastomilta, mikä olisi linjassa nykyisen tekniikan kanssa, joka on suunniteltu tekemään juuri tämä. Näiden muutettujen valokuvien olemassaolo näyttää lisäksi olevan täydellinen perusta uskomukselle, että kuvamateriaalia manipuloitiin, vaikka väitetty uhri kieltäytyi hänen ilmeisestä sisällyttämisestä höyryvideoon, vaikka mitään teknistä todistetta ei toistaiseksi tue vaatimus.
Laskutusasiakirjoissa mainitusta sanasta 'deepfake' näyttää olevan tullut yleinen termi poliisin, piirioikeuden toimiston ja tiedotusvälineiden keskuudessa keskustellessaan kaikesta tapaukseen liittyvästä digitaalisesta sisällöstä.
Sponen seuraava oikeudenkäynti on tarkoitus pitää 14. toukokuuta, jossa Reiss sanoo, että lisätietoja tutkimuksesta julkistetaan.
Vaikka uudet todisteet voivat muuttaa tapausta, käsitys siitä, että poliisi saattaa viitata virheellisesti aitoun videoon manipuloidusti, ei ole mahdollisuuden ulottumattomissa.
Vieläkin hankalampaa näyttää siltä, että yksikään tiedotusväline ei yrittänyt varmistaa, että höyrykuva oli todella syvä väärennös, ennen kuin se lähetti vaatimuksen miljoonille amerikkalaisille.
Median mahdollinen väärä vaihe ja mahdollisuus, että rikosoikeusjärjestelmä voisi soveltaa lakeja väärin väärennöksiksi väärin pidettyihin videoihin, on huolestuttavin asiantuntijoista eniten.
'Pelottavaa, vaikka se ei olisikaan väärennös', Shamook lisäsi. 'Tämä voi olla alku ihmisille, jotka pystyvät pilkkaamaan todellisia todisteita yksinkertaisesti sanomalla' syvävalhe '.'
Höyryttävä video syrjään, muut Sponea vastaan esitetyt väitteet, jos totta, ovat edelleen täynnä ja pelottavia. Mutta häntä vastaan nostetun tapauksen seuraukset, jos ne luottavat edes osittain epätarkkoihin tietoihin, voivat aiheuttaa vaarallisia seurauksia manipuloidun (ja manipuloimattoman) median maailmassa.
Tämän viikon huipputeknologiatarinoita
'Väsynyt näkemään rikollisia kirkastetuksi': Poliisit ympäri maata lahjoittavat varainhankintaan Breonna Taylorin tappaneelle upseerille |
FCC on umpikujassa. Milloin Biden lopulta korjaa sen? |
Meemivarkaat F * ck Jerry otti melkein miljoona dollaria koronaviruksen helpotusta |
Tervetuloa jatkuvasti laajenevaan rokotepassin salaliittoteorioiden maailmaan |
Höyryttävän teini-ikäisen 'syväväärennös' on häirintätapauksen keskipisteessä - mutta entä jos sitä ei väärennetä? |
Kirjaudu saada Daily Dot's Internet Insider uutiskirje kiireellisiin uutisiin online-etulinjasta. |