Sisältö
- Hyvä tarina on pakottavampi kuin koko totuus
- Uskooko näkeminen edelleen?
- Tunnistamattomat väärennökset
- Ei vikoja, ei stressiä - vaiheittaiset ohjeet elämää muuttavien ohjelmistojen luomiseen tuhoamatta elämääsi
- Mahdolliset seuraukset
- Ennakoiva suunnittelu
Lähde: Mike2focus / Dreamstime.com
Ottaa mukaan:
Median kulutus kehittyy tekniikan kehityksen, kuten tekoälyn (AI), kanssa. Vaikka yleisesti ottaen omaksumme edistyksen, meidän on oltava tietoisia myös joidenkin tekniikan muotojen heikkouksista. AI: n kyvyllä on tumma puoli, kun sitä käytetään väärennettyjen uutisten mainostamiseen.
Teknologian pimeä puoli oli yksi aiheista, joita tutkittiin NYC Media Labin toisessa Machines + Media -konferenssissa, jota Bloomberg sponsoroi ja isännöi maailmanlaajuisessa pääkonttorissaan kaupungissa 15. toukokuuta. Vaikka jotkut istunnot koskivat enemmän tekniikan tarkastelua on tällä hetkellä tiedotusvälineiden käytettävissä, jopa ne, jotka ovat tuoneet esiin manipuloinnin ja väärän tiedon varjon.
Hyvä tarina on pakottavampi kuin koko totuus
Buzzfeed, tietotekniikan päällikkö Gilad Lotan, VP: n johtaja, osoitti ”Nykytaiteen taso”. Hän huomautti, että vääriä tai harhaanjohtavia uutisia ei voida syyttää pelkästään mediayhtiöihin tai uuteen tekniikkaan. "Ihmiset eivät välttämättä etsi tosiasioita", hän sanoi. "Lukijat haluavat tarinoita."
Hän lisäsi, että tarinoiden ja suosittujen kertomusten halun syöttäminen voi johtaa väärennöksiin, jotka ovat ”enemmän manipulointia kuin väärää tietoa”. Itse asiassa tarina ei välttämättä sisällä mitään väärää. Väärä on siinä, että ilmoitetut tosiseikat poimitaan ja poistetaan suuremmasta "con" -kirjasta, jotta "lukijat pääsevät päätelmään".
Samaan tapaan ”Platform + Media” -istunnossa Kelly Born William ja Flora Hewlett -säätiön Us Democracy Initiative -tapahtumasta sanoi: ”Ihmiset pitävät uutisista, jotka vahvistavat heidän uskomuksiaan ja etenkin jos ne aiheuttavat törkeää.” Hän varoitti median pääomasta. tuo taipumus voi johtaa ”täydelliseen myrskyyn”, joka tuo esiin pahin meissä. Tätä pahentaa mahdollisuus valmistaa täysin valmistettuja esityksiä.
Uskooko näkeminen edelleen?
Teknologialla on rooli kertomalla tarina kuvien ja videon kautta. Yleensä uskomme näkemyksiimme, ellei manipuloinnista ole ilmeisiä merkkejä. Koska AI kuitenkin parantaa väärennettyjen videoiden realistisuutta, nyt on mahdollista laittaa sanat kirjaimellisesti julkisuuden henkilöiden suuhun. (AI: tä ei käytetä vain huonoihin tarkoituksiin. Tutustu rakenteellisiin kohteisiin viidellä tapaa, joilla yritykset voivat harkita AI: n käyttöä.)
AI: n erittäin uskottavien videoiden tuotannon vaara osoitettiin istunnossa nimeltä ”Ratkaisut koneohjatun median pimeälle puolelle”. Se alkoi videolla, jossa Barack Obama kertoi asioista, joita entinen presidentti ei ole koskaan sanonut. Liike oli silti hiukan synkronoitu sanojen kanssa, joten siinä on joitain merkkejä väärennetystä videosta, ja suurin osa yleisöstä sanoi voivansa tunnistaa sen väärennökseksi.
Että Obaman videon manipulointi ei saavuttanut realistista Peter Cushingin ylösnousemista Grand Moff Tarkiniksi "Rogue One": lle. Kuten New York Times -artikkelissa selitettiin, vaikutus saavutettiin saattamalla näyttelijä käyttämään "liiketallennusmateriaaleja päällään". vaikka kameran edessä ”, jotta hänen kasvonsa voitaisiin korvata Cushingin digitaalisella uudelleenluomisella.” Elokuvan luova päällikkö / vanhempi visuaalisten tehosteiden ohjaaja kutsui sitä “superkehittävän ja työvoimavaltaisen version tekemisestä meikki."
Tunnistamattomat väärennökset
Nyt, AI-kehityksen, etenkin generatiivisten kilpailevien verkkojen (GAN) ansiosta, elokuvien taikuutehosteiden saavuttaminen on helpompaa kuin koskaan. GAN: itä hyödyntämällä yksi AI-järjestelmä tarkentaa materiaalia, kunnes se on riittävän hyvä hyväksyttäväksi väärennösten havaitsemiseksi suunnitellussa AI-järjestelmässä.
Ei vikoja, ei stressiä - vaiheittaiset ohjeet elämää muuttavien ohjelmistojen luomiseen tuhoamatta elämääsi
Et voi parantaa ohjelmointitaitojasi, kun kukaan ei välitä ohjelmiston laadusta.
Tässä videossa voit nähdä tutkijoiden osoittavan, kuinka näyttelijä voi ohjata julkisyhteisön kasvojen liikkeet tuottamaan minkä tahansa ilmaisun ja lausunnon uskollisuustasolla, jota ei yleensä löydy dokumentoiduissa videoissa.
Vaikka jokaisella videoiden kanssa leikkivalla henkilöllä ei ole tällaista järjestelmää tällä hetkellä saatavilla, ohjelmisto on lähitulevaisuudessa useampien ihmisten ulottuvilla.
Mahdolliset seuraukset
Perustaja ja toimitusjohtaja Factmata, Dhruv Ghulati, sanoo olevansa "erittäin huolissaan" siitä, kuinka tätä kykyä voidaan käyttää pelkästään maailman johtajien, mutta myös toimitusjohtajien ja kuuluisuuksien kasvojen videoiden esittämiseen videoiksi todisteeksi sanomastaan tai tekemisestä, jota he eivät ole . Videon tuhoavia voimia voimistettaisiin saavuttamalla bottiverkoista virusvaikutus.
Se tarkoittaa, että "emme voi enää luottaa valehteleviin silmiimme", julisti Mor Naaman, tietotekniikan apulaisprofessori, Cornell Tech. Hän oli huolissaan siitä, että se menettäisi luottamuksen.
Toiset ovat huolissaan väkivallan liekkien lentämisestä. Jo "vain vähän muokattuja videoita" käytetään "aiheuttamaan väkivaltaa kehitysmaissa", havaitsi Aviv Ovadya, pääteknologi, sosiaalisen median vastuullisuuskeskus. (Sosiaalinen media voi olla tehokas tapa levittää vääriä tietoja. Tutustu neljään parhaiten tuhoisaan syötteiden hakkerointiin.)
Yhdysvaltoihin sijoittamisen kumppani Sarah Hudson ilmaisi huolensa siitä, että "mittakaavassa" manipuloidut kuvat ovat "uskomattoman uhan yleiselle turvallisuudelle".
Ennakoiva suunnittelu
On välttämätöntä "estää mahdollisimman paljon tätä väärinkäyttöä", Ovadya sanoi. Siksi on tärkeää ”ajatella etukäteen tekniikkaa kehitettäessä” ”kuinka vähentää huonoja vaikutuksia” ja “käyttää resursseja näiden tahattomien seurausten hoitamiseen”.
On mahdotonta kääntää kelloa taaksepäin kehityksen suhteen, mutta meidän on tehtävä vain varmistaaksemme, että suuntamme on harkittu ja suunniteltu. Tämä ei tarkoita pelkästään tekniikan parissa työskentelemistä sen selvittämiseksi, mitä voidaan tehdä, vaan myös ajattelua siitä, mitä voidaan tehdä, mikä tulisi välttää.
Tapa eteenpäin teknologiselle innovaatiolle on miettiä mahdollisia vaikutuksia ja suunnitella suojalausekkeet ennen vaarojen toteutumista. Tätä varten tarvitsemme yhteistyötä tutkijoiden, teknologiayritysten ja valtion virastojen välillä standardien ja parhaiden käytäntöjen laatimiseksi, joita ihmiset noudattavat. Sen tulisi olla kaikkien asianosaisten prioriteetti.