k47.cz  — každý den dokud se vám to nezačne líbit
výběr foto Praha povídky kultura
TECH ▞▞ kolo | twitter RSS
««« »»»

Deep fakes včera, dnes a zítra

15. 9. 2019 — k47 (♪)

Před­stavte si svět v němž žád­nému sdě­lení, které ob­dr­žíte skrz di­gi­tálně zpro­střed­ko­vané médium, ne­mů­žete věřit. Po­dí­vejte se z okna, tam ten svět spat­říte.

Termín deep fake se ob­je­vil před pou­hýma dvěma roky, kdy se na red­ditu začalo ob­je­vo­vat první deep fake porno. Šlo o práci lidí s dvěma spe­ci­fic­kými zájmy, na jedné straně AI a na druhé fan­ta­zie o tom, že se známé he­rečky objeví v pornu. Nej­spíš to byli nad­šenci, kteří neu­ro­nové sítě tré­no­vali sami. Od té doby jednak po­kro­čil výzkum (na­pří­klad ge­ne­ro­vání videí, ve kte­rých začne mis­trně tančit i ten, kdo má obě nohy levé) a druhak došlo ke zjed­no­du­šení uži­va­tel­ské pří­vě­ti­vosti. Na deep fakes je teď kdejaká apli­kace jako třeba tahle. Ta zatím vloží cizí ob­li­čej do předem peč­livě vy­bra­ných klipů, na kte­rých je spe­ci­álně tré­no­vána, ale to se může rychle změnit. Pokrok se žene rychle kupředu a od pu­b­li­kace aka­de­mic­kého článku do apli­kace, která dělá do té doby téměř ne­možné na jedno klik­nutí, dělí jen pár let. To co je dnes stěží před­sta­vi­telné může být za dva roky re­a­li­tou, kterou ne­mů­žeme odi­no­vo­vat zpátky.

Změna může přijít velice rychle a ve­řejný dis­kurz se stane velice rychle velice oš­k­li­vým. Jak na­stane doba, kdy ne­mů­žeme určit zdali obsah média má nějaký vztah k pravdě, už ne­pře­stane. Nastal tech­no­lo­gický zlom, který ne­mů­žeme vzít zpátky.

Nej­lepší, v co můžeme doufat, je že „kon­zu­ment“ sdě­lení nebude ničemu věřit, ani pravdě, ani lži. Pokud bude za­hl­cený in­for­ma­cemi, mezi nimiž je něco prav­divé a něco fab­ri­kace, ale nemá schop­nost roz­li­šit jedno od dru­hého, obra­nou reakcí bude, že to všechno hodí přes palubu a pře­stane věřit če­mu­koli. To v pod­statě zna­mená konec ve­řej­ného dis­kurzu a sdí­le­ného ná­hledu na svět, ale pořád jde o nej­lepší mož­nost. Všechny ostatní jsou jen tem­nější. Při­nej­hor­ším se pak nechá ne­vě­domky ma­ni­pu­lo­vat hráči, kteří nemají nej­lepší úmysly. Čím se tech­no­lo­gie stane vy­spě­lejší, lidé v po­rov­nání s ní budou pri­mi­tiv­nější.

Před­stavte si, k čemu v letech před de­fi­nit­ním ko­lap­sem důvěry a pravdy může být deep fake po­u­žité. Někdo na­hradí ve fil­mech černé herce bílými? Proč ne? Nové verze filmů, ze kte­rých zmizí Kevin Spacey a další herci na černé lis­tině a budou na­hra­zeni ne­zá­vad­nými tvá­řemi? Proč ne? Pod­vod­níci AI sys­té­mem na­po­dobí hlas ře­di­tele firmy a tak vy­lá­kají pár stovek tisíc dolarů? To se už stalo.

Na druhou stranu AI a au­to­ma­ti­zace ote­vírá debatu o tom, jakou spo­leč­nost chceme – ne jen jakou do­sta­neme, pro­tože je „nej­e­fek­tiv­nější“.

píše k47 & hosté, ascii@k47.cz