k47.cz  — každý den dokud se vám to nezačne líbit
foto Praha výběr povídky kultura
twitter FB RSS
««« »»»

My ty lži napíšeme za vás

21. 3. 2019 — k47 (♪)

OpenAI – Mus­kova ne­ziskovka s na­dač­ním pří­spěv­kem ve výši jedné mi­li­ardy dolarů – vy­vi­nula AI pro­gram, který dokáže ge­ne­ro­vat texty ne­bez­pečně blízké těm na­psa­ných lidmi, tak ne­bez­pečně, že se roz­hodla na­tré­no­vaný model ne­zve­řej­nit. Bedny z openai se, opráv­něně, obá­vali, že by jejich výtvor mohl být zne­u­žit pro ma­so­vou pro­dukci fake news. Jejich krok může ne­vy­po­či­ta­tel­nost techlo­lo­gic­kého kom­bajnu jen do­časně zpo­ma­lit, ne­mů­žou ji za­sta­vit. Džin byl vy­puš­těn z lahve. Jedna spo­leč­nost mohla mít zá­brany, ale jiní je mít ne­bu­dou. Ta­ko­váto věc je příliš uži­tečná, než aby nebyla vy­u­žita, aspoň pro určité aktéry.

Na AI modelu je slo­žitá a drahá (ať už na ex­per­tízu, vý­po­četní čas nebo vstupní data) jen jeho kon­strukce, práce je pře­kva­pivě levná. Když je model jednou vy­tré­no­ván, může ge­ne­ro­vat fa­lešné texty s tri­vi­ál­ními nároky a zcela ne­ú­navně. (Sle­do­vali jste někdy malé dítě, jak roste a učí se, jen abyste si uvě­do­mili, že jeho malé krůčky jsou zcela ne­vý­znamné v po­rov­nání s AI, která se učí jednou pro vždy a pře­padla vás ne­ko­nečná sklí­če­nost?)

Jde o krok do ne­re­a­lity – světa, kde cokoli, co čteme, sle­du­jeme nebo jinak vní­máme, může být fata mor­gána al­go­rit­micky ge­ne­ro­vaná jen pro nás, a kde si tím nikdy ne­mů­žeme být zcela jisti, kde ne­mů­žeme ničemu úplně věřit.

deep fakes se začíná mluvit i v našem malém ryb­níčku/hyb­rid­ním bo­jišti Ruska. Ame­rická nvidia na této frontě po­kra­čuje v de­ci­maci ob­ra­zové re­a­lity. Před­sta­vila AI systém, který ze skeče vy­ge­ne­ruje fo­to­re­a­lis­tic­kou fotku.

Vý­sled­kem nebude de­val­vace pravdy, ale si­tu­ace, kdy ne­bu­deme ničemu věřit.

píše k47 & hosté, ascii@k47.cz