k47.cz  — každý den dokud se vám to nezačne líbit
foto Praha výběr povídky kultura
twitter FB RSS
««« »»»

Korporace jsou AI

18. 5. 2019 — k47 (♪)

Kor­po­race jsou uměle in­te­li­gentní entity – taková je teze před­nášky Dude, you broke the Future! Char­lese Strosse z CCC 2017. Z tohoto po­znatku můžeme od­vo­dit, jak asi bude vy­pa­dat a jako se bude chovat vy­spělá di­gi­tální AI bu­douc­nosti.

Kor­po­race jsou pa­perc­lip ma­xi­mi­zer – forma AI s pevně danými cíli, které není možné změnit – entita, která exis­tuje jedině pro ma­xi­ma­li­zaci výnosů in­ves­tic ak­ci­o­nářů. Kor­po­race dělají, co je nej­lepší pro kor­po­race, ne nutně pro spo­leč­nost. Na­štěstí máme k dis­po­zici ná­stroje, abychom za­me­zili nej­hor­ším ex­ce­sům kor­po­rát­ních AI – re­gu­laci. Rych­lost jejího na­sa­zení je bo­hu­žel ne­do­sta­tečná, v době brisk­ního tech­no­lo­gic­kého po­kroku ještě méně, a navíc byla in­fil­tro­vána kor­po­rací. Na­pří­klad Ajit Pai, který dal po­slední ránu síťové ne­utra­litě ve spo­je­ných stá­tech, před jme­no­vá­ním do FCC pra­co­val pro te­le­ko­mu­ni­kační gigant Ve­ri­zon.

Naše sou­časná spo­leč­nost je for­mo­vána kor­po­ra­cemi. Žijeme tedy v pro­středí utvá­ře­ném tou­hami a po­tře­bami AI, jsme nuceni hrát podle jejich pra­vi­del, které nám říkají, že máme jen ta­ko­vou hod­notu, do jaké míry při­spí­váme vlád­nutí stroje.

Stross v před­nášce na­črtne ně­ko­lik vizí bu­douc­nosti, která není pěkná, ale svou ex­tra­po­lací z mi­nu­losti, se zdá ne­vy­hnu­telná.

Jednou z nich je mi­k­ro­tar­ge­ting pro­pa­gandy, kdy pro­pa­ganda je al­go­rit­micky ge­ne­ro­vaná a přesně při­způ­so­bená pro kaž­dého pří­jemce. Re­klamní prů­mysl po­tře­buje po­drob­nější sle­do­vání a pro­fi­lo­vání uži­va­telů a tím po­kládá zá­klady pro bu­douc­nost, která bude vy­u­žita jako zbraň pro­pa­gan­dis­tické války. Pro­tože proč ne? Cambridge ana­ly­tica vy­ho­řela, ale kdo za­staví Rusko pro­rá­že­jící novou agre­sivní trasu le­dovci so­ci­ál­ních sítí.

Další před­po­vědí je fa­lešná re­a­lita, která se nám roz­padá před očima. Stross zmi­ňuje De­e­p­Fa­kes a Wa­ve­Net – bylo to roku 2017, ale od té doby se mnoho změ­nilo. V roce 2027 tak dost možná ne­bu­deme moci věřit ničemu, co uvi­díme na videu. Vidět už nebude zna­me­nat věřit. V kom­bi­naci s před­cho­zím od­stav­cem to před­sta­vuje riziko, že ve­řejný dis­kurz bude fa­tálně in­fi­ko­ván a ot­rá­ven.

Nová ge­ne­race pa­perc­lip ma­xi­mi­zer AI se zaměří na náš ner­vový systém. Re­klamní prů­mysl může fun­go­vat jen kvůli naší ten­denci k zá­vis­los­tem, a zá­vis­lost na mo­bi­lech je přímý dů­sle­dek re­klam­ního modelu mo­ne­ti­zace apli­kací, který vy­ža­duje ne­u­stá­lou in­ter­akci a ob­se­sivní skro­lo­vání. Do­pa­mine labs – firma která se snaží mo­bilní apli­kace učinit co nej­více ná­vy­kové – má určité etické ná­mitky k to­tální ma­xi­ma­li­zaci ná­vy­ko­vosti a ma­ni­pu­lace, ale po nich přijde so­ci­o­pat bez zábran, od­hod­laný to vy­hro­tit pro vlastní obo­ha­cení a ten je mít nebude.

Fi­nální desti­nace je ne­u­stále běžící roz­po­zná­vání ob­li­čejů a sle­do­vání po­hledu na mo­bi­lech, které uzavře smyčku. Vás mo­bilní te­le­fon se stane per­fektní la­bo­ra­toří, která vás sle­duje a pro­du­kuje ne­ko­nečný proud im­pulsů op­ti­ma­li­zo­va­ných v re­ál­ném čase pro ma­xi­mální en­gejdžment.

„App now owns your cen­t­ral ner­vous system and you will be mo­ne­ti­zed.“

Načrtl vizi ne­před­sta­vi­telné hrůzy, ale nejdě­si­vější byla věta: „So­me­one out there is wor­king on this.“ Pro­tože proč ne? Kdo je za­staví?

píše k47 & hosté, ascii@k47.cz