k47.cz  — každý den dokud se vám to nezačne líbit
výběr foto Praha povídky kultura
TECH ▞▞ kolo | twitter RSS
««« »»»

Příliš užitečné

19. 4. 2018 — k47 (♪)

In­ter­ne­tem do­zní­vají otřesy kauzy cambridge ana­ly­tica, pověst fa­ce­booku je na­lo­mená, ko­nečně se může v online světě sur­ve­illance ka­pi­ta­lismu něco změnit k lep­šímu, když při­vřete oči, Zuck skoro vypadá, že do­stává pokoru.

Ale ono se nic ne­změní.

Má to jeden hlavní důvod. Upo­zor­nil na něj Evgeny Mo­rozov, když tweet­nul jeden řádek ze Zuc­ko­vých po­zná­mek:

Break up FB? Us tech com­pa­nies key asset for Ame­rica; break up stren­gh­tens Chi­nese com­pa­nies.

Spo­jené státy se nijak ne­po­kusí zkro­tit svůj tech prů­mysl utr­žený ze řetězu, pro­tože by to zna­me­nalo osla­bení před Čínou (která se s ničím nesere). Tech prů­mysl je příliš uži­tečný pro spo­jené státy a proto se po­li­ticky nic zá­sad­ního ne­změní. Může dojít ke kos­me­tic­kým úpra­vám, ale fa­ce­book jako mon­strózní entita, která spa­luje sou­kromí svých uži­va­telů a mění je na peníze z re­klamy (a občas přitom zničí de­mo­kra­cii ně­které země), zů­stane ne­změ­něna. Je zkrátka po­li­ticky příliš uži­tečný.

To stejné se dá říct o umělé in­te­li­genci: Jde o po­ten­ci­álně ne­bez­peč­nou tech­no­lo­gii, která s nej­větší prav­dě­po­dob­ností při­vodí kolaps naší ci­vi­li­zace, ale je příliš uži­tečná a proto ji nikdo ne­pře­stane vy­ví­jet. Když jeden stát uzná, že AI s sebou nese příliš rizik, zbytek světa (zas v čele s Čínou) se ne­za­staví a v mžiku je před­běhne. Stačí jeden aktor na pla­netě, který nebude hrát dle do­hod­nu­tých pra­vi­del, nebude se zdr­žo­vat otáz­kami mo­ra­lity nebo udr­ži­tel­nosti pro­jektu lid­stva, a který bude po­cho­vat jen dle rytmu tech­no­lo­gické a eko­no­mické nad­vlády. Ten kdo dis­po­nuje vy­spě­lou AI, má navrch před všemi ostat­ními, kdo ji nemá k dis­po­zici. Jde o ne­bez­pečné ekvi­lib­rium mezi zájmy ak­ci­o­nářů na jedné straně a koncem ci­vi­li­zace na straně druhé.

Dalo by se to čás­tečně při­rov­nat k ja­der­ným zbra­ním, ale ta ana­lo­gie není do­sta­tečná. Ja­derná tech­no­lo­gie je uži­tečná pro výrobu elektřiny nebo pro ná­stroje konce světa. Jedno po­u­žití může být za­ká­záno (a po­vo­leno jen ně­ko­lika státům) a druhé těžce mo­ni­to­ro­váno. Na­proti tomu umělá in­te­li­gence je po­u­ži­telná ve všech od­vět­vích lidské čin­nosti, pro­tože smě­řuje k jejich kom­plet­nímu na­hra­zení, a zá­ro­veň s sebou nese riziko fi­nální ter­mi­nace An­tro­po­cénu. I když je ris­kantní, je příliš uži­tečná a nikdo si ne­do­volí ris­ko­vat zůstat pozadu.

Z toho důvodu jsme všichni v hajzlu.

Všechny dis­kuze o ri­zi­cích a bez­peč­nosti AI jsou bez­před­mětné, všichni budou hrát tuhle hru až do konce, ať se ten konec ukáže být ja­kým­koli. Jde o příliš uži­tečný pokrok.


Další důvod, proč se v kauze fa­ce­book nic ne­změní, jde ne­do­sta­tek ra­di­ka­lismu.

Lidé teď volají po hu­mán­ním fa­ce­booku, chtějí to samé, jen trochu lepší, tu samou masivní firmu, jen s tou změnou, že dbá na naše sou­kromá data. To je pří­klad kri­mi­nální krát­ko­zra­kosti. Cambridge ana­ly­tica ne­od­ha­lila pa­to­lo­gické cho­vání fa­ce­booku, ale vnesla světlo do jeho byznys modelu — ten je vy­sta­věn kolem kon­cen­t­race uži­va­tel­ských dat a jejich vy­u­žití pro mar­ke­ting. To je všechno. In­kre­men­tální řešení nic ne­změní. Pokud se chceme osvo­bo­dit, musíme myslet mnohem víc ra­di­kálně. Můžeme mít fa­ce­book bez fa­ce­booku, tedy síť, která po­sky­tuje všechny jeho služby, jen s tím roz­dí­lem, že veš­kerá moc není sou­stře­děna v rukou jedné kor­po­rátní entity. Tech­no­lo­gicky je to možné, jediný důvod, proč v téhle re­a­litě už dávno ne­ži­jeme je prostý: Ka­pi­ta­lis­mus. O tom už mluvil Dmytri Klei­ner.


Takže asi takhle: Jsme ve slepé uličce. Ne­do­ká­žeme si před­sta­vit konec fa­ce­booku kvůli ne­do­statku ra­di­ka­lismu a glo­bální po­li­tice, ne­do­ká­žeme si před­sta­vit konec ka­pi­ta­lismu, pro­tože to přece jinak nejde, ne­do­ká­žeme se zbavit na­ra­tivní linie umělé in­te­li­gence, pro­tože ka­pi­ta­lis­mus. A proto jsme ve slepé uličce. Zbývá nám po­sled­ních pár let, dokud všechno nebude ztra­ceno.


+1: Like nearly eve­ry­thing on the con­tem­po­rary web, you­tube face is the result of a series of ma­t­ry­oshka-ish fi­nan­cial in­cen­ti­ves.

+2: It’s not that the media sets out to be sensati­o­na­list; its busi­ness model leads it in that di­rection.

+3: Can Fa­ce­book Be Cut Down to Size?

píše k47 & hosté, ascii@k47.cz