k47.cz  — každý den dokud se vám to nezačne líbit
výběr foto Praha povídky kultura
TECH ▞▞ kolo | twitter RSS
««« »»»

2400 lidí nechce vraždící roboty, co ten zbytek?

24. 7. 2018 — k47 (♪)

Vědec vy­tvoří stroj soud­ného dne, hr­di­nové však pře­kazí jeho plány a svět je za­chrá­něn. Takhle často vypadá zá­pletka sci-fi pří­běhu, kte­rému není proti srsti nějaké to klišé a který se snaží zvýšit napětí, tím že jde o osud celého lid­stva. Takové ro­zuz­lení mi nikdy ne­při­šlo uspo­ko­jivé, pro­tože má jeden zá­sadní pro­blém: Svět se změnil a nová ničivá tech­no­lo­gie je do­stupná. Když ji do­ká­zal vy­vi­nout jeden ší­le­nec, co brání tomu, aby stejný kousek do­ká­zal jiný ší­le­nec. Zbí­da­čené Se­verní Koree (jejíž HDP od­po­vídá Praze) se po­da­řilo vy­vi­nout vlastní ja­derné zbraně a ba­lis­tické střely. Jde o masivní in­dustri­ální počin, co kdyby šlo o tech­no­lo­gie, která má pod­statně menší vstupní ná­klady a její výzkum je velice ak­tivní.

Zprá­vami se ne­dávno pro­hnalo sdě­lení, že 2400 lidí z oboru umělé in­te­li­gence (a Musk, jak jinak) se po­de­psalo pod pří­sahu ne­po­má­hat ve vývoji au­to­nomních zbraní a za­bi­jác­kých robotů. To je jistě po­zi­tivní zpráva, pár tisíc špiček v oboru ne­sou­hlasí s exis­tencí strojů, která sami bez zásahu ope­rá­tora roz­hod­nou o životě a smrti člo­věka. Podle mě však jde o ne­vý­znam­nou kapku v moři. Co ten zbytek? Na světě je sedm mi­li­ard lidí, ne­na­jde se mezi nimi ko­horta ne­mo­rál­ních je­dinců, kteří se necítí být vázáni mo­rál­kou, etikou a em­pa­tií, když do­sta­nou dobře za­pla­ceno. I mezi vě­dec­kou elitou se najde ně­ko­lik fa­šistů a psy­cho­patů a to stačí.

Umělá in­te­li­gence je příliš uži­tečná, stejně jako au­to­nomní AI zbraně.

Ani google, který se před lety snažil tvářit lidsky a mas­ko­val se mottem „don't be evil“, není imunní svodům peněz. Firma si chtěla ukro­jit kus koláče lukra­tiv­ních kon­traktů au­to­ma­ti­zace za­bí­jení a uchá­zela se o ar­mádní za­kázku ana­lýzy drony po­ří­ze­ného videa a obrazů (aby tak ze­fek­tiv­nila proces za­bí­jení). Pak si toho všimli lidé ob­da­ření mo­rál­kou a tato stinná stránka AI snah in­ter­ne­to­vého he­ge­mona začala dělat špat­nou vi­zitku. Google na­jed­nou otočil, začal s po­kry­tec­kou pís­nič­kou o etické a hu­ma­nis­tické AI s tím, že to tak myslel od samého za­čátku.

Nešlo přímo o vývoj au­to­nomních za­bi­jáků, ale uka­zuje to jeden fakt – google je kor­po­race a ta jde jen po pachu peněz. Jaký smysl má v tomto světle 2400 pod­pisů? Při­nej­lep­ším sym­bo­lický.

Výzkum všech díl­cích tech­no­lo­gií po­třeb­ných pro AI zbraně, běží na plné ob­rátky – po­čí­ta­čové vidění, roz­po­zná­vání před­mětů, řízení au­to­nomních vo­zi­del a další. To všechno je velice uži­tečné v ci­vilní sféře. Za­po­jit do rov­nice ku­lo­met a začít au­to­nomní ge­no­cidu není zá­sadní pro­blém. Za­bí­jení je jen další úkol pro stro­jové učení. Vo­zi­dlo si nemusí lámat hlavu s do­prav­ním zna­če­ním a pro­vo­zem, roz­po­znává lidi v okolí IR ter­mo­vizí a s al­go­rit­mic­kou pre­ciz­ností jim vy­praví kultu přímo do mozkovny. Všechno ještě zlehčí, když se nikde kolem ne­bu­dou pofla­ko­vat naši. Vý­sledky jsou pu­b­li­ko­vané, knihovny jsou open source, kdo to za­staví?

Výzkum umělé in­te­li­gence, který začal v pa­de­sá­tých letech, prošel ně­ko­lika stadii me­di­ál­ního hype, kdy mnozí pro­ro­ko­vali ne­sku­tečný pokrok. Her­bert Simon v še­de­sá­tých letech před­po­vě­děl, že stroje budou do dva­ceti let zvlá­dat všechno, co do­ká­žou lidé. Neměl pravdu a místo jeho AI (u|dis)topie ná­sle­do­vala AI zima.

Ně­kteří sou­časní AI vý­zkum­níci – po­u­čeni mi­nu­lostí – věští, že jsme se do­stali do slepé uličky, čekali jsme od AI příliš, in­ves­tice se ne­vrátí a záhy přijde další AI zima. Možná. Možná, že deep lear­ning dosáhl svých limitů a pokrok si vyžádá ra­di­kální úkrok stra­nou. Ale AI podává vý­sledky, které jsou ko­merčně na­sa­zo­vány. Nejde jen o sny aka­de­miků a zá­kladní výzkum, který je te­o­re­ticky za­jí­mavý, ale nic ne­změní. Stro­jové učení mění náš svět a for­muje ho podle záměrů al­go­rit­mic­kých pa­nov­níků. Navíc – všechno co teď máme, do­sta­čuje pro vývoj au­to­nomních zbraní. Ne­po­tře­bu­jeme nic nového, stačí jen nacpat články pu­b­li­ko­vané na po­sled­ních kon­fe­ren­cích o AI nacpat do Ave­gera nebo do au­to­ma­ti­zo­va­ného hnízda ku­lo­metů, které bude sedět na hra­ni­cích.

Kdo to za­staví? Stačí jedna entita, která kývne na kon­trakt.

Sa­motní AI vý­zkum­níci při­zná­vají, že sami ne­mů­žou za­sta­vit od­hod­la­ného člo­věka v kon­strukci au­to­nomní zbraně. Navíc pokud pro­tiv­ník dokáže vy­ro­bit au­to­nomní zbraně, mnohem ni­či­vější, než ty, kte­rými dis­po­nu­jeme my jako etický stát, jsme v ohro­žení a musíme mít vlastní au­to­nomní zbraně, abychom se do­ká­zali bránit. Nemít vraž­dící roboty zna­mená ris­ko­vat životy našich občanů.

Jde o nej­horší možnou va­ri­antu, která svět vrátí do doby, kdy každý den hrozil ja­derný ho­lo­kaust, ale více méně ne­vy­hnu­tel­nou. AI je prostě příliš uži­tečná, stejně jako AI zbraně.

Kdy­bych si do­vo­lil spe­ku­lo­vat, tak to nej­lepší, čeho se můžeme dočkat je válka 2.0 – au­to­nomní zbraně můžou bo­jo­vat jen s jinými au­to­nomními zbra­němi, a lidé s jinými lidmi. Když jsou všechny au­to­nomní zbraně pro­tiv­níka zni­čeny, na­po­cho­dují na scénu vojáci a začnou vraž­dit pro­tiv­níka.

píše k47 & hosté, ascii@k47.cz