k47.cz    — každý den dokud se vám to nezačne líbit
foto Praha výběr povídky kultura | twitter FB

««« »»»

2400 lidí nechce vraždící roboty, co ten zbytek?

24. 7. 2018 — k47

Vědec vy­tvoří stroj soud­né­ho dne, hr­di­no­vé však pře­ka­zí jeho plány a svět je za­chrá­něn. Takhle často vypadá zá­plet­ka sci-fi pří­běhu, kte­ré­mu není proti srsti nějaké to klišé a který se snaží zvýšit napětí, tím že jde o osud celého lid­stva. Takové ro­zuz­le­ní mi nikdy ne­přišlo uspo­ko­ji­vé, pro­tože má jeden zá­sad­ní pro­blém: Svět se změnil a nová ničivá tech­no­lo­gie je do­stup­ná. Když ji do­ká­zal vy­vi­nout jeden ší­le­nec, co brání tomu, aby stejný kousek do­ká­zal jiný ší­le­nec. Zbí­da­če­né Se­ver­ní Koree (jejíž HDP od­po­ví­dá Praze) se po­da­ři­lo vy­vi­nout vlast­ní ja­der­né zbraně a ba­lis­tic­ké střely. Jde o masiv­ní in­dustri­ál­ní počin, co kdyby šlo o tech­no­lo­gie, která má pod­stat­ně menší vstup­ní ná­kla­dy a její výzkum je velice ak­tiv­ní.

Zprá­va­mi se ne­dáv­no pro­hna­lo sděle­ní, že 2400 lidí z oboru umělé in­te­li­gen­ce (a Musk, jak jinak) se po­de­psa­lo pod pří­sa­hu ne­po­má­hat ve vývoji au­to­nomních zbraní a za­bi­jác­kých robotů. To je jistě po­zi­tiv­ní zpráva, pár tisíc špiček v oboru ne­sou­hla­sí s exis­ten­cí strojů, která sami bez zásahu ope­rá­to­ra roz­hod­nou o životě a smrti člo­vě­ka. Podle mě však jde o ne­vý­znam­nou kapku v moři. Co ten zbytek? Na světě je sedm mi­li­ard lidí, ne­na­jde se mezi nimi ko­hor­ta ne­mo­rál­ních je­din­ců, kteří se necítí být vázáni mo­rál­kou, etikou a em­pa­tií, když do­sta­nou dobře za­pla­ce­no. I mezi vě­dec­kou elitou se najde ně­ko­lik fa­šis­tů a psy­cho­patů a to stačí.

Umělá in­te­li­gen­ce je příliš uži­teč­ná, stejně jako au­to­nomní AI zbraně.

Ani google, který se před lety snažil tvářit lidsky a mas­ko­val se mottem „don't be evil“, není imunní svodům peněz. Firma si chtěla ukro­jit kus koláče lukra­tiv­ních kon­trak­tů au­to­ma­ti­za­ce za­bí­je­ní a uchá­ze­la se o ar­mád­ní za­káz­ku ana­lý­zy drony poří­ze­né­ho videa a obrazů (aby tak ze­fek­tiv­ni­la proces za­bí­je­ní). Pak si toho všimli lidé ob­da­ře­ní mo­rál­kou a tato stinná strán­ka AI snah in­ter­ne­to­vé­ho he­ge­mo­na začala dělat špat­nou vi­zit­ku. Google na­jed­nou otočil, začal s po­kry­tec­kou pís­nič­kou o etické a hu­ma­nis­tic­ké AI s tím, že to tak myslel od samého za­čát­ku.

Nešlo přímo o vývoj au­to­nomních za­bi­já­ků, ale uka­zu­je to jeden fakt – google je kor­po­ra­ce a ta jde jen po pachu peněz. Jaký smysl má v tomto světle 2400 pod­pisů? Při­nej­le­pším sym­bo­lic­ký.

Výzkum všech díl­cích tech­no­lo­gií po­třeb­ných pro AI zbraně, běží na plné ob­rát­ky – počí­ta­čo­vé vidění, roz­po­zná­vá­ní před­mětů, řízení au­to­nomních vo­zi­del a další. To všech­no je velice uži­teč­né v ci­vil­ní sféře. Za­po­jit do rov­ni­ce ku­lo­met a začít au­to­nomní ge­no­ci­du není zá­sad­ní pro­blém. Za­bí­je­ní je jen další úkol pro stro­jo­vé učení. Vo­zi­dlo si nemusí lámat hlavu s do­prav­ním zna­če­ním a pro­vo­zem, roz­po­zná­vá lidi v okolí IR ter­mo­vi­zí a s al­go­rit­mic­kou pre­ciz­nos­tí jim vy­pra­ví kultu přímo do mozkov­ny. Všech­no ještě zlehčí, když se nikde kolem ne­bu­dou pofla­ko­vat naši. Vý­sled­ky jsou pu­b­li­ko­va­né, knihov­ny jsou open source, kdo to za­sta­ví?

Výzkum umělé in­te­li­gen­ce, který začal v pa­de­sá­tých letech, prošel ně­ko­li­ka stadii me­di­ál­ní­ho hype, kdy mnozí pro­ro­ko­va­li ne­sku­teč­ný pokrok. Her­bert Simon v še­de­sá­tých letech před­po­věděl, že stroje budou do dva­ce­ti let zvlá­dat všech­no, co do­kážou lidé. Neměl pravdu a místo jeho AI (u|dis)topie ná­sle­do­va­la AI zima.

Něk­teří sou­čas­ní AI vý­zkum­ní­ci – pou­če­ni mi­nu­los­tí – věští, že jsme se do­sta­li do slepé uličky, čekali jsme od AI příliš, in­ves­ti­ce se ne­vrá­tí a záhy přijde další AI zima. Možná. Možná, že deep lear­ning dosáhl svých limitů a pokrok si vyžádá ra­di­kál­ní úkrok stra­nou. Ale AI podává vý­sled­ky, které jsou ko­merč­ně na­sa­zo­vá­ny. Nejde jen o sny aka­de­mi­ků a zá­klad­ní výzkum, který je te­o­re­tic­ky za­jí­ma­vý, ale nic ne­změ­ní. Stro­jo­vé učení mění náš svět a for­mu­je ho podle záměrů al­go­rit­mic­kých pa­nov­ní­ků. Navíc – všech­no co teď máme, do­sta­ču­je pro vývoj au­to­nomních zbraní. Ne­po­tře­bu­je­me nic nového, stačí jen nacpat články pu­b­li­ko­va­né na po­sled­ních kon­fe­ren­cích o AI nacpat do Ave­ge­ra nebo do au­to­ma­ti­zo­va­né­ho hnízda ku­lo­me­tů, které bude sedět na hra­ni­cích.

Kdo to za­sta­ví? Stačí jedna entita, která kývne na kon­trakt.

Sa­mot­ní AI vý­zkum­ní­ci přizná­va­jí, že sami nemůžou za­sta­vit od­hod­la­né­ho člo­vě­ka v kon­struk­ci au­to­nomní zbraně. Navíc pokud pro­tiv­ník dokáže vy­ro­bit au­to­nomní zbraně, mnohem niči­vější, než ty, kte­rý­mi dis­po­nu­je­me my jako etický stát, jsme v ohrože­ní a musíme mít vlast­ní au­to­nomní zbraně, abychom se do­ká­za­li bránit. Nemít vra­ž­dí­cí roboty zna­me­ná ris­ko­vat životy našich občanů.

Jde o nej­horší možnou va­ri­an­tu, která svět vrátí do doby, kdy každý den hrozil ja­der­ný ho­lo­kaust, ale více méně ne­vy­hnu­tel­nou. AI je prostě příliš uži­teč­ná, stejně jako AI zbraně.

Kdy­bych si do­vo­lil spe­ku­lo­vat, tak to nej­le­pší, čeho se můžeme dočkat je válka 2.0 – au­to­nomní zbraně můžou bo­jo­vat jen s jinými au­to­nomní­mi zbra­ně­mi, a lidé s jinými lidmi. Když jsou všech­ny au­to­nomní zbraně pro­tiv­ní­ka zniče­ny, na­po­cho­du­jí na scénu vojáci a začnou vra­ž­dit pro­tiv­ní­ka.

píše k47 & hosté, ascii@k47.cz