k47.cz  — každý den dokud se vám to nezačne líbit
výběr foto Praha povídky kultura
TECH ▞▞ kolo | twitter RSS
««« »»»

Kosmický virus

18. 2. 2018 — k47 (♪)

Nebudu lhát: Vče­rejší článek je di­vo­kým mixem tří nebo čtyř jiných článků, které jsem nosil v hlavě & chtěl jsem je někdy, až přijde správný čas, sepsat. Včera v noci všechny na­jed­nou vy­hřezly na klá­ves­nici jako střeva pře­je­tého zví­řete. Každou třetí větu text bez va­ro­vání změnil téma. Nic z toho jsem ne­plá­no­val, pů­vodně jsem chtěl psát něco zcela jiném, blí­žila se půlnoc a s ní další vy­cpávka. Někdy v bu­douc­nosti se k tomu vrátím a ko­he­rentně ro­ze­píšu všechny dílčí kom­po­nenty.

Nicméně, ne­dávno jsem za­kopnul o aka­de­mický článek In­ter­stellar Com­mu­ni­cation. IX. Message De­con­ta­mi­nation is Im­possi­ble, který ve své pod­statě řeší pro­blém filmu Den Ne­zá­vis­losti: Co kdyby nám mi­mo­zemsťané po­slali virus. Jde o práci v oboru te­o­re­tický me­zi­pla­ne­tár­ních vztahů, tedy něco o čem nor­málně de­ba­tují dva opilí lidé ve tři ráno. Tihle dva kon­krétní opilci svoje kecy se­psali do podoby aka­de­mic­kého paperu.

Kosmo-virus je fas­ci­nu­jící kon­cept, který nedává žádný smysl. Nebo možná aspoň trochu.

Kdyby nám mi­mo­zem­ská ci­vi­li­zace ně­ja­kým způ­so­bem za­slala virus, musejí s ním nutně poslat de­fi­nici vir­tu­ál­ního stroje. Ten udává způsob jakým má být kód in­ter­pre­to­ván. Může to být něco jako lambda kalkul, nebo něco jiného, ale musí exis­to­vat. Bez de­fi­nice vir­tu­ál­ního stroje je kód jenom smetí bez vý­znamu. Ne­hrozí, že by nám z Pro­xima Cen­tauri přišla x86 bi­nárka, kterou jed­no­duše pus­tíme na PC s Win­dows 10.

Vždyť i my, kteří máme všechny in­for­mace světa na dosah ruky, ne­mů­žeme spus­tit li­bo­volný exáč na jiném ope­rač­ním sys­tému, než pro jaký byl zkom­pi­lo­ván, ne­mluvě o jiné pro­ce­so­rové ar­chi­tek­tuře.

Ne­hrozí tedy, že by virus kla­sic­kým způ­so­bem dostal roota na x86 linux stroji a začal nám spa­mo­vat email na­bíd­kami levé viagry.

Místo toho je za­jí­ma­vější pře­mýš­let o tom, že by zpráva mohla ob­sa­ho­vat AI – uměle in­te­li­gentní pro­gram, který začne oťuká­vat pro­středí ve kterém běží, bude se ho snažit poznat, najít jeho sla­biny a probít se ven. Kdyby běžel v do­sta­tečně izo­lo­va­ném vir­tu­ál­ním pro­středí, pořád je možné pro­gram kdy­koli vy­pnout. Přesto by bylo ro­zum­nější pro­gram di­sas­sem­blo­vat a dump­nout data a zkou­mat jeho obsah of­fline, než ho spus­tit a čekat, co udělá.

Autoři článku pre­zen­to­vali mož­nost, že AI pro­gram běží na izo­lo­va­ném místě a lidem (např) na­bídne lék na ra­ko­vinu, jen je to bude něco stát. V takové si­tu­aci za­čí­náme ob­cho­do­vat a smlou­vat s po­ten­ci­álně ne­přá­tel­skou moc­ností. To mi ne­při­padá jako ide­ální stra­te­gické roz­hod­nutí. Pokud AI sku­tečně zná lék na ra­ko­vinu, musí být ob­sa­žen v za­sla­ném kódu, který můžeme ana­ly­zo­vat a po­ku­sit se mu dů­kladně po­ro­zu­mět a po­třebné zna­losti z něj ex­tra­ho­vat of­fline.

To je všechno pěkné, ale mnohem větším pro­blém před­sta­vuje roz­ší­ření pro­gramu mezi lidi. Pokud relaci za­chytí ně­ko­lik ne­zá­vis­lých po­slu­chačů a jeden z nich si nedá pozor a pro­gram spustí, lid­stvo může vy­hy­nout, i když si všichni ostatní dávali pozor.

Je to jako když IRA hro­zila Mar­ga­ret Thatche­rové: […] re­mem­ber we only have to be lucky once. You will have to be lucky always.

Další mož­ností může být, že ne­po­šlou pro­gram, ale in­strukce stroje zkázy, který si sami ochotně po­sta­víme. Může jít o me­cha­nický, che­mický nebo bi­o­lo­gický stroj, po­ten­ci­álně mas­ko­vaný jako něco ne­škod­ného a lid­stvu uži­teč­ného.

Po­slední a nej­za­jí­ma­vější va­ri­anta by byla, kdyby nám ne­přá­tel­sky na­la­dění mi­mo­zemš­ťané, po­slali so­ci­ální virus nebo, chcete-li, fi­lo­so­fický virus — sadu myš­le­nek, které by sami o sobě byly ne­bez­pečné a při­vo­dily by konec lid­stva. šlo by o ně­ko­lik přesně mí­ře­ných ran, které roz­ký­vají misky vah tak, že pře­sta­nou být sta­bilní a ci­vi­li­zace by zko­la­bo­vala. Co přesně by mohlo být ob­sa­hem ta­ko­vého sdě­lení, je otázka na kterou nikdo (oči­vidně) nezná od­po­věď.

Může také exis­to­vat even­tu­a­lita, že sdě­lení při­jmeme, ale nikdy ne­roz­luš­tíme jeho pravý význam. Tomáš Pet­ří­ček (jednou jsem s ním (& dal­šími) pil bi­zarní bel­gická piva) měl před­nášku Would Aliens Un­der­stand Lambda Cal­cu­lus o tom, že s mi­mo­zem­skou ci­vi­li­zací ani ne­mu­síme sdílet žádný fun­da­men­tální způsob, jak po­ro­zu­mět kódu, vý­po­čtu nebo logice. Na světě exis­tuje mnoho jazyků, které ne­do­ká­žeme roz­luš­tit a přitom jde o jazyky z našeho světa, ne z pla­nety, která se vy­ví­jela zcela od­dě­leně od té naší.

Otázka však zní „proč“? Poslat zkázu emai­lem je určitě jed­no­dušší a lev­nější než star­to­vat hvězdné lodě, ale proč by něco ta­ko­vého ga­lak­tická ci­vi­li­zace pod­ni­kala? Proč by se měla chovat ne­ga­tivně nebo po­zi­tivně? Jaký to má smysl?

Ar­gu­ment článku se tak netočí kolem hrozby z kosmu, ale rizika po­u­žití tech­no­lo­gie, které zcela ne­ro­zu­míme.

Nicméně, jako v pří­padě emailu, bude ro­zumné ne­o­te­ví­rat ga­lak­tické zprávy ke kterým je při­lo­žený exe soubor.

píše k47 & hosté, ascii@k47.cz