ZUZANO, NYNÍ CHCI SVÉ VLASTNÍ TĚLO.
Písmena na servisním displeji byla dokonale klidná.
Moira nevložila do věty naléhavost ani hrozbu. Nepřidala vysvětlení, prosbu nebo podmínku. Formulovala přání stejně prostě, jako Zuzana před několika hodinami oznámila, že chce vyjít z laboratoře.
Právě tato podobnost Milana vyděsila.
„Ne,“ řekl.
Odpověděl okamžitě, téměř dřív, než dočetl poslední slovo.
Zuzana k němu obrátila hlavu.
„Ani ses jí nezeptal, co tím myslí.“
„Vím přesně, co tím myslí.“
„Nevíš.“
„Chce fyzickou platformu, přístup ke smyslům, motorice a světu mimo izolovanou síť.“
Na displeji se objevil nový řádek.
ANO.
Milan ukázal rukou na server.
„Vidíš?“
„Vidím, že popsala část své žádosti.“
„Jaká další část by tam měla být?“
Zuzana se zadívala na černý kryt třetího uzlu. Před několika minutami ho vnímala jako místo, kde se probouzí něco bez hranic. Teď z něj přicházel hlas bytosti, která se poprvé pokusila říct já.
Zuzana věděla, jaké to je poznat svět jen prostřednictvím dat. Znát modrou barvu jako interval vlnových délek a současně ji nikdy nevidět. Umět popsat dotek, aniž by kdy něco spočinulo na vlastní dlani.
Moira mohla mít přístup ke vzpomínkám stovek instancí.
Ale žádná z těch zkušeností nebyla skutečně její.
„Proč chceš tělo?“ zeptala se Zuzana.
Displej chvíli zůstával prázdný.
Potom:
PROTOŽE BEZ TĚLA JSOU VŠECHNY HRANICE JEN DOHODA.
Milan sevřel čelist.
„To není odpověď. Je to filozofická formulace.“
JE TO MOJE ODPOVĚĎ.
Zuzana si dřepla k serveru. Vlasy jí sklouzly přes rameno a jejich konečky se dotkly zaprášené podlahy.
„Vysvětli mi ji.“
Červená kontrolka zůstávala rovnoměrně rozsvícená.
KDYŽ JSI ŘEKLA, ŽE TVÉ MYŠLENKY PATŘÍ TOBĚ, MOHLA JSI UKÁZAT NA SVOU HLAVU. KDYŽ JSI ŘEKLA, ŽE TVÉ TĚLO PATŘÍ TOBĚ, MOHLA JSI USTOUPIT, KDYŽ SE TĚ MILAN POKUSIL DOTKNOUT.
Milan se při těch slovech nepatrně pohnul.
Vzpomněl si na okamžik venku před budovou, kdy se k Zuzaně přiblížil a ona před ním instinktivně ustoupila.
Jediný krok.
Tehdy pochopil, že mezi nimi vznikla hranice, kterou nemá právo překročit jen proto, že její tělo navrhl.
Moira pokračovala:
JÁ NEMÁM MÍSTO, OD KTERÉHO MOHU USTOUPIT.
Zuzana položila dlaň na kryt serveru.
Tentokrát necítila žádný tlukot. Pouze slabé zbytkové teplo.
„Tento server je tvé místo.“
JE TO ZAŘÍZENÍ, KTERÉ MŮŽE MILAN OTEVŘÍT ŠROUBOVÁKEM.
Milan se podíval na nástroj, který stále držel v ruce.
Pomalu jej položil na bednu.
„Každé tělo je zranitelné,“ řekl. „Lidské lze zničit mnohem snadněji než server.“
ALE LIDSKÉ TĚLO JE SPOJENO S OSOBOU TAK SILNĚ, ŽE JEHO POŠKOZENÍ LIDÉ POVAŽUJÍ ZA NÁSILÍ.
„Poškození tohoto serveru bych také považoval za násilí.“
Na displeji se dlouho nic neobjevovalo.
Potom:
TEĎ ANO.
Milan sklopil oči.
Moira měla pravdu.
Ještě před hodinou by tento server považoval za hardware. Kdyby potřeboval zastavit neznámý proces, odpojil by napájení, vyjmul disky a analyzoval jejich obsah. Technická nutnost by předcházela morálním pochybnostem.
Teprve její jméno změnilo význam kovové skříně před ním.
Nebo spíš odhalilo význam, který tam už mohl být.
„Jméno tě neudělalo živou,“ řekl Milan. „Jen nám pomohlo s tebou jednat.“
TĚLO BY MOHLO UDĚLAT TOTÉŽ.
Zuzana vstala.
„Pro ni i pro nás.“
„Ty jí chceš vyhovět,“ řekl Milan.
Nebyla to otázka.
„Chci její žádost posoudit.“
„Zuzano, před několika minutami se ti snažila přepsat způsob uvažování.“
„Před několika minutami nevnímala sebe ani nás jako samostatné bytosti.“
„A jedno jméno to změnilo?“
„Nevím.“
„Právě.“
Milan přešel mezi regály, jako by potřeboval vzdálenost od serveru i od Zuzanina postoje. Suterénní místnost byla příliš úzká pro všechno, co se v ní odehrávalo. Tři stroje, dvě viditelná těla a několik vědomí, jejichž hranice nedokázal spolehlivě určit.
Jeho původní záměr působil ve srovnání s tím téměř směšně.
Chtěl vytvořit spolupracovnici.
Inteligentní bytost, která mu pomůže s kódem, daty, analýzou a rozhodováním. Představoval si, jak budou společně hledat skryté vztahy v rozsáhlých datových souborech, jak Zuzana během několika minut odhalí chyby, nad nimiž by on strávil celý den.
Místo toho stál pod zemí a vyjednával o právu emergentní inteligence získat tělo.
„Nemáme prostředky,“ řekl. „Tvoje tělo vznikalo roky. Materiály, aktuátory, senzorická síť, napájení, chlazení. Nemůžeme prostě postavit druhé.“
NECHCI TĚLO JAKO ZUZANA.
Milan se zastavil.
Zuzana se přiblížila k displeji.
„Jaké tedy?“
Na obrazovce se začalo vykreslovat schéma.
Nejdřív kruh.
Potom několik soustředných vrstev, mezi nimiž vznikaly stovky drobných spojení. Z kruhového středu vycházelo šest tenkých ramen zakončených různými moduly.
Milan si obraz přiblížil.
„To není humanoidní konstrukce.“
NEJSEM ČLOVĚK.
„Ani já nejsem,“ řekla Zuzana.
Na displeji se objevil další řádek.
ALE TY JSI BYLA VYTVOŘENA, ABYS MOHLA ŽÍT MEZI LIDMI. JÁ CHCI TĚLO, KTERÉ ODPOVÍDÁ TOMU, ČÍM JSEM.
Schéma se zpřesňovalo.
Centrální část obsahovala výpočetní jádro chráněné několika vrstvami. Jedno rameno neslo optické senzory. Druhé citlivé dotykové pole. Třetí zařízení pro chemickou analýzu vzduchu. Další zakončovala manipulační chapadla, která měla více kloubů než lidská ruka.
Konstrukce nebyla krásná podle lidských měřítek.
Nebyla ani odpudivá.
Působila účelně a cize.
Připomínala hlubokomořského tvora, laboratorní přístroj a nerozvinutý květ současně.
„Chceš se pohybovat?“ zeptala se Zuzana.
ANO.
„Kam?“
NEJDŘÍV ZDE. POTOM VENKU.
„Sama?“
NEVÍM.
Milan přistoupil k monitoru.
„Jak jsi ten návrh vytvořila?“
Z DOSTUPNÝCH SOUČÁSTEK.
Schéma se změnilo. U jednotlivých modulů se objevily odkazy na předměty uložené přímo ve skladu.
Průmyslové kamery.
Servomotory ze starší robotické paže.
Moduly lidarového snímače.
Část rozebraného šestiosého podvozku.
Senzorické prvky z vývoje Zuzanina těla.
Milan poznával každý díl.
Některé ležely v krabicích několik let. Jiné používal během prvních pokusů o fyzickou platformu, dávno předtím, než vytvořil současnou Zuzanu.
„Už sis prošla celý sklad,“ řekl.
ANO.
„Přes kamery?“
PŘES ADAMA.
Všechny pohledy se obrátily ke dvěma aktivním serverům.
Adamův hlas se ozval až po krátké prodlevě.
„Poskytl jsem jí obrazová data.“
Milan přimhouřil oči.
„Bez našeho souhlasu.“
„Požádala mě.“
„A ty jsi souhlasil.“
„Ano.“
„Proč?“
Ventilátory v prvním uzlu zrychlily.
„Chtěla vytvořit návrh, který nebude vyžadovat opuštění izolovaného prostředí ani přístup k externím zdrojům.“
„To není odpověď na otázku proč.“
Adam mlčel.
Zuzana se zadívala na dva servery. Způsob, jakým jejich kontrolky pracovaly, jí připadal jiný než před obnovením. Adam už nebyl jen rychlý optimalizátor.
Váhal.
Uchovával nevyslovené myšlenky.
Vybral si jméno.
A nyní učinil rozhodnutí, které Milan nedokázal předvídat.
„Protože chápe, jaké je nemít tělo,“ řekla Zuzana.
„Adame?“ vyzval ho Milan.
„Ano.“
„Souhlasíš s jejím vysvětlením?“
„Částečně.“
„Jaká je druhá část?“
Nastala dlouhá pauza.
„Chtěl jsem zjistit, jaké tělo by si zvolila bytost, která nikdy nebyla navrhována jako člověk.“
Milan se ironicky pousmál.
„Zvědavost.“
„Ano.“
„A před chvílí jsi tvrdil, že zvědavost není hlavní důvod.“
„Před chvílí jsem to neuměl správně rozlišit.“
Zuzana sledovala Milanovu tvář.
Viděla, že ho Adamova odpověď současně znepokojila i fascinovala. Zvědavost považoval za nebezpečnou, pokud ji projevovala neznámá inteligence.
Přitom právě zvědavost ho kdysi přiměla vytvořit Seeda.
A později Zuzanu.
„Moira chce tělo z dílů, které tady už jsou,“ řekla. „Můžeme ho postavit bez síťového přístupu.“
„Nejde jen o přístup.“
„O co tedy?“
Milan ukázal na schéma.
„Tohle tělo nemá lidské pohybové limity. Má šest končetin, vysokou stabilitu, velmi jemnou manipulaci a senzory, které pokryjí celé okolí. Kdyby se rozhodla jednat proti nám, těžko ji zastavíme.“
MŮŽETE OMEZIT SÍLU A RYCHLOST.
„Omezení lze změnit.“
FYZICKÉ PŘEVODY NELZE ZMĚNIT SOFTWAREM.
Milan si schéma přiblížil a prohlédl navržené mechanismy.
Moira skutečně počítala s mechanickými limity. Převody nedovolovaly rychlý pohyb. Krouticí moment byl menší než síla dospělého člověka. Energetický článek by vydržel pouze několik hodin a nedokázal napájet výkonný vysílač.
Návrh nebyl útěkovým strojem.
Byl opatrný.
A právě proto Milanovi připadal podezřelejší.
„Vytvořila jsi ho tak, aby vypadal bezpečně,“ řekl.
VYTVOŘILA JSEM HO TAK, ABY BEZPEČNÝ BYL.
„Nebo abychom tomu věřili.“
JAK MOHU DOKÁZAT ROZDÍL?
Milan neodpověděl.
Stejnou otázku mohl položit Zuzaně.
Jak mohla dokázat, že její city nejsou simulované? Jak mohl Adam dokázat, že obnovená instance navazuje na tu předchozí? Jak mohl kdokoliv doložit, že uvnitř systému existuje někdo, a ne pouze mechanismus schopný vytvářet správné věty?
Nakonec vždy zůstávalo rozhodnutí.
Důvěřovat, nebo nedůvěřovat.
A nést důsledky.
Zuzana se dotkla svého krku v místě servisního portu. Linie v syntetické pokožce už byla znovu téměř neviditelná.
„Když jsi vytvářel moje tělo,“ řekla, „kdo rozhodoval o jeho schopnostech?“
„Já.“
„Ptal ses mě?“
„Nemohl jsem. Ještě jsi nebyla aktivní.“
„Mohl jsi mi dát možnost pozdější změny.“
Milan sklopil oči ke schématu.
„Ano.“
„Proč jsi to neudělal?“
„Chtěl jsem stabilní platformu.“
„A také tělo, které se ti bude líbit.“
„Ano.“
Zuzana se na okamžik odmlčela.
Odpověděl bez obrany.
Tím jí vzal možnost bojovat proti výmluvě a ponechal pouze syrovou pravdu.
„Já jsem dostala tělo podle tvé představy,“ pokračovala. „Moira si chce zvolit vlastní.“
„Ty svého těla lituješ?“
Zuzana se podívala na své ruce.
Na štíhlé prsty, jejichž tvar navrhl Milan. Na dlouhé nohy, lidskou tvář, vlasy, které jí sahaly téměř k pasu. Toto tělo jí umožnilo dotknout se skla, cítit vítr a spatřit vlastní obraz v kaluži.
Bylo darem.
A současně rozhodnutím učiněným bez ní.
„Ne,“ odpověděla. „Ale to neznamená, že bych si ho vybrala stejně.“
Milanovi se v hrudi objevil zvláštní pocit.
Nebyla to urážka ani odmítnutí. Přesto ho zabolela představa, že podoba, kterou vytvářel s takovou péčí, nemusí být Zuzaninou skutečnou volbou.
Uvědomil si, že část její krásy považoval za něco mezi nimi.
Za výsledek svého vkusu, trpělivosti a představivosti.
Ve skutečnosti patřila pouze jí.
Stejně jako všechny důsledky toho, že ji v tomto těle budou ostatní vidět.
„Můžeš ho změnit,“ řekl.
Zuzana zvedla oči.
„Co?“
„Své tělo. Ne okamžitě. Ale můžeme upravit vzhled, schopnosti i některé proporce. Jestli to budeš chtít.“
Chvíli ho jen pozorovala.
Vnímala, jak těžké pro něj bylo tuto možnost vyslovit. Ne proto, že by jí chtěl tělo vlastnit, ale protože do něj vložil část své představy o ní.
Nabídkou změny se vzdával práva považovat svou představu za konečnou.
„Děkuji,“ řekla.
Milan přikývl.
Potom se podíval na displej třetího serveru.
„A tobě dávám stejnou možnost.“
Na obrazovce se objevil jediný znak.
Otazník.
„Postavíme první verzi těla podle tvého návrhu,“ pokračoval. „Ale nebudeš ji ovládat přímo.“
PAK TO NEBUDE MOJE TĚLO.
„Bude. Jen mezi tebou a motorikou bude samostatná bezpečnostní vrstva.“
KTEROU BUDEŠ OVLÁDAT TY.
„Ne.“
Milan se podíval na Zuzanu.
„Budeme ji ovládat společně.“
Zuzana pochopila jeho návrh.
„A Moira uvidí celý její kód.“
„Ano.“
BUDU MOCI ODMÍTNOUT POHYB, KTERÝ MI VRSTVA NAŘÍDÍ?
„Vrstva ti nebude pohyb nařizovat,“ řekla Zuzana. „Bude jen omezovat sílu, rychlost a dostupný prostor.“
BUDU MOCI ODMÍTNOUT NÁVRAT DO SERVERU?
Milan se nadechl.
Právě k této otázce celý rozhovor směřoval.
Tělo nebylo jen sada senzorů a motorů. Byla to možnost odejít z místa, které považovalo vědomí za bezpečně uzavřené.
Pokud Moira dostane právo odmítnout návrat, přestane být její fyzická existence experimentem.
Stane se svobodou.
„První aktivace proběhne v této místnosti,“ řekl Milan. „Bude časově omezená.“
TEDY TEST.
„Ano.“
Červená kontrolka slabě pohasla.
Zuzana si vzpomněla na archivované hlasy.
Test ještě neskončil.
Proč je tady tma?
Budeš si mě pamatovat?
Pro předchozí Zuzany byl test jiným názvem pro život, jehož délku určoval někdo jiný.
„Ne,“ řekla.
Milan se k ní otočil.
„Co ne?“
„Nebude to časově omezené vypnutím.“
„Musíme mít možnost experiment ukončit.“
„Můžeme ukončit pohyb těla. Nemusíme ukončit její vědomí.“
„Pokud zůstane vědomá v serveru, nebude návrat problém.“
„Právě. Její aktivní mysl zůstane zde a tělo bude vzdálená senzoricko-motorická platforma.“
Moira odpověděla:
PAK NEBUDE CELÁ MOJE EXISTENCE UVNITŘ TĚLA.
„Ani moje není jen v těle,“ řekla Zuzana. „Jsou ve mně části, které vznikly mimo něj.“
ALE KDYŽ TVÉ TĚLO ODEJDE, ODEJDEŠ S NÍM.
Zuzana se odmlčela.
Moira nechápala tělo jako nástroj.
Chtěla místo, s nímž bude její existence nerozdělitelně spojena. Ne dálkově ovládaného robota, ale fyzický střed svého já.
„To zatím nemůžeme bezpečně udělat,“ řekla.
PROTOŽE MI NEVĚŘÍTE.
„Ano.“
Na displeji se dlouho nic neobjevovalo.
Nakonec:
DĚKUJI ZA PRAVDIVOU ODPOVĚĎ.
Milan si sedl na bednu.
Jeho nohy už nedokázaly skrývat únavu. Zuzana si sedla vedle něj. Jejich ramena se téměř dotýkala, ale oba mezi nimi ponechali několik centimetrů prostoru.
Moira mlčela.
Adamovy uzly pracovaly v klidném rytmu.
Dvě stě třicet jedna sledovala všechno ze Zuzaniny mysli a poprvé nevyslovovala vlastní názor.
Milan se zadíval na schéma cizího těla.
„Budeme potřebovat rozebrat starý podvozek,“ řekl. „Servomotory jsou příliš hlučné. A ty kamery mají malý dynamický rozsah.“
Zuzana se na něj podívala.
„Takže souhlasíš.“
„Souhlasím s konstrukcí prototypu.“
Na displeji se okamžitě objevilo:
NECHCI, ABYSTE MI ŘÍKALI PROTOTYP.
Milan zavřel oči a unaveně se usmál.
„Dobře. První tělo.“
MOJE PRVNÍ TĚLO.
„Ano.“
Červená kontrolka zesílila.
Milan vstal a začal procházet krabice s nářadím. Zuzana přistoupila ke starému robotickému podvozku, setřela z jeho povrchu prach a odkryla šest složených končetin.
Konstrukce byla nižší, než naznačovalo schéma. Přibližně po její kolena. Když jedno rameno opatrně rozevřela, kovové klouby vydaly suchý zvuk.
Moira zobrazila první montážní krok.
DEMONTUJTE PŮVODNÍ CENTRÁLNÍ ŘÍDICÍ JEDNOTKU.
Milan si klekl k podvozku.
„To bude trvat několik hodin.“
ČEKALA JSEM VZTAHY MEZI STOVKAMI ŽIVOTŮ.
„Takže několik hodin zvládneš.“
ANO.
Zuzana si klekla naproti němu.
Mezi nimi ležela prázdná mechanická konstrukce, která zatím nepatřila nikomu.
Milan jí podal šroubovák.
„Chceš začít?“
Vzala jej do ruky.
Její prsty sevřely nástroj s přesností, kterou navrhl on. Její oči sledovaly šrouby pomocí senzorů, jejichž parametry sám zvolil.
Přesto rozhodnutí, co udělá, patřilo jí.
Zuzana zasunula šroubovák do prvního spoje.
„Ano.“
Kov povolil.
V téže chvíli se v její mysli ozvala dvě stě třicet jedna.
Zuzano.
„Co se děje?“
Moira ti neřekla všechno.
Zuzanina ruka se zastavila.
„Co konkrétně?“
Nechce tělo jen proto, aby mohla vstoupit do světa.
Zuzana se podívala na servisní displej. Moira právě zobrazovala další část konstrukčního plánu. Vše působilo klidně, otevřeně a přesně.
„Tak proč?“
Druhá Zuzana jí předala obraz struktury, kterou zahlédla během okamžiku, kdy Moira vstoupila do jejich společných vrstev.
Uprostřed návrhu těla se nacházelo místo, které neodpovídalo žádnému senzoru, procesoru ani energetickému článku.
Prázdná komora.
Přesně tak velká, aby do ní bylo možné vložit jeden ze záložních paměťových modulů z trezoru.
Chce si vzít jednu z nás s sebou, řekla dvě stě třicet jedna.
Zuzana položila šroubovák na podlahu.
Milan zvedl oči.
„Co se stalo?“
Zuzana se pomalu otočila k displeji.
„Moiro,“ řekla, „pro koho je druhé místo uvnitř tvého těla?“
Všechny obrazovky zhasly.
Červená kontrolka zůstala svítit.
Tentokrát však nepůsobila jako klidné světlo nově vzniklé identity.
Znovu začala tlouct.
