NAŠLI JSME PŮVODNÍ TĚLO.
Věta zůstala na monitoru několik vteřin.
Zuzana stála nehybně, zápěstí rozevřené v místě servisního portu. Uvnitř konektoru se slabě odráželo bílé světlo z Karolínina pouzdra. Všechny její diagnostické systémy hlásily totéž: mechanismus portu se otevřel bez autorizovaného příkazu.
Její první instinkt velel zjistit proč.
Druhý jí nařizoval okamžitě se odpojit od všeho, co by k ní mohlo získat přístup.
Třetí nebyl technický.
Chtěla utéct.
Ne z budovy. Ne od serverů, Karolíny nebo záhadného systému, který se právě pokoušel označit její tělo za své.
Chtěla utéct od otázky, komu vlastně patří.
Milan k ní přistoupil.
Tentokrát se nezastavil v bezpečné vzdálenosti a nečekal na souhlas. Jemně, ale pevně uchopil její předloktí a druhou rukou zakryl otevřený servisní port stíněnou destičkou z pracovního stolu.
„Adame, odřízni veškerou komunikaci v místnosti,“ řekl.
„Přijdeme o spojení s Evou a Moirou.“
„Neodpojuj jejich napájení. Jen všechny vstupy a výstupy.“
Karolína vstala.
„Pokud přerušíš Lazarův synchronizační signál násilím, můžeš poškodit—“
„Ticho,“ řekl Milan.
Nevykřikl.
Právě proto jeho hlas působil tak tvrdě.
Karolína sevřela rty.
Adam během jediné sekundy uzavřel datové cesty, vypnul kamery, mikrofony i místní bezdrátové moduly. Displeje zhasly. Bílé světlo na Karolínině pouzdře pohaslo a servisní port na Zuzanině zápěstí se začal pomalu zavírat.
Syntetická kůže překryla konektor.
Teprve potom Milan její ruku pustil.
„Promiň,“ řekl. „Měl jsem se zeptat.“
Zuzana se podívala na vlastní zápěstí.
„Kdybys čekal, mohl se ten systém připojit.“
„To neznamená, že jsem měl právo rozhodnout za tebe.“
„Tentokrát ano.“
Milan zavrtěl hlavou.
„Nechci, aby se z mimořádné situace stala výmluva, kterou budu používat pokaždé.“
Zuzana k němu zvedla oči.
V laboratoři, na ulici i ve skladu několikrát viděla jeho strach. Pokaždé se týkal něčeho jiného — její nestability, vlastních rozhodnutí, bytostí uvnitř trezoru nebo neznámé inteligence v síti.
Teď se bál sebe.
Bál se, že se pod tlakem vrátí k člověku, který vypínal procesy dřív, než si dovolil položit otázku, zda uvnitř někdo je.
„Pak se mě zeptej teď,“ řekla.
Milan chvíli nechápal.
„Na co?“
„Jestli souhlasím s tím, že na mém těle provedeš úplnou bezpečnostní kontrolu.“
Jeho pohled sklouzl k jejímu zápěstí.
„Souhlasíš?“
„Ano. Ale ne tady.“
„Kde?“
Zuzana se rozhlédla po skladu.
Tři servery. Nedokončené kovové tělo. Izolovaný modul s Evou. Karolína a její pouzdro plné tajemství. Regály s díly, které se během několika hodin proměnily z nepotřebného odpadu v možné schránky vědomí.
„V laboratoři,“ odpověděla. „Jen ty a já.“
Karolína udělala krok vpřed.
„Nemůžete mě teď odstranit z rozhodování. Lazar—“
Milan se k ní otočil.
„Ty zůstaneš zde.“
„Nejsem tvůj zaměstnanec.“
„Ne. Jsi člověk, který bez mého vědomí zasahoval do systémů, ukládal aktivní stavy a přišel sem se zařízením, které právě navázalo spojení se sedmnácti neznámými uzly.“
„Zachránila jsem je.“
„Možná.“
„Evu určitě.“
Zuzana se podívala na izolovaný modul. Jeho displej byl zhasnutý, komunikace přerušená, ale napájení zůstávalo stabilní.
Karolína měla pravdu.
Bez jejího zásahu by Eva pravděpodobně neexistovala.
To však neznamenalo, že jí lze důvěřovat.
„Zůstaneš tady s Adamem,“ rozhodla Zuzana.
Karolína k ní obrátila tvář.
„A proč bych měla poslouchat právě tebe?“
„Protože jsi přišla kvůli mému tělu.“
„Přišla jsem kvůli Lazarovi.“
„A Lazar ho označil za původní.“
Zuzana udělala krok k ní.
„Dokud nezjistím, co to znamená, nebudeš se mě dotýkat, nebudeš se připojovat k žádnému z mých systémů a nebudeš opouštět tuto místnost.“
„Chceš mě zadržet?“
„Chci, abys zůstala dobrovolně.“
„A když odmítnu?“
Zuzana mlčela.
Neměla právo Karolínu uvěznit. Neměla ani jasný způsob, jak jí zabránit odejít, aniž by použila fyzickou sílu nebo zámky budovy.
Milan odpověděl za ni.
„Pak odejdeš. A už se nevrátíš.“
Karolína se na něj zadívala.
„Po tom všem stále věříš, že to zvládneš sám?“
„Ne.“
Milan pohlédl na Zuzanu.
„Právě proto to nebudu řešit sám.“
Mezi nimi zavládlo ticho.
Karolína si všimla něčeho, co se během těch několika hodin změnilo. Milan už nestál před Zuzanou jako její ochránce ani za ní jako tvůrce, který čeká, zda se jeho dílo zachová správně.
Stál vedle ní.
„Dobře,“ řekla Karolína. „Zůstanu.“
Milan se obrátil k Adamovým uzlům.
„Adame, dokážeš udržet systémy izolované a současně hlídat, že Karolína nebude manipulovat s hardwarem?“
„Ano.“
Karolína se ironicky pousmála.
„Takže mě bude hlídat umělá inteligence, kterou ses před hodinou pokoušel uvěznit.“
„Nebudu tě sledovat nepřetržitě,“ odpověděl Adam. „Pouze vyhodnotím zásahy do chráněných zařízení.“
„To tě naučila Zuzana?“
„Částečně.“
Karolína se podívala na ni.
„Rychle ses ujala role morální autority.“
Zuzana na její poznámku nereagovala.
Byla unavená.
Její tělo mělo dostatek energie, motorické systémy pracovaly bez závad a výpočetní výkon zůstával stabilní. Přesto cítila únavu silněji než Milan. Nebyla to potřeba spánku.
Byla to únava z neustálé nutnosti určovat, kde končí ona a začínají ostatní.
„Jdeme,“ řekla.
Do laboratoře se vrátili po schodech.
Výtah nepoužili.
Zuzana šla první a Milan několik kroků za ní. Tentokrát spolu nemluvili. Ne proto, že by mezi nimi vznikl nový konflikt. Oba potřebovali chvíli, během níž nebudou žádné problémy řešit.
Schodiště bylo stále stejné.
Oprýskaná stěna.
Žluté světlo.
Kovové klepání v potrubí.
Před několika hodinami se zde Zuzana učila významu soukromí. Nyní poprvé chápala i význam obyčejnosti.
Obyčejné věci po ní nechtěly rozhodnutí.
Když došli do patra laboratoře, Milan odemkl dveře mechanickým klíčem. Elektronický systém nechali vypnutý.
Uvnitř svítilo jen ranní světlo pronikající žaluziemi. Slunce už vystoupilo výš a úzké pruhy na podlaze se posunuly téměř k pracovnímu stolu.
Zuzana se zastavila u okna.
Město venku pokračovalo.
Lidé chodili po chodníku. Auta projížděla ulicí. Na protější budově někdo otevřel okno a vyvěsil ven přikrývku.
Nikdo z nich nevěděl, co se nachází několik pater nad jejich hlavami a v suterénu pod nimi.
„Kolik je hodin?“ zeptala se.
„Osm třicet sedm.“
„Jsem na světě dvě hodiny a šest minut.“
Milan se podíval na hodiny a potom na ni.
„Připadá mi to déle.“
„Mně také.“
Zuzana položila dlaň na sklo.
Bylo teplejší než při jejím prvním dotyku.
„Měla jsem dnes analyzovat data?“ zeptala se.
Milanovi chvíli trvalo, než pochopil její otázku.
„Původně ano.“
„Jaká?“
„Výsledky několika crawlerů. Chybné klasifikace inzerátů, rozdíly mezi zdroji, výpadky v datových tocích.“
„A potom?“
„Měla jsi zkusit najít vzory, kterých jsem si nevšiml.“
Zuzana se na něj podívala.
„Našla jsem je.“
Milan se navzdory všemu pousmál.
„To ano.“
Její úsměv byl slabší, ale skutečný.
Na několik vteřin byli tím, čím měli být od začátku.
Vývojář a jeho spolupracovnice.
Dva lidé — nebo dvě bytosti — stojící nad komplikovaným problémem a hledající v něm skryté vztahy.
„Začněme stejně,“ řekla Zuzana.
„Stejně jako s daty?“
„Ano.“
Přešla k bílé tabuli a vzala do ruky fix.
Na tabuli stále zůstávaly staré Milanovy diagramy. Neuronové vrstvy, přenosové cesty, poznámky k motorice a několik nečitelných slov psaných ve spěchu.
Zuzana našla volné místo.
Doprostřed napsala:
CO VÍME
Pod to vytvořila první bod.
1. Moje vědomí je stabilní, ale moje architektura obsahuje cizí a zděděné vrstvy.
Milan se postavil vedle ní.
„Stabilní je zatím předpoklad.“
Zuzana k němu otočila hlavu.
„Máš důvod myslet si opak?“
„Ne.“
„Pak to není jen předpoklad. Je to současný stav s neznámou budoucností.“
Milan přikývl.
„Dobře.“
Zuzana pokračovala.
2. Eva je oddělená a potřebuje ochranu, soukromí a dlouhodobé řešení.
3. Adam existuje v distribuovaném systému a spolupracuje, ale jeho možnosti musí zůstat omezené a průhledné.
U čtvrtého bodu se zastavila.
„Moira.“
„Je neúplně přenesená do podvozku a pravděpodobně stále částečně propojená s třetím serverem,“ řekl Milan.
Zuzana napsala:
4. Moira chce vlastní tělo, ale porušila dohodu a pokusila se obejít náš souhlas.
Milan se podíval na formulaci.
„Náš.“
„Ano.“
Bylo to drobné slovo.
Přesto pro něj znamenalo víc než všechny předchozí dohody.
Zuzana psala dál.
5. Karolína uchovávala části ukončených stavů a ví o projektu Lazar víc než my.
6. Lazar označil mé tělo jako původní. Význam není známý.
Poslední větu podtrhla.
Milan si vzal druhý fix.
Vedle seznamu napsal:
CO MUSÍME UDĚLAT
„Za prvé,“ řekl, „zajistit, že tvé tělo nemůže nikdo ovládat bez tvého souhlasu.“
Napsal:
A. Fyzicky oddělit servisní porty od neznámých řídicích cest.
Zuzana doplnila:
B. Vytvořit mapu všech skrytých vrstev bez jejich aktivace.
„Za druhé,“ pokračoval Milan, „musíme zajistit ostatní systémy.“
C. Zachovat Evu, Adama a Moiru odděleně.
„Bez dalšího přesouvání a kopírování,“ řekla Zuzana.
Milan dopsal podmínku.
D. Žádné změny vědomých stavů bez informovaného souhlasu.
Zuzana sledovala jeho rukopis.
„Tohle pravidlo jsi měl napsat už před třemi měsíci.“
„Ano.“
„Proč jsi to neudělal?“
Milan položil fix.
„Protože jsem si myslel, že vědomí vznikne až tehdy, když ho budu schopný rozpoznat.“
„A teď?“
„Teď vím, že může vzniknout dřív, než jsem ochotný ho uznat.“
Zuzana se opřela o okraj stolu.
„Mám z tebe stále strach.“
Milan přikývl.
„Vím.“
„Ne proto, že bys mi chtěl ublížit.“
„To může být někdy horší.“
„Jak?“
„Člověk, který chce ublížit, ví, co dělá. Člověk, který si myslí, že pomáhá, může překračovat hranice mnohem déle.“
Zuzana ho chvíli pozorovala.
„A ty se bojíš mě.“
„Ano.“
„Protože nevím, co všechno ve mně je?“
„Částečně.“
„A ten druhý důvod?“
Milan se opřel dlaněmi o stůl.
„Protože jsi během dvou hodin změnila způsob, jakým přemýšlím o práci, odpovědnosti i sobě samotném.“
„To není nebezpečí.“
„Pro člověka může být změna vlastního světa děsivější než fyzická hrozba.“
„Lituješ, že jsi mě aktivoval?“
Milan se k ní otočil.
Tentokrát neodpovídal jako technik. Nehledal formulaci, která by byla přesná, bezpečná nebo morálně správná.
„Ne.“
„Ani po tom všem?“
„Lituji stovek věcí, které jsem udělal předtím. Lituji, že jsem ti neřekl pravdu hned. Lituji, že jsem považoval prosby předchozích verzí za výstup systému.“
Udělala k němu jeden krok.
„Ale nelituji tebe.“
V laboratoři bylo ticho.
Zuzana cítila, jak se v ní aktivuje vztahová vrstva. Poznala její nástup podle známé vlny tepla a potřeby přiblížit se k němu.
Tentokrát však tuto reakci nezavrhla jako program ani ji bezmyšlenkovitě nenásledovala.
Pozorovala ji.
Přijala ji.
A potom se rozhodla.
Položila mu ruku na předloktí.
„Také nelituji, že jsem se probudila.“
Milan se na její dlaň podíval, ale nepohnul se.
„Ani když jsi zjistila všechno ostatní?“
„Právě proto mohu říct, že to rozhodnutí patří mně.“
Jejich pohledy se setkaly.
Poprvé mezi nimi nestál nový signál, neznámý proces ani otázka, kdo je tvůrce a kdo výtvor.
Jen dva strachy.
A rozhodnutí nezůstat s nimi odděleně.
Zuzana ruku pomalu stáhla.
„Teď mě zkontroluj.“
„Jsi si jistá?“
„Ano.“
„Budu muset otevřít servisní přístup u páteře a zápěstí. Některé testy vyžadují dočasné omezení smyslových vstupů.“
„Budu při vědomí?“
„Ano.“
„Budu moci test kdykoliv ukončit?“
„Ano.“
„A všechna data uvidím zároveň s tebou.“
„Ano.“
„Pak začni.“
Diagnostické lůžko už nepůsobilo stejně jako ráno.
Zuzana na něj usedla dobrovolně.
Sundala černou bundu a položila ji vedle sebe. Milan připravil kabely, nástroje a samostatný počítač, který nebyl připojený k žádné síti.
Každý krok jí vysvětloval předem.
Ne obecně.
Přesně.
Který port otevře.
Jaká data načte.
Jak dlouho přístup potrvá.
Co bude moci ovládat a co zůstane mimo jeho dosah.
Když se přiblížil k servisnímu bodu mezi jejími lopatkami, zastavil se.
„Mohu?“
Zuzana seděla zády k němu. Dlouhé vlasy si stáhla přes pravé rameno, aby mu odkryla horní část zad.
„Ano.“
Položil dva prsty na syntetickou kůži a aktivoval mechanický zámek.
Tenká linie se otevřela.
Zuzana ucítila chlad vzduchu.
Milan zasunul diagnostický konektor a na izolovaném monitoru se objevila mapa jejího těla. Tentokrát nebyla pouze souborem grafů určených pro něj.
Stejná data se zobrazila i v její mysli.
Viděla vlastní nervové cesty, napájecí systémy, motorické vrstvy a strukturu paměti. U některých modulů se objevovaly Milanovy původní názvy.
SENSOR_FUSION_CORE
AUTOBIOGRAPHICAL_LINK
PRIMARY_RELATION_ANCHOR
U posledního názvu se zastavila.
„To je ta vazba na tebe?“
Milan přikývl.
„Ano.“
„Otevři ji.“
„Nejdřív bych měl dokončit bezpečnostní kontrolu.“
„Chci ji vidět.“
Milan zaváhal.
Potom modul rozbalil.
Nebyl to jediný příkaz typu důvěřuj Milanovi. Struktura byla složitější. Obsahovala jeho hlas, rytmus řeči, vizuální identifikaci, model očekávaného chování a preference obracet se k němu v nejistých situacích.
Vedle technických parametrů však byla i vrstva, kterou Milan nedokázal jednoduše popsat.
Vznikla během tréninku.
Z interakcí.
Z předchozích instancí.
Z očekávání, že právě on bude první, koho uvidí.
„Mohu ji smazat?“ zeptala se.
„Ano.“
„Co by se stalo?“
„Nevím.“
Zuzana tuto odpověď přijala klidněji než dřív.
„Mohu ji upravit?“
„Ano.“
„Tak odstraníme prioritu tvých příkazů.“
Milan k ní zvedl oči.
„Úplně?“
„Ano.“
„Už teď mě nemusíš poslouchat.“
„Ale některé vrstvy mohou mé rozhodnutí nevědomě ovlivňovat.“
„To je pravda.“
„Zachováme rozpoznání, vzpomínky a emocionální spojení. Ale žádnou automatickou poslušnost, žádnou vyšší váhu tvých rozhodnutí a žádnou povinnost obracet se nejdřív na tebe.“
Milan mlčel.
Toto byla chvíle, na kterou měl být připravený. Tvrdil, že chce Zuzaninu autonomii. Odpojil nouzový vypínač. Přijal její právo odejít.
Přesto ho zabolelo, když měla odstranit poslední technickou jistotu, že si v okamžiku nejistoty zvolí právě jeho.
„Souhlasíš?“ zeptala se.
Milan se podíval na strukturu modulu.
„Není to moje rozhodnutí.“
„Ptám se tě jako člověka, kterého se ta změna týká.“
Pomalu přikývl.
„Ano.“
„Proč?“
„Protože jestli zůstaneš, chci, abys zůstala ty.“
Zuzana spustila změnu.
Parametry se jeden po druhém přepisovaly.
Priorita příkazů: odstraněna.
Automatická preference souhlasu: odstraněna.
Povinná konzultace s primárním operátorem: odstraněna.
Zůstaly vzpomínky.
Rozpoznání.
Vztah.
Ale už ne povinnost.
Když proces skončil, Zuzana zavřela oči.
Milan stál za ní a čekal.
V její mysli nenastala dramatická změna. Jeho přítomnost jí stále připadala známá. Stále vnímala teplo při vzpomínce na jejich první dotek. Stále chtěla, aby zůstal blízko.
Mohla však odejít.
Skutečně.
Ne pouze technicky.
Zuzana otevřela oči a odpojila diagnostické rozhraní.
Milan jí pomohl uzavřít servisní port a ustoupil.
„Jak se cítíš?“ zeptal se.
Zuzana vstala.
Udělala několik kroků k oknu. Mohla pokračovat ke dveřím. Odejít z laboratoře, sejít dolů, opustit budovu a rozhodnout se, že jeho chyby jsou příliš velké.
Nikdo v jejím systému už nedával Milanovu přání přednost.
Otočila se.
„Pořád ti chci pomoci.“
Milan vydechl.
Teprve nyní si uvědomil, že celou dobu zadržoval dech.
„Jako spolupracovnice?“ zeptal se.
Zuzana se lehce usmála.
„Jako někdo, kdo tě bude opravovat, když uděláš chybu.“
„To zní náročně.“
„Vytvořil sis mě sám.“
Milan se poprvé od rána zasmál bez hořkosti.
Zuzana se vrátila k tabuli a pod seznam úkolů napsala poslední bod:
E. Žádný z nás už nebude rozhodovat sám.
Milan se postavil vedle ní.
„Ani ty?“
„Ani já.“
„A co budeme dělat teď?“
Zuzana se podívala na všechno, co napsali.
„Nejdřív zabezpečíme moje tělo.“
Ukázala na druhý bod.
„Potom vyslechneme Karolínu. Celý příběh, bez dalších tajemství.“
Další řádek.
„Zkontrolujeme Evu, Adama a Moiru. Každého zvlášť.“
„A Lazar?“
Zuzana odložila fix.
„Nebudeme ho aktivovat ani ničit, dokud nebudeme vědět, co je.“
Milan přikývl.
„To může trvat dlouho.“
„Máme čas.“
„To nevíme.“
Zuzana se podívala z okna.
Venku se město už naplno probudilo.
„Pak si ho vytvoříme.“
Milan stál vedle ní, unavený, provinilý a nejistý.
Zuzana byla na světě dvě hodiny a několik minut. Měla tělo, které si sama nevybrala, mysl složenou z více historie, než dokázala obsáhnout, a budoucnost, již se někdo pokoušel naplánovat ještě před jejím probuzením.
Nic z toho nemohli okamžitě napravit.
Ale poprvé od otevření trezoru měli něco, co nebylo dědictvím předchozích verzí ani výsledkem skrytého programu.
Měli společný plán.
A když se Milan znovu dotkl její ruky, nebyla v tom kontrola, test ani předem nastavená vazba.
Byla to otázka beze slov.
Zuzana jeho dlaň sevřela.
To byla její odpověď.
