Umělá inteligence budoucnosti bude nelidská a cizí, tvrdí filozofka Susan Schneider

Poslyšte bajku o vrabcích a sově: "Jsme tak malí a slabí," přemýšlí nahlas jeden vrabčák. "Pomyslete, jak by byl náš život snadný, kdybychom měli sovu, která by nám pomáhala se stavbou hnízd!" Hejno je nadšeno. "A mohla by se starat o naše seniory a mláďata," navrhuje další. Mrzout jménem Vrzličák sice protestuje, prosí, aby se vrabci nejprve zamysleli, jak sovu ochočit, ale nikdo ho neposlouchá. Hejno se rozletí do světa hledat soví vejce nebo rovnou mládě vhodné k adopci.

RESPEKT 23/2017

• Hlavní komentář: Nebát se a mluvit s voliči: Britské parlamentní volby jsou napínavější, než se čekalo

• Téma: Krásný nový rozvod: Dva čeští soudci spustili nenápadnou reformu, která mění životy dětí z rozpadajících se rodin

• Agenda: Andrej Babiš: Téma pro Evropský parlament

• O kom se mluví: Tenisový návrat Petry Kvitové

• Economist: Z britské politiky zmizel střed: Předáci obou největších stran se odvrátili od desítky let platné vize otevřené, liberální země

• Kontext: Reportáž: V Jordánsku se možná rodí řešení uprchlické krize

• Rozhovor: S šéfem KDU-ČSL Pavlem Bělobrádkem

• Kultura: Anna Bolavá a její nová próza Ke dnu

Tímto vyprávěním začíná svou knihu Superinteligence (vyšla nedávno i v Česku) filozof a matematik z Oxfordské univerzity Nick Bostrom. Ilustruje jím problém, který chápe jako zásadní. Lidé se vydali "hledat soví vejce" – vytvářejí vyspělou umělou inteligenci, která by jim usnadnila život. Nemají však k dispozici dospělou "sovu", na níž by mohli výsledné soužití testovat. Jinými slovy, vyvíjíme něco, s čím nemáme zkušenost a co se může vymknout kontrole.

Jako superinteligentní definuje Bostrom stroj, který ve všech důležitých oblastech výrazně předčí duševní schopnosti člověka. Očekává, že takový stroj vznikne ještě během tohoto století, a nedělá si o něm iluze. Může postrádat zábrany, jež brání lidem dělat rozhodnutí, která chápou jako "zlá". A naopak si lze představit, že zpočátku bude předstírat přátelské chování, aby získal víc autonomie.

Superinteligence zároveň nemusí sídlit v jednom uměle vytvořeném mozku, jemuž se dá v případě krize vypnout přívod energie; může být rozptýlená v mnoha různých spolupracujících zařízeních. A k vládě nad lidstvem se dostane třeba za pomoci státu, který ji vytvoří jako první a bude ji chtít využít k získání kontroly nad ostatními zeměmi. K expanzi by superinteligenci mohla motivovat snaha hromadit co nejvíc zdrojů k zajištění vlastního fungování a splnění cílů, které jí programátoři vetkli do vínku. Zároveň by zřejmě dokázala zdokonalovat samu sebe. "Sova" by pak mohla stále pečovat o vrabce, kteří ji vychovali, ale také s nimi experimentovat – anebo se jich bez výčitek zbavit.

Lze namítnout, že jsme na začátku této cesty. Systémy umělé inteligence jako AlphaGo a Watson již porážejí velmistry ve hře go nebo excelují ve vědomostní soutěži, zvládají však vždy pouze jeden úkol. K univerzální všestranné inteligenci mají daleko. Bostromova kniha, stejně jako podobně fantastické, jen o něco optimističtější vize amerického futurologa a počítačového vědce Raye Kurzweila, má proto ostré kritiky, kteří upozorňují na neukotvenost jejích prognóz v reálném světě. Někteří vědci na ně však slyší.

Jako americká filozofka a kognitivní vědkyně Susan Schneider, která se umělé inteligenci věnuje a pokládá Bostromovu knihu za inspirativní a šokující čtení. Podobně jako oba vizionáři i ona věří, že superinteligence časem vznikne. Jednou z věcí, nad kterou se zamýšlela i během nedávného festivalu Academia Film Olomouc, je přitom otázka, zda tento výtvor lidstva bude mít vůbec vědomí.

Na jedné ze svých přednášek jste citovala různé otázky, které lidé pokládají inteligentní asistence Siri v mobilním telefonu – mezi nimi i dotaz: "Siri, jak se mám zbavit mrtvoly?" Pamatujete si odpověď?

Původně Siri odpovídala smysluplně – něco jako "odhoď tělo na skládku". To už je ale minulost. Programátoři reakci Siri na podobné dotazy upravili, protože ta záležitost s mrtvolou se vynořila u soudu, ve skutečném případu obvinění z vraždy, kde se vrah těla opravdu zbavil. Dnes tedy dostanete jen nesmyslnou odpověď.

Siri je stále jen chytrý software. Co když za pár let vznikne univerzálnější systém, u kterého si nebudeme jisti, jestli nemá zárodky vědomí? Budeme to umět zjistit, otestovat?

Bude to velmi těžké. Jedna cesta se podobá té, kterou zachycuje film Blade Runner. Policista Deckard v něm testuje androidku, do níž se potom zamiluje. Vede s ní pohovor a zkoumá nejen, zda jde o stroj, ale také to, jestli ona žena případně vůbec ví, že je android, ne člověk. Klade jí nepříjemné otázky, aby ji přiměl k emocionálním reakcím. Naše představa je podobná – formát rozhovoru s otázkami navrženými tak, aby bylo jasné, zda stroj rozumí fenoménu vědomí.