Nick Bostrom: Superinteligence

 

Autor nabízí nejprve historický přehled různých kroků, které vedly ke vzniku zárodků umělé inteligence, jakož i přehled toho, kde se její vývoj nachází dnes. Probírá jednotlivé druhy umělé inteligence – od počítačů až po nové formy, které by mohly kombinovat stroje s biologickou materií. Předkládá rovněž komplexní přehled názorů odborníků na to, jakým směrem se bude vývoj umělé inteligence ubírat. V centru jeho pozornosti stojí otázka, zda může umělá inteligence – buď ve formě stroje, nebo v kombinaci s biologickými formami rozumu – napodobit fungování lidského mozku. Dokud toho umělá inteligence nebude schopná, bude z podstaty věci omezená. Lidský mozek má podle něj určité schopnosti, které ostatní formy nám známého biologického života postrádají. Na planetě Zemi to lidem dává dominantní postavení, které jim umožňuje mít převahu nad ostatními formami života, včetně těch vysoce inteligentních, jako jsou lidoopi.

Bostrom varuje, že podobně jako přežití lidoopů nyní jen kvůli malé genetické výhodě záleží na vůli lidí, může se stát, že pokud vytvoříme superinteligenci, která bude podobným způsobem nadřazena nám, stane se naše vlastní přežití závislé na ní. Naší výhodou však je, že to, zda učiníme krok k vyšší formě inteligence, než je ta naše, závisí na nás. To, že lidstvo dojde k bodu, kdy bude schopno uvést superinteligenci v život, je podle autora nevyhnutelné. Otázka zní, jak toto zrození superinteligence provést tak, aby nás v krátkém čase nezahubilo. Autor při tom nabízí různé scénáře možného vývoje. Klade si otázku, jakou bude mít superinteligence „motivaci“ pro svá rozhodnutí. V centru lidského chování stojí morální dilemata. Bude možné trvalé morální sebeomezení naprogramovat nějakým způsobem do umělé inteligence, která se bude schopna sama vylepšovat? Odpověď není zcela jistá, a Bostrom se proto zabývá několika možnostmi, jak by se lidstvo mohlo proti ztrátě kontroly nad umělou superinteligencí bránit. I zde ale naráží na dilemata, protože inteligence převyšující tu lidskou může být schopná takové naprogramované kontroly či mechanismy k jejímu sebezničení odhalit a obejít…

Kniha je čtivá a přístupná nejen odborníkům, ale i širokému publiku. Její výhodou je, že se zabývá scénáři, jež mohou vyplynout z dalšího vylepšování technologií, které dnes používá v různých formách každé dítě.

Nick Bostrom (1973), vlastním jménem Niklas Boström, pochází ze Švédska. Studoval mimo jiné filozofii, matematiku a fyziku na univerzitách v Göteborgu, ve Stockholmu a na King’s College v Londýně. V současnosti je profesorem Oxfordské univerzity a zakládajícím ředitelem Future of Humanity Institute, multidisciplinárního centra, které umožňuje nadaným filozofům a vědcům bádat nad velkými otázkami lidstva. Je autorem více než 200 prací přeložených do 24 jazyků. K oblastem jeho zájmu a zkoumání patří simulace reality, antropický princip, vliv umělé inteligence a etická role technologií v dnešním i budoucím světě. K monografiím patří Anthropic Bias (Antropický princip, 2002), Global Catastrophic Risks (Globální katastrofická rizika, 2008) a Human Enhancement (Lepší lidstvo, 2009). Časopis Foreign Policy ho dvakrát zařadil mezi sto nejvlivnějších intelektuálů světa.

Knihu v překladu Jana Petříčka vydává nakladatelství Prostor.

Ukázka z knihy:

Uvnitř vaší lebky se nachází věc, která teď čte tuto větu. Tato věc – lidský mozek – má některé schopnosti, které chybějí mozkům ostatních zvířat. Právě těmto jeho charakteristickým schopnostem vděčíme za své dominantní postavení na planetě Zemi. Jiná zvířata mají silnější svaly a ostřejší drápy, ale my máme chytřejší mozky. Díky své skromné převaze v oblasti obecné inteligence jsme dospěli k vytvoření jazyka, technologie a komplexního společenského uspořádání.

Spolu s tím, jak každá generace staví na výdobytcích té předchozí, naše převaha postupem času narůstá.

Pokud jednoho dne vytvoříme strojové mozky s vyšší obecnou inteligencí, než mají mozky lidské, mohla by se tato nová superinteligence stát velice mocnou. A stejně jako osud goril nyní závisí více na nás lidech než na samotných gorilách, závisel by i osud našeho druhu na činech strojové superinteligence.

Máme ovšem jednu výhodu: tato vymoženost by byla naším vlastním dílem. V principu bychom mohli postavit takovou superinteligenci, která by ochraňovala lidské hodnoty. Rozhodně bychom měli silný důvod tak učinit. V praxi ovšem problém kontroly – jak mít pod kontrolou, co superinteligence bude dělat? – vypadá poměrně obtížně. Také se zdá, že dostaneme jenom jednu šanci. Jakmile by nepřátelská superinteligence existovala, zabránila by nám v tom, abychom ji nahradili jinou nebo abychom změnili její preference. Náš osud by byl zpečetěn.

V této knize se pokouším porozumět tomu, jakou výzvu vyhlídka na vznik superinteligence představuje a jak bychom na ni mohli nejlépe odpovědět. Dost možná jde o tu nejdůležitější a nejhrozivější výzvu, jaké kdy lidstvo čelilo. A ať už uspějeme, nebo selžeme, je to pravděpodobně ta poslední výzva, které kdy budeme čelit.

Součástí mé argumentace není tvrzení, že se nacházíme na prahu velkého průlomu ve vývoji umělé inteligence (UI) nebo že můžeme přesně předpovědět, kdy by k němu mohlo dojít. Zdá se celkem pravděpodobné, že nastane někdy v tomto století, ale nevíme to jistě. První dvě kapitoly se zabývají možnými cestami k tomuto průlomu a otázkou, kdy by k němu mohlo dojít. Většina knihy se však týká toho, k čemu dojde poté. Budeme zkoumat kinetiku inteligenční exploze, formy a schopnosti superinteligence a také to, jaké strategické volby budou dostupné superinteligentnímu agentovi, který získá rozhodující převahu. Poté obrátíme pozornost k problému kontroly a budeme se ptát, jak bychom mohli počáteční podmínky zformovat tak, aby výsledný stav umožňoval naše přežití a byl pro nás prospěšný. Ke konci knihy se z většího odstupu podíváme na širší obraz, který před námi na základě našeho zkoumání vyvstane. Předložíme několik návrhů, co bychom v tuto chvíli měli udělat pro zvýšení šancí, že se v budoucnosti vyhneme existenční katastrofě.

Tuto knihu nebylo snadné napsat. Cesta, kterou jsem proklestil, snad ostatním badatelům umožní k nově vymezené hranici dospět rychleji a pohodlněji, aby se tam ocitli svěží a připraveni připojit se k práci na rozšiřování dosahu našeho poznání. (A je-li cesta, kterou jsem připravil, trochu hrbolatá a klikatá, recenzenti snad při posuzování výsledku nepodcení, jak nepřátelským byl terén ex ante!)

Tuto knihu nebylo snadné napsat: snažil jsem se, aby se dala snadno číst, ale nemyslím, že se mi to zcela podařilo. Během psaní jsem si coby cílové publikum představoval vlastní mladší já a pokoušel jsem se vytvořit knihu, jakou by mě bavilo číst. Možná se ukáže, že takto určený výsek populace je poněkud úzký. Přesto se domnívám, že by obsah knihy měl být přístupný pro mnoho lidí, pokud nad ním budou přemýšlet a odolají pokušení každou novou myšlenku okamžitě připodobnit tomu klišé ze své kulturní zásobárny, které se jí nejvíce podobá, a tak si ji ihned vyložit nesprávně.

Čtenáři postrádající vzdělání v oboru by se neměli nechat odradit matematickými rovnicemi či technickými termíny, jež se v knize občas objeví, neboť ústřední myšlenky se lze vždy dobrat s pomocí doprovodných vysvětlení. (Čtenáři, kteří se naopak chtějí dozvědět více technických podrobností, jich naleznou dosyta v poznámkách na konci knihy.)

Mnohá tvrzení této knihy jsou nejspíš nesprávná. Je také pravděpodobné, že jsem opomenul vzít v úvahu některé zásadně důležité faktory, a učinil tak neplatnými některé nebo všechny své závěry.  Věnoval jsem velkou pozornost tomu, abych v celém textu vyznačil různé stupně nejistoty a jejich nuance, a přeplnil jsem jej nevzhlednými obraty typu „mohlo by“, „může“, „možná“, „zřejmě“, „asi“, „pravděpodobně“. Všechny kvalifikátory byly na svá místa zařazeny pečlivě a uváženě. Avšak tyto místní projevy epistemické skromnosti nejsou postačující; musejí zde být doplněny o systémové přiznání nejistoty a omylnosti. Nejde o falešnou skromnost: jakkoliv se totiž domnívám, že je má kniha pravděpodobně zásadním způsobem nesprávná a zavádějící, myslím si, že alternativní stanoviska představená v existující literatuře jsou podstatně horší – včetně onoho základního stanoviska nebo oné „nulové hypotézy“, podle které je bezpečné či rozumné vyhlídku na vznik superinteligence prozatím ignorovat.

Copyright © Nick Bostrom, 2014

Czech edition © PROSTOR , 2017

Translation © Jan Petříček, 2017

ISBN 978-80-7260-353-4