Terra incognita mezi současnou AI a nepřátelskou umělou superinteligencí
Abstract
´Myslím, že největším milosrdenstvím na světě je neschopnost lidské mysli uvědomit si ve vší celistvosti vše, co v ní spočívá. Obýváme poklidný ostrov nevědomosti uprostřed temných oceánů nekonečna a není nám dáno vydávat se z něj daleko. Vědy, z nichž každá sleduje svůj vlastní záměr, nám prozatím ublížily jen nepatrně, avšak jednoho dne do sebe zapadnou znalosti, jež dosud nebyly uvedeny v souvislost, a před námi se otevřou tak úděsné pohledy na skutečnost a naše strašlivé postavení v ní, že z toho zjevení buď zešílíme, nebo uprchneme z nesnesitelného světla do klidu a bezpečí nového věku temna.´ - H. P. Lovecraft, Volání Cthulhu ´Nejstarší a nejsilnější emocí lidstva je strach, nejstarší a nejsilnější formou strachu je strach z neznámého.´ - H. P. Lovecraft, Nadpřirozený horor v literatuře Jak je zjevné z obou úryvků, americký spisovatel temné hororové literatury H. P. Lovecraft nebyl žádný optimista. Jeho dnes již kultovní povídky a krátké novely dokreslují pesimistickou vizi světa, v níž se člověk v úděsu sklání před nesmírností vesmíru a světa, jejichž zvláštnosti a hrůzu nahánějící cizost nám odhaluje lidský rozum a na něm vybudovaná věda. Lovecraft žil před mnoha lety. Zemřel v roce 1937, tedy pouhý rok poté, co významný britský matematik Alan Turing publikoval nesmírně důležitý článek, v němž zavádí pojem výpočetního stroje, teoretického předchůdce dnešních počítačů. I když se Lovecraft velmi živě zajímal o moderní vědu a její poznatky, zemřel příliš brzy, než aby se k němu dostaly poznatky o nově vznikajícím oboru umělé inteligence. Ten se od teorie velmi rychle přesunul do praxe a uložil si nemalý úkol: vytvářet inteligentní systémy, jejichž inteligence (ať už ji budeme chápat jakkoli) postupně poroste a nejen dosáhne úrovně inteligence lidské, ale dokonce ji mnohonásobně překoná. Těžko říct, jak by Lovecraft reagoval na současné pokroky na poli umělé inteligence (AI), troufám si však odhadnout, že by v něm možnost vzniku nelidské - strojové - inteligence na úrovni té lidské (nebo dokonce výrazně lepší) vyvolávala stejně stísněné pocity hrůzy a nepatrnosti, jaké v něm evokovala nezměrnost vesmíru.