Technologický pokrok lidstva se už vyčerpal, AI je naše jediná šance

Věda stagnuje. Umělá inteligence nám může pomoct ji opět nastartovat, říká Jan Romportl, expert na AI, šéf Elin.ai a Deep tech partner v Presto Ventures. Tato technologie ale nemusí být jen požehnáním. V budoucnosti může pro lidstvo znamenat nové, zatím nepředstavitelné hrozby.

Romportl používá příměr jelena v lese. Jelen na základě svých předchozích zkušeností chápe, že myslivci přinášejí zkázu, a chce jim proto utéct. Ale co když do lesa přijde developer v obleku s kufříkem? Ten může pro zvířata znamenat podstatně větší nebezpečí, protože chce les vykácet a nechat tam postavit třeba nákupní centrum. Přitom nemusí vůči jelenovi cítit žádnou zášť. My se jako lidstvo můžeme dostat do podobné situace jako zmíněný jelen, který nedokáže rozpoznat developerovy cíle. A naopak, zmíněný developer může reprezentovat budoucí vysoce pokročilou formu AI, která jen pracuje na dosažení svých cílů. Ty bohužel nemusejí být kompatibilní se zájmy lidí.

Jisté je, že AI povede k zásadním změnám v našich životech. Měli bychom se proto na ně připravit a zároveň přijmout opatření, jak omezit negativní dopad této technologie. Jak by měla vypadat? Jaké negativní důsledky může mít AI na společnost? Máme vítat její použití ve vojenské oblasti? Přečtěte si druhý z dvojice rozhovorů s Janem Romportlem.

Kdy se podle vás dočkáme obecné umělé inteligence (artificial general intelligence – AGI, hypotetická schopnost AI chápat, učit se a používat znalosti v široké škále úkolů způsobem srovnatelným s lidskou inteligencí)? Je vůbec žádoucí o její existenci usilovat?

Můj soukromý tip je, že na 60 % tady bude do roku 2030, na 80 % do roku 2035 a na 95 % do roku 2040.

Jestli je žádoucí o ni usilovat? To je velmi sporná otázka. Začal jsem se AGI věnovat v letech 2010-2011. Tehdy to bylo ještě neznámé téma a já jsem chtěl, aby se objevila co nejdříve.

V současnosti se zabývám problémy jako „misaligned AGI“, tedy AI, která nesdílí hodnoty kompatibilní s hodnotami lidstva. Taková AI v podstatě představuje pro lidstvo existenční riziko. Jsem proto hodně na vážkách, jestli máme usilovat o AGI. Teď už si myslím, že raději ne.

Na druhou stranu nechci zastavit vývoj AI, protože tato technologie je v podstatě jediná naděje na většinu jiných globálních problémů. Jde o stárnutí populace, klimatické změny, problémy ve zdravotnictví, biotechnologie a řada dalších. Napadá mě i stagnace vědy.

Ono se to nezdá, ale náš technologický pokrok přešlapuje na místě. Můžeme mít pocit, že roste, ale je to jen proto, že do něj dáváme stále více a více zdrojů. Jenže jednotka přidané hodnoty na jednoho výzkumníka neustále klesá a teď se už blíží nule. Celá naše moderní společnost stojí na důvěře, že technologický pokrok neustále poroste. Na tom jsou založené i investice, ale i další věci, například víra, že v budoucnosti bude líp, než je teď. Pokud by tato novověká představa zanikla, znamenalo by to konec moderní ekonomiky.

Proto se neobejdeme bez lepších technologií a efektivnějšího využití zdrojů. Ale v tomto případě jsme my, lidstvo, už očesali veškeré nízko visící ovoce. Další vědecký pokrok drhne a AI je náš jediný trumf v rukávu.

Vezměte si třeba zdravotnictví. Například onkologie překvapivě neudělala za posledních 40 let velký pokrok. V několika nádorových onemocněních se sice zlepšila a existuje velká šance na uzdravení, ale u spousty jiných nádorů si prostě nevíme rady.

Nebo Alzheimerova nemoc. Množství neurodegenerativních onemocnění celosvětově roste a my přitom vůbec nevíme, jak je budeme řešit.

Dříve nebo později přijde nějaká pandemie, proti které byl covid procházka růžovou zahradou. My lidi proti ní absolutně nejsme schopni globální koordinované akce. A opět, zase jen AI zde může pomoct. Nicméně, nemusí to být zrovna AGI, ale směřuje to k ní. Takže bychom o ni asi měli usilovat.

Jak vlastně poznáme příchod AGI?

Existuje snaha vytvořit jasná měřítka, sadu testů, jak AGI poznat. Jedna z obecných definic AGI je nebiologický systém schopný dosahovat libovolného cíle. Takto vnímám AGI i já.

Pro některé firmy, které o ni usilují, se jedná o nebiologický systém, který na počítači zvládne všechno to, co člověk. Toto je více měřitelná a omezená definice, protože nemluví o celém biologickým světě člověka. Podle mě je taková definice rozumná. Pokud AGI vznikne v takové podobě, bude s dostatečnými zdroji schopná dosahovat libovolného cíle. Nejen toho, co člověk dokáže na počítači.

AGI rozhodně ještě neexistuje. Velké jazykové modely sice mají obecné schopnosti typu uvažování nebo kognitivních dovedností, ale rozhodně nejde o něco, čemu se říká „agent“, tedy systém, který jedná s vlastní agendou a chce dosáhnout nějakého cíle. Velké jazykové modely jsou jen nástroj na popis reality.

AI se překotně vyvíjí a hraje čím dál tím větší roli v našich životech. Jak by se vlastně měla běžná populace připravit na její přijetí?

AI zasáhne do života všech, kteří se živí hlavou. Tito lidé by se měli zamyslet, jak se transformovat na budoucí svět, ve kterém bude mnohé činnosti bude dělat AI. To ale nemusí nutně znamenat, že to bude špatně.

První chybu, kterou nesmíte udělat, je syndrom popření. Strčit hlavu do písku a tvrdit, že se vás to netýká. Myslet si, že jsem nejlepší spisovatel nebo grafik a podobně. Že já jsem kreativní a AI je jen program. To je největší blbost, kterou si člověk může začít říkat. Naopak, AI bude dosahovat větší kreativity než člověk. Vezměte si například aplikaci Suno AI na skládání hudby. Stále se sice svou kvalitou neblíží vynikajícím hudebníkům, ale ty průměrné už překonala.

Rozhodně se nemůžeme spoléhat na stát. Přijetí AI bude záviset na individuální adaptabilitě lidí v rodinách, v profesních skupinách a podobně. Spisovatelé a copywriteři by neměli čekat a měli by se připravovat na svou budoucnost. AI bude do pěti let psát knihy, které se svou kvalitou vyrovnají špičkovým spisovatelům. Navíc je napíše personalizovaně pro každého čtenáře, jak ten bude chtít. Co s tím uděláme? Měli bychom vytvořit nějakou platformu, která bude oceňovat lidskou činnost. Pokud to neuděláme, ztratí naše práce v budoucnu hodnotu.

Některé predikce uvádějí, že všechno půjde do extrémní personalizace. Budeme číst vlastní noviny nebo sledovat vlastní seriály. AI bude servírovat obsah vytvořený nám přímo na míru. Toto tvrzení je sice legitimní, ale hrozně zjednodušující, protože ho často dělají fachidioti. Úplně totiž popírají, že jedna z významných věcí, které jako společnost máme, je možnost sdílení zážitků s ostatními. Extrémní personalizací by zcela zmizel tmel společnosti. Proto stále bude existovat nemalé množství obsahu, který bude stejný pro všechny.

Samozřejmě může přijít ještě další level dystopie, ve které každý bude mít svou vlastní virtuální realitu. V ní bude mít svoje AI přátele, se kterými bude sdílet obsah, vytvořený specificky pro daného člověka. To by vedlo k naprosté atomizaci společnosti. AI má tento potenciál, je to stinná stránka personalizace. Jak na takový vývoj reagovat?

Můžeme být rozumní a zavést do vývoje AI tabuizaci. Nebude se jednat o přímý zákaz, ale o hodnotový soud, něco jako incest nebo obchod s otroky. Vnitřně cítíte, že to není správné, a teprve potom přijdou omezující zákony. Například před 200 lety byli otroci běžná věc fungování světové ekonomiky. Ale pak přišli kvakeři, kteří svou osvětou pohnuli etickým nastavením světa. Podařilo se jim prosadit přesvědčení, že obchod s otroky je špatný.

My teď můžeme jít stejnou cestou – tabuizovat určité formy využití AI, například její antropomorfizaci, tedy že by AI předstírala, že je člověk. Protože co zůstane člověku, až bude AI lepší ve všech kognitivních úkolech? Jeho lidská stránka. Když mám dnes u doktora 15 minut, tak on stráví 13 z nich hledáním něčeho v počítači. Snaží se o mně dohledat nějaká data a pak od oka střelí diagnózu. Měli bychom proto chtít, aby AI udělala tuto práci za něj a on se mi mohl těchto 13 minut věnovat. Proč to tak chci? Protože jsem homo sapiens, jsem prostě hyper sociální opice, která potřebuje fyzický kontakt jiného člověka. Podobným vývojem si projdou právníci. AI bude číst smlouvy za ně a oni mě budou jako svého klienta provádět právními spory.

Další příklad – senioři dnes umírají v domovech důchodců v hrozné samotě. My, hyper sociální opice, sami sobě ve stáří naordinujeme nejhorší muka ve formě osamělosti. Ano, mohli bychom do těchto zařízení nasadit AI chatboty, aby si měli tito důchodci s kým povídat. Ale to není správné řešení. Co kdybychom raději přeškolili lidi, kteří přijdou kvůli AI o práci, na sociální pracovníky moderního typu? Chodili by za těmi starými lidmi a povídali si s nimi.

Anebo půjdeme špatnou cestou, nezaměstnané připojíme do metaverza a seniorům dáme chatboty. Obě varianty jsou možné a je jen na nás, lidstvu, kterou z nich zvolíme.

V tomto případě jsem hodně proti takzvaným efektivním akceleracionistům, jako například Marc Andreessen, kteří věří, že technologie všechno vyřeší. Technologie možná zajistí, že my jako Homo Sapiens přežijeme. Ale budoucnost, ve které technologie řeší problémy vytvořené technologiemi, je velmi ošemetná. Například můj projekt Elin.ai je technologický produkt, který napravuje problémy vzniklé technologiemi. Ale netvrdím, že Elin.ai vyřeší všechno. Potřebujeme změnit vzdělávání, komunikaci v rodinách, systémové fungování psychologické péče a další věci. Určitě si nepomůžeme, když do těchto oblastí jen aplikujeme AI.

Ale samozřejmě existuje i optimistická verze budoucnosti. Například, že nebudu muset „hákovat“ 40 hodin týdně a obávat se ekonomické krize. Když budu třeba tělesně nebo duševně postižený, tak budu mít nástroje, které mě vrátí do běžného života. Rakovina, Alzheimer a další nemoci nebudou problém. Vyřešíme taky klimatickou změnu. To jsou všechno pozitivní věci.

Nesmíme však podlehnout syndromu popření. Musíme si uvědomovat i negativní jevy, které AI může přinést.

Jaké největší nesmysly o AI kolují veřejností?

Například, že nepřináší žádná rizika. Bezbřehý optimismus typu „budoucnost bez práce“, „AI všechno spraví“ a podobně je jeden z největších omylů.

Další nepochopení je domněnka, že AI se rovná GPT (Generativní předtrénované transformátory, obecně známé jako GPT, jsou rodinou modelů neuronových sítí, které využívá AI). A tím nemyslím ChatGPT, to je marketingový a kulturní fenomén. Model GPT-3, vydaný v roce 2020, nikdo z laiků nezaregistroval. Přitom znamenal zásadní technologický průlom, ale stále to je jen jeden díl celkové skládačky.

Uživatelé ChatGPT si taky nesmyslně personifikují tento nástroj ve své hlavě. Mylně si myslí, že si s nimi píše skutečná osoba. V některých situacích se to může hodit, ale nesmí to přesáhnout hranice. Lidé se taky nesprávně domnívají, že AI má vědomí. S tím se pojí další blud, že ho nikdy mít nebude. To ale nemůžeme s jistotou vyloučit.

AI se začíná prosazovat i ve vojenské oblasti. Je to podle vás důvod k obavám?

V geopolitice existují eskalující a de-eskalující prvky. Mezi ty druhé patří například doktrína „mutual assured destruction“ (MAD – vzájemně zaručené zničení), kterou vůči sobě měly USA a Sovětský svaz. Strategické jaderné zbraně dlouhého doletu patří mezi stabilizující prvek, protože dávají druhé straně dostatek času na odpálení vlastních jaderných zbraní.

Naopak, jaderné rakety s krátkým doletem se řadí mezi destabilizující prvek. Jedná se například o jaderné zbraně na ponorkách, kubánská krize v šedesátých letech je dobrý příklad. Kdyby se pak u Miami objevily nepřátelské ruské ponorky, USA by měly jen několik minut na reakci. V takovém případě by se aktivovala vojenská doktrína, která by předpokládala okamžité použití amerických jaderných zbraní, na kterou by opět navázala ruská protireakce.

AI je, podobně jako jaderné rakety s krátkým doletem, eskalující prvek v globální strategické rovnováze vojenských sil. Její zapojení ve vojenství proto dává důvod k obavám. V taktické oblasti se už dnes ukazuje, že například využití dronů na Ukrajině je zásadní věc. Dnes si je tam vyrábějí „na koleně“, ale za deset let už budou hejna AI dronů patřit ke standardní výbavě válčících stran.

Ubírá se vývoj AI správným směrem?

Po technologické stránce určitě ano, protože se daří řešit překážky v jejím vývoji. V roce 2015 se podařilo vyřešit technologii „reinforcement learning“ (technika strojového učení, která trénuje software dělat rozhodnutí pro dosažení optimálních výsledků), zatím tedy jen ve hrách. Později se ukázalo, co jsou velké jazykové modely za šelmu, jakým krásným způsobem umějí reprezentovat přirozený svět. Teď bude docházet ke spojení obou zmíněných technologií. V tomto ohledu jdeme správnou cestou.

Ale AI jako celek se neubírá správnou cestou, protože její vývoj jde příliš rychle. Společnost OpenAI zásadně zrychlila její vývoj. Ještě před nedávnem se odhadovalo, že AGI přijde za 40 let. Teď už ale počítáme jen se čtyřmi roky. Nestihli jsme na tento překotný vývoj zareagovat, nestihli jsme nastavit pravidla, aby byly hodnoty AI kompatibilní s hodnotami lidstva.

Stejně tak jsme neposkytli společnosti čas se na AI adaptovat. Doplácíme na to zvýšeným existenčním rizikem. To nemusí nutně znamenat vyhlazení celé populace, ale spíš trvalé zničení dlouhodobého potenciálu lidstva. Může například proběhnout lokální jaderná válka v kombinaci ekonomickým kolapsem a my se technologicky vrátíme o 150 let zpátky. A jelikož jsme vytěžili všechny snadno přístupné zdroje nerostných surovin, už nikdy nebudeme schopni nastartovat další průmyslovou revoluci. Teď už totiž potřebujeme technologie na určité úrovni, abychom se dostali ke zdrojům energie. Lidstvo by tedy navěky zůstalo uvězněné v předindustriálním období.

AI zvyšuje pravděpodobnost, že k existenčnímu riziku dojde. Během příštích deseti let budeme muset najít řešení, jak tomuto vývoji zabránit. Protože riziko, že nás AI dramaticky negativně ovlivní, je zkoncentrováno spíš do blízké budoucnosti, řekněme do deseti, patnácti let. Ale pokud ho dokážeme teď vyřešit, může nám to přinést obrovskou přidanou hodnotu.

Bohužel, ve společenské absorpci AI si nevedeme dobře. Na jedné straně vidím syndrom popření a na druhé přílišnou bagatelizaci a zlehčování. A pak tu jsou zmatení AI „doomers“, kteří si tuto technologii představují jako Terminátora. AI může zničit lidstvo zcela jiným způsobem, než jak si ho představují oni.

Ani si moc nedokážeme představit, jak by taková destrukce měla proběhnout. Často v tomto případě čerpáme ze sci-fi. Ale v budoucnosti může vzniknout nějaká super sofistikovaná forma AI, která nás zničí pro nás zcela nepředstavitelným způsobem.

Dávám za příklad srnu, která jde přes silnici. Můžeme se divit, proč ji přechází, když vidí auta, která ji můžou zabít. V jejím světě ale neexistuje koncept auta, které se pohybuje velkou rychlostí. Proto je ta srna zcela bezbranná vůči takovým hrozbám. V jejím srnčím mozku zkrátka neexistuje popis toho, co se může stát při srážce s autem.

Přesně takto jsme my lidi vystaveni super inteligentní AI. Sice popisujeme náš svět v komplikovanějších dimenzích než ta srna, ale vůči AGI můžeme být ve stejné pozici. Prostě nevíme, jak by takový konec mohl vypadat. Proto musíme nastavit taková pravidla pro AI, že nám neudělá to stejné, co může udělat auto srně nebo developer jelenovi.

Související témata