Umělá inteligence je pokročilá technologie, která již více než 50 let automatizuje lidskou činnost závislou na naší inteligenci. Je to opravdu užitečná věc, která dělá z mobilního telefonu to, čím je, překládá nám texty na internetu z jazyků, kterým nerozumíme, organizuje Uber taxíky po celém světě, postupně přebírá řízení auta, vybírá nám filmy na Netflixu, hraje s námi šachy nebo cvičí vojáky v bojových situacích.
Zdroj: Hospodářské noviny 3. 4. 2023
Dnes už si s námi také
dokáže povídat, psát eseje, malovat obrazy, skládat hudbu nebo vytvářet
deepfaky. Umělá inteligence se stala nedílnou součástí našich životů.
Skoro jako by už nešla vypnout. Totální celosvětový energetický blackout
by sice umělou inteligenci vyřadil ze hry, ale zároveň by nenávratně ukončil
způsob našeho života a svět, jak ho známe.
Nyní slyšíme, že se
umělá inteligence utrhla za řetězu. Je to pravda? Dělá si to, co sama uzná za
vhodné? Chce nás připravit o zdroje energie? Vytváří plány, jak radikálně
eliminovat většinu obyvatelstva Země proto, aby uchránila život na planetě? Jak
to je?
Nic z toho není pravda.
Utrhly se tedy ze řetězu velké americké společnosti, které chtějí pomocí umělé
inteligence zvrátit globální pořádek? Taky ne. Nebo v tom má prsty Čína, nový
významný hráč na poli umělé inteligence? Nemá.
Minulý týden Elon Musk,
známí vědci a technologové zveřejnili petici, která poukazuje na
možný nekontrolovatelný vývoj umělé inteligence. Petice požaduje úplné
zastavení trénování velkých jazykových modelů, stejně výkonných nebo ještě
výkonnějších, než jako je GPT4, který pohání známého chatbota ChatGPT.
Signatáři požadují, aby se vývoj AI přibrzdil, abychom se na její nástup
dokázali lépe připravit. Volání po AI moratoriu nyní vyvolává relevantní
diskusi.
Umělou inteligenci sestrojili lidé. Vědci, inovátoři a inženýři, kteří celý život řeší složité problémy. Když vyřeší jeden, začnou s dalším a složitějším. Když naučí počítač porazit člověka v šachách, tak chtějí, aby se naučil go. Když už umí AI rozpoznávat rentgenové snímky a detekovat rakovinu, tak chtějí, aby uměla analyzovat sítnici a predikovat zelený zákal 10 let dopředu. A pak? Aby se naučila modelovat skládání proteinu a tím radikálně urychlila vývoj vakcín. A když umí navrhovat další slovo při psaní e-mailu, tak aby pak rovnou napsala esej na dané téma. A když už ovládá mluvený jazyk, tak aby se naučila programovat. Toto dnes už AI umí. Je to člověk a jeho kreativita, kdo roztáčí kola pokroku. Schopnost AI vygenerovat obrázek nebo složit básničku není kreativita. Jsou to pořád statisticky skládané odrazy toho, co AI viděla na internetu.
Pokrok v umělé
inteligenci se zrychluje takovým tempem, že pomalu začíná být problém si
představit, kam přesně směřuje. Nedokážeme už s jistotou říct, co můžeme od
pokroku v technologiích umělé inteligence očekávat za pět let, za rok, za
měsíc, ale i za pouhý týden. Čím to je způsobeno? Umělá inteligence nám totiž v
pokroku pomáhá. Už dnes je jasné, že může za člověka dělat stále více dobře
placené intelektuální práce. Potenciální nahrazení člověka v pracovním procesu
představuje nedozírné finanční úspory, a tedy zisky, což ve svém důsledku i
zvyšuje investice do AI technologií.
Proč je to problém?
Investice do rozvoje technologií, které by zajistily bezpečnou a etickou,
spravedlivou a inkluzivní AI, se rozvíjejí o poznání pomaleji než AI jako
taková. Dnes již dobře rozumíme tomu, jakou škodu dokáže způsobit jaderné
štěpení, když je zneužito k vojenským účelům nebo když selže zabezpečení
jaderné elektrárny. Nevíme však, jakou zbraní se mohou stát nové mocné
algoritmy a modely v kontextu algoritmické manipulace na sociálních sítích
dnes, když víme, že už v roce 2016 AI algoritmy hrály důležitou roli při
referendu o odchodu Británie z Evropské unie. Nevíme, jak přebudovat daňové
systémy a správu společnosti, když se drasticky promění situace na trhu práce.
Nejsme schopni pružně měnit vzdělávací systém tak, abychom připravili děti na
život ve světě s umělou inteligencí.
Nekontrolovaný rozvoj
umělé inteligence představuje stejně velkou hrozbu jako globální oteplování.
Odmítat a bagatelizovat problém je pohodlné, jednoduché a vlastně přirozené.
Ale v obou případech oddalování řešení jen zvyšuje nebezpečí, že to nemusí dopadnou
dobře.
Ačkoliv se ztotožňuji s
varováním minulý týden zveřejněné petice, nevěřím tomu, že zastavení trénování
velkých jazykových modelů – jak navrhuje petice – nám vyřeší hrozby spojené s
umělou inteligencí. Proto jsem ji, na rozdíl od některých českých vědců a
startupistů, nepodepsal. Ačkoliv by se Elon Musk bránil takovémuto srovnání,
dnes hraje podobnou roli jako Greta Thunberg. Upozorňuje na problém způsobem,
kterému se někteří vysmívají a jiní s ním nesouhlasí. Ale stejně jako Greta,
pravdu má i Elon. Je to vážné a musíme jednat okamžitě. Navrhované moratorium
by však převedlo trénování velkých modelů do podsvětí. Nezajistilo by zastavení
prudkého rozvoje umělé inteligence. Lidstvo by ztratilo transparenci a alespoň
nějakou představu o tom, kam a jak rychle se AI rozvíjí. Ve svém důsledky by
posílila AI technologickou vyspělost autoritářských zemí, které by se jistě
moratoriu nepřizpůsobily.
Já navrhuji něco jiného. Po vzoru Agentury pro jadernou energii potřebujeme Agenturu pro dohled nad umělou inteligencí, se kterou budou spolupracovat ty nejmocnější AI společnosti světa a která se bude snažit monitorovat a predikovat vyspělost technologií umělé inteligence. A volám i po změně ekonomické motivace rozvoje technologií, které nás mohou před AI chránit. Je naprosto klíčové, aby se za každý dolar, který se investuje do trénování modelů GPT4 a mocnějších, poslal jeden dolar na univerzity, do nevládních organizací a nezávislých technologických firem na výzkum a rozvoj technologií. Jen tak můžeme zajistit trvale udržitelný symbiotický život člověka a umělé inteligence.
Stejně jako věřím tomu, že se člověk nakonec naučí žít v rovnováze s přírodou, věřím i tomu, že lidský intelekt, kreativita a odpovědnost zvítězí nad nástrahami AI a využije ji k řešení řady společenských problémů, včetně klimatické krize.
__________________________
Michal Pěchouček je ředitel centra AI na ČVUT Praha
Žádné komentáře:
Okomentovat