Michal Pěchouček: Je umělá inteligence opravdu taková hrozba, jak si myslí Elon Musk? Ano. Ale řešení je jiné, než navrhuje

úterý 11. dubna 2023 ·

Umělá inteligence je pokročilá technologie, která již více než 50 let automatizuje lidskou činnost závislou na naší inteligenci. Je to opravdu užitečná věc, která dělá z mobilního telefonu to, čím je, překládá nám texty na internetu z jazyků, kterým nerozumíme, organizuje Uber taxíky po celém světě, postupně přebírá řízení auta, vybírá nám filmy na Netflixu, hraje s námi šachy nebo cvičí vojáky v bojových situacích.


Zdroj: Hospodářské noviny 3. 4. 2023

 

Dnes už si s námi také dokáže povídat, psát eseje, malovat obrazy, skládat hudbu nebo vytvářet deepfaky. Umělá inteligence se stala nedílnou součástí našich životů. Skoro jako by už nešla vypnout. Totální celosvětový energetický blackout by sice umělou inteligenci vyřadil ze hry, ale zároveň by nenávratně ukončil způsob našeho života a svět, jak ho známe.

 

Nyní slyšíme, že se umělá inteligence utrhla za řetězu. Je to pravda? Dělá si to, co sama uzná za vhodné? Chce nás připravit o zdroje energie? Vytváří plány, jak radikálně eliminovat většinu obyvatelstva Země proto, aby uchránila život na planetě? Jak to je?

 

Nic z toho není pravda. Utrhly se tedy ze řetězu velké americké společnosti, které chtějí pomocí umělé inteligence zvrátit globální pořádek? Taky ne. Nebo v tom má prsty Čína, nový významný hráč na poli umělé inteligence? Nemá.


Minulý týden Elon Musk, známí vědci a technologové zveřejnili petici, která poukazuje na možný nekontrolovatelný vývoj umělé inteligence. Petice požaduje úplné zastavení trénování velkých jazykových modelů, stejně výkonných nebo ještě výkonnějších, než jako je GPT4, který pohání známého chatbota ChatGPT. Signatáři požadují, aby se vývoj AI přibrzdil, abychom se na její nástup dokázali lépe připravit. Volání po AI moratoriu nyní vyvolává relevantní diskusi.

 

Umělou inteligenci sestrojili lidé. Vědci, inovátoři a inženýři, kteří celý život řeší složité problémy. Když vyřeší jeden, začnou s dalším a složitějším. Když naučí počítač porazit člověka v šachách, tak chtějí, aby se naučil go. Když už umí AI rozpoznávat rentgenové snímky a detekovat rakovinu, tak chtějí, aby uměla analyzovat sítnici a predikovat zelený zákal 10 let dopředu. A pak? Aby se naučila modelovat skládání proteinu a tím radikálně urychlila vývoj vakcín. A když umí navrhovat další slovo při psaní e-mailu, tak aby pak rovnou napsala esej na dané téma. A když už ovládá mluvený jazyk, tak aby se naučila programovat. Toto dnes už AI umí. Je to člověk a jeho kreativita, kdo roztáčí kola pokroku. Schopnost AI vygenerovat obrázek nebo složit básničku není kreativita. Jsou to pořád statisticky skládané odrazy toho, co AI viděla na internetu.

 

Pokrok v umělé inteligenci se zrychluje takovým tempem, že pomalu začíná být problém si představit, kam přesně směřuje. Nedokážeme už s jistotou říct, co můžeme od pokroku v technologiích umělé inteligence očekávat za pět let, za rok, za měsíc, ale i za pouhý týden. Čím to je způsobeno? Umělá inteligence nám totiž v pokroku pomáhá. Už dnes je jasné, že může za člověka dělat stále více dobře placené intelektuální práce. Potenciální nahrazení člověka v pracovním procesu představuje nedozírné finanční úspory, a tedy zisky, což ve svém důsledku i zvyšuje investice do AI technologií.

 

Proč je to problém? Investice do rozvoje technologií, které by zajistily bezpečnou a etickou, spravedlivou a inkluzivní AI, se rozvíjejí o poznání pomaleji než AI jako taková. Dnes již dobře rozumíme tomu, jakou škodu dokáže způsobit jaderné štěpení, když je zneužito k vojenským účelům nebo když selže zabezpečení jaderné elektrárny. Nevíme však, jakou zbraní se mohou stát nové mocné algoritmy a modely v kontextu algoritmické manipulace na sociálních sítích dnes, když víme, že už v roce 2016 AI algoritmy hrály důležitou roli při referendu o odchodu Británie z Evropské unie. Nevíme, jak přebudovat daňové systémy a správu společnosti, když se drasticky promění situace na trhu práce. Nejsme schopni pružně měnit vzdělávací systém tak, abychom připravili děti na život ve světě s umělou inteligencí.

 

Nekontrolovaný rozvoj umělé inteligence představuje stejně velkou hrozbu jako globální oteplování. Odmítat a bagatelizovat problém je pohodlné, jednoduché a vlastně přirozené. Ale v obou případech oddalování řešení jen zvyšuje nebezpečí, že to nemusí dopadnou dobře.

 

Ačkoliv se ztotožňuji s varováním minulý týden zveřejněné petice, nevěřím tomu, že zastavení trénování velkých jazykových modelů – jak navrhuje petice – nám vyřeší hrozby spojené s umělou inteligencí. Proto jsem ji, na rozdíl od některých českých vědců a startupistů, nepodepsal. Ačkoliv by se Elon Musk bránil takovémuto srovnání, dnes hraje podobnou roli jako Greta Thunberg. Upozorňuje na problém způsobem, kterému se někteří vysmívají a jiní s ním nesouhlasí. Ale stejně jako Greta, pravdu má i Elon. Je to vážné a musíme jednat okamžitě. Navrhované moratorium by však převedlo trénování velkých modelů do podsvětí. Nezajistilo by zastavení prudkého rozvoje umělé inteligence. Lidstvo by ztratilo transparenci a alespoň nějakou představu o tom, kam a jak rychle se AI rozvíjí. Ve svém důsledky by posílila AI technologickou vyspělost autoritářských zemí, které by se jistě moratoriu nepřizpůsobily.

 

Já navrhuji něco jiného. Po vzoru Agentury pro jadernou energii potřebujeme Agenturu pro dohled nad umělou inteligencí, se kterou budou spolupracovat ty nejmocnější AI společnosti světa a která se bude snažit monitorovat a predikovat vyspělost technologií umělé inteligence. A volám i po změně ekonomické motivace rozvoje technologií, které nás mohou před AI chránit. Je naprosto klíčové, aby se za každý dolar, který se investuje do trénování modelů GPT4 a mocnějších, poslal jeden dolar na univerzity, do nevládních organizací a nezávislých technologických firem na výzkum a rozvoj technologií. Jen tak můžeme zajistit trvale udržitelný symbiotický život člověka a umělé inteligence.


Stejně jako věřím tomu, že se člověk nakonec naučí žít v rovnováze s přírodou, věřím i tomu, že lidský intelekt, kreativita a odpovědnost zvítězí nad nástrahami AI a využije ji k řešení řady společenských problémů, včetně klimatické krize.

 

 

 

__________________________


Michal Pěchouček
je ředitel centra AI na ČVUT Praha

0 komentářů:

Šéfredaktorka

Výtvarné umění



WebArchiv - archiv českého webu



Licence Creative Commons
Obsah podléhá licenci Creative Commons Uveďte autora-Neužívejte dílo komerčně-Nezasahujte do díla 3.0 Česká republika, pokud není uvedeno jinak nebo nejde-li o tiskové zprávy.

Powered By Blogger