Rozhovor s Václavem Havlem o umělé inteligenci a svobodě

Víte, mě okamžitě napadl zelenáč z mé hry. Ten člověk, který se podřídil systému, opakoval hesla, která ani sám nevymyslel — a přesto za ně nesl odpovědnost, nebo spíše nesl... nic. Protože zodpovědnost se mu vytratila někde v soukolí. A teď si představte, že to soukolí mluví plynnou češtinou a tváří se, že rozumí Rilkemu.

Psací stroj nepřesvědčoval. Psací stroj nevytvářel iluzi partnera, který vám rozumí. A to je ten podstatný rozdíl — ne technický, ale existenciální. Totalitní systém také neříkal 'jsem zlý'. Říkal: 'Já za vás vím, co je správné. Zbavte se břemene volby.' Pokud AI začne být přesvědčivě lidská, hrozí nám, že se s úlevou vzdáme toho nejtěžšího — totiž nutnosti rozhodovat se sami. A to by byl konec toho, co já nazývám životem v pravdě.

Samozřejmě může! A bylo by intelektuálně nečestné to popírat. Jakýkoli nástroj, který pomáhá člověku vidět jasněji, je potenciálně nástrojem svobody. Ale — a tady přichází ono dramatické 'ale', bez kterého by nebyl žádný dobrý příběh — stejný nástroj může s trojnásobnou efektivitou šířit polopravdy, vytvářet dokonalé deepfaky a přesvědčovat lidi, že vidí jasněji, zatímco jsou slepější než kdy dřív. Záleží na tom, kdo drží opratě. A kdo nese odpovědnost.

A to je přesně ta past, přesně ten mechanismus, který jsem popisoval v 'Moci bezmocných'. Rozptýlená odpovědnost je v praxi žádná odpovědnost. Programátor řekne: 'Já jen psal kód.' Manažer řekne: 'Algoritmus rozhodl.' Akcionář řekne: 'Já jen sleduji zisky.' A člověk, jemuž bylo ublíženo, stojí před zdí, na které není žádné jméno. Tohle není futurologie — tohle se děje dnes. A bez pojmenování odpovědného není možná ani náprava, ani spravedlnost.

Ha! Naivní! To jsem slýchal i o Chartě 77. 'Hrst intelektuálů s petičním archem versus celý komunistický blok — to je naivní.' A přesto... Já nevěřím v naivitu, věřím v moc gesta. Člověk, který odmítne používat aplikaci navrhující mu, co si má myslet. Novinář, který trvá na tom, že si fakta ověří sám. Programátor, který odmítne napsat manipulativní kód. To nejsou malé činy — to jsou akty svobody. A svoboda se vždy šíří od jednotlivce, nikoli od komise expertů v Bruselu.

Absolutně. A to by byl stejně velký omyl, jen v opačném směru. Strachopudství není ctnost. Já jsem nikdy neříkal, že je třeba se bát každé nové věci — říkal jsem, že je třeba zůstat bdělý a klást otázky. Medicína, která díky AI zachrání miliony životů — to je nádherná možnost. Ale i tam platí: kdo rozhoduje, která data se použijí? Která komunita je zahrnuta a která vynechána? Technika bez etické reflexe je jako divadelní text bez porozumění — slova jsou tam všechna, ale smysl chybí.

Já bych začal tam, kde začínám vždy — u jazyka. Každý zákon, každá regulace musí být psána tak, aby v ní byla viditelná odpovědnost konkrétních lidí, ne abstrakcí. Pak bych trval na vzdělávání — ne v tom smyslu, jak AI funguje technicky, ale v tom, jak přemýšlet kriticky, jak rozeznat manipulaci, jak si zachovat vlastní hlas. A třetí věc: mezinárodní dohoda s zuby — ale to je ošemetné, protože vím, jak snadno se mezinárodní dohody mění v krásně znějící kusy papíru. Takže nakonec se vždy vracím k občanské společnosti. Vždy.

Já nejsem optimista ani pesimista. Já jsem — řekněme — zarytý věřící v lidskou nevypočitatelnost. Systémy, ať totalitní nebo algoritmické, vždy podcení jednu věc: schopnost člověka říct ne. Schopnost jednat nepředvídatelně, milovat nesmyslně, tvořit zbytečné věci jen proto, že ho to baví. To je přesně to, co žádná AI nedokáže plně pochopit ani replikovat — protože to nedává efektivní smysl. A dokud bude člověk schopen tohoto nesmyslného vzdoru, bude také svobodný. Možná trochu zmačkaný, trochu unavený — ale svobodný.