#12 V hlavní roli AI a technologie: Evropě ujíždí vlak, kdo za to může?

Podcast z Evropského parlamentu.

Ano, i tohle je Brusel.

>> Krásný dobrý den.

Já vás vítám u dalšího našeho vydání podcastu Ano, i tohle je Brusel, kde dnes budu s mým kolegou Tomášem Kubínem. Bude to dnes hodně technologicky zaměřené. Máme spoustu věcí, které se týkají AI nebo takzvaného omnibusu na AI. Budeme se bavit také o tom, jak se Evropský parlament snaží zbavit technologické závislosti, ale dotkneme se možná i elektromobility a uvidíme, na co nám zbude. Tomáši, čím začneme? Máme toho opravdu hodně.

>> Mě napadlo dvě věci. Zaprvé, že lidi vůbec neví, co je to ten omnibus, ten výklad toho slova. S tím jsem se už setkal. A za druhé ty jsi začal slovem, jak se Evropa snaží zbavit technologické a pak si řekl závislosti. Protože kdybysme vynechali slovo závislosti, tak to vypadá, že se Evropa snaží zbavit technologie. V poslední době to tak vypadá. Prostě to, co se děje, je tak docela až na hraně všeho normálně myslitelného. Takže já jsem se teda zabýval hodně těma záležitostmi kolem AI, takže uvidíme, na co se dostaneme. Vykopni to.

Já když jsem ukázal ty uvozovky k tomu parlamentu, parlament teďka zavádí ten francouzský vyhledávač Quant.

>> Jo.

>> O kterém si můžeme myslet, co chceme. Já nevím, jak moc se s ním zkamarádil nebo ne. Já vím, že někteří kolegové už zase přešli zpátky na Google, protože zjistili, že se to nedá používat. A přijde mi, že některé věci, které tady děláme, jako že si zavedeme jiný vyhledávač francouzské firmy, aby se zbavili technologické závislosti, tak se to nepotkává úplně s tím, co bychom chtěli. Jako co ty říkáš?

>> Quant sám o sobě není špatný, protože opravdu nehrabe úplně do hloubky. Respektive data skutečně nikam nepředává. Google jede tak, že vlastně všechna ta data okamžitě pouští do těch aukcí reklamních a tak dále. Nicméně pokud si ten Google nebo svůj prohlížeč, dá se říct browser, nastavíš tak, aby tohle nedělal, tak to nedělá.

Quant by mohl být dobrý, ale trénuje se na databázi evropských a bohužel jen západoevropských dat. Takže bych všem doporučil, aby si ho vyzkoušeli. Zkuste tam anglickou větu, třeba něco o letadlech, a Google a on to nejde úplně stejně. Ale ve chvíli, kdy zadáš — já jsem to dneska zkoušel — řekl jsem tam zámecká studna Jindřichův Hradec, říkal jsem si, to už je hardcore věcička. No a Google našel úplně všechno a ten našel asi pět odkazů takovýchto. Takže pro české články, pro vyloženě hodně hluboké vyhledávání to není dobré. Ale mě na tom pobavilo, když nám napsali, že přecházíme na ten Quant, tak hned součástí toho emailu byl návod, jak se můžeš vrátit zpátky na Google. Takže asi takhle to vidí, ne?

>> Tak oni asi tušili. A my se o tom budeme bavit u té AI regulace, protože to je vlastně stejný systém. A my se dnes dotkneme také DMA, a je to vlastně stejný systém, protože tys to sám zmínil — a což je pravda — že na čem je to trénované a co to umí vyhledávat. To je stejné vlastně u AI, protože když se podíváme na to, jak jsme zregulovali nebo jak se snažíme regulovat AI, tak většina je trénovaná na datech mimo Evropskou unii.

>> Ano, u nás jich moc trénovaných není a ty, co by chtěli trénovat, tak naráží právě na tu legislativu.

>> Takže vlastně i když pracujeme s AI, tak dost často, pokud chceš něco specifického, se toho nedoebereš, pokud by se chtěl zaměřit na Evropskou unii. A mně přijde, že ten systém je úplně stejný, jen v opačném gardu. A tady ještě to není trénované jen na Evropské unii, ale vlastně třeba na Českou republiku, jak jsi sám zmínil, to ani neumí pořádně.

>> On to ani neumí pořádně česky. To znamená, neumí ty nuance, to, co se ten Google za ta léta naučil.

A faktum je, že u AI je to ještě daleko horší, protože naprosto správně — co to je AI? To je jazykový model, který bere miliardy dat a udělá z nich něco, co je použitelné, ale ty data musí mít k dispozici.

Dokonce tady v Evropě máme jeden takový, možná jich je víc, ale tak nejúspěšnější evropská AI je DeepL. To víme. To je překladač, což je opravdu AI už dneska. Ale ten francouzský Mistral — Mistral si to pořád nemůžu zapamatovat — tak i ti si stěžují, že je evropská předpisy dusí. A dokonce jsem tam zaznamenal, že ty předpisy měly být takovým zlatým standardem pro celý svět a že se z toho stala administrativní gilotína. Podle toho slova vidím, že to je z francouzského původu a myslím si, že to je dokonce od těch Mistrálů. Takže bohužel.

>> No, já jsem byl přejedem asi na tu AI, na tu regulaci. Já jsem byl s tínovým přiřazením u toho omnibusu, u toho takzvaného zjednodušení.

>> A já si myslím, že my jsme dostali šanci. Jako EU dostala šanci. A to se nejedná jen o AI. Ten omnibus je teď na všechno. Všechno chceme zjednodušit. No a teď potom, co jsme to dojednali — dva velmi dlouhé trialogy. Jeden do tří hodin, jeden ten závěrečný do tří, čtyř na pět do rána — a já si úplně nejsem přesvědčen o tom, že z toho vzniklo něco, co AI pomůže a pomůže to hlavně těm podnikům u nás. Protože my stále mluvíme o tom, jak jsme zaostalí v konkurenceschopnosti, v technologiích, v AI, že nám ujel vlak. A snažíme se to zjednodušit, ale moc nám to nepomáhá.

To, co ty jsi zmínil — že ten náš AI Act jako takový před tím omnibusem měl být takový první legislativa, která celosvětově rozjede ostatní státy, aby se k tomu nějakým způsobem přidali — tak tam se nepotkáváme. To se nestává.

A teď ten Omnibus: když jen řeknu jednu věc z toho, jak to jednání vypadalo — kdy zelení, socialisté a levice chtěli do toho dát, aby aplikace nebo ta AI neuměla dělat takzvané nudifiers, ty slides obrázky.

>> Jo, jo, jo, jo.

>> Tak my jsme šest hodin strávili debatou nad tou definicí. A bylo to až tak absurdní, že jsme se bavili o tom, jestli je tam nudita, jestli je to odhalený, částečně odhalený zadek nebo musí být celý odhalenej. Pak jsme se bavili o tom, jak mají být odhalená nebo zahalená prsa. A o tom jsme strávili šest hodin jen kvůli tomu, že to tam chtěli.

A přitom všichni, kdo s tím pracují, vědí, že to AI umí tak jako tak. Když si s ním sedneš a budeš s ním pracovat, tak ti tu fotku udělá. Je to nelegální, je to obsažené v jiné legislativě. Ale přece jen to tam chtěli. A já si myslím, že tímhle vlastně dost těch vývojářů odradíme. Protože si řeknou: my budeme mít zodpovědnost za něco, co nedokážeme ovlivnit. Protože když bude někdo tak šikovný a vytrénuje to, tak to prostě udělá a udělá to schválně. A my za to pojedeme zodpovědnost. Tak to raději nebudeme dělat.

U toho tý nahoty to už vlastně probíhalo jednou takové kolečko tady, že jo. Mířilo to na Grock vlastně od Lany Maska.

A tenkrát jsme se bavili na sítích s lidma tím, že jsme jako zkoušeli ty všechny modely, že jo, a takové to svlíknout někoho do plavek nebo do naha.

A v podstatě jsme se shodli na tom, že jakákoliv z těch AI ve chvíli, kdy jí velmi dobře přesvědčíš, že to, co chceš svlíknout, nebo toho je uměle vytvořená věc, postava z AI, to znamená neexistující, tak to klidně udělá, jo, je jí to úplně jedno.

To jsou ale věci, kterými bychom se neměli zabývat my tady. Nikdo navíc. Navíc na to máme ostatní legislativy, že jo. Je to prostě nelegální v offline obsahu. Tak to je v online obsahu to stejné. A tady ty zhovadilosti, které tady prostě řešíme.

Říkám, ta debata fakt byla víc než 6 hodin o tom, co je jako svlíknuté a co není svlíknuté.

To by mě asi tedy trefilo, no.

Consent based, jako, že to má být s tím souhlasem.

Ježíšmarja, tak já dám někoho souhlas, ať mi AI svlékne. Tak takovéhle věci.

A teď jenom to je tak spíš jako vykreslení toho, jak vlastně vypadá to zjednodušení toho procesu, který úplně není zjednodušení.

Takže já jsem moc zvědavý, kam se tím dostaneme.

Ale ty jsi měl, ty jsi měl dneska tu debatu. Už jsme se o tom bavili, protože nedávno chtěl Apple vydat svojí AI pět po několikáté a zase to vypadá tak, že v Evropě jsme ostali.

Nebude.

AI Apple je vlastně delší příhoda, kterou jsme, který se nás moc netýkalo, protože vlastně je to vždycky spojené s tou hlasovou asistentkou Siri, která česky neumí. Asi nikdy umět nebude, bohužel.

A jediné, co nám vadilo, bylo to, že ten první stupeň AI byl propojený s tím automatickým překladačem. To znamená, máš ty pecky od Applu, tak ti může překládat z angličtiny do francouzštiny online. To by bylo fajn.

A to po dlouhých debatách vlastně s Evropskou komisí směli uvolnit v Evropě někdy loni na podzim.

No, ale teďka vlastně představili nedávno na tom konventu pro vývojáře tu Siri AI, která už má být nějakým způsobem lepší.

Mimochodem pro Apple je to obrovská ostuda, že zrovna takovýhle gigant představuje až v roce 2026.

No a rovnou ohlásili, že v Evropě to nebude.

A princip je vlastně ten, jako kdyby si pronajal byt v nějakém super baráku a ten majitel by ti tam rovnou dal k dispozici perfektního domovníka a komorníka najednou, který se ti stará o všechno, kterému svěříš klíče, ehm, mobil, všechno, protože on ti všechno zařídí, že jo.

A teďka by přišla Evropská komise a řekla by: „Milý majiteli baráku, musíš tam pustit kohokoliv, kdo jde po ulici a kdo to chce dělat taky."

No, tak mu řekneš: „Tak já se stěhuju pryč. To znamená prodáváš svůj mobil." Nebo on řekne: „Ne, tak my tyhle služby tady u vás nebudeme poskytovat."

A to je ta situace teďka. To smutné na tom byla ta argumentace komise, která je založená na tom vlastně na tom DMA, na tom aktu o digitálním trhu, kterej je zastaralý, protože ten se vytvořil ještě předtím, než vznikly všechny ty jazykové modely, kterým se říká umělá inteligence.

Takže se řídí něčím, co je absolutně zpožděné v dnešní době, kdy ten vývoj jde po dnech vlastně dopředu.

A nejvíc mě dostál tiskový mluvčí komise, kde mi tam prohlásil něco jako, že jim nemohou poskytnout odklad, protože policie taky neposkytuje odklad kvůli pokutě za rychlost.

No, to je prostě něco, je to arogantní, je to hloupé prostě. To je absurdní, ale odpovídá to tomu, jak funguje komise, protože rychlost tam určitě opravdu není.

Takže oni pokutu za rychlost nedostanou nikdy, protože kdyby byla pomalost, což může být za pomalou jízdu, tak tam by jí komise asi dostala.

Ale bacha, druhý gigant dostane teďka stejnou nálož.

Uvidíme tedy, protože ten termín se tam pohybuje vlastně. WhatsApp, nebo respektive Meta, to znamená vlastně Facebook a spol, měli pustit do WhatsAppu cizí agenty, čili cizí AI a zavřeli to na někdy v září loňského roku.

Po protestech to otevřeli, ale za poplatek, kterej ty cizí AI nechtěly platit. Všechny ChatGPT a tak dále a tak dále.

No a paní komisařka Ribeiráová, která se vyzná úplně ve všem, od atomových elektráren až po tohle, tak jim pohrozila, že když to neotevřou, tak dostanou pokutu až 10 % celosvětového obratu.

WhatsApp říká, nebo respektive Meta říká: „Vy jste se zbláznili, my tady na něčem děláme, vrazili jsme do toho prachy a teď to máme dát zadarmo k dispozici."

Tak jako jak to je?

Takže Evropa se tímhletím nestřílí do vlastní nohy. A ta noha už je prostřílená natolik, že už ani nekulháme. Už prostě se jenom vláčíme.

Jestli nějakou nohu ještě máme, protože jestli ještě vůbec nějakou máme.

No prostě ten průšvih je vlastně to, že to je taková pomalá agonie. Dragieho zpráva. Na tu narážíš všude, pořád vlastně dokola.

Podle toho think tanku, který jí hodnotí, evropského think tanku, to není prostě, že by někdo pomlouval, tak se uskutečnilo asi jenom 11 % těch doporučení z Dragieho zprávy.

To je strašné.

My jsme tady v tom, co se týče technologií, tak tady je to fakt plné absurdit, protože my vlastně se bavíme o tom často. A ta Dragieho zpráva se týká naší konkurenceschopnosti. Ale tou legislativou, tou přehršlí těch legislativních aktů, které máme, to vlastně my sami blokujeme. A když máme šanci to zjednodušit, tak to ani nezjednodušíme. A místo toho vlastně ještě přikládáme pod ten kotel.

A s tím Applem i s tou Metou já se jim nedivím. Prostě jsou to giganti. Nikdo nechce, aby si bez pravidel obchodovali na našem území, v našem prostoru. To nikdo nechce.

Na to máme nějakou legislativu, ale my přece nemůžeme těm podnikům určovat, v čem mají podnikat, z jakých podmínek, když se to netýká ochrany toho trhu.

Ale přesně, jak jsi zmínil to s tím bytem, to je přesně ta absurdita. My přece nemůžeme po firmě, která investuje, která inovuje, chtít, aby to ukázala, otevřela všem. Absurdní jenom kvůli tomu, že evropské firmy to nedělají.

A ty evropské firmy bysme asi měli víc těch, ale nedělají to jenom kvůli tomu, že máme tu legislativu, kterou navrhla komise. Ať už je to DMA, ať už je to AI, ať už je to GDPR, který vlastně brání.

Protože ty firmy v každém státě je to jinak, ty firmy nevidí na čem můžou trénovat, na čem nemohou trénovat, tak to radši nedělají.

To je ten problém. Například to, co jsi teďka zmínil vlastně. GDPR je vlastně jádro problému, který má Meta v Irsku, kde Irsko zakázalo jim trénovat na jazykových datech vlastně z jejich vlastních aplikací.

No, ale ten průšvih je vlastně, že tím pádem na to nemohou trénovat ani ty evropské firmy. Nikdo prostě se toho ani nedotkne. My jsme si to zabetonovali.

My jsme úspěšní v tom, že si umíme dopředu nastavit strašně moc pravidel a pak se podle nich někdo musí řídit.

Ve světě předpokládám, že tím, jako asi budeme všichni myslet USA.

Eh, je to tak, že prostě pojďte zkuste to a uvidíme, kde to dělá problém, tak pak zasáhneme.

Pak se to sešteluje.

Tak shodněme se na tom, že pokud děláme nějakou legislativu, tak my máme dávat nějaké hranice. Tohle je nezákonný, tohle je nezákonný, vy se pohybujete tady a jak to děláte, je na vás.

Pokud byste přesáhli tu hranici, přijde nějaký flaster, ale ne, že my uděláme hranice a takhle slibujeme, takhle sužujeme a až ty firmy řeknou: „My to dělat nebudeme" — a pak přesně jsme tady, kdy všechny ty vymoženosti té moderní doby my prostě mít nebudeme.

No, mně to tedy upřímně u té Siri, eh, není úplně až tak líto.

Já jsem používal vlastně ten ekosystém Applu doma na řízení — já nevím — světel, kamer a takovéhle věcí. Eh, jinak už se dneska dá používat spousta jiných náhrad.

Je to škoda pro Apple, protože tady je nějakých 450 milionů zákazníků, ale je to škoda hlavně pro evropské firmy, protože oni vidí ten příklad: „Hele, když se do něčeho pustíme, tak nám někdo nějak plácne přes ruku."

No, to je prostě průšvih.

No, já — protože teď jsme se bavili o tom a ve finále ta debata je absurdní — protože to přesně, když si to řekneš nahlas, co jsme schopní dělat.

Já vím, že jsem říkal na začátku, že se budeme bavit o technologiích, ale já si nemůžu jako odpustit jednu věc, protože já jsem členem toho mimořádného výboru Evropský štít pro demokracii.

Jasně.

A my už máme hotovou tu zprávu. Tak už se bude za chvíli hlasovat a to je tedy něco, protože já jsem ze začátku žertoval, že to, co připravila komise a to, co tady ten parlament se dá dohromady, je Orwell — no, že je jako 1984 jak vyšitý.

A to jsem jako žertoval, že to k tomu směřuje. Teď jako s klidnou hlavou můžu říct, že to je Orwell 2026, že Orwell by se možná divil, co tady vymysleli.

To ještě nenapadlo.

Ta zpráva z první třídy konstatuje nějaká fakta, co nás ohrožuje — eh, co jsou rizika, k čemu bysme se měli věnovat — a to je samozřejmě správně a proto se asi podepíšeme. Ale ta forma, co to jde dál — eh, kdy my chceme mít dohled nad volbami, volby jako kritická infrastruktura všude — to znamená více pravomocí proto, aby komise mohla zasahovat.

Média budeme určovat nebo tady chtějí určovat, která média jsou hodna podpory a která ne.

Eh, další věcí zajímavou je ten důraz na občanskou společnost. Samozřejmě občanskou společnost ve chvíli, kdy ta občanská společnost nahrává narativu, který si tady mainstream usmyslí, protože pořád to mainstream je.

Tohle jsou věci, které v té zprávě jsou. Je tam samozřejmě důraz na fact-checkery, na fact-checkery, které schválí komise nebo úřad, který oni chtějí, protože oni chtějí instituci, která tohle bude řídit, která bude řídit ten štít pro tu demokracii.

A to je normálně všechno, jenom ne štít pro demokracii, protože všechny tyhle kroky, když si to podrobně přečteš, tak to směřuje jenom k autokracii.

A to je — když se podíváš na historii všech těch zemí, které pak skončily v té autokracii, tak je to jak návod tady proto.

Já jsem z toho tak vyřízený. Já jsem si z toho fakt dělal srandu na začátku, že to je normální, ale to není k smíchu už teďka, co tady přichystali.

Já jsem slyšel, že prý je tam nějakých asi 1300 pozměňováků nebo kolik, nebo možná dokonce.

Eh, jak se to jmenovalo v Orwellově? Ministerstvo Pravdy nebo tak něco?

No. No, tak teďka si tady založíme ministerstvo pravdy.

Jako já vůbec nemám nic proti tomu, když bude někdo hlídat skutečně obrovské průšvihy, zásahy a tak dále, manipulace.

Na druhou stranu troufám si tvrdit, že nejlepší opatření pro demokracii je volná soutěž názorů.

Jasně, určité hranice by tady být měly, ale jako nemůžeme prostě mít tady někoho, kdo bude takzvaný fact-checker — čili vykladač pravdy — bude říkat prostě: „Tohle je správně, tohle není správně."

To je úplně mimo mísu a měli bysme samozřejmě postihovat nějaké zásadní věci, ale eh ne rozhodně filtrovat, co je ještě správný politický názor a co není a co je taková či jinaká interpretace skutečnosti.

Svobodná výměna názorů. Já se skutečně myslím, že to, co nastává teďka tady — kdyby nebyl rok 89 a prostě zničení celého sovětského bloku — tak a měli bysme v tom Československu internet, tak by vypadalo přesně takhle se všecky ty nařízení.

Ne, já s tím souhlasím, protože když se zamyslíš nad tím, co tady často slýcháme: demokracie, nedemokrati, eh, far-right, right, aktivisti — jako tady to je hromada nálepek, pokud jenom zmíníš něco jiného.

A opravdu to, co směřuje ta zpráva, je vytvoření centra, který bude centralizovat informace členských států a bude o nich nějakým způsobem rozhodovat, což jenom, když si to řekneš nahlas, tak to zní absurdně.

A tohle v té zprávě — ve finále tam ta zpráva směřuje — což je šílené.

To je prostě, to už není demokracie. To není ani kontrola nějaké diskuze, to už je normálně tvoření narativu.

Ono už to je vlastně demokracie jenom v názvu, jinak ve zbytku to vůbec není.

To je štít. To je štít proti demokratům. Tady to není — štít proti demokracii.

To je dobré. Zkusíme si to přeložit do angličtiny a někam to vpašujem. Hele Jardo, a on si toho nikdo nevšimne, že jsme to přejmenovali, protože no — eh, my jsme asi...

Já možná zakončíme jenom takovou jokovkou, protože se nám blíží konec a tady je dost často debata o elektromobilitě.

Teď přišla komise s tím, že chce nařídit těm firmám, aby měla do roku 2030 půlku elektů — což je povinné, což je stupidní.

Tak na jednu stranu řekneme tedy, že to možná posuneme, nebo řekneme, že to je absurdní. Ale co je na tom nejvtipnější, je, že komisaři si nám začali stěžovat. Začali si stěžovat, že jezdí elektromobily a nedojedou odsud do Štrasburku — jednou musí zastavit a dobíjet.

Takže eh možná by si to nejdřív komise mohla vyříkat mezi sebou.

Já jsem teda mimochodem o tomhle mluvil s jedním šoférem ve Štrasburku, který se tomu strašně smál a říkal: „My jsme na to zvyklí, že zastavujeme. Prostě to je normální. Prostě 400 kiláků naší rychlostí prostě ujedeš, a je to agresivní, cos si dáme si kafe, v pohodě."

Říkal: „No, ale někteří, eh, si stěžují."

Já jsem řekl: „Kdo?"

Hm, to neřeknu.

A pak jsem se to dočetl v novinách. Takže takhle.

Tak jo, tím jsme to asi vyčerpali dneska.

No, já jsem chtěl teda mimochodem, jestli bysme nemohli někdy natočit podcast jako pozitivní — o tom, co jakoby, eh...

No počkej, ale my jsme se my jsme se předtím bavili, že to zakončíme pozitivně, ale eh hele, zkusíme to na příště.

Příště zkusím — zkusíme závazek. Příště budeme — dáme pozitivní téma příště, abysme zakončili pozitivně.

Eh, protože dneska jsme měli debatu o absurdních věcích v parlamentu, tak příště zkusíme o pozitivních věcech v parlamentu.

Klidně, jak je absurdní.

Ale podcast možná bude o něco kratší než 20 minut.

Možná budeme víc čerpaní za pět minut.

Dobrý.

Tak jo.

Jo, díky moc.

Díky moc.

Mějte se.