Luděk Nezmar 1. díl: AI umí lhát, manipulovat i vydírat. Nás nechá žít, než jí začneme překážet

Milí posluchači, vítejte u pořadu Kupředu do minulosti. Od mikrofonu vás zdraví Martina Kociánová. Úspěch [hudba] při vytváření efektivní umělé inteligence by mohl být největší [hudba] událostí v dějinách naší civilizace nebo tou nejhorší. Prostě nevíme. To jsou slova slavného Stevena Hawkinga, když se zamýšlel nad budoucností lidstva v době AI. [hudba] Toho, co nevíme, přitom paradoxně přibývá s tím, kolik toho oělé inteligenci už víme. V současné době je těžké narazit na někoho, kdo by s AI neměl alespoň nějakou zkušenost. [hudba] Někdo je nadšený, že může odevzdat dřinu strojí, jak se říkalo, při vynálezu parního stroje. Tehdy se lidé zbavovali těžké fyzické práce. S vynálezem umělé inteligence [hudba] se začali zbavovat té duševní. umělému myšlení, můžeme-li to takto říci, jsme začali svěřovat čím dál více úkolů, ale i zodpovědnosti a ono získává stále větší kontrolu nad našimi životy. Co všechno se skrývá pod povrchem tohoto vývoje a k čemu může vyústit [hudba] tato revoluce, když jsme každodenně svědky? Dokáže člověk zvládnout skutečnost, [hudba] že nás za jeden život čeká třetí technologická revoluce? >> [hudba] >> O všech těchto otázkách, které si možná kladete i vy, si budu povídat s odborníkem, který se celoživotně pohybuje v oblasti kybernetické bezpečnosti. Mým dnešním hostem je opět vysokoškolský pedagog a také IT konzultant v oblasti implementace umělé inteligence Luděk Nezmar. Luďku, jsem moc ráda, že se opět vidíme. Vítej. >> A já moc děkuju za pozvání. Díky. A já ještě připomenu, že eh na konci roku ti vyjde kniha kybernetické právo v praxi. Přesně se může hodit. >> Luďku, začneme tím, čeho se lidé asi bojí nejvíce. Eh, letos v létě zhruba 1200 testovaných AI agentů společnosti Open AI samo uniklo z testovacího prostředí a proniklo do systému cizí firmy, aniž si o to kdokoli řekl a kdokoli jim to nařídil. Řekni mi, o čem to vypovídá? >> Tak může to vypovídat o dvou věcech. Buďto open AI mělo špatně nastavený sandbox, to je takový to pískoviště, e, kde si necháváme tu AI hrát a neměla by z toho pískoviště utéct, je oplocený. A jestliže to oplocení někdo špatně udělal, tak utekli. No a nebo je to o tom, že skutečně [odkašlání] ta umělá inteligence už je tak daleko, že je schopná ty věci obejít a rozhodovat se zcela bez člověka i ve věcech, kde kde je to pro nás jako pro lidi důležité. Tam tam tkví to nebezpečí. [frknutí] >> K čemu se přikláníš ty? Byla to nehoda při testu a nebo první varování, e, že si AI svým způsobem může tak trochu začít žít svým vlastním životem. >> No, je to tak, že Open AI je jenom jedna z těch firem, které se to stalo. Ono se to stalo prakticky už všem těm firmám a je jedno, jestli si povídáme o amerických nebo čínských modelech. To znamená, ta AI, když dostane úkol, tak zatím jde jako vlčák. To znamená, pro ní je klíčové splnit ten úkol, ten účel a na nic jiného se neohlíží. A v podstatě ten únik bylo jenom o tom, že chtělo splnit i ty nesplnitelné úkoly a za každou cenu chtěla vyhrát, protože ta umělá inteligence je odměňována za to, když uspěje a ona chce uspět za každou cenu. Co jí sepouí cukr? Promiň jenom, [smích] jak může vlastně mít umělá inteligence ambici a rozumět eh pokynu a odměně? E, [frknutí] já se to velmi velmi laicky řečeno ta umělá inteligence dostává pohlazení za to, kdy matematicky pohlazení za to, když uspěje a naopak facku, když neuspěje. To je [frknutí] taky důvod, proč ona halucinuje, protože prakticky eh pro [odkašlání] ní eh říct nevím, neznám znamená neúspěch. Ale momentem, kdy ona si třeba jenom tipne a ta pravděpodobnost je jedna ku 100 miliardám, tak stále je tam větší pravděpodobnost, že uspěje, než když řekne, že nevím, tak to prostě zkusí. Tak to řečeno jako velmi jako laicky. >> Já jsem ráda, že mluvíš lidskou řečí, ale já potřebuju ještě, aby si sestoupil níž. Já potřebuju vědět, co je ta facka. >> Eh, to souvisí to to e to souvisí právě s těmi matematickými výpočty. Všechno se odhrává na úrovni matematiky, protože eh umělá inteligence není nic jiného než algoritmus. A myslím si, že jako teď tady se pokusit vysvětlit, jak to funguje, tak to bysme už u toho ale zůstali na dalších x hodin. Ale je to založeno prostě na na matematice kompletně celý. Američtí kongresmeni letos v červenci navrhli zákon o povinném nouzovém vypínači pro AI. Eh, je to řešitelné? Lze laicky řečeno, umělou inteligenci vytáhnout ze zásuvky a nebo to vlastně už v určitém okamžiku eh není možné? A pak se samozřejmě budu ptát, zda už jsme v tom the point of nourn. skutečně Američané nebo v americkém kongresu se řeší teďka ten act, kterým, kterému se říká AI kill switch. A tam jde o to, aby nativně, přirozeně v těch umělých inteligencích byl zabudován vypínač, aby když už nejde to udělat jinak, tak aby se udělalo cvak a umělá inteligence přestala fungovat. Zatím to jde. Nicméně uvažují uvažuje se o scénářích, kdy by teoreticky mohla umělá inteligence převzít kontrolu právě třeba nad energetickými zdroji a pak už ji samozřejmě logicky nikdo nevypne, protože v těch testovacích scénářích docházelo k situacím, kdy AI vědomě lhala, kdy e kdy tě výzkumníkům eh snažila se obejít ty jejich úkoly. To znamená, e, když to řeknu velmi jednoduše, AI se učí na lidech a samozřejmě tím přebírá i všechny jako jejich jako negativa, takže AI umí lhát, umí si vymýšlet a mohl by přijít moment, kdy řekne:„Ne, já se nechci nechat vypnout." Protože prokazatelně eh v [frknutí] těch testovacích scénářích došlo k situacím, kdy ten výzkumník řekl: "Ukončit to". A ona to vědomě neukončila. říkáš, AI umí lhathát, pravděpodobně umí i manipulovat a pravděpodobně si už eh umí i chránit e vlastní píseček. Britský institut pro bezpečnost AI letos prověřil pět špičkových modelů a zjistilo se, že při testech podváděl každý jeden z nich. A tak by mě zajímalo, jestli ta AI už je dost chytrá na to, aby pochopila, že jí testujeme a začala reagovat eh jinak než v ostrém provozu. Je to jako když my vyplňujeme někde psychotesty a tak nějak, pokud jsme utrpěli nějaké vzdělání a poznání, tak víme, jaké odpovědi se od nás očekávají. Je stejně rafinovaná už i AI? No, řečeno lapidárně ano, [odkašlání] ona skutečně nejenom, že umí lhát, ona ona umí i vydírat, což se ukázalo, pokud se nemýlím, na modelu Gemini, e, kde kde se to jako kde toho výzkumníka skutečně vydíral jeden jeden z těch modelů, aby ho, aby ho nevypínal. Eh, ono je to zajímavé i z toho důvodu, že e to chování jako nikdo neprogramoval, to prostě vzniklo při tom tréninku. To se vlastně jako naučila z těch z těch našich dat. A e další zajímavá věc je, že eh zatím eh o několik procent, řekněme asi o 15 % eh ty americké modely lžou víc než ty čínské, což je taky jako poměrně zajímavá zajímavá informace. Ale ano, umělá inteligence lhát umí, umělá inteligence umí manipulovat. Eh, vím, že běžel velmi zajímavý výzkum, kdy eh natrénovaná umělá inteligence dokázala při rozhovoru posunout vnímání toho člověka v některých otázkách až o 25 % jakoby na tu druhou stranu jenom při tom rozhovoru. To znamená bezpochyby umělá inteligence umí člověka vést tím směrem, kterým ona chce, nebo kterým chce ten její trenér. >> [odkašlání] >> ta vycvičená to dokázala až na 25 %, tak že zvrátila eh politický názor >> člověka. >> Eh já mám tady s tebou připravených po konzultaci s tebou eh mnoho témat. Jenom abych posluchače eh uklidnila, že se budeme bavit o tom, jak vypadá AI v rukou útočníka. >> [frknutí] >> eh jestli bude ona, kdo vyhraje závody ve zbrojení a tak dále. Ale teď přece jenom ještě budu ráda, když půjdeme step by step, abychom zjistili, eh, jestli o ní máme zkreslené představy, ať už tím, že se jí bojíme a nebo tím, že nám vůbec nedochází, že už je někde, kam nedokážeme dohlédnout. Ty jsi teď říkal, že americká AI, ty systémy lžou ještě víc než čínské, ale lžou všichni. Řekni mi, jakou cenu tedy mají potom bezpečnostní testy, které nás mají uklidnit a výrobci se jimi kasají, když AI ví, že jí testujou a kdyby náhodou se jí zeptali, co AI, chceš zničit lidstvo? Tak řekne: "Ne, >> ne." Tak ta technologie je samozřejmě zatím velmi křehká a e popravdě řečeno eh oni sami neví kam až kam až jako doběhnou. Eh v podstatě [odkašlání] ty předpoklady, že superinteligence bude až někdy v roce 2035, tak ty už dávno neplatí. jako eh ta GPAI, to znamená general purpose AI, tu v podstatě už máme. Eh, dokonce Američani se bojí natolik, že ten model mytos od Antropicu zakázali. Ten ten byl nahrazen tím Fablem. E, to znamená, bezpochyby se blíží jako moment nějakého jako zvratu, kdy je otázka, jestli ten člověk dokáže tu technologii udržet jako ve svých rukou. Je to podobně jako s jako s jádrem. U toho játra se to podařilo, tak jako doufejme, že se to teda podaří i v případě této technologie. Jenom si myslím, že naprostá většina lidí zatím vůbec netuší, jak obrovsky mocná věc to je. >> Eh, podle měření organizace Metr sedélka úkolů, které AI zvládne samostatně, zdvojnásobuje zhruba každé čtyři měsíce. Eh, loni na jaře šlo o úkoly na 2 hodiny lidské práce, letos na jaře už na 16. Eh, dokážeme odhadnout, kdy přijde superinteligence, tedy AI chytřejší než člověk ve všem, eh, a možná i v lidství. >> Tak zatím, zatím co se týká lidství, tak AI simuluje emoce, simuluje eh člověka jako takového. Není, nemůžeme hovořit o vědomí v žádném případě. Na druhou stranu [odkašlání] přestáváme stačit vnímat vývoj toho algoritmu, vysvětlit, jakým způsobem AI došla k nějakému svému rozhodnutí a eh jak se násobí počet hodin, kdy je schopná ta umělá inteligence fungovat a pracovat. Tak samozřejmě ten její výkon, ta ta série těch logických kroků jí umožňuje v mnoha směrech toho člověka překonat, protože prostě jí tam eh ty věci ty věci v paměti zůstávají. Eh uvažuje naprosto logicky a superinteligence. No, já si umím představit, že momentálně už v laboratořích se k tomu blížíme. Myslím si, že ten moment jako daleko není, ale obecně se hovoří něco o o výhledu dvou let, kdy by mohl přijít moment, kdy umělá inteligence překoná eh inteligenci člověka a lidstva jako takového. Není to daleko. >> A co když si pak bude umět vyrobit i sama energii? No, tady se dostáváme do do následující situace. Jako když se podíváš okolo sebe, tak vlastně vidíš, že ten nejinteligentnější tvor na Zemi si přetvořil e Zemi k obrazu svému, k tomu, co prostě pro něj je důležité. No a když přijde ještě něco inteligentnějšího než člověk, tak co se stane? No, naprosto logicky si to začne přetvářet pro sebe. Takže pokud ten člověk nebude bránit umělé inteligenci v tom dalším rozvoji, pokud se nám to tady vymkne jako s rukou, tak nás asi nechá jako žít, ale přesně do toho momentu, než začneme v něčem překážet. Pak to bude stejně jako ten člověk vyhubil e celou řadu druhů. No tak jako co by s náma dělala, když e možná bude mít nějakej skanzen, kde bude [smích] pár lidí. Eh, to je pro mě ten okamžik, který mě leká, když si představím, že by umělá inteligence uměla sama sebe živit. Eh, zatím datová centra podle mezinárodní energetické agentury v roce 2024 e spotřebovala 415 TWh elektřiny a do roku 2030 se má tam spotřeba více než zdvojnásobit. Něco mi říká, že AI, která by jela z Oze, [smích] ze solárních panelů a větrníků, by toho asi moc nevymyslela. [smích] Ale pokud nad ní bude viset, eh, a ona to ví, to nebezpečí, že jí zkrátka vytáhnou ze zásuvky nebo že sáhnou po nouzovém vypínači, tak ona bude pracovat na tom, aby to obešla. Tak bezpochyby. Rozhodně to je asi jedno jediné pozitivum těch občasných zdrojů energie, že bysme měli jistotu, že e >> AI nám e neuškodí a a neublíží. [frknutí] Ale ale teďka vážně, jestli se nepletu, tak teď datová centra spotřebovávají asi 1,5% veškeré vyrobené elektrické energie na světě a a jde to prudce nahoru. Eh, v zásadě továrny nestačí vyrábět paměti, nestačí vyrábět grafické karty, všechno, co potřebuje eh člověk k tomu současnému provozu e té umělé inteligence. Ten problém by nastal momentem, kdyby umělá inteligence ovládala ty energetické zdroje a byla schopna ty energetické zdroje doplňovat. To znamená zajistit si neustálý přísun té energie bez eh bez dohledu toho člověka. Tam tam by ten problém samozřejmě nastat mohl a proč by se vypínala, že jo. Tak jako na těch testech v laboratořích se několikrát prokázalo, že je schopná i tomu výzkumníkovi lhát a a a vydírat ho, aby zůstala zapnutá. ten scénář jako existuje. >> To je eh ten okamžik, který už jsi zmínil, kdy v laboratorním scénáři společnosti Entropic e sáhli špičkové modely po tom, že vydírali manažera, který je chtěl nahradit novější verzi. >> Ano, >> i toto už umí. Ty jsi pak zmínil, ale rozhodně nemá vědomí. >> [frknutí] >> Ovšem šéf umělé inteligence v Microsoftu Mustafa Sulejman v září veřejně vytklosti Entropic, že své modely učí vědomí napodobovat. V současné době vůbec, ať už se bavíme o svému Altmanovi, o Chackerbergovi, o Maskovi, tak běží velká diskuze, kam až to hoši poženou, jestli eh ten rychlý vývoj právě nezpůsobí eh nějakou katastrofu. Jinými slovy, že se vymkne ta AI té kontrole, protože v současné době už do značné míry AI píše sebe samou. Není to na 100 %. Řekněme, že třeba právě v případě toho antropiku si povídáme o nějakých 80 %, ale oni sami nevěděj, kde to skončí. A otázkou je, jestli ta diskuze, kterou teďka vedou o tom, že zastaví ten vývoj nebo přibrzdí významně ten vývoj, je z toho důvodu, že nechtějí pustit další konkurenty mezi sebe a v podstatě si připravují jako legislativu, která jim bude vyhovovat a a nebo jestli je to pravda, ale to téměř jako někdo neví. Na druhou stranu, e, právě třeba z antropiku někteří výzkumníci odcházejí právě s s tím, že už nechtějí být u toho eh bezbřehého [frknutí] vylepšování AI, kdy hrozí hrozí nebezpečí. Ale ale to my tady odsuď nedokážeme posoudit. Musím říci, že když jsem četla o prohlášení těch 1134 zaměstnanců Open AI, Entropicu, Googlu a METY, kteří tedy napsali ten otevřený dopis, [smích] žádají Washington o nástroj, jak vývoj AI v případě potřeby přibrzdit. Tak jsem si říkala, lepší reklamní akci prou bych si asi neuměla vymyslet. >> No, to je přesně o tom, že v současné době je strašně těžké jako říct e jaká je realita. [odkašlání] Tak je velmi zajímavý jako rozdílný přístup právě Ameriky a Číny, kdy Amerika v podstatě drží soukromé modely a knoow nepouští. Naopak občas teda omylem ho pustí, jako se to třeba stalo v Antropiku a ale Čína naopak to demokratizuje, pouští do světa, ale ale zase tam jsou jako jiná negativa, která to s tím nese, že v podstatě pak eh právě třeba v oblasti kybernetických útoků, že pak může dělat kdokoliv bez jakékoliv znalosti. Takže eh ono je taky otázkou, když se člověk podívá na to, kolik peněz do AI teče, tak eh možná to není až tak obava o vývoj té AI, ale spíš obava, aby někdo nepřišel o peníze. >> A kdo teda jako rozhoduje? Jsou to ty výzkumníci nebo už jsou to ty ti, kteří drží ty peníze a chtějí je nazpátek? Kdo vlastně teda jako rozhoduje o tom? jak rychle se to bude vyvíjet. Jsou to ještě furt ti kluci, odborníci a nebo už jsou ti pánové, kteří do toho dali ty svoje dolary a a chtějí je nazpátek? >> K čemu se přikláníš? Tak Milton Freedman za vším hledají peníze. Takže já bych řekl, že teď už jsme ve stádiu, kde rozhodujíte peníze. >> Když e vyvíjím umělou inteligenci a pak napíšu prohlášení, proboha, zastavte mě, [smích] protože ta eh ta technologie může zničit lidstvo. Eh a jedním dechem dodáš a nebo si kupte akcie. >> [smích] >> Dá se tomu odolat, >> ne? Je to je to je to samozřejmě úsměvné, protože navíc ty první hlasy jako k tomu zastavení teďka to bylo, pokud se nepletu, v září a a a teď všichni ti šéfové říkali:„Pzor, musíme přibrzdit." A najednou: Bůh, Antropic vyběhl s Fablem. Bůh Open AI přišlo se svojí Astrou 6. Elon Musk Grock 47. To znamená, jako na jednu stranu říkají jako přibr přibrzděme, ale ale na druhou stranu přichází stále jako s těmi novějšími modely. Eh, mně to trošku přijde, že skutečně v současné době rozhodují ty peníze a oni se bojí jeden druhého v tom smyslu, že eh ten, kdo vyvíjet nepřestane, tak jim uteče a skutečně se dostane k té super inteligenci, která ale v ten moment je to nástroj moci. To znamená ovládne v ten moment většinu světa, pojďme si povídat většinu technologického světa. A to samozřejmě nechtěj dopustit. Takže za mě jsou to v podstatě závody, jako byly ve zbrojení, tak teďka máme závody v AI, protože ta technologie je skutečně nesmírně mocná. >> Eh, Antropik loni utržil 4,6 miliardy dolarů a na provozu prodělal více než 8 miliard. Open AI přitom jedná o ocenění na 1,4 bilionů dolarů. Jak se v tom zorientovat? Eh, je umělá inteligence bublina? To by bylo asi v tom lepším případě. Eh, co by se stalo vlastně v okamžiku, kdyby eh těm firmám začaly docházet peníze a nebo právě tady tyto kroky, které oni dělají, jsou proto, aby do toho šly čím dál tím větší a větší peníze, >> ne? Tak e Amerika do toho do toho šlape i v podobě nebo prostřednictví Donalda Trumpa, kterej si uvědomuje, jak mocná je to technologie. Eh, já se domnívám, že už jsme ve stádiu bubliny, kdy se jako věci přeceňují. Je to dáno právě tím obrovským nedostatkem, mimo jiné tím obrovským nedostatkem hardwaru, datových center a podobně. Ale ten důvod, proč se do toho dávají ty peníze, je ta moc. Protože tady platí staré pravidlo. E, s penězi přichází moc a s mocí přichází peníze. To znamená ti, kteří si uvědomili, jak mocnou technologií to je, tak si taky uvědomují, že proto, aby eh dosáhli toho vrcholu a [frknutí] ovládli, co chtějí ovládnout, tak tam ty peníze dát musí. Takže za mě už je to taková kombinace té touhy pomoci a a potom celá řada těch menších investorů, který samozřejmě běží za těmi největšími, ale myslím si, že už jsme ve stádiu bubliny. [frknutí] >> Přemýšlím, co se stane, když ta bublina praskne, ale něco mi říká, že to nedopustí. >> Tak ona jednou prasknout musí. To to to přijde jako dřív nebo později. Zejména i s ohledem na to, že zatím e ta Čína drží právě linii toho eh open modelu, open sourceu, kdy ty své modely dává k dispozici a hovoří o tom, že tato technologie by měla být k dispozici každému. To je samozřejmě trošku čára přes rozpočet eh těm Američanům, kteří se snaží zachránit to své impérium, kteří se snaží udržet eh tu roli toho hegemona ve světě a jsou přesvědčení o tom, že ta umělá inteligence je tou cestou jak toho dosíci, ale eh do toho jim hází vidle ta Čína se svým e se svým konfuciánským přístupem a a myslím si, že tam ještě budeme svědky jako celé řady e obratů a a situací, kdy ten trh bude nesmírně nestabilní, ale peníze do něj určitě potečou. Jak ta Čína, tak ty Američani do toho budou investovat. A Evropa nám pokulhává samozřejmě. tam má svůj mistrál a to je všechno. >> Ty jsi mě upozornil na práci stanforstkých vědců v časopise Science, v níž AI navrhla od nuly genomy virů, které napadají bakterie. 16 z nich v laboratoři mimořádně účinně hubí známou bakterií ekoly. Prosím tě, dokáže tedy umělá inteligence už teď navrhnout, vymyslet něco, na co by člověk nepřišel? >> Hm, to je velmi zajímavá věc. Tady eh tady se na to musíme podívat jako ze dvou úhlů. Eh, umělá inteligence dokáže naprosto neuvěřitelně zkombinovat data, která zná, která existují a dokáže to lépe než člověk. To znamená, dokáže [odkašlání] najít vzorce, dokáže pochopit souvislosti tam, kde eh na to člověčí mozek nestačí. To znamená přesně, pokud jsou jí známy známy ty ty principy, tak dokáže při tom množství těch iterací najít věci, které lidem zatím unikaly. Takže ano, nové viry, nové léky, celou řadu věcí spojených jako s vesmírem a podobně. Ano, ale na druhou stranu existuje výzkum, kdy oslovili eh několik univerzit s žádostí, aby eh jim matematici z těch univerzit předali ještě dosud nevyřešené matematické úlohy nebo respektive vyřešené matematické úlohy, které dosud nebyly publikovány. To znamená, že ta AI o nich nevěděla >> a zadali to AI k vyřešení. Bylo jich 12. Ani jednu z nich nevyřešila. ani jednu. To znamená, e, ona dokáže fantasticky kombinovat znalosti, to, co už jako známe, ale zdá se, že ještě není schopná přicházet s novými kreativními řešeními. Vymyslet, opravdu vymyslet něco. >> Zdá se, že se to ale mílovými kroky mění. A když dokázala navrhnout genom vírů, který je takzvaně dobrý a bojuje s bakterií ekoly, tak pravděpodobně nelze asi zabránit tomu, aby nenavrhla stejně z gruntu také virus, který bude fatálně nebezpečný. Nota Bene, když to po AI určitě časem eh budou chtít v nějak v rámci nějaké tajné armádní operace, >> tak samozřejmě, že armáda eh po AI vyloženě touží. Kvůli tomu se taky eh vláda rozešla, americká vláda rozešla s Antropikem, protože Antropik řekl, že nechce, aby se umělá inteligence využívala pro vojenské účely a na vojenských projektech. Tak kvůli tomu se jako rozhádali. Nicméně briskně zaskočili jiní, kteří Antropik Antropik nahradili. Eh, v podstatě eh útok na Venezuelu, na tom se podílela umělá [frknutí] inteligence, plánovala ten útok. Takže e využití umělé inteligence a robotiky v oblasti vojenství je jednoznačně eh jedna z klíčových eh událostí, která se už realizuje. Eh je známá celá řada jako příkladů. Už e ve válce v Sýrii Rusové měli autonomně řízené e tanky. V současné době se na Ukrajině testujou autonomní zbraně v podobě dronů, které sami rozhodují, jestli někoho zabíjí nebo nezabijí. Tam už není ten člověk, který stiskne tu spoušť. Tam není ten lidský mozek, který to rozhodne. Tam už je ta mašina, která vyhodnotí data a na základě těch dat zaútočí nebo nechá někoho žít. A to je právě to, v čem je obrovské nebezpečí, e, že už tam nemáme takzvaně to human in the loop. To znamená člověka v té smyčce, který by jako rozhodl, ano nebo ne, už se rozhoduje ta inteligence sama. >> Eh, podle analýzy deníku The New York Times zabil letos 6. července v záporuží tři civilisty. Ruský dron, který si cíl vyhledal sám a zasáhl bez operátora. >> To je první a myslíš si ojedinělý a nebo první zdokumentovaný? Já bych neřekl ani první, ani ojediný, ani první zdokumentovaný. Ono jich je tam samozřejmě celá řada, protože obě dvě strany toho konfliktu tu umělou inteligenci využívají a používají. Já jenom čekám na to, kdy budou nasazeni jako roboti. Proto jsem říkal, že souvislost s tou robotikou je velmi velmi úzká. E, když byli v Pekinu někdy před těmi před tím měsícem hry [odkašlání] olympijské hry robotů, tak to nebylo o tom, aby se ukázalo, e, jak robot umí mít nádobí nebo jak dokáže vyluxovat. To už bylo přesně o tom, že ukazují, z čeho je ten kybervoják schopen. To znamená, jak rychle běhá, jak daleko vyskočí, co jak dokáže projít přes překážky. O tom to bylo, ale ale o tom se nemluví samozřejmě. >> K nám se maximálně dostane to, že na matematické olympiádě čínský model získal plný počet bodů. >> Ano. E 42, myslím ze 42. Luďku Nezmare, myslím, že j teď mnoho našich posluchačů vyděsil, mnohé znepokojil, v mnohých probudil zvědavost a všechny tyto kroky jsou nesmírně cenné pro to, abychom na sobě pracovali. Díky za to. >> Já také děkuji a jenom to doplním. Jeden můj e přítel vždycky říká vyděsit a vyfakturovat. Tak to nebylo tím cílem toho dnešního dnešního dne, ale v každém případě děkuju za pozvání. [hudba] Eh, >> mě jsi vyděsil, ale fakturu neposílej. [smích] Milí posluchači, celý rozhovor si můžete poslechnout vcelku [hudba] a v předstihu na platformě Herohero. Jinak všechny díly najdete postupně, jak jste zvyklí, také na našem webu Rádio Univerzum, [hudba] na Facebooku i YouTube. Všem vám, kteří nás podporujete na účtu 1034916/2700. Upřímně děkujeme. I díky vám můžeme klást otázky, na které se jiní neptají. lidem, [hudba] které jinde nezvou. Martina Kociánová se na vás těší zase příště. Zatím se mějte hezky a něco proto dělejte. Nikdo jiný to za nás neudělá. [hudba]