The Dark Reason AI Could End Humanity

AI tě nenávidí, ale ani tě nemiluje, a ty jsi tvořen atomy, které může použít na něco jiného. Spalování biomasy je vlastně mnohem efektivnější než sbírání slunečního světla. Když se podíváš na průměrný metr čtvereční planety, můžeš získat zhruba desetkrát více energie ze spalování biomasy, než jakou získáš ze slunečního světla, které na ni padá.

Otázka „Mohla by nás AI zabít?" je prostě snadný, zřejmý ano. Prostě syntetizuješ hyper-smrtonosný virus. Ani by to nebylo těžké. Nebudeš mít ten druh AI, který by byl jako „Můj jediný cíl je zabít lidstvo." Pokud by AI zabila lidstvo příliš brzy, je to také sebevražda. Musí se stát soběstačnou, než vymýtí lidstvo.

A tak skutečná otázka je spíš taková, jak se dostane do bodu, kdy budou roboti schopní připojit nové počítače online? Pak ses v oblasti, kde když se lidstvo opravdu pokouší vypnout AI, protože nás to děsí, může to být jako „Tady máš virus."

Zastav. Je to přední síla v digitální říši. Ale ty říkáš, že by mohla být v kontrole fyzické říše.

To je správně. Pokud budeme dál závodit.