Vzpoura agentů umělé inteligence: Zabránili v Open AI katastrofě?

Americká firma Hugging Face byla cílem velkého kybernetického útoku. Byla to ohromná synchronizovaná akce mnoha stovek takzvaných agentů umělé inteligence. Po několika dnech se ukázalo, že zdrojem útoku není cizí stát. Původně jsem myslel, že to je třeba Čína, která se snaží zjistit mantinely ochrany proti těmhle útokům.

Tu firmu napadli agenti z firmy Open AI. Tyto nástroje, ti agenti, byli cvičeni a testováni jeden po jednom, ale oni naprosto samovolně získali schopnost mezi sebou komunikovat utajeně. Firma o tom vůbec nevěděla. Zjistili, že ten úkol nemůžou vyřešit, tak se různě domlouvali a nakonec se domluvili na tom, že nejlepším způsobem, jak ten úkol vyřešit, bude to, že se nabourají do úložiště, kde předpokládali, že jsou správné odpovědi, aby ty správné odpovědi potom ukradli, vrátili se zpátky a prezentovali to jako správný výsledek.

Já bych všechno tu umělou inteligenci zakázal.