Shrnutí epizody
Běžně dostupné AI modely se dají zmanipulovat k vojenským účelům. Vyplývá to ze studie americké analytické firmy Vals. Ta testovala, jestli dokáže AI modely přimět k tomu, aby pomáhaly identifikovat možné cíle útoků. „Ten model nemá nic, co by odpovídalo zdravému rozumu. Je to automat, který reaguje na textové pokyny, které matematicky vyhodnocuje,“ poukazuje na etický problém pro Český rozhlas Plus vědecký redaktor Deníku N Petr Koubský.
Běžně dostupné AI modely se dají zmanipulovat k vojenským účelům. Vyplývá to ze studie americké analytické firmy Vals. Ta testovala, jestli dokáže AI modely přimět k tomu, aby pomáhaly identifikovat možné cíle útoků. „Ten model nemá nic, co by odpovídalo zdravému rozumu. Je to automat, který reaguje na textové pokyny, které matematicky vyhodnocuje,“ poukazuje na etický problém pro Český rozhlas Plus vědecký redaktor Deníku N Petr Koubský.
Epizody
AI pro vojenské účely? Nelze to omezit, obává se Koubský
PřehranéBěžně dostupné AI modely se dají zmanipulovat k vojenským účelům. Vyplývá to ze studie americké analytické firmy Vals. Ta testovala, jestli dokáže AI modely přimět k tomu, aby pomáhaly identifikovat možné cíle útoků. „Ten model nemá nic, co by odpovídalo zdravému rozumu. Je to automat, který reaguje na textové pokyny, které matematicky vyhodnocuje,“ poukazuje na etický problém pro Český rozhlas Plus vědecký redaktor Deníku N Petr Koubský.
Digitální spravedlnost podle Evropské unie? Koubský to vítá
PřehranéKlamavý marketing influencerů, manipulativní design nebo třeba nekalé praktiky při personalizaci služeb. Takové problémy má v online světě omezit návrh nového nařízení Evropské komise s názvem Digital Fairness Act neboli Akt o digitální spravedlnosti. „Myslím, že je v pořádku, že se něco takového chystá,“ poukazuje v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.
Kyberútoky na mrazáky? Koubský: Je namístě revize věcí připojených k internetu, na které nemyslíme
PřehranéSupermarkety v několika evropských zemích v posledních týdnech čelily nezvyklým kybernetickým útokům. Neznámí útočníci pronikli do řídicí jednotky chladicích boxů a zapnuli rozmrazovací režim. „Nebyl to de facto hackerský útok, útočníci se jenom připojili k otevřenému rozhraní a v podstatě zmáčkli knoflík, nic jiného,“ vysvětluje v pořadu Online Plus redaktor Deníku N Petr Koubský.
Meta a kontroverzní obchodní podmínky? Na takové chování bychom měli být připraveni, říká Koubský
PřehranéNové obchodní podmínky společnosti Meta, které měly původně platit od 30. října, vyvolaly řadu stížnostní. Vydavatelé se totiž obávají, že by společnost mohla zdarma používat veškerý jejich obsah, včetně toho na webových stránkách. „Je tam formulace, že se dá obsah webů spojený s firemními účty využít k vývoji, k výzkumu. To může docela dobře zahrnout i trénování umělé inteligence,“ poukazuje v pořadu Online Plus redaktor Deníku N Petr Koubský.
Zandl a Koubský: Dosáhnout záruky, že AI nezneužijí špatní lidé, je iluzorní. Džin je venku z lahve
Přehrané„Umělá inteligence možná už za několik let vyhubí lidstvo a je potřeba zpomalit její vývoj.“ Podobná prohlášení zazněla i od šéfů dvou největších vývojářských studií, OpenAI a Anthropic. „AI umí dát i nepříliš chytrým lidem velmi chytré postupy, to je ta nebezpečná změna,“ vysvětluje publicista a provozovatel webu Vibecoding.cz Patrick Zandl. „Dosáhnout vysoké záruky, že to nezneužijí špatní lidé, je iluzorní,“ říká v pořadu Online Plus redaktor Deníku N Petr Koubský.