Čínská policie rozprášila gangy používající ChatGPT pro vytváření Fake news

Policie v Číně zasáhla proti dvěma různým gangům, které používaly ChatGPT k vytváření falešných videí. K jednomu zásahu došlo již v květnu, k druhému v červnu. ChatGPT je chatbot s umělou inteligencí vyvinutý společností OpenAI, který umožňuje uživatelům generovat odpovědi na základě podnětů a otázek uživatele.

ChatGPT byl používán k vytváření deep fakes, což jsou vymyšlené digitální obrázky, videa nebo jiná média, která se tváří jako skutečná. V současnosti je zřejmé, že deep fakes vytvořené pomocí ChatGPT představují zvláštní problém, protože jsou stále sofistikovanější a je obtížné je odhalit. Policie v Číně zatkla dva gangy zapojené do používání ChatGPT k vytváření deep fake videí.

ChatGPT je v Číně nelegální

Čínské regulační orgány údajně omezily přístup k ChatGPT. Čínské technologické firmy a školy však pokračují ve vývoji domácích robotů s umělou inteligencí. ChatGPT blokuje čínský „velký firewall“, protože podle vlády odporuje jejím cenzurním zákonům. Mnozí k němu však měli přístup přes VPN. Také někteří vývojáři třetích stran vytvořili programy, které některým umožňovaly přístup k této službě.

Vyhledávání služby ChatGPT na čínských platformách již nenabízí žádné výsledky. Programy pro obejití však byly zakázány nebo nahrazeny oznámením, že byly pozastaveny pro „porušování příslušných zákonů a předpisů“. Zákaz ChatGPT v Číně není překvapením, protože tato asijská země je ve svých zákonech poměrně přísná. Čínská vláda potírá politickou propagandu a dezinformace. Podle zpráv považuje schopnost ChatGPT generovat text za hrozbu pro svou kontrolu nad tokem informací.

Čína má jeden z nejkomplexnějších a nejpropracovanějších systémů cenzury internetu na světě. Čínská vláda blokuje obsah webových stránek a monitoruje přístup k internetu a hlavní internetové platformy v Číně zavedly propracované autocenzurní mechanismy a také zavedly systém skutečných jmen. Vláda obhajuje své právo cenzurovat internet tvrzením, že toto právo vychází z vlastních pravidel uvnitř země. Vládní Velký firewall je nejpropracovanějším aparátem pro cenzuru internetu na světě a obsah, který je cílem blokování, zahrnuje hlavní zpravodajské webové stránky, platformy sociálních médií a aplikace pro zasílání zpráv.

Policie rozbila první gang v květnu

Policejní zpráva ze severozápadní čínské provincie Kan-su zmiňuje podezřelého, který je součástí gangu. Identifikován byl pouze příjmením Hong a pomocí služby ChatGPT vytvořil falešný zpravodajský článek o nehodě, při níž údajně zemřelo devět stavebních dělníků v Gansu. Tento příběh se stal virálním a falešný příběh oklamal i legální zpravodajské zdroje. Vydaný článek měl v době, kdy byl odstraněn, již 15 000 zobrazení.

„Hong použil moderní technologie k vytvoření falešných informací a rozšířil je na internetu, kde byly široce rozšířeny.“

V květnu policie v Šao-čchingu zjistila, že stejný gang nelegálně zakoupil několik video účtů a použil je k vytváření falešných videí pomocí služby ChatGPT. Policie zatkla muže, který používal ChatGPT k vytváření falešných zpráv o vlakovém neštěstí. Jedná se o jednu z prvních donucovacích akcí podle nedávno přijatého čínského zákona regulujícího „deep fake“ vytvářené umělou inteligencí. Podle policie jsou díla gangu zdánlivě realistické, ale vymyšlené digitální obrázky, videa nebo jiná média.

Místní policejní jednotka pro kybernetickou bezpečnost byla upozorněna na článek o vlakové nehodě, který byl zveřejněný 25. dubna. Poté zahájila vyšetřování této záležitosti. Hong se poté přiznal, že k vytváření falešných zpráv o vlakových nehodách před jejich zveřejněním na internetu používal ChatGPT. Hongovo zatčení je prvním zadržením od ledna, kdy v Číně vstoupilo v platnost nové nařízení o deep fake technologiích. Cílem zákona je zabránit zneužívání technologií, které mohou měnit údaje o tváři a hlasu. A přestože je ChatGPT v Číně zakázán, existují řešení, jako jsou virtuální privátní sítě.

Čínská policie v červnu rozbila další gang

Druhý velký zásah se odehrál v červnu 2023. Dne 2. června policie v Shangyu během online sledování zjistila, že uživatel aplikace s názvem „Shangyi Explanation“ zveřejnil video o požáru v průmyslovém parku Shangyu. Počet zhlédnutí videa v krátké době prudce vzrostl. Policie video překontrolovala a zjistila, že se jedná o falešnou zprávu. Policie v Shangyu také zjistila, že s trestným činem je spojena technická skupina v jiné provincii. Policie 5. června vyrazila do dalších provincií a zatkla tři podezřelé.

Po vyšetřování se ukázalo, že skupina od května nelegálně získala řadu videoklipů z internetu. Tato videa spojila a prostřednictvím technologie ChatGPT vytvořila falešná videa, která zveřejnila na síti, aby získala sledovanost. To následně vedlo k ziskům skupiny. Dosud gang nelegálně zakoupil více než 1 500 video účtů a zveřejnil více než 3 000 falešných videí. Zatčený podezřelý se mezitím k činu přiznal, ale policie stále dále pátrá po dalších podezřelých.

Tyto gangy nemají žádný vztah k OpenAI nebo ChatGPT. Používaly tento nástroj pouze k vytváření depp fake a generování sledování za účelem finančního zisku. Také podle policie v Shangyu nemá gang June Burst žádné vazby na gang May Burst. Policie tak musí udělat více, aby zabránila vzniku dalších takových gangů.

Oba případy zneužívání ChatGPT nejsou starší než tři měsíce. Čínská policie případ stále vyšetřuje, než dojde k případnému trestnímu stíhání.

ChatGPT a jeho aplikace pro vytváření falešných videí

ChatGPT je chatbot s umělou inteligencí vyvinutý společností OpenAI, který dokáže generovat velmi věrohodné obrázky, text, zvuk a video. Zpráva z NPR poznamenala, že byl mimo jiné použit k vytváření falešných videí a že vytvoření deep fake videa pomocí ChatGPT zabere jen několik dolarů a několik minut. Rychlé rozšíření umělé inteligence na veřejnost vyvolalo obavy z nadsazené propagandy a vlivových kampaní špatných aktérů. Organizace OpenAI signalizovala závazek zabránit plagiátorství AI a dalším nekalým aplikacím. Společnost pracuje na způsobu, jak „vodoznakem“ označit text generovaný GPT „nepřehlédnutelným tajným signálem“, aby bylo možné identifikovat jeho zdroj.

Rizika spojená s touto technologií a rychlost jejího zavádění však ukazují, proč je důležité být obezřetný. Techničtí experti tvrdí, že deep fake video, které mluví textem napsaným umělou inteligencí, je stejně snadné jako vygenerovat skripty první osoby pomocí ChatGPT a vložit je do jakéhokoli virtuálního prostředí. CNN tvrdí, že potenciál zneužití této technologie je značný a je důležité si uvědomit rizika s ní spojená.

Vzhledem k tomu, že popularita služby ChatGPT stále roste, je pravděpodobné, že budeme svědky dalších případů podvodů a zneužití. Vždy existuje nebezpečí různých padělků vytvořených umělou inteligencí, a proto je třeba používání technologie umělé inteligence regulovat. Tato situace se v Číně stává běžnou, protože policie nedávno zatkla dva nesouvisející gangy, které se podílely na používání ChatGPT k vytváření falešných videí za účelem finančního zisku. Zásah proti gangu, který používal ChatGPT k vytváření falešných videí, je krok správným směrem k zajištění odpovědného a etického používání technologií umělé inteligence. Ačkoli ChatGPT může být použita k negativnímu průběhu, má mnoho výhod.

Autor: Lukáš Drahozal

Zdroj: ithome.com, cnbc.com