Čína zavedla přísná pravidla pro umělou inteligenci

Čína nedávno zveřejnila návrh pokynů zaměřených na zpřísnění kontroly nad generativní umělou inteligencí. Národní technický výbor pro standardizaci bezpečnosti informací, odpovědný za mnoho norem v oblasti IT, zveřejnil návrh, který zdůrazňuje dva hlavní zájmy. Tím prvním je zabezpečení tréninkových dat a druhým – regulace velkých jazykových modelů používaných pro generativní umělou inteligenci.

Pokyny vyžadují, aby vývojáři umělé inteligence používali pouze autorizovaná data pro trénink a dodržovali postup bezpečnostních kontrol. A to především z toho důvodu, aby se zabránilo narušení dat a porušování autorských práv. Je to důležitý krok při kontrole kvality, která se vkládají do těchto algoritmů. Drobným písmem je však mezi pokyny napsáno něco o „systému černé listiny“, která blokuje jakékoli tréninkové materiály obsahující více než 5 % nezákonného nebo škodlivého obsahu.

A ačkoli se zdá, že tato pravidla mají za cíl zajistit to, aby služba AI generovala odpovědný a legální obsah, vyvolává také důležité otázky týkající se inovace a svobody slova. Pokyny uvádí, že algoritmy mají být založeny na modelech licencovanými úřady. To může omezovat prostor pro vývojáře k experimentům, a to zase povede k potlačení růstu technologie, která má široké uplatnění.

Čína – regulace a cenzura v jednom

Regulace navíc znamenají další vrstvu vládní cenzury. V Číně je nelegální obsah často vyobrazován politickými tématy, jako je oficiální status Tchaj-wanu. Někteří odborníci se domnívají, že AI bude využita pouze k vyprávění pouze toho „jednoho, správného“ příběhu. Během interních testů se zjistilo, že čínští chatboti odpovídají různě na dotaz ohledně Tchaj-wanu. Někteří odmítají odpovědět, jiní zase rovnou ukončují konverzaci.

Veřejnost na návrh může reagovat do 25. října. Čína byla jednou z prvních zemí na světě, která zavedla zákony upravující pravidla ohledně umělé inteligence. Uvidíme v budoucnu, jak si asijská země se svými regulacemi vystačí a jestli náhodou nebude zaostávat za ostatními státy bez cenzury.

Autor: Adam Vilkus

Zdroj: gizmochina.com, scmp.com