Průlomový objev. Vědci úspěšně používají umělou inteligenci ke čtení myšlenek

Podle nedávné studie, kterou prováděli vědci se podařilo vytvořit jazykový parser, který k převodu řeči na text využívá nástroj AI podobný ChatGPT. Toto zjištění je pozoruhodné, protože je to poprvé, kdy se podařilo neinvazivně získat souvislou řeč z mozkové aktivity člověka pomocí přístroje pro funkční magnetickou rezonanci (fMRI).

Parser – část programu, která ma na starosti tzv. parsing neboli syntaktickou analýzu textu. Syntaktická analýza je proces zpracování textu v přirozeném či uměle vytvořeném jazyce za pomoci gramatických pravidel definovaných pro daný jazyk.

Pomocí vzorců mozku získaných pomocí fMRI dokázal nástroj interpretovat hlavní body příběhů, které lidské subjekty četly, sledovaly nebo poslouchaly nebo si je dokonce jen představovaly. Jedná se o způsob, který mu bezpečně umožňuje číst myšlenky lidí. Vědci očekávají, že tato technologie, která je zatím v plenkách, může jednoho dne usnadnit lidem s neurologickým onemocněním, které narušuje řeč, snadnou konverzaci s ostatními.

Nástroje pro čtení myšlenek by se mohl snadno zneužít

Tým, který stojí za tímto dekodérem, varuje, že nástroje pro čtení myšlenek mohou být potenciálně použity ke zlým činům. Jedním z nich by mohlo být nezákonné sledování ze strany vlády. Podle zprávy zveřejněné v pondělí v časopise Nature Neuroscience autoři uvedli, že „rozhraní AI by mělo respektovat soukromí mysli“, i když poznamenali, že jejich nástroj potřebuje ke svému fungování týmové úsilí lidských subjektů.

Jerry Tang, postgraduální student informatiky na Texaské univerzitě v Austinu, který studii vedl, na tiskovém brífinku, který se konal minulý čtvrtek, řekl

„V současné době se jazyk, respektive dekódování provádí pomocí implantovaných zařízení, která vyžadují neurochirurgický zákrok, a naše studie je první, která dekóduje souvislý jazyk, tedy více než celá slova nebo věty, z neinvazivních záznamů mozku, které shromažďujeme pomocí funkční magnetické rezonance. Cílem AI je dekódování a vzít záznamy mozkové aktivity uživatele a předpovědět slova, která uživatel slyšel nebo říkal nebo si představoval,“ poznamenal. „Nakonec doufáme, že tato technologie pomůže lidem, kteří ztratili schopnost mluvit v důsledku zranění, jako je mrtvice, nebo nemocí, jako je ALS.“

Máme pro vás tip, jak si vytvořit heslo, které vám nedokáže prolomit umělá inteligence — Svět Huawei

Umělá inteligence je fenomém dnešní doby. Pomalu nastává doba, kdy bude zneužita i pro odemykání hesel, a kradení účzů

Jak nový nástroj AI funguje

Tangovi a ostatním pomohli vytvořit nástroj další tři lidé, z nichž každý strávil 16 hodin poslechem příběhů v nástroji fMRI. Aby tým propojil sémantické aspekty nahraných příběhů s mozkovou aktivitou zaznamenanou v datech fMRI, vycvičil model umělé inteligence známý jako GPT-1. Ten se pak mohl naučit, která slova a fráze jsou spojeny s konkrétními mozkovými vzorci.

Účastníci pak poslouchají zcela nové příběhy, které nebyly součástí tréninkového souboru dat. Při tom jim byl zobrazen mozek pomocí fMRI. Přestože tyto interpretace často používaly odlišné sémantické struktury než původní nahrávky, nástroj dokázal převést zvukové příběhy do textu tak, jak je lidé slyšeli. Například pomocí čtecích zařízení fMRI byly myšlenky posluchače přeloženy z nahrávky, na které mluvčí říká.  „Ještě nemám řidičský průkaz“, na „Ještě se ani nezačala učit řídit“.

Tyto rozkolísané výklady vyplývají z klíčového rozdílu mezi novým nástrojem a zavedenými metodami. Staré standardní metody invazivně implantují elektrody do mozku. Zatímco Tangův tým se zaměřil na průtok krve mozkem, který zachycují přístroje fMRI. Nástroje založené na elektrodách obvykle předpovídají text z motorických aktivit. Mezi ně patří pohyby úst člověka, který se snaží mluvit.

Nástroj neuvádí přesná slova

Alexander Huth, odborný asistent neurovědy a informatiky na UT Austin a hlavní autor nové studie, na tiskovém brífinku uvedl.

„Náš systém pracuje na zcela jiné úrovni. Místo toho, abychom se dívali na tuto motorickou věc na běžné úrovni, tak náš systém skutečně pracuje na úrovni myšlenek, sémantiky a významu. To je to, k čemu se dostává. To je důvod, proč si myslím, že to, co dostaneme ven, nejsou přesná slova, která někdo slyšel nebo řekl, je to podstata věci. Je to stejná myšlenka, ale vyjádřená jinými slovy.“

Nový nástroj týmu umožňuje posunout hranice techniky čtení myšlenek. Toho dosáhl tím, že otestoval, zda nástroj dokáže přeložit myšlenky subjektů, které se dívaly na němé filmy. Zopakoval také proces, kdy subjekty právě vytvářely příběhy ve svých hlavách. V obou případech dosáhl dekodér skutečně dobrých výsledků. Ať už si subjekty vytvářely příběhy v hlavě, nebo se dívaly na film, dekodér si vedl dobře.

Pokud jde o imaginární řeč, dekodér poskytoval lepší výsledky po celou dobu testování se zvukovými nahrávkami. Přesto však dokázal z mozkové aktivity odvodit několik základních faktů o nevyslovených myšlenkách. Jako případovou studii si subjekt představoval výrok, „šel po polní cestě přes pšeničné pole a přes potok a kolem několika srubů,“. Dekodér vytvořil text, který zněl „musel přejít přes most na druhou stranu a velmi velkou budovu v dálce“.

Temná strana umělé inteligence: ChaosGPT a její snaha zničit lidstvo — Svět Huawei

ChaosGPT je temnou stranou umělé inteligence. V mnoha ohledech její nástup může bý značný problém, protože se dá očekávat .…

Určitě vzniknou obrovské problémy s ochranou soukromí

Všechny tyto úkoly byly zadány členům studie, když se nacházeli v přístroji fMRI. Jedná se o objemné laboratorní zařízení. Kvůli tomu se Tang a jeho tým domnívají, že dekodér ještě není připraven k použití. To znamená, že pro lidi s problémy s řečí je tento nástroj v současné době nepoužitelný. Věří však, že budoucí verze zařízení mohou být upraveny tak, aby fungovaly s jednoduššími nástroji. Nástroji, jako jsou senzory fNIRS, které lze nosit na hlavě pacienta.

Tým, který studii provedl, upozorňuje, že dekodéry vyvolávají morální otázky týkající se soukromí duševních osob. Ačkoli narážejí na potenciál této technologie jako nové formy dialogu.

Tangův tým ve studii uvedl.

„Naše analýza ochrany soukromí naznačuje, že v současné době je k tréninku i použití dekodéru nutná spolupráce subjektu. Budoucí vývoj AI by však mohl umožnit, aby dekodéry tyto požadavky obešly. Navíc, i když jsou předpovědi dekodéru bez spolupráce subjektu nepřesné, mohly by být záměrně nesprávně interpretovány pro škodlivé účely. „Z těchto a dalších nepředvídaných důvodů je zásadní zvýšit povědomí o rizicích technologie dekódování mozku. Je také potřeba uzákonit pravidla, která chrání duševní soukromí každého člověka,“

Autor: Lukáš Drahozal

Zdroj: vice.com