Hloubkový výzkum ChatGPT je zde. Může ale skutečně nahradit lidského experta?

Hloubkový výzkum OpenAI je nejnovějším nástrojem umělé inteligence, který dokáže za několik minut zvládnout to, co by lidskému odborníkovi trvalo hodiny.

Tento nástroj, který je součástí balíčku ChatGPT Pro a je uváděn na trh jako výzkumný asistent, který se vyrovná vyškolenému analytikovi, samostatně prohledává web, sestavuje zdroje a poskytuje strukturované zprávy. V testu Humanity’s Last Exam (HLE), náročném srovnávacím testu umělé inteligence, dokonce dosáhl 26,6 %, čímž překonal mnoho modelů.

Hluboký výzkum však není zcela v souladu s očekáváním. Přestože vytváří vybroušené zprávy, má také závažné nedostatky. Podle novinářů, kteří jej vyzkoušeli, může hloubkový výzkum vynechat klíčové detaily, potýká se s aktuálními informacemi a někdy si vymýšlí fakta.

OpenAI to uvádí při výčtu omezení svého nástroje. Společnost také uvádí, že „někdy může v odpovědích halucinovat fakta nebo činit nesprávné závěry, i když podle interních hodnocení ve výrazně nižší míře než stávající modely ChatGPT“.

Není překvapením, že se mohou objevit nespolehlivá data, protože modely umělé inteligence „neznají a nevnímají“ věci stejně jako lidé.

Myšlenka „výzkumného analytika“ AI také vyvolává řadu otázek. Může stroj – bez ohledu na to, jak je výkonný – skutečně nahradit vyškoleného odborníka? Jaké by to mělo důsledky pro práci se znalostmi? A pomáhá nám umělá inteligence skutečně lépe myslet, nebo nám jen usnadňuje přestat myslet úplně?

Co je to „hloubkový výzkum“ a pro koho je určen?

Hloubkový výzkum, který je určen pro odborníky z oblasti financí, vědy, politiky, práva a inženýrství, ale i pro akademiky, novináře a obchodní stratégy, je nejnovějším „agentským zážitkem“, který OpenAI zavedla v ChatGPT. Slibuje, že těžkou práci s výzkumem zvládne během několika minut.

V současné době je hloubkový výzkum k dispozici pouze uživatelům ChatGPT Pro ve Spojených státech, a to za cenu 200 USD měsíčně. OpenAI uvádí, že v příštích měsících bude rozšířen pro uživatele služeb Plus, Team a Enterprise, přičemž do budoucna se plánuje i cenově výhodnější verze.

Na rozdíl od standardního chatbota, který poskytuje rychlé odpovědi, probíhá hloubkový výzkum podle několikastupňového procesu, jehož výsledkem je strukturovaná zpráva:

1. Uživatel zadá požadavek. Může to být cokoli od analýzy trhu po shrnutí právního případu.
2. Umělá inteligence objasní zadání. Může klást doplňující otázky, aby upřesnila rozsah výzkumu.
3. Agent vyhledává na webu. Samostatně prochází stovky zdrojů, včetně zpravodajských článků, výzkumných prací a online databází.
4. Syntetizuje svá zjištění. Umělá inteligence vybere klíčové body, uspořádá je do strukturované zprávy a uvede své zdroje.
5. Výsledná zpráva je dodána. Během pěti až třiceti minut obdrží uživatel několikastránkový dokument – potenciálně dokonce doktorskou práci – shrnující zjištění.

Na první pohled to vypadá jako vysněný nástroj pro znalostní pracovníky. Při bližším pohledu však zjistíte, že má značná omezení.

Mnoho prvních testů odhalilo nedostatky:

• Chybí mu kontext. Umělá inteligence umí shrnout, ale plně nerozumí tomu, co je důležité.
• Ignoruje nový vývoj. Unikla jí významná právní rozhodnutí a vědecké aktualizace.
• Vymýšlí si. Stejně jako jiné modely AI dokáže s jistotou generovat nepravdivé informace.
• Nedokáže rozlišit fakta od fikce. Neumí rozlišit důvěryhodné zdroje od nedůvěryhodných.

Ačkoli OpenAI tvrdí, že její nástroj konkuruje lidským analytikům, umělá inteligence nevyhnutelně postrádá úsudek, kontrolu a odborné znalosti, které činí dobrý výzkum cenným.

Co AI nemůže nahradit

ChatGPT není jediným nástrojem s umělou inteligencí, který dokáže prohledávat web a vytvářet zprávy pomocí několika pokynů. Pozoruhodné je, že pouhých 24 hodin po vydání nástroje OpenAI vydala společnost Hugging Face bezplatnou verzi s otevřeným zdrojovým kódem, která se téměř vyrovná jeho výkonu.

Největším rizikem hloubkového výzkumu a dalších nástrojů AI prodávaných pro výzkum „na lidské úrovni“ je iluze, že AI může nahradit lidské myšlení. AI dokáže shrnout informace, ale nedokáže zpochybnit své vlastní předpoklady, upozornit na mezery ve znalostech, myslet kreativně nebo pochopit různé perspektivy.

A shrnutí generovaná umělou inteligencí se nevyrovnají hloubce zkušeného lidského výzkumníka. Jakýkoli agent umělé inteligence, ať už je jakkoli rychlý, je stále jen nástrojem, nikoli náhradou lidské inteligence. Pro znalostní pracovníky je důležitější než kdy jindy investovat do dovedností, které AI nedokáže replikovat: kritické myšlení, ověřování faktů, hluboké odborné znalosti a kreativita.

Pokud chcete používat výzkumné nástroje AI, existují způsoby, jak to dělat zodpovědně. Promyšlené využití AI může zlepšit výzkum, aniž by byla obětována přesnost nebo hloubka. Umělou inteligenci můžete využívat pro efektivitu, například pro shrnutí dokumentů, ale pro rozhodování si ponechat lidský úsudek.

Vždy si ověřujte zdroje, protože citace generované AI mohou být zavádějící. Nevěřte slepě závěrům, ale uplatňujte kritické myšlení a ověřujte informace u renomovaných zdrojů. V případě závažných témat – jako je zdraví, spravedlnost a demokracie – doplňte závěry AI o informace od odborníků.

Navzdory plodnému marketingu, který se nám snaží namluvit opak, má generativní AI stále spoustu omezení. Lidé, kteří dokáží kreativně syntetizovat informace, zpochybňovat předpoklady a kriticky myslet, budou i nadále žádaní – AI je zatím nemůže nahradit.

Autor: Lukáš Drahozal

Zdroj: arstechnica.com, futureofbeinghuman.com