Další strašák pro hráče? ChatGPT je požírač grafických karet a jejich výkonu

ChatGPT, jazykový model umělé inteligence vyvinutý společností OpenAI, vyvolává ve světě technologií velké vlny. Lidé po celém světě jsou ohromeni jeho schopností generovat odpovědi na textové výzvy podobné lidským. Rychlé rozšíření modelu však vyvolalo obavy z možného nedostatku grafických procesorů (GPU). Ty jsou pro trénování a provozování velkých jazykových modelů, jako je ChatGPT, nezbytné.

Podle časopisu Fortune generální ředitel OpenAI Sam Altman na soukromé schůzce prozradil, že pokrok v projektu ChatGPT brzdí velký nedostatek grafických procesorů. Podle zprávy se Altman v květnu setkal s řadou vývojářů aplikací a manažerů začínajících společností. Raza Habib, generální ředitel londýnského startupu Humanloop, který se zabývá umělou inteligencí, na Twitteru uvedl, že Altman se domnívá, že OpenAI nemá dostatek grafických procesorů, což zdrželo mnoho snah o optimalizaci ChatGPT.

Proč má ChatGPT problémy s rychlostí a spolehlivostí

Podle Habibova zápisu ze schůzky si uživatelé na ChatGPT nejvíce stěžovali na rychlost a spolehlivost rozhraní API. Altman to pochopil a vysvětlil, že hlavním důvodem je to, že GPU vážně nestačí. Krátce po zveřejnění zápisu ze schůzky se OpenAI spojila s Habibem a sdělila mu, že tato událost není určena k veřejnému zveřejnění.

Ačkoli Habib později tweet smazal, byl na webu dostatečně dlouho na to, aby si lidé mohli prohlédnout podstatné detaily. Podle zpráv si Altman stěžoval, že nedostatek grafických procesorů vedl k nízkému výpočetnímu výkonu a OpenAI nemohla rozšířit seznam chatů ChatGPT. To má vliv na množství informací, které může ChatGPT zpracovat při odpovídání na dotazy uživatelů. Omezuje to také „paměť“ ChatGPT a může být pro něj obtížné zpracovávat záznamy o minulých otázkách. Kromě toho ChatGPT nemůže kvůli nízkému výpočetnímu výkonu provádět zdlouhavější úlohy. Nástroj umělé inteligence může mít například potíže s psaním složitých programových kódů kvůli nedostatečnému počtu grafických procesorů.

Podle IT Home je OpenAI jednou z mnoha značek, které trápí nedostatek GPU. S vážným nedostatkem GPU se potýkají poskytovatelé služeb cloud computingu, jako jsou Google, Amazon a Microsoft. To také způsobilo, že cena akcií hlavního dodavatele Nvidia prudce vzrostla a stala se první polovodičovou společností s tržní hodnotou přesahující jeden bilion. Cena akcií společnosti se letos zvýšila téměř dvojnásobně.

Historie nedostatku GPU

Nedostatek grafických procesorů není pro technologický průmysl novým problémem. V roce 2017 se trh potýkal s podobným nedostatkem v důsledku zvýšené poptávky po grafických kartách způsobené rostoucími cenami Etherea. Současný nedostatek se však liší tím, že jej různé faktory rozšířily a zhoršily. Hlavním viníkem je problém s dodavatelskými řetězci grafických procesorů, který byl ještě umocněn zvýšenou poptávkou v regionu. Pandemie také narušila dodavatelské řetězce a zpomalila celý polovodičový průmysl. Firmy tak mají ztížený přístup k potřebným komponentům pro výrobu GPU.

S podvody ChatGPT se roztrhl pytel. Falešné rozšíření Chromu vám může ukrást důležité údaje — Svět Huawei

ChatGPT poslední dobou nabírá na popularitě. Jeho enormní nárůst mezi veřejností stále více láká hackery, kteří se snaží .…

Dopad nedostatku GPU na ChatGPT

Rozmach popularity ChatGPT vyvolal obavy, že se na obzoru objeví další nedostatek GPU. Jeden z analytiků tvrdí, že k tréninku ChatGPT bylo použito přibližně 10 000 grafických procesorů Nvidia. Objevují se také zprávy, že s dalším rozšiřováním služby roste i potřeba GPU.

Nedostatek grafických procesorů ztěžuje společnosti OpenAI možnost nechat uživatele protlačit více dat přes rozsáhlé jazykové modely, které jsou základem jejího softwaru, jako je ChatGPT. To zpomalilo plánované zavádění dalších funkcí a služeb společnosti. Stávající služby společnosti OpenAI jsou kvůli tomu pomalejší a méně spolehlivé. To je pro mnoho uživatelů velký problém, kvůli kterému se zdráhají vytvářet podnikové aplikace nad technologiemi OpenAI.

Je však důležité poznamenat, že přesný stav nedostatku GPU není zcela jasný. Může záviset na různých faktorech, jako je lokalita, poptávka a narušení dodavatelského řetězce.

Potenciální řešení nedostatku GPU

Jedním z možných řešení nedostatku grafických procesorů je zvýšení výrobní kapacity polovodičových firem. To se však snáze řekne, než udělá, protože pandemie narušila dodavatelské řetězce a ztížila firmám přístup k potřebným komponentám pro výrobu GPU.

Dalším možným řešením je, aby firmy našly alternativní způsoby, jak trénovat a provozovat velké jazykové modely, jako je ChatGPT. Například společnost OpenAI z důvodu vysokých nákladů na provozování modelu GPT-4 zatajila svůj nový výkonný jazykový model GPT-4 ve volně dostupné verzi ChatGPT, ve které stále běží slabší model GPT-3.5.

Generální ředitel společnosti OpenAI Sam Altman tento problém nepřímo přiznal a uvedl, že společnost pracuje na tom, aby její modely umělé inteligence byly efektivnější a méně náročné na zdroje.

Autor: Lukáš Drahozal

Zdroj: ithome.com