Prevádzkovanie AI ChatGPT stojí spoločnosť AI nemalé finančné prostriedky

Prevádzkovanie umelej inteligencie nie je lacná záležitosť.

Spoločnosti stojace za prevádzkovaním umelej inteligencie musia byť schopné platiť nemalé účty za elektrickú energiu, ale aj budovanie infraštruktúry. To je aj prípad spoločnosti openAI, ktorá stojí za najpopulárnejším "chat-botom" - ChatGPT. Podľa odhadov firmy SemiAnalysis, stojí spoločnosť openAI denná prevádzka umelej inteligencie približne 700 000 dolárov (cca. 635 425 eur). To robí v prepočte 36 centov za otázku. Najviac nákladov si žiada práve hardvér potrebný na správne fungovanie umelej inteligencie chatGPT. Pritom spoločnosť openAI má používať približne 3 617 HGX A100 serverov, ktoré dokopy obsahujú 28 936 GPU jadier.

Od uvedenia AI chatGPT si tento jazykový model rýchlo získal obľubu medzi používateľmi. Za všetko má hovoriť fakt, že svojich "prvých" sto miliónov používateľov získala umelá inteligencia len v priebehu dvoch mesiacov. Pre porovnanie, sociálnej sieti Instagram trvalo získanie takéhoto počtu používateľov až dva a pol roka, kým TikToku "len" deväť mesiacov. Podľa firmy SemiAnalysis má byť prevádzkovanie novej verzie - chatGPT 4 ešte drahšie, vďaka použitiu novších a vyspelejších technológií. Technologické spoločnosti majú pracovať na "zlacnení" AI, aby nebola tak náročná na hardvérové zdroje.

Napríklad spoločnosť Microsoft má vyvíjať procesor, ktorý by umožnil lacnejšiu prevádzku umelej inteligencie. Napriek tomu sa v tomto prípade sa jedná a multi-miliardový trh, na ktorom zarába najmä spoločnosť Nvidia, ktorá je jedným z hlavných dodávateľov výpočtových jednotiek.

Zdroj: Neowin,