OpenAI chce nájsť spôsoby, ako kontrolovať AI.
Spoločnosti a výskumné centrá usilovne pracujú na vývoji umelej inteligencie. Modely AI už pomáhajú človeku napríklad s vývojom liekov, riešením matematických príkladov, či prekladom textov "mŕtvych" jazykov a podobne. Lenže ako dokáže byť umelá inteligencia nápomocná, môže aj škodiť. Neraz sme písali o tom, ako podvodníci dokážu AI zneužiť. Hackeri vďaka nej dokážu naklonovať váš hlas a vydávať sa za vás, prípadne vytvárať falošné fotografie a to všetko za účelom zisku. To platí aj v prípade vygenerovaných literárnych "diel", ktoré boli predávané napríklad cez internetový obchod Amazon. Lenže čo, ak sa umelá inteligencia raz obráti proti nám?
Tomu chce zabrániť iniciatíva spoločnosti OpenAI, ktorá paradoxne stojí za vývojom umelej inteligencie ChatGPT. Firma už vybrala dvoch vedúcich tohto tímu - Jan Leike a Ilya Sutskever, pričom skupina vedeckého tímu dostane až 20 percent výpočtového výkonu spoločnosti. Organizácia chce vytvoriť nástroj s názvom systém automatického zarovnávania. To znamená, že tento nástroj bude udržiavať umelú inteligenciu v medziach, teda tak, aby sa nestala hrozbou pre ľudstvo. Napriek vysokej ambícii OpenAI tvrdí, že v konečnom dôsledku nemusí byť úspech vôbec zaručený.
To ako iniciatíva dopadne, ukáže až čas. Po svete už vznikajú postupné politické "tlaky", ktoré volajú po regulácii umelej inteligenciem, nakoľko AI je už teraz hrozbou. Ako sme už vyššie spomenuli, umelá inteligencia je už v súčasnosti využívaná na nekalé ciele podvodníkov.
Zdroj: Engadget,
Add new comment