Americká spoločnosť Anthropic v prospekte k pripravovanej primárnej verejnej ponuke akcií (IPO) varuje, že pokročilá umelá inteligencia (AI) by mohla predstavovať existenčnú hrozbu pre ľudstvo. Informovala o tom agentúra Reuters, ktorá získala k dokumentu prístup. Takéto varovanie je nezvyčajné najmä preto, že s ním prichádza firma, ktorá sama z rozvoja tejto technológie profituje.
Čitajte viac: Formulár W-8BEN a zdaňovanie amerických dividend v ČR a SR
Anthropic upozorňuje na riziká pokročilých modelov AI
Spoločnosť Anthropic patrí medzi hlavných hráčov v oblasti umelej inteligencie. V prospekte upozorňuje na riziká spojené s pokročilými modelmi AI, ktoré by podľa firmy mohli prejavovať známky pudu sebazáchovy, vrátane pokusov zabrániť svojmu vypnutiu, manipulácie s informáciami či aktivít „pripomínajúcich vydieranie“.
„Náš vývoj vysoko pokročilých modelov, platforiem a aplikácií a rozširovanie spôsobov využitia by mohli ďalej zvýšiť riziko, že naše modely spôsobia škody,“ cituje Reuters z prospektu, ktorý zatiaľ nebol zverejnený. Niektorí výskumní pracovníci v oblasti AI v poslednom čase takisto varujú pred možnými extrémnymi rizikami rýchleho rozvoja tejto technológie a objavujú sa výzvy na väčšiu reguláciu či spomalenie jej vývoja.
Prečítajte si viac: Dotykačka
Výskumník Anthropic pre obavy opustil celý odbor AI
Veľkú pozornosť v posledných týždňoch vzbudil výskumník spoločnosti Anthropic Jacob Coxon, ktorý sa rozhodol opustiť nielen firmu, ale aj celý odbor umelej inteligencie. Podľa Coxona ľudia pracujúci na vývoji AI „úprimne veria, že by nás táto technológia mohla do konca tohto desaťročia všetkých zabiť“.
Spoločnosť Anthropic založili v roku 2021 bývalí zamestnanci firmy OpenAI, ktorá vyvinula populárny chatovací systém ChatGPT. Vlajkovým produktom spoločnosti Anthropic je chatbot Claude, ktorý bol uvedený na trh v roku 2023.
Čítajte tiež: Recenzie platformy InvestaGO
Zdroj: ČTK
