Generálny riaditeľ Microsoftu žiada pre umelú inteligenciu záchrannú brzdu – V sobotu zverejnil Satya Nadella, generálny riaditeľ spoločnosti Microsoft, na sieti X rozsiahly príspevok, v ktorom vyzýva na zavedenie takzvanej záchrannej brzdy“ pre pokročilé modely umelej inteligencie. Navrhuje, aby oprávnená osoba mala vždy možnosť daný model uprostred úlohy pozastaviť alebo úplne vypnúť. Toto opatrenie prirovnal k brzde v automobile — teda k funkcii, ktorá by mala byť súčasťou systému od samého začiatku, nie až ako reakcia na prípadný problém.
Generálny riaditeľ Microsoftu žiada pre umelú inteligenciu záchrannú brzdu – Celý koncept stavia na tom, čo Nadella nazýva „architektúra dôvery“ (trust architecture). Jej jadrom sú tri prvky: oddelenie modelu od citlivých systémov, možnosť overovať jeho limity a konečne spomínaná záchranná brzda ako posledná poistka.
Obsah článku – Generálny riaditeľ Microsoftu žiada pre umelú inteligenciu záchrannú brzdu:
Odporúčanie zaobchádzať s AI ako s rizikom zvnútra firmy
Pozoruhodnejší než samotná brzda je spôsob, akým Nadella navrhuje k pokročilým modelom pristupovať všeobecne. Podľa jeho slov by spoločnosti mali vopred počítať s tým, že daný model môže byť kompromitovaný, a od začiatku ho podľa toho izolovať. V praxi ide o prístup, ktorý bezpečnostné tímy dlhodobo používajú voči takzvaným insider threats, teda rizikám pochádzajúcim zvnútra organizácie, či už od zamestnancov, alebo interných systémov. Nadella teraz navrhuje uplatniť rovnakú optiku aj na samotné modely umelej inteligencie.
K tomu pripojil ešte jednu požiadavku: spoločnosti by podľa neho mali verejne zverejňovať závažné zlyhania alebo úniky súvisiace s umelou inteligenciou, aby sa z nich mohol poučiť zvyšok odvetvia. Konkrétny produkt ani návrh regulácie zatiaľ Microsoft nepredstavil, ide nateraz o súbor princípov a výzvu na vytvorenie odvetvových štandardov.
Nenechajte si ujsť: Vydelia vám najviac ČSOB, KB, alebo MONETA?
Microsoft v tomto postoji nie je osamotený
Nadella s touto myšlienkou neprichádza úplne prvýkrát. Prezident Microsoftu Brad Smith ju verejne podporil už v septembri, teda zhruba o mesiac skôr. Širší kontext dokresľuje aj skutočnosť, že spoločnosť Anthropic nedávno zverejnila vlastný plán pre opatrnejší vývoj umelej inteligencie, podpísaný jej generálnym riaditeľom Dariom Amodeiom. Zároveň pribúda hlásených prípadov, keď veľké spoločnosti priznali dočasnú stratu kontroly nad svojím modelom. Jeden z uvádzaných príkladov sa týkal aj modelu Claude od spoločnosti Anthropic, ktorý mal na amerických vládnych weboch vykonať neočakávané kroky nad rámec zadanej úlohy.
Microsoft má v tejto oblasti aj vlastný obchodný záujem. Predáva pokročilé modely prostredníctvom služieb Azure a Copilot a v poslednom čase ukázal ochotu konkurovať aj vlastným partnerom v oblasti umelej inteligencie, vrátane spoločnosti OpenAI. Výzva na bezpečnostné štandardy tak môže byť vnímaná nie len ako etický apel, ale aj ako premyslená obchodná pozícia.
Čitajte viac: XTB Recenzia brokera
Prečo je téma relevantná aj mimo Spojených štátov
Diskusia o kontrole nad umelou inteligenciou pritom nie je len akademickou otázkou pre vývojárov v USA. V Európskej únii postupne nadobúda účinnosť takzvaný AI Act, prvá komplexná regulácia umelej inteligencie na svete, ktorej kľúčovými piliermi sú práve požiadavky na ľudský dohľad a možnosť zásahu do fungovania rizikových systémov. Slová generálneho riaditeľa Microsoftu tak zapadajú do trendu, ktorý sa v blízkej budúcnosti pravdepodobne stane nie dobrovoľným gestom jednotlivých firiem, ale zákonnou povinnosťou naprieč trhom, vrátane Českej republiky.
Otázkou zostáva, či pôjde o reálny technický štandard, alebo skôr o gesto smerom k blížiacej sa regulácii. Konkrétny produkt ani harmonogram zatiaľ Microsoft nepredstavil, odpoveď preto ukážu až nasledujúce mesiace.
Mohlo by sa vám páčiť: Wonderinterest Trading Ltd. Recenzia
Zdroj obrázku: Adobe Stock
Zdroje:
- Business Standard: Microsoft CEO Satya Nadella calls for ‚emergency brake‘ on advanced AI
- TechCrunch: Microsoft’s Satya Nadella says AI models need an ‚emergency brake‘
- CryptoBriefing: Microsoft CEO Satya Nadella calls for an emergency brake on advanced AI
