Skryť formulár
MENU Zavrieť

Microsoft a etické úskalia umelej inteligencie

17.7.2021

Umelá inteligencia (AI) si od svojho vzniku našla cestu do širokej škály odborov a odvetví, od vojenstva cez vedu a medicínu až po riadenie firemných procesov. Popri prínosoch sa ale v poslednej dobe zameriava pozornosť aj na etickú stránku umelej inteligencie a spoločnosť Microsoft v tomto nie je výnimkou.

Riziká AI v modernej spoločnosti

V súčasnej dobe nie je pochýb o význame umelej inteligencie, ktorá patrí medzi najperspektívnejšie a najrýchlejšie sa rozvíjajúce oblasti IT technológií. Prvky AI si našli cestu do mnohých odborov a profesií, od zdravotníctva cez vedu a vzdelávanie až po infraštruktúru či oblasť biznisu. Vzhľadom na neustály rast výkonu moderných počítačov tak môžeme očakávať, že do budúcna sa umelá inteligencia stane neoddeliteľnou súčasťou každodenného života.

Práve táto všadeprítomnosť AI ale zároveň predstavuje aj možné riziko. Okrem priameho ohrozenia zdravia a majetku vinou zlého dizajnu AI alebo chybných vstupných dát sa v poslednej dobe zameriava pozornosť aj na spoločenské dopady umelej inteligencie. Už boli zaznamenané prípady, keď AI prehĺbila spoločenské problémy (napr. rasizmus alebo predsudky), ktoré boli do systému zanesené už so vstupnými dátami. Tento problém sa týka napríklad softvéru na rozoznávanie tváre, ktorý so sebou nesie potenciálne riziko narušenia súkromia, de-anonymizácie jednotlivcov alebo diskriminácie určitých skupín obyvateľstva.

Microsoft a etika AI

Ako odpoveď na tieto hrozby vznikol celkom nový odbor zaoberajúci sa etikou umelej inteligencie. Podľa neho by umelá inteligencia mala brať ohľad predovšetkým na základné ľudské práva a slobody, a zároveň s tým aj spĺňať príslušnú štátu legislatívu. Veľké technologické spoločnosti a národné vlády preto v súčasnosti vytvárajú neziskové skupiny, ktoré majú za úlohu skúmať etické riziká AI a nájsť spôsob, ako tieto riziká zmierniť alebo úplne odstrániť.

Súčasťou tejto iniciatívy je samozrejme aj technologická firma Microsoft, ktorá na účely vývoja tzv. zodpovednej umelej inteligencie (responsible AI) utvorila v rámci firemnej štruktúry tri nové organizácie:

  • Oddelenie pre zodpovednú AI (Office of Responsible Ai, ORA),
  • Komisiu pre AI, etiku a jej dôsledky pre inžinierstvo a výskum (Aether),
  • tím Stratégie zodpovednej AI v strojárenstve (Responsible AI Strategy in Engineering, RAISE).

Každá z týchto organizácií má vymedzené pole pôsobnosti; Aether funguje ako poradný orgán pre vedenie spoločnosti Microsoft v otázkach inovácií AI, ORA vytvára vnútrofiremné pravidlá a smernice týkajúce sa AI a tím RAISE sa zameriava na implementáciu zodpovednej AI naprieč produktami Microsoftu.

Hlavným cieľom všetkých týchto organizácií je dohliadnuť na to, aby všetky AI produkty vyvíjané spoločnosťou Microsoft zodpovedali stanoveným princípom umelej inteligencie, medzi ktoré patrí:

  • férovosť (systémy by mali vnímať všetky ľudské bytosti ako rovnocenné),
  • spoľahlivosť a bezpečnosť (všetky systémy by mali ponúkať maximálnu bezpečnosť a spoľahlivosť),
  • ochrana súkromia (AI systémy by mali rešpektovať právo na súkromie a anonymitu),
  • inkluzivita (AI produkty ako príležitosť pre všetkých bez rozdielu),
  • transparentnosť (systémy by mali byť jednoducho pochopiteľné a prehľadné),
  • zodpovednosť (za vývoj a etiku AI systémov by mali byť zodpovední konkrétni ľudia).

Prístup firmy Microsoft k etike AI zhrnul v roku 2018 CEO spoločnosti Satya Nadella počas svojho prejavu na konferencii Microsoft´s Leading Transformation in AI v Londýne: „Sme vo fáze, keď sú naše rozhodnutia založené na fakte, že technologický vývoj sa nedeje len tak, ale ako dôsledok človeka rozhodujúceho o dizajne. Tieto dizajnové voľby je treba založiť na princípoch a etike – a práve to je tá najlepšia cesta do budúcnosti, ktorú si prajeme všetci.

Mohlo by vás zaujímať