Skrýt formulář
MENU Zavřít

Microsoft a etická úskalí umělé inteligence

17. 7. 2021

Umělá inteligence (AI) si od svého vzniku našla cestu do široké škály oborů a odvětví, od vojenství přes vědu a medicínu až po řízení firemních procesů. Vedle přínosů se ale v poslední době zaměřuje pozornost i na etickou stránku umělé inteligence a společnost Microsoft v tomto není výjimkou.

Rizika AI v moderní společnosti

V současné době není pochyb o významu umělé inteligence, která patří mezi nejperspektivnější a nejrychleji se rozvíjející oblasti IT technologií. Prvky AI si našly cestu do řady oborů a profesí, od zdravotnictví přes vědu a vzdělávání až po infrastrukturu či oblast byznysu. Vzhledem k neustálému růstu výkonu moderních počítačů pak lze očekávat, že do budoucna se stane umělá inteligence nedílnou součástí každodenního života.

Právě tato všudypřítomnost AI ale zároveň představuje i možné riziko. Kromě přímého ohrožení zdraví a majetku vinou špatného designu AI či chybných vstupních dat se v poslední době zaměřuje pozornost i na společenské dopady umělé inteligence. Již byly zaznamenány případy, kdy AI prohlubuje a šíří společenské problémy (např. rasismus či předsudky), jenž byly do systému zaneseny již se vstupními daty. Tento problém se týká například softwaru pro rozeznávání obličeje, který s sebou nese potenciální riziko narušení soukromí, de-anonymizace jednotlivců či diskriminace určitých skupin obyvatelstva.

Microsoft a etika AI

V odpověď na tyto hrozby vznikl zcela nový obor zabývající se etikou umělé inteligence. Podle něj by měla umělá inteligence především brát ohled na základní lidská práva a svobody, a zároveň s tím i splňovat příslušnou státní legislativu. Velké technologické společnosti i národní vlády proto v současnosti utvářejí neziskové skupiny, které mají za úkol etická rizika AI zkoumat a najít způsob, jak tato rizika zmírnit či úplně odstranit.

Součástí této iniciativy je samozřejmě i technologická firma Microsoft, která pro účely vývoje tzv. odpovědné umělé inteligence (responsible AI) utvořila v rámci firemní struktury tři nové organizace:

  • Oddělení pro odpovědnou AI (Office of Responsible AI, ORA),
  • Komisi pro AI, etiku a její důsledky pro inženýrství a výzkum (Aether),
  • tým Strategie odpovědné AI ve strojírenství (Responsible AI Strategy in Engineering, RAISE).

Každá z těchto organizací má vymezené pole působnosti; Aether funguje jako poradní orgán pro vedení společnosti Microsoft v otázkách inovací AI, ORA vytváří vnitrofiremní pravidla a směrnice týkající se AI a tým RAISE se zaměřuje na implementaci zodpovědné AI napříč produkty Microsoftu.

Hlavním cílem všech těchto organizací pak je dohlédnout na to, aby všechny AI produkty vyvíjené společností Microsoft odpovídaly stanoveným principům umělé inteligence, mezi které patří:

  • férovost (systémy by měly všechny lidské bytosti vnímat jako rovnocenné),
  • spolehlivost a bezpečnost (všechny systémy by měly nabízet maximálně bezpečnost a spolehlivost),
  • ochrana soukromí (AI systémy by měly respektovat právo na soukromí a anonymitu),
  • inkluzivita (AI produkty jako příležitost pro všechny lidi bez rozdílu),
  • transparentnost (systémy by měly být snadno pochopitelné a přehledné),
  • odpovědnost (za vývoj a etiku AI systémů by měli být odpovědní konkrétní lidé).

Přístup firmy Microsoft k AI etice shrnul v roce 2018 CEO společnosti Satya Nadella během svého projevu v rámci konference Microsoft’s Leading Transformation in AI v Londýně: „Jsme ve fázi, kdy jsou naše rozhodnutí založena na faktu, že technologický vývoj se neděje jen tak, nýbrž jako důsledek člověka rozhodujícího o designu. Tyto designové volby je třeba založit na principech a etice – a právě to je ta nejlepší cesta k budoucnosti, kterou si přejeme my všichni.

Mohlo by vás zajímat