Adrián Podskľan
Jaké jsou obavy, pokud jde o umělou inteligenci (AI)? Proč je integrace etických principů do systémů umělé inteligence důležitá? Jak mohou společnosti zajistit, že vyvíjejí a zavádějí etické a právně vyhovující systémy umělé inteligence? Jak umělá inteligence přináší revoluci do procesu kvality? Jak je možné dosáhnout vhodné rovnováhy mezi regulací a inovacemi? Jaké by měly být nástroje umělé inteligence?
Jaké jsou obavy, pokud jde o AI? Proč je integrace etických principů do systémů umělé inteligence důležitá?
Morální dilemata, která vznikají při používání nástrojů umělé inteligence, jsou stále rozšířenější – a mohou mít drastické dopady. S tím, jak se nástroje AI stávají stále běžnějšími a více vyvíjenými, nabývají na důležitosti také morální důsledky umělé inteligence.
Lze souhlasit s Juliette Erath, že etické obavy, pokud jde o umělou inteligenci, jsou zcela na místě; mnoho aspektů lidského života je subjektivních a může být téměř nemožné vytvořit stroj, který by mohl brát v úvahu všechny jeho aspekty. Zde jsou některé z hlavních etických obav, pokud jde o AI:
■ Předpojatost: nástroj umělé inteligence, který je vyvíjen s předpojatostí, může mít katastrofální účinky a vyřadit celé skupiny lidí z pracovního procesu.
■ Soukromí: můžeme důvěřovat strojům se soukromými a důvěrnými informacemi? Nástroje umělé inteligence musí být bezpečné a musí podporovat pocit bezpečí.
■ Hodnoty: morální sklony jednoho člověka se značně liší od druhého; jak můžeme vyvíjet nástroje umělé inteligence, aby braly v úvahu hodnoty, když jsou tak odlišné?
■ Lidé: součástí lidského života je dělat chyby – je lepší tvořit bezchybný rozhodovací proces? Nebo staví stroje nad lidi?
Etické obavy podle Philippa Coutiona zase vyplývají z rostoucí schopnosti umělé inteligence dávat lidem doporučení, rozhodovat se a vytvářet obsah. Ale její autonomie sama o sobě nemůže být problémem. I když systémy fungují velmi autonomně, jako například roboti v továrně, mohou být 100% předvídatelné a bez váhání použity v daném prostředí. Co se může stát s robotem, který nebyl předem naplánován a naprogramován?
Problematická je tedy podle našeho názoru a dostupných zdrojů kombinace autonomie a nedostatku předvídatelnosti. A je toho ještě více než tato kombinace, kterou se zabýváme. Je to tak kritické díky velkému rozpětí. Etické obavy skutečně poprvé vyvstaly, když jsme začali používat AI všude – neviditelně na pozadí a se škodlivými nebo nejasnými účinky na děti, například prostřednictvím doporučovacích nástrojů a vzdělávacích aplikací nebo na zákonem chráněné skupiny lidí, například aplikace v oblasti HR nebo pro rozpoznávání obličeje. Když se zamyslíme nad tím, kolik lidí je ovlivněno výsledky takových systémů umělé inteligence, je jasné, jak důležitý je design a vstup systémů z hlediska etických kritérií - Jsou použitá data bez nežádoucího zkreslení? Jsou reprezentativní pro cílové skupiny? Jsou aplikace navrženy tak, aby byly etické? Používají se v původně zamýšleném kontextu? Při zamyšlení se nad uvedenými otázkami by nám možná mohla pomoc také mapa etických problémů umělé inteligence AI na obrázku.
Při zamýšlení se nad obavami AI je dobré vzít v potaz také výzkum společnosti Accenture 2022 Tech Vision, který zjistil, že pouze 35 % globálních spotřebitelů důvěřuje tomu, jak je AI organizacemi implementována. A 77 % si myslí, že organizace musí nést odpovědnost za své zneužití AI. Tento výzkum je možné doplnit základním průzkumem Adriána Podskľana na sociální síti Linkedin v listopadu 2023, z kterého vyplývá, že lidé a společnosti poměrně dobře chápou důležitost etických přístupů umělé inteligence organizace. Dobře rozumí tomu, že etika musí být základním požadavkem systému umělé inteligence a musí být požadována před jejím vývojem a poté po celou dobu sledována a vynucována.
Otázka etiky prostě nemůže být aplikována na systém umělé inteligence pouze jako poslední kontrola. Etika musí být základním požadavkem systému AI a musí být požadována před jeho vývojem a poté po celou dobu sledována a vynucována. Nejedná se o následnou úpravu, ale je to požadavek pro záměrné použití od samého začátku. Více následující obrázek.
"AI nikdy nebude etická." Linh Nguyen tvrdí, že je to nástroj a jako každý nástroj se používá pro dobré i špatné. Neexistuje nic takového jako dobrá AI, pouze dobří a špatní lidé. My [AI] nejsme dost chytří, abychom učinili AI etickou. Nejsme dost chytří, abychom učinili AI morální… Nakonec je možné věřit, že jediný způsob, jak se vyhnout závodům ve zbrojení v AI, je nemít žádnou AI. To bude konečná obrana proti AI.
V návaznosti na zmiňované obavy využití umělé inteligence zde je několik skvělých příkladů jejího pozitivního využití:
■ Omezené zapojení lidí: počítačová nebo robotická přesnost je prostě lepší než lidská, a ať už používáme roboty k ponoření se hluboko do moře nebo ke zpracování velkého množství dat, lidem je bez těchto povinností lépe.
■ Zvýšená produktivita: počítače nepotřebují spát, sprchovat se nebo dokonce jíst – lidská produktivita je na druhé straně omezená a může silně záviset na vnějších faktorech, jako je hluk v pozadí, jak se cítí a úroveň stresu. Umožnění počítačům běžet 24 hodin denně 7 dní v týdnu za účelem shromažďování a analýzy klientských dat umožňuje společnosti shromažďovat mnohem více informací, než bylo dříve možné.
■ Lepší spolupráce: lékaři mohou těžit z lepších a centralizovanějších informačních center pro pacienty, kde mohou vidět diagnostické informace od jiných poskytovatelů a vidět podobné případy, aby svým pacientům poskytli nejlepší možné možnosti léčby.
■ Méně zaujatosti: i když se tomu lidé ze všech sil vyhýbají, přinášejí na stůl své vlastní předsudky a zkušenosti; stroje nemají předsudky (a nástroje umělé inteligence se vyvíjejí, aby zajistily, že nezahrnují předsudky jejich programátorů) a mohou pomoci učinit některé procesy, jako je výběr práce, spravedlivější a inkluzivnější.
Jak mohou společnosti zajistit, že vyvíjejí a zavádějí etické a právně vyhovující systémy AI?
Podle Linh Nguyen v praxi znamená být etický, že následujeme a respektujeme lidské hodnoty, práva a etické standardy, dodržujeme morálku a naše činy jsou ospravedlňovány jako „správná věc“ a nezpůsobující škodu. Etika podle nás odpovídá na otázku, co je správné a co špatné, místo toho, zda je něco legální nebo ne. Umělá inteligence je považována za etickou AI, když je postavena na etickém rámci, kde konečným cílem softwaru nejsou pouze peněžní zisky, ale zlepšení společnosti. Více pro základní seznámení popisuje následující obrázek.
Zodpovědná umělá inteligence je postup jejího vývoje na základě principů spravedlnosti, transparentnosti a vysvětlitelnosti, orientace na člověka, jeho soukromí a bezpečnosti.
Zjednodušeně se například podle Coutiona dají vyvíjet a zavádět etické a právně vyhovující systémy AI stejným způsobem, jakým se zajišťují například legálně vyhovující vozidla na silnicích nebo legálně vyhovující zdravotnické prostředky na trhu: prostřednictvím přizpůsobených systémů řízení kvality. Ty jsou zabudovány do vývoje, výroby a monitorování produktů – dokonce i po uvedení na trh. Ale etika jde nad rámec pouhé regulace. Etické principy by se měly promítnout do firemních hodnot.
Prvním krokem je samozřejmě informovanost na exekutivní úrovni o této problematice a ochota integrovat etické principy na nejvyšší možné úrovni nad rámec zákonných požadavků. Jakmile jsou etické principy integrovány do podnikových hodnot a strategie, dalším krokem je posílit týmy pro řízení technologií a kvality. Osvědčeným postupem je školení odborníků, kteří vysvětlují právní rámec, ale co je důležitější, jsou obeznámeni s jeho praktickou aplikací ve standardech AI, jako je IEEE CertifAIed© o etice v AI. Nejde o abstraktní hodnoty a standardy, nýbrž o praktickou realizaci projektů v konkrétním kontextu. Implementace systému řízení kvality umělé inteligence, řízení a odpovědnosti jsou zde zásadní pro zajištění etických a vyhovujících systémů umělé inteligence. Nejen krátkodobě, ale i dlouhodobě – od definice produktu až po monitorování a uvedení na trh.
Jak umělá inteligence přináší revoluci do procesu kvality? Co znamená kvalita AI a co je důležité pro firmy zajistit?
Podle Chada Bouleyho je řízení kvality kritickým aspektem různých průmyslových odvětví a zajišťuje, že produkty a služby splňují zavedené standardy a překonávají očekávání zákazníků. Jak technologie postupuje, integrace AI přináší revoluci do tradičních obchodních procesů. Následně prozkoumáme hlubokou roli umělé inteligence v řízení kvality a zdůrazníme její potenciál zvýšit efektivitu, přesnost a rozhodovací schopnosti v procesu kvality.
Role AI v managementu kvality:
■ Automatizace procesů kontroly kvality: Jedním z klíčových příspěvků AI v řízení kvality je automatizace jejích procesů. Využitím systémů s umělou inteligencí pro sběr a analýzu dat mohou organizace zjednodušit inspekce a testovací postupy. Algoritmy AI mohou rychle analyzovat obrovské množství dat, což umožňuje rozhodování v reálném čase a snižuje potřebu manuálního úsilí.
■ Prediktivní analytika pro zajišťování kvality: umělá inteligence přináší prediktivní analytiku do popředí zajišťování kvality. Využitím historických dat a algoritmů strojového učení mohou organizace identifikovat potenciální vady a odchylky v procesu kvality. Tento proaktivní přístup umožňuje zavádění preventivních opatření a předcházení problémům s kvalitou dříve, než nastanou. Sledování v reálném čase a neustálé zlepšování lze dosáhnout díky přehledům řízeným umělou inteligencí.
■ Senzory a monitorovací systémy založené na AI: senzory a monitorovací systémy založené na AI hrají zásadní roli při kontrole kvality. Tyto systémy mohou shromažďovat data v reálném čase, monitorovat parametry kvality a identifikovat anomálie. Využitím adaptivních algoritmů dokáže umělá inteligence identifikovat vzory, trendy a odchylky, které může být pro lidské operátory obtížné odhalit, zajistit rychlé řešení problémů s kvalitou a umožnit lepší konzistenci produktu a spokojenost zákazníků.
Výhody AI v řízení kvality:
■ Zlepšená přesnost a spolehlivost: AI eliminuje možnost lidské chyby v procesu kvality tím, že automatizuje úkoly a využívá pokročilé algoritmy. Tak AI zvyšuje přesnost a spolehlivost činností kontroly kvality. Systémy umělé inteligence mohou detekovat a analyzovat defekty s vysokou přesností, což vede ke konzistentním a spolehlivým výsledkům kvality.
■ Zvýšená efektivita a produktivita: Možnosti automatizace a zpracování dat řízené umělou inteligencí výrazně zvyšují efektivitu a produktivitu řízení kvality. Automatizací manuálních úkolů mohou organizace dosáhnout rychlejšího zpracování a analýzy dat a zkrátit čas potřebný pro kontroly kvality. Toto snížení manuální práce vede k úspoře času a nákladů, což umožňuje efektivnější alokaci zdrojů.
■ Vylepšené rozhodovací schopnosti: Umělá inteligence umožňuje organizacím vylepšené rozhodovací schopnosti v oblasti řízení kvality. Poskytováním přehledů založených na datech umožňuje AI proaktivní opatření kontroly kvality. Dokáže identifikovat potenciální rizika a oblasti pro optimalizaci procesů a podporuje lepší rozhodování na různých úrovních v rámci organizace. Systémy umělé inteligence mohou také poskytovat doporučení pro zmírnění rizik, což organizacím umožňuje přijímat informovaná rozhodnutí s cílem zlepšit celkovou kvalitu výsledků.
Podle Coutiona kvalita umělé inteligence označuje míru, do jaké systém AI splňuje určité požadavky během svého životního cyklu. Etika je jedním z těchto požadavků spolu s bezpečností, zabezpečením, výkonem, dodržováním předpisů a udržitelností. Proč je důležité dívat se na celý životní cyklus? Protože kvalita není stav, nýbrž nepřetržitý proces. Společnosti by proto měly zavést systémy řízení kvality a rizik umělé inteligence, aby zajistily, že se budou během životního cyklu systému řešit všechny etické problémy a rizika. Pouze management kvality AI ji zajistí důvěryhodnou z dlouhodobého hlediska. A co je důležitější: je to jediný způsob, jak prokázat, otestovat a zlepšit kvalitu systémů umělé inteligence. Stručně řečeno: Kvalita umělé inteligence je nezbytná pro zajištění toho, aby systémy dodržovaly předpisy a aby bylo prokázáno, že jsou etické. To umožňuje společnostem využít plný potenciál AI a zároveň řídit související rizika.
Jak je možné dosáhnout vhodné rovnováhy mezi regulací a inovacemi?
Jak uvádí řada autorů, například Coution, inovace nejsou cílem. Cílem je podle něho a nás lepší produkt nebo lepší společnost. Inovace jsou jen jedním z prostředků k dosažení těchto cílů. Správným koncepčním přístupem není ani regulace. Jde spíše o řízení rizik, neboť to je páteří každého udržitelného rozvoje. Chtěli bychom například jaderné elektrárny bez řízení rizik? Ne. A hru pro smartphone? Spíše ne. Hru pro chytré telefony pro děti od 0 do 3 let? Opět velmi problematické. O tom to celé je – správná úroveň kontroly pro konkrétní případ. Jen si vzpomeňte na selhání samoregulace v minulosti, například s Cambridge Analytica. To, že regulaci nemůžeme ponechat na ziskově orientovaných společnostech například ze Silicon Valley, by mělo být nesporné. Už tolikrát totiž neuspěli.
Pokud tedy chci odpovědět na otázku o rovnováze mezi regulací a inovacemi, v zásadě je možné podporovat regulační přístup zákona o AI, je však třeba neustále sledovat kvalitu jeho vývoje a průběh regulace základních modelů.
Jaké by měly být nástroje umělé inteligence?
Aby bylo zajištěno, že klady nástrojů umělé inteligence nebudou zastíněny etickými obavami o soukromí nebo rozhodování, které by měli dělat lidé, byla vytvořena určitá sada pokynů, které pomohou zajistit, aby se vývoj umělé inteligence ubíral správným směrem. Všechny nástroje umělé inteligence by měly být:
■ Transparentní: způsob, jakým stroje docházejí k závěrům, by měl být pro člověka srozumitelný a dávat smysl, zároveň by měl být co nejblíže lidskému rozhodovacímu procesu.
■ Spravedlivé: během procesu vývoje musí být odstraněny všechny potenciální předsudky, aby se zajistilo, že se všemi uživateli stroje bude zacházeno stejně a spravedlivě.
■ Zodpovědnost: osoba nebo osoby odpovědné za vytvoření a správu nástroje umělé inteligence musí být přesně stanoveny, aby mohla být podniknuta opatření v případě, že by se něco pokazilo.
■ Soukromé: všechny stroje musí respektovat a zohledňovat místní i mezinárodní předpisy na ochranu soukromí, aby bylo zajištěno, že uživatelská data zůstanou soukromá a bezpečná.
■ Prospěšné: cílem všech nástrojů umělé inteligence by mělo být zlepšení lidského života a zajištění toho, že lidé budou mít z existence nástroje prospěch a nezpůsobí více škody než užitku.
■ Robustní: v souladu s předchozím bodem musí být nástroje navrženy správně a bez chyb, aby bylo zajištěno, že jsou účinné a mohou dělat to, k čemu jsou zamýšleny.
Aby se zajistilo, že budoucí nástroje umělé inteligence budou dodržovat tato pravidla a budou přispívat k celkově lepšímu a etičtějšímu technologickému sektoru, bude zapotřebí profesionálů v oblasti umělé inteligence, kteří jsou této věci plně oddáni a schopni zajistit transparentní využívaní AI včetně vysvětlení nejen pozitivních, ale i negativních dopadů.
Příklad ze společnosti BOSCH:
■ Etický kodex umělé inteligence: Bosch poskytuje zaměstnancům zásady a zaujímá pozici ve společenské debatě o umělé inteligenci.
■ Hlavní principy: Umělá inteligence by měla být bezpečná, robustní a sledovatelná a člověk by si měl nad umělou inteligenci uchovat kontrolu.
■ CEO společnosti Bosch Volkmar Denner: „Naším cílem je, aby lidé našim produktům s umělou inteligencí věřili." Tedy spolupráce a partnerství k posílení důvěry v propojené a inteligentní produkty.
Tak jak píše Linh Nguyen ve svém článku „What Is Ethical AI & Why Is It Essential for Business?“ Jelikož umělá inteligence hraje v našich životech zásadní roli, je odpovědností každého podniku zajistit, aby postupy umělé inteligence byly transparentní a systémy umělé inteligence byly postaveny na etických rámcích.
Technologické společnosti musí učinit z etiky umělé inteligence prioritu v rozhodovacím procesu namísto prospěšných zisků a honbou za mocí musí mít jasný protokol, který zajistí, že technologie umělé inteligence jsou používány správně a morálně bez předsudků.
Musíme věnovat velkou pozornost a pochopit, že etická umělá inteligence pro podnikání je zásadní záležitostí, která ovlivňuje naši společnost a budoucnost světa jako celku, a technologie umělé inteligence by měla být vždy používána tak, aby odpovídala našim etickým standardům.
Konzultanti Kateřina Niklová a Jiří Šebestík - Odborné centrum Etika a management
Zdroj: časopis CzechIndustry 1/2024
.jpg)