Úvod do etiky umělé inteligence

Etika umělé inteligence je síla pro dobro, která pomáhá zmírňovat nespravedlivé předpojatosti, odstraňuje překážky přístupnosti a zvyšuje kreativitu, mezi mnoha dalšími výhodami. Vzhledem k tomu, že organizace stále více spoléhají na umělou inteligenci při rozhodnutích, která mají dopad na lidské životy, je důležité, aby zvážily složité etické důsledky, protože zneužití umělé inteligence může poškodit jednotlivce i společnost - a na hospodářské výsledky a pověst.

V tomto článku se podíváme na:

• Obecné zásady, pojmy a definice etiky umělé inteligence
• Vytváření etických principů umělé inteligence pro organizaci
• Kdo je odpovědný za etiku umělé inteligence
• Implementace školení, řízení a technických procesů v oblasti etiky umělé inteligence
• Etické případy použití a implementace umělé inteligence
• Některé vedoucí autority v oblasti etiky umělé inteligence

Příklady etických principů umělé inteligence

Pohoda lidí je v centru každé diskuse o etice AI. Zatímco systémy umělé inteligence mohou být navrženy tak, aby upřednostňovaly morálku a etiku, lidé jsou v konečném důsledku zodpovědní za zajištění etického návrhu a používání – a v případě potřeby zasáhnout.

Neexistuje žádný jediný, všeobecně dohodnutý soubor etických principů umělé inteligence. Mnoho organizací a vládních agentur konzultuje s odborníky na etiku, právo a umělou inteligenci, aby vytvořily své hlavní principy. Tyto zásady se obvykle týkají:

• Dobré životní podmínky a důstojnost člověka: Systémy umělé inteligence by měly vždy upřednostňovat a zajišťovat blahobyt, bezpečnost a důstojnost jednotlivců, aniž by nahrazovaly lidi, ani neohrožovaly lidské blaho
• Lidský dohled: AI potřebuje monitorování člověka ve všech fázích vývoje a používání – někdy nazývané „člověk ve smyčce“ –, aby se zajistilo, že konečná etická odpovědnost spočívá na lidské bytosti
• Řešení předpojatosti a diskriminace: Procesy navrhování by měly upřednostňovat spravedlnost, rovnost a zastoupení, aby se zmírnila předpojatost a diskriminace
• Transparentnost a vysvětlitelnost: Jak modely umělé inteligence činí konkrétní rozhodnutí a přinášejí konkrétní výsledky, by mělo být transparentní a srozumitelné v jasném jazyce.
• Vylepšení soukromí a ochrany údajů: Systémy umělé inteligence musí splňovat nejpřísnější standardy ochrany a ochrany osobních údajů pomocí robustních metod kybernetické bezpečnosti, aby se zabránilo narušení bezpečnosti dat a neoprávněnému přístupu
• Podpora inkluzivity a rozmanitosti: Technologie umělé inteligence musí odrážet a respektovat širokou škálu lidských identit a zkušeností
• Společnost a ekonomiky: umělá inteligence by měla pomoci podpořit společenský pokrok a hospodářskou prosperitu pro všechny lidi, aniž by podporovala nerovnost nebo nekalé praktiky
• Posílení digitálních dovedností a gramotnosti: Technologie umělé inteligence by měly usilovat o to, aby byly přístupné a srozumitelné všem bez ohledu na digitální dovednosti dané osoby
• Zdraví podniků: Podnikové technologie umělé inteligence by měly urychlit procesy, maximalizovat efektivitu a podpořit růst

Etické pojmy a definice umělé inteligence

Jako průnik etiky a špičkových technologií konverzace o etické umělé inteligenci často používají slovní zásobu z obou oblastí. Pochopení tohoto slovníku je důležité pro schopnost diskutovat o etice umělé inteligence:

• AI: Schopnost stroje vykonávat kognitivní funkce, které spojujeme s lidskou myslí, jako je vnímání, uvažování, učení a řešení problémů. Existují dva hlavní typy systémů umělé inteligence a některé systémy jsou kombinací obou:

  • Umělá inteligence založená na pravidlech, nazývaná také expertní umělá inteligence, se chová podle souboru plně definovaných pravidel vytvořených lidskými odborníky – jako příklad mnoho platforem elektronického obchodování používá umělou inteligenci založenou na pravidlech k poskytování doporučení produktů.
  • Umělá inteligence založená na učení řeší problémy a přizpůsobuje své funkce sama na základě počáteční konfigurace navržené člověkem a tréninkové množiny dat –generativní nástroje umělé inteligence jsou příklady umělé inteligence založené na učení

Etika umělé inteligence: Soubor hodnot, principů a technik, které využívají široce uznávané standardy práva a špatnosti k vedení morálního chování při vývoji, nasazení, používání a prodeji technologií umělé inteligence.

Model umělé inteligence: Matematický rámec vytvořený lidmi a trénovaný na datech, který umožňuje systémům umělé inteligence provádět určité úlohy identifikací vzorů, rozhodováním a predikcí výsledků. Mezi běžná použití patří mimo jiné rozpoznávání obrazu a překlad jazyka.

AI systém: Komplexní struktura algoritmů a modelů navržených tak, aby napodobovala lidské uvažování a prováděla úkoly autonomně.

Agentura: schopnost jednotlivců jednat nezávisle a svobodně se rozhodovat.

Předpojatost: Příklon nebo předsudek vůči osobě či skupině nebo vůči ní, zejména způsobem považovaným za nespravedlivý. Předpojatost v datech školení – jako je nedostatečné nebo nadměrné znázornění dat týkajících se určité skupiny – může způsobit, že umělá inteligence bude jednat neobjektivním způsobem.

Vysvětlitelnost: Schopnost odpovědět na otázku „Co stroj udělal, aby dosáhl svého výstupu?“ Vysvětlitelnost označuje technologický kontext systému umělé inteligence, jako je jeho mechanika, pravidla a algoritmy a data školení.

Spravedlnost: Nestranné a spravedlivé zacházení nebo chování bez nespravedlivého favoritismu nebo diskriminace.

Člověk ve smyčce: Schopnost lidských bytostí zasahovat do každého rozhodovacího cyklu systému umělé inteligence.

Interpretabilita: Schopnost lidí porozumět reálnému kontextu a dopadu výstupu systému umělé inteligence, například když se umělá inteligence používá k rozhodování o schválení nebo zamítnutí žádosti o půjčku.

Velký jazykový model (LLM): Typ strojového učení, který se často používá v úlohách rozpoznávání a generování textu.

Strojové učení: Podmnožina umělé inteligence, která poskytuje systémům schopnost automaticky se učit, zlepšovat zkušenosti a přizpůsobovat se novým datům, aniž by k tomu byly explicitně naprogramovány.

Normativní: Klíčový kontext praktické etiky týkající se toho, co lidé a instituce „by měli“ nebo „měli“ dělat v určitých situacích.

Transparentnost: V souvislosti s vysvětlitelností je transparentnost schopnost zdůvodnit, jak a proč je systém umělé inteligence vyvinut, implementován a používán, a zajistit, aby tyto informace byly pro lidi viditelné a srozumitelné.

Jak implementovat principy pro etiku umělé inteligence

Pro organizace platí, že umělou inteligenci lze používat více eticky než jen přijímat etické principy. Tyto principy musí být integrovány do všech technických a operačních procesů umělé inteligence. Zatímco integrace etiky se může zdát těžkopádná pro organizace, které rychle přijímají umělou inteligenci, reálné případy poškození způsobené problémy v návrzích a používání modelů umělé inteligence ukazují, že zanedbání správné etiky může být riskantní a nákladné.

Kdo je odpovědný za etiku umělé inteligence?

Krátká odpověď: každý, kdo se podílí na umělé inteligenci, včetně podniků, vlád, spotřebitelů a občanů.

Různé role různých lidí v etice umělé inteligence

• Vývojáři a výzkumní pracovníci hrají klíčovou roli při vytváření systémů umělé inteligence, které upřednostňují lidské agentury a dohled, řeší předpojatost a diskriminaci a jsou transparentní a vysvětlitelné.
• Tvůrci politik a regulační orgány zavádějí zákony a předpisy, kterými se řídí etické využívání umělé inteligence a chrání práva jednotlivců.
• Vedoucí pracovníci v oblasti podnikání a odvětví zajišťují, aby jejich organizace přijaly etické principy umělé inteligence tak, aby využívaly umělou inteligenci způsobem, který pozitivně přispívá ke společnosti.
• Organizace občanské společnosti se zasazují o etické využívání umělé inteligence, hrají roli v dohledu a poskytují podporu postiženým komunitám.
• Akademické instituce přispívají prostřednictvím vzdělávání, výzkumu a vývoje etických směrnic.
• Koncoví uživatelé a dotčení uživatelé, jako jsou spotřebitelé a občané, mají zájem na tom, aby systémy umělé inteligence byly vysvětlitelné, interpretovatelné, spravedlivé, transparentní a prospěšné pro společnost.

Role obchodních lídrů v etice umělé inteligence

Mnoho podniků zakládá výbory vedené vysokými představiteli, aby utvářely své politiky řízení umělé inteligence. Například ve společnosti SAP jsme vytvořili poradní panel a řídící výbor pro etiku umělé inteligence, složený z odborníků na etiku a technologie, s cílem integrovat naše etické principy umělé inteligence do našich produktů a operací. Tyto zásady upřednostňují:

• Přiměřenost a nepoškozování
• Bezpečnost a zabezpečení
• Spravedlnost a nediskriminace
• Udržitelnost
• Právo na soukromí a ochranu údajů
• Lidský dohled a odhodlání
• Transparentnost a vysvětlitelnost
• Odpovědnost a odpovědnost
• Informovanost a technická gramotnost
• Mnohostranná zainteresovaná strana a adaptivní řízení a spolupráce

Vytvoření řídícího výboru pro etiku umělé inteligence

Zřízení řídicího výboru je zásadní pro řízení přístupu organizace k etice umělé inteligence a poskytuje odpovědnost a dohled na nejvyšší úrovni. Tento výbor zajišťuje, aby byly etické úvahy vtaženy do vývoje a nasazení umělé inteligence.

Osvědčené postupy pro vytvoření řídícího výboru pro etiku umělé inteligence

• Složení a odborné znalosti: Zahrňte různorodou kombinaci zúčastněných stran s odbornými znalostmi v oblasti umělé inteligence, práva a etiky. Externí poradci mohou nabídnout nezaujaté perspektivy.
• Definování účelu a rozsahu: Jasně definujte poslání a cíle výboru se zaměřením na etický návrh, implementaci a provoz umělé inteligence. To by mělo být v souladu s hodnotami společnosti, spravedlností, transparentností a ochranou soukromí.
• Definování rolí a odpovědností: nastínit konkrétní role pro členy, jako je vývoj zásad etiky umělé inteligence, poradenství v otázkách etiky v projektech umělé inteligence a zajištění souladu s předpisy.
• Stanovení cílů: Stanovte jasné a měřitelné cíle, jako je provádění každoročního etického auditu projektů umělé inteligence a nabídka čtvrtletního školení etické umělé inteligence.
• Vytváření postupů: Zavést provozní postupy, včetně harmonogramů plnění, standardů dokumentace a komunikačních protokolů, aby byla zachována transparentnost.
• Průběžné vzdělávání a adaptace: Udržujte krok s novým vývojem v oblasti technologie umělé inteligence, etických standardů a předpisů prostřednictvím pravidelných školení a konferencí.

Vytvoření zásad etiky umělé inteligence

Vývoj zásad etiky umělé inteligence je nezbytný pro vedení iniciativ umělé inteligence v rámci organizace. Řídící výbor je v tomto procesu kritický a využívá své rozmanité odborné znalosti k zajištění toho, aby politika dodržovala zákony, normy a širší etické zásady.

Příklad přístupu k vytvoření zásad etiky umělé inteligence

• Příprava počáteční zásady: Začněte vypracováním zásady, která odráží základní hodnoty organizace, právní požadavky a osvědčené postupy. Tento původní návrh bude sloužit jako základ pro další upřesnění.

• Konzultace a vstupy: Zapojte se s interními a externími zúčastněnými stranami, včetně vývojářů umělé inteligence, vedoucích pracovníků a etiků, aby politika byla komplexní a reprezentativní pro více perspektiv.

• Integrace interdisciplinárních poznatků: Využijte různorodé zázemí členů výboru k začlenění poznatků z technologií, etiky, práva a obchodu k řešení komplexních aspektů etiky umělé inteligence.

• Definování vysoce rizikových a červených případů použití: Pro zajištění jasnosti by výbor měl nastínit, které aplikace umělé inteligence představují významná rizika nebo jsou považovány za neetické, a proto jsou zakázány. Řídící výbor SAP například kategorizuje tyto kategorie:

  • Vysoce riziková: Tato kategorie zahrnuje aplikace, které mohou být jakýmkoli způsobem škodlivé, a zahrnuje aplikace související s vymáháním práva, migrací a demokratickými procesy, jakož i aplikace zahrnující osobní údaje, automatizované rozhodování nebo ovlivňující sociální blahobyt. Ty musí být před vývojem, nasazením nebo prodejem důkladně posouzeny výborem.
  • Červená linie: Aplikace umožňující lidský dohled, diskriminaci, deanonymizaci údajů vedoucích k identifikaci jednotlivce nebo skupiny, nebo ty, které manipulují s veřejným míněním nebo narušují demokratické debaty, jsou zakázány. Společnost SAP považuje tato použití za vysoce neetická a zakazuje jejich vývoj, nasazení a prodej.

• Přezkum a revize: Průběžně přezkoumává a reviduje politiku založenou na zpětné vazbě a zajišťuje, aby byla i nadále relevantní a praktická pro reálný svět.

• Dokončení a schválení: Předložte dokončenou politiku ke konečnému schválení osobami s rozhodovací pravomocí, například správní radou, podpořenou důrazným doporučením výboru.

• Provádění a průběžný dohled: Výbor by měl sledovat provádění politiky a pravidelně ji aktualizovat, aby odrážel nový technologický a etický vývoj.

Stanovení procesu kontroly shody

Vývoj efektivních procesů kontroly shody je zásadní pro zajištění toho, aby nasazení umělé inteligence odpovídalo zásadám a předpisům organizace pro etiku umělé inteligence. Tyto procesy pomáhají budovat důvěru s uživateli a regulátory a slouží ke zmírnění rizik a dodržování etických postupů napříč projekty umělé inteligence.

Typické procesy kontroly shody

• Vytvoření standardizovaného rámce revize: Vytvoření komplexního rámce, který definuje postupy pro posuzování projektů umělé inteligence podle etických pokynů, právních standardů a provozních požadavků.
• Klasifikace rizik: Klasifikujte projekty umělé inteligence podle jejich etických a regulačních rizik. Vysoce rizikové projekty, jako jsou projekty, které nakládají s citlivými osobními údaji nebo mají významný dopad na rozhodování, vyžadují vysokou míru kontroly.
• Pravidelné audity a hodnocení: Provádějte pravidelné audity k ověření průběžného dodržování předpisů, které zahrnují automatizované kontroly a manuální kontroly interdisciplinárních týmů.
• Zapojení zúčastněných stran: zapojit do procesu přezkumu různorodou skupinu zúčastněných stran, včetně etiků, právních odborníků, vědců v oblasti údajů a koncových uživatelů, s cílem odhalit potenciální rizika a etická dilemata.
• Dokumentace a transparentnost: Uchovávejte podrobné záznamy o všech činnostech souvisejících s dodržováním předpisů a zajistěte, aby byly přístupné a jasné pro interní i externí audity.
• Mechanismy zpětné vazby a eskalace: Zavést jasné postupy pro podávání zpráv a řešení etických problémů a otázek dodržování předpisů

Technická implementace etických postupů umělé inteligence

Integrace etických úvah do vývoje umělé inteligence zahrnuje přizpůsobení současných technologických postupů tak, aby byly systémy vytvářeny a nasazovány odpovědně. Kromě zavedení etických principů umělé inteligence organizace někdy také vytvářejí odpovědné principy umělé inteligence, které mohou být více zaměřeny na jejich specifické odvětvové a technické případy použití.

Klíčové technické požadavky na etické systémy umělé inteligence

Detekce předpojatosti a zmírňování: Používejte různé datové sady a statistické metody k detekci a opravě předpojatostí v modelech umělé inteligence. Provádějte pravidelné audity za účelem monitorování předpojatosti.

Transparentnost a vysvětlitelnost: Vyvíjet systémy, které mohou uživatelé snadno pochopit a ověřit, pomocí metod, jako jsou skóre důležitosti funkcí, rozhodovací stromy a modelování agnostických vysvětlení pro zlepšení transparentnosti.

Ochrana a zabezpečení dat: Zajistěte bezpečnou správu dat v systémech umělé inteligence a dodržování zákonů o ochraně osobních údajů. Systémy musí používat šifrování, anonymizaci a zabezpečené protokoly k zajištění integrity dat.

Robustní a spolehlivá konstrukce: Systémy umělé inteligence musí být odolné a spolehlivé za různých podmínek, zahrnující rozsáhlé testování a validaci, aby bylo možné efektivně zvládnout neočekávané scénáře.

Průběžné monitorování a aktualizace: Udržujte průběžné monitorování za účelem posouzení výkonu umělé inteligence a etické shody s předpisy, podle potřeby aktualizujte systémy na základě nových dat nebo změn podmínek.

Zapojení zúčastněných stran a zpětná vazba: Zapojit zúčastněné strany, jako jsou koncoví uživatelé, etici a odborníci v oblasti, do procesů navrhování a vývoje, aby se shromáždila zpětná vazba a zajistilo, že systém bude v souladu s etickými a provozními požadavky.

Školení organizace v etice umělé inteligence

Komplexní školení je klíčové pro zajištění toho, aby zaměstnanci porozuměli etice umělé inteligence a mohli odpovědně pracovat s technologiemi umělé inteligence. Školení také slouží ke zvýšení integrity a efektivity nástrojů a řešení umělé inteligence organizace.

Klíčové komponenty efektivního školicího curricula umělé inteligence

• Komplexní vývoj osnov: Použijte učební osnovy, které se zabývají základy umělé inteligence, etickými úvahami, otázkami dodržování předpisů a praktickými aplikacemi, které jsou přizpůsobeny různým organizačním rolím od technického personálu po výkonné řízení.
• Školicí moduly specifické pro jednotlivé role: Poskytnutí školicích modulů přizpůsobených jedinečným potřebám a povinnostem různých oddělení. Vývojáři se například mohou zaměřit na etické postupy kódování, zatímco prodejní a marketingové týmy se dozvědí o dopadech umělé inteligence na interakce se zákazníky.
• Nepřetržité vzdělávání a aktualizace: Umělá inteligence se rychle vyvíjí, takže je důležité aktualizovat školicí programy s nejnovějším vývojem a osvědčenými postupy.
• Interaktivní a praktické zkušenosti s učením: Použijte případové studie, simulace a workshopy k ilustraci reálných aplikací a etických výzev na podporu teoretických znalostí s praktickými zkušenostmi.
• Posuzování a certifikace: Provádějte hodnocení s cílem změřit porozumění a odbornost zaměstnanců v etice umělé inteligence a zvažte nabídku certifikace k uznání a motivaci k trvalému zlepšování.
• Mechanismy zpětné vazby: Nastavte kanály zpětné vazby pro zaměstnance, abyste přispěli k průběžnému zdokonalování školicích programů a zajistili, že splní vyvíjející se potřeby organizace.

Případy použití etiky umělé inteligence pro různé role v organizaci

Všichni v organizaci, která pracuje s aplikacemi využívajícími umělou inteligenci nebo s enginy pro odpovědi umělé inteligence, by měli být opatrní, aby riskovali nezaujatost a pracovali zodpovědně. Příklady případů použití etiky umělé inteligence pro různé role nebo oddělení ve firemních podnicích jsou:

• Datoví vědci nebo inženýři strojového učení: V těchto rolích se doporučuje začlenit metody detekce a zmírňování předpojatosti, zajistit vysvětlitelnost modelu a rozšířit model. To zahrnuje techniky, jako jsou metriky férovosti a srovnávací analýza.
• Produktoví manažeři nebo obchodní analytici: Odpovědnosti související s etikou umělé inteligence se mohou lišit od posouzení etických rizik, upřednostňování návrhu zaměřeného na uživatele a vývoje jasných komunikačních strategií pro vysvětlení systémů umělé inteligence uživatelům a zúčastněným stranám. To zahrnuje zvážení potenciálních společenských dopadů, potřeb uživatelů a budování důvěry prostřednictvím transparentnosti.
• Právní oddělení a oddělení dodržování předpisů: Kritickými případy použití jsou shoda s příslušnými předpisy (např. zákony o ochraně osobních údajů), řízení právních rizik a rizik pro pověst spojených s umělou inteligencí a vývoj strategií ke zmírnění závazků vyplývajících z algoritmické předpojatosti nebo nezamýšlených důsledků
• Personalisté: Personální oddělení by mělo pracovat s náborovými nástroji založenými na umělé inteligenci, které jsou bez předpojatosti a v souladu s antidiskriminačními zákony. Úkoly zahrnují algoritmy auditu, implementaci systémů human-in-the-loop a poskytování školení o etických postupech náboru umělé inteligence.

Úřady pro etiku umělé inteligence

Etika umělé inteligence je složitá, formovaná vyvíjejícími se předpisy, právními normami, odvětvovými postupy a technologickým pokrokem. Organizace musí být informovány o změnách zásad, které by je mohly ovlivnit – a měly by spolupracovat s příslušnými zúčastněnými stranami na určení, které zásady se na ně vztahují. Níže uvedený seznam není vyčerpávající, ale poskytuje smysl pro škálu politických zdrojů, které by organizace měly hledat na základě svého odvětví a regionu.

Příklady etických autorit a zdrojů umělé inteligence

ACET Umělá inteligence pro tvorbu ekonomických politik: Tato výzkumná studie Afrického centra pro hospodářskou transformaci hodnotí ekonomické a etické aspekty umělé inteligence za účelem informování inkluzivní a udržitelné hospodářské, finanční a průmyslové politiky v celé Africe.

AlgorithmWatch: Organizace pro lidská práva, která obhajuje a vyvíjí nástroje pro vytváření a používání algoritmických systémů, které chrání demokracii, právní stát, svobodu, autonomii, spravedlnost a rovnost.

ASEAN Guide on AI Governance and Ethics: Praktický návod pro členské státy ve Sdružení národů jihovýchodní Asie pro návrh, vývoj a nasazení technologií umělé inteligence eticky a produktivně.

Evropská komise AI Watch: Společné výzkumné středisko Evropské komise poskytuje pokyny pro vytváření důvěryhodných systémů umělé inteligence, včetně zpráv a řídicích panelů specifických pro jednotlivé země, které pomáhají monitorovat vývoj, využívání a dopad umělé inteligence pro Evropu

Zpráva o odpovědnosti NTIA AI: Tato zpráva Národní správy telekomunikací a informací navrhuje dobrovolná, regulační a další opatření, která mají pomoci zajistit právní a důvěryhodné systémy umělé inteligence ve Spojených státech.

Zásady OECD pro umělou inteligenci: Toto fórum zemí a skupin zúčastněných stran pracuje na utváření důvěryhodné umělé inteligence. V roce 2019 usnadnila zásady OECD pro umělou inteligenci, první mezivládní standard pro umělou inteligenci. Tyto zásady také sloužily jako základ principů umělé inteligence G20.

Doporučení UNESCO o etice umělé inteligence: Rámec doporučení této agentury Organizace spojených národů přijal 193 členských států po dvouletém globálním procesu konzultací s odborníky a zúčastněnými stranami.

Závěr

Na závěr lze říci, že etický vývoj a nasazení umělé inteligence vyžadují mnohostranný přístup. Jako organizace se doporučuje zavést jasné etické principy, integrovat je do procesů vývoje umělé inteligence a zajistit průběžnou shodu prostřednictvím robustního řízení a školicích programů. Tím, že podniky upřednostňují hodnoty zaměřené na člověka, jako je spravedlnost, transparentnost a odpovědnost, mohou zodpovědně využívat sílu umělé inteligence, podněcovat inovace a zároveň zmírňovat potenciální rizika a zajistit, aby tyto technologie byly ku prospěchu společnosti jako celku.

Přečíst si více