flex-height
text-black

Inžinieri a vedci pracujú na bionickom exoskeletovom prototype

Čo je to etika umelej inteligencie?

Etika umelej inteligencie sa vzťahuje na princípy, ktoré riadia správanie AI z hľadiska ľudských hodnôt. Etika umelej inteligencie pomáha zabezpečiť, aby sa umelá inteligencia vyvíjala a používala spôsobmi, ktoré sú prospešné pre spoločnosť. Zahŕňa širokú škálu úvah vrátane spravodlivosti, transparentnosti, zodpovednosti, súkromia, bezpečnosti a potenciálnych spoločenských vplyvov.

default

{}

default

{}

primary

default

{}

secondary

Úvod do etiky umelej inteligencie

Predstavte si systém umelej inteligencie, ktorý predpovedá pravdepodobnosť budúceho trestného správania a používa ho sudcovia na určenie dĺžky odsúdenia. Čo sa stane, ak sa tento systém neúmerne zameria na určité demografické skupiny?

Etika umelej inteligencie je sila pre dobro, ktorá pomáha zmierňovať nespravodlivé predsudky, odstraňuje bariéry prístupnosti a zvyšuje kreativitu, okrem mnohých ďalších výhod. Keďže organizácie sa čoraz viac spoliehajú na umelú inteligenciu v prípade rozhodnutí, ktoré majú vplyv na ľudské životy, je dôležité, aby zvážili komplexné etické dôsledky, pretože zneužitie umelej inteligencie môže spôsobiť ujmu jednotlivcom a spoločnosti, ako aj na spodnú hranicu a reputáciu podnikov.

V tomto článku preskúmame:

Príklady princípov etickej umelej inteligencie

Blahobyt ľudí je stredobodom každej diskusie o etike umelej inteligencie. Zatiaľ čo systémy umelej inteligencie môžu byť navrhnuté tak, aby uprednostňovali morálku a etiku, ľudia sú v konečnom dôsledku zodpovední za zaistenie etického návrhu a používania a v prípade potreby zasahujú.

Neexistuje jediný, všeobecne dohodnutý súbor etických princípov umelej inteligencie. Mnohé organizácie a vládne agentúry konzultujú s odborníkmi na etiku, právo a umelú inteligenciu, aby vytvorili svoje hlavné princípy. Tieto zásady sa bežne zaoberajú:

Pojmy a definície etiky umelej inteligencie

Ako prienik etiky a špičkových technológií často rozhovory o etickej umelej inteligencii používajú slovnú zásobu z oboch oblastí. Pochopenie tejto slovnej zásoby je dôležité pre to, aby sme mohli diskutovať o etike umelej inteligencie:

Etika umelej inteligencie: Súbor hodnôt, princípov a techník, ktoré využívajú všeobecne uznávané správne a nesprávne štandardy na usmerňovanie morálneho správania pri vývoji, nasadzovaní, používaní a predaji technológií umelej inteligencie.

Model umelej inteligencie: matematický rámec vytvorený ľuďmi a trénovaný na základe dát, ktorý umožňuje systémom umelej inteligencie vykonávať určité úlohy identifikovaním vzorov, prijímaním rozhodnutí a predpovedaním výstupov. Bežné použitie zahŕňa rozpoznávanie obrázkov a jazykový preklad, okrem mnohých iných.

Systém AI: Komplexná štruktúra algoritmov a modelov navrhnutých tak, aby napodobňovali ľudské uvažovanie a vykonávali úlohy autonómne.

Agentúra: Schopnosť jednotlivcov konať nezávisle a slobodne sa rozhodovať.

Nevhodnosť: Sklon alebo predsudky voči osobe alebo skupine, najmä spôsobom, ktorý sa považuje za nespravodlivý. Zmysly pri trénovaní dát, ako napríklad nedostatočné alebo nadmerné zastúpenie dát týkajúcich sa určitej skupiny, môžu spôsobiť, že umelá inteligencia bude konať neobjektívnym spôsobom.

Vysvetliteľnosť: Schopnosť odpovedať na otázku: „Čo urobil stroj, aby dosiahol svoj výstup?“ Vysvetliteľnosť sa vzťahuje na technologický kontext systému umelej inteligencie, ako je jeho mechanika, pravidlá a algoritmy a dáta školenia.

Spravodlivosť: Nestranné a spravodlivé zaobchádzanie alebo správanie bez nespravodlivého priaznivosti alebo diskriminácie.

Človek v slučke: schopnosť ľudských bytostí zasiahnuť do každého rozhodovacieho cyklu systému umelej inteligencie.

Interpreabilita: Schopnosť ľudí pochopiť reálny kontext a vplyv výstupu systému umelej inteligencie, napríklad keď sa umelá inteligencia používa na pomoc pri rozhodovaní o schválení alebo zamietnutí žiadosti o pôžičku.

Veľký jazykový model (LLM): Typ strojového učenia, ktorý sa často používa v úlohách rozpoznávania a generovania textu.

Strojové učenie: Podmnožina umelej inteligencie, ktorá poskytuje systémom možnosť automaticky sa učiť, zlepšovať sa zo skúseností a prispôsobovať sa novým dátam bez toho, aby na to boli explicitne naprogramované.

Normatívny: Kľúčový kontext praktickej etiky, ktorý sa týka toho, čo by ľudia a inštitúcie „mali“ alebo „mali“ robiť v konkrétnych situáciách.

Transparentnosť: V súvislosti s vysvetliteľnosťou je transparentnosť schopnosť zdôvodniť, ako a prečo sa systém umelej inteligencie vyvíja, implementuje a používa, a aby sa tieto informácie zviditeľnili a pochopili pre ľudí.

Ako implementovať princípy pre etiku umelej inteligencie

V prípade organizácií je potrebné používať umelú inteligenciu viac ako len prijímať etické princípy. Tieto princípy musia byť integrované do všetkých technických a prevádzkových procesov umelej inteligencie. Hoci sa integrácia etiky môže zdať ťažkopádna pre organizácie, ktoré rýchlo prijímajú umelú inteligenciu, reálne prípady poškodenia spôsobené problémami v návrhoch a používaní modelov umelej inteligencie ukazujú, že zanedbávanie správnej etiky môže byť riskantné a nákladné.

Kto je zodpovedný za etiku umelej inteligencie?

Krátka odpoveď: každý, kto je zapojený do umelej inteligencie, vrátane podnikov, vlád, spotrebiteľov a občanov.

Rôzne úlohy rôznych ľudí v etike umelej inteligencie

Čo ľudské zainteresované strany potrebujú na pochopenie infografiky

Úloha podnikových lídrov v etike umelej inteligencie

Mnohé podniky zakladajú výbory vedené ich najvyššími lídrami, aby formovali svoje politiky správy umelej inteligencie. Napríklad v spoločnosti SAP sme vytvorili poradný panel a riadiaci výbor pre etiku umelej inteligencie, ktorý pozostáva z odborníkov na etiku a technológie, aby sme integrovali naše princípy etickej umelej inteligencie do našich produktov a operácií. Tieto princípy uprednostňujú:

Vytvorenie riadiaceho výboru pre etiku umelej inteligencie

Vytvorenie riadiaceho výboru je nevyhnutné pre riadenie prístupu organizácie k etike umelej inteligencie a poskytuje zodpovednosť a dohľad najvyššej úrovne. Tento výbor zabezpečuje, aby etické hľadiská boli zakomponované do vývoja a nasadzovania umelej inteligencie.

Osvedčené postupy na vytvorenie riadiaceho výboru pre etiku umelej inteligencie

Vytvorenie politiky etiky umelej inteligencie

Vypracovanie politiky pre etiku umelej inteligencie je nevyhnutné na usmerňovanie iniciatív umelej inteligencie v rámci organizácie. Riadiaci výbor má v tomto procese zásadný význam, pričom využíva svoje rozmanité odborné znalosti na zabezpečenie dodržiavania zákonov, noriem a širších etických zásad.

Vzorový prístup k vytváraniu etickej politiky umelej inteligencie

Graf toku procesu posúdenia &klasifik.&amp rizika

Zavedenie procesu preskúmania súladu

Vývoj účinných procesov kontroly súladu je nevyhnutný na zaistenie toho, aby nasadenia umelej inteligencie boli v súlade s pravidlami a nariadeniami organizácie pre etiku umelej inteligencie. Tieto procesy pomáhajú budovať dôveru s používateľmi a regulátormi a slúžia na zmiernenie rizík a dodržiavanie etických postupov vo všetkých projektoch umelej inteligencie.

Typické procesy kontroly súladu

Technická implementácia etických postupov umelej inteligencie

Začlenenie etických úvah do vývoja umelej inteligencie zahŕňa prispôsobenie súčasných technologických postupov, aby sa zabezpečilo zodpovedné vytváranie a nasadzovanie systémov. Okrem zavádzania princípov etickej umelej inteligencie organizácie niekedy vytvárajú aj zodpovedné princípy umelej inteligencie, ktoré sa môžu viac zamerať na ich špecifické odvetvové a technické prípady použitia.

Kľúčové technické požiadavky na etické systémy umelej inteligencie

Detekcia a zmiernenie predsudkov: Na zistenie a nápravu zaujatosti v modeloch umelej inteligencie použite rôzne súbory údajov a štatistické metódy. Vykonáva pravidelné audity na monitorovanie zaujatosti.

Transparentnosť a vysvetliteľnosť: Vyvíjajte systémy, ktoré môžu používatelia ľahko pochopiť a overiť, pomocou metód, ako sú skóre dôležitosti funkcií, rozhodovacie stromy a model-agnostické vysvetlenia na zlepšenie transparentnosti.

Ochrana osobných údajov a zabezpečenie: Zaisťuje, aby boli dáta v systémoch umelej inteligencie bezpečne spravované a v súlade so zákonmi na ochranu osobných údajov. Systémy musia používať šifrovanie, anonymizáciu a zabezpečené protokoly na zabezpečenie integrity údajov.

Robustný a spoľahlivý dizajn: systémy umelej inteligencie musia byť odolné a spoľahlivé za rôznych podmienok a musia zahŕňať rozsiahle testovanie a overovanie, aby bolo možné efektívne zvládnuť neočakávané scenáre.

Nepretržité monitorovanie a aktualizácia: Vykonáva priebežné monitorovanie na posúdenie výkonu umelej inteligencie a etického súladu, podľa potreby aktualizuje systémy na základe nových dát alebo zmien podmienok.

Zapojenie a spätná väzba účastníkov: Zapojenie účastníkov, ako sú koncoví používatelia, etici a odborníci na domény, do procesov návrhu a vývoja na zhromažďovanie spätnej väzby a zaistenie súladu systému s etickými a prevádzkovými požiadavkami.

Školenie organizácie v oblasti etiky umelej inteligencie

Komplexné školenia sú kľúčové na zaistenie toho, aby zamestnanci rozumeli etike umelej inteligencie a mohli zodpovedne pracovať s technológiami umelej inteligencie. Školenie slúži aj na zvýšenie integrity a efektivity nástrojov a riešení organizácie pre umelú inteligenciu.

Kľúčové komponenty efektívneho vzdelávacieho programu školení umelej inteligencie

Prípady použitia etiky umelej inteligencie pre rôzne roly v organizácii

Každý v organizácii, ktorá pracuje s aplikáciami poháňanými umelou inteligenciou alebo s nástrojmi na odpovede AI, by mal byť opatrný pri riziku zaujatosti a zodpovednej práce. Príkladmi prípadov použitia etiky umelej inteligencie pre rôzne roly alebo oddelenia v podnikových podnikoch sú:

Úrady pre etiku umelej inteligencie

Etika umelej inteligencie je zložitá, formovaná vyvíjajúcimi sa nariadeniami, právnymi štandardmi, odvetvovými postupmi a technologickým pokrokom. Organizácie musia mať aktuálne informácie o zmenách politiky, ktoré by ich mohli ovplyvniť, a mali by spolupracovať s príslušnými zainteresovanými stranami, aby určili, ktoré politiky sa na ne vzťahujú. Nižšie uvedený zoznam nie je úplný, ale poskytuje zmysel pre škálu politických zdrojov, ktoré by organizácie mali hľadať na základe svojho odvetvia a regiónu.

Príklady autorít a zdrojov pre etiku umelej inteligencie

Správa ACET o umelej inteligencii pre tvorbu hospodárskej politiky: Táto výskumná štúdia Afrického centra pre hospodársku transformáciu hodnotí ekonomické a etické aspekty umelej inteligencie na účely informovania inkluzívnej a udržateľnej hospodárskej, finančnej a priemyselnej politiky v celej Afrike.

AlgoritmWatch: Organizácia pre ľudské práva, ktorá obhajuje a vyvíja nástroje na vytváranie a používanie algoritmických systémov, ktoré chránia demokraciu, právny štát, slobodu, autonómiu, spravodlivosť a rovnosť.

ASEAN Guide on AI Governance and Ethics: Praktický sprievodca pre členské štáty Združenia národov juhovýchodnej Ázie k navrhovaniu, vývoju a zavádzaniu technológií umelej inteligencie eticky a produktívne.

Európska komisia AI Watch: Spoločné výskumné centrum Európskej komisie poskytuje usmernenia na vytváranie dôveryhodných systémov umelej inteligencie vrátane správ a tabúľ špecifických pre jednotlivé krajiny s cieľom pomôcť monitorovať vývoj, využívanie a vplyv umelej inteligencie pre Európu

Správa o zodpovednosti NTIA AI: Táto správa Národnej správy o správe telekomunikácií a informácií navrhuje dobrovoľné, regulačné a iné opatrenia, ktoré majú pomôcť zabezpečiť právne a dôveryhodné systémy umelej inteligencie v Spojených štátoch.

Zásady AI OECD: Toto fórum krajín a skupín zainteresovaných strán pracuje na formovaní dôveryhodnej umelej inteligencie. V roku 2019 uľahčila Princípy AI OECD, prvý medzivládny štandard pre umelú inteligenciu. Tieto zásady slúžili aj ako základ pre zásady MH G20.

Odporúčanie UNESCO o etike umelej inteligencie: Tento rámec odporúčaní agentúry OSN prijalo 193 členských štátov po dvojročnom globálnom konzultačnom procese s odborníkmi a zainteresovanými stranami.

Záver

Na záver, etický vývoj a nasadenie umelej inteligencie si vyžaduje mnohostranný prístup. Ako organizácia sa odporúča stanoviť jasné etické princípy, integrovať ich do procesov vývoja umelej inteligencie a zabezpečiť nepretržité dodržiavanie predpisov prostredníctvom spoľahlivých programov dozoru a školení. Uprednostňovaním hodnôt zameraných na ľudí, ako je spravodlivosť, transparentnosť a zodpovednosť, môžu podniky využívať silu umelej inteligencie zodpovedne, podporovať inovácie a zároveň zmierňovať potenciálne riziká a zabezpečovať, aby tieto technológie boli prínosom pre celú spoločnosť.

Čítať viac