Innføring i KI-etikk

AI-etikk er en kraft for godt som bidrar til å dempe urettferdig skjevhet, fjerner barrierer for tilgjengelighet, og forsterker kreativitet, blant mange andre fordeler. Ettersom organisasjoner i økende grad er avhengige av AI for beslutninger som påvirker menneskeliv, er det viktig at de anser de komplekse etiske konsekvensene fordi misbruk av AI kan skade enkeltpersoner og samfunn – og for virksomhetenes bunnlinjer og omdømme.

I denne artikkelen skal vi utforske:

• Felles prinsipper, begreper og definisjoner for KI-etikk
• Opprette etiske KI-prinsipper for en organisasjon
• Hvem er ansvarlig for KI-etikk?
• Implementering av KI-etikkopplæring, styring og tekniske prosesser
• Etisk KI-brukstilfeller og implementeringer
• Noen ledende myndigheter på etikken av AI

Eksempler på etiske KI-prinsipper

Menneskets trivsel er i sentrum for enhver diskusjon om etikken til AI. Mens AI-systemer kan utformes for å prioritere moral og etikk, er mennesker til syvende og sist ansvarlige for å sikre etisk design og bruk – og å gripe inn når det er nødvendig.

Det finnes ingen enkeltstående, universelt enige sett av etiske AI-prinsipper. Mange organisasjoner og offentlige etater rådfører seg med eksperter innen etikk, lov og AI for å skape sine veiledende prinsipper. Disse prinsippene omhandler vanligvis:

• Menneskelig velferd og verdighet: AI-systemer bør alltid prioritere og sikre individers velvære, sikkerhet og verdighet, verken erstatte mennesker eller kompromittere menneskers velferd
• Menneskelig tilsyn: AI trenger menneskelig overvåking på alle stadier av utvikling og bruk – noen ganger kalt «et menneske i sløyfen» for å sikre at det endelige etiske ansvaret hviler på et menneske
• Håndtere skjevheter og diskriminering: Designprosesser bør prioritere rettferdighet, likhet og representasjon for å redusere skjevhet og diskriminering
• Åpenhet og forklarbarhet: Hvordan AI-modeller tar bestemte beslutninger og gir spesifikke resultater, bør være gjennomsiktige og forklarbare på klart språk
• Oppbevaring av personvern og beskyttelse av data: AI-systemer må oppfylle de strengeste standardene for personvern og beskyttelse av data ved hjelp av robuste cybersikkerhetsmetoder for å unngå datainnbrudd og uautorisert tilgang
• Fremme inkludering og mangfold: AI-teknologier må reflektere og respektere det store spekteret av menneskelige identiteter og opplevelser
• Samfunn og økonomier: AI bør bidra til å fremme samfunnsutvikling og økonomisk velstand for alle mennesker, uten å fremme ulikhet eller urettferdig praksis
• Øke digitale ferdigheter og leseferdigheter: AI-teknologi bør strebe etter å være tilgjengelig og forståelig for alle, uavhengig av en persons digitale ferdigheter
• Virksomhetenes helse: KI-forretningsteknologier bør akselerere prosesser, maksimere effektiviteten og fremme vekst

AI-etiske begreper og definisjoner

Som et krysningspunkt mellom etikk og høyteknologi bruker samtaler om etisk AI ofte ordforråd fra begge felt. Å forstå dette vokabularet er viktig for å kunne diskutere etikken til AI:

• AI: Maskinens evne til å utføre kognitive funksjoner vi forbinder med menneskelige sinn, for eksempel oppfatning, resonnering, læring og problemløsning. Det finnes to hovedtyper av KI-systemer, og noen systemer er en kombinasjon av begge:

  • Regelbasert KI, også kalt ekspert-KI, oppfører seg i henhold til et sett med fullt definerte regler opprettet av menneskelige eksperter – som et eksempel bruker mange e-handelsplattformer regelbasert KI for å gi produktanbefalinger
  • Læringsbasert KI løser problemer og tilpasser funksjonaliteten på egen hånd, basert på den første menneskedesignede konfigurasjonen og treningsdatasettet –generative KI-verktøy er eksempler på læringsbasert KI

AI-etikk: Et sett med verdier, prinsipper og teknikker som benytter allment aksepterte standarder for rett og galt for å veilede moralsk oppførsel i utvikling, distribusjon, bruk og salg av AI-teknologier.

KI-modell: Et matematisk rammeverk laget av mennesker og trent på data som gjør det mulig for KI-systemer å utføre bestemte oppgaver ved å identifisere mønstre, ta beslutninger og forutsi resultater. Vanlige bruksområder omfatter blant annet bildegjenkjenning og språkoversettelse.

AI-system: En kompleks struktur av algoritmer og modeller designet for å etterligne menneskelig resonnement og utføre oppgaver autonomt.

Byrå: Enkeltpersoners evne til å opptre uavhengig og til å gjøre frie valg.

Skjevhet: En tilbøyelighet eller fordommer for eller mot en person eller gruppe, særlig på en måte som anses for å være urimelig. Biaser i treningsdata – for eksempel under- eller overrepresentasjon av data knyttet til en bestemt gruppe – kan føre til at AI opptrer på en skjevt måte.

Forklarbarhet: Evnen til å svare på spørsmålet, "Hva gjorde maskinen for å nå sin utgang?" Forklarbarhet refererer til den teknologiske konteksten til AI-systemet, for eksempel dens mekanikk, regler og algoritmer, og opplæringsdata.

Rettferdighet: Upartisk og rettferdig behandling eller atferd uten urettferdig favorisering eller diskriminering.

Menneske-i-løkke: Menneskets evne til å gripe inn i hver beslutningssyklus i et AI-system.

Tolkbarhet: Muligheten for folk til å forstå den virkelige konteksten og virkningen av et AI-systems utdata, for eksempel når AI brukes til å ta en beslutning om å godkjenne eller avvise et låneprogram.

Stor språkmodell (LLM): En type maskinlæring som ofte brukes i tekstgjenkjenning og genereringsoppgaver.

Maskinlæring: Et delsett av KI som gir systemer muligheten til automatisk å lære, forbedre seg fra erfaring og tilpasse seg nye data uten å være eksplisitt programmert til å gjøre det.

Normativ: En nøkkelkontekst av praktisk etikk opptatt av hva mennesker og institusjoner “bør” eller “burde” å gjøre i spesielle situasjoner.

Åpenhet: I forbindelse med forklarbarhet er åpenhet evnen til å rettferdiggjøre hvordan og hvorfor et KI-system utvikles, implementeres og brukes, og å gjøre denne informasjonen synlig og forståelig for mennesker.

Hvordan implementere prinsipper for KI-etikk

For organisasjoner er det mer å bruke AI etisk enn bare å vedta etiske prinsipper; disse prinsippene må integreres i alle tekniske og operasjonelle KI-prosesser. Mens integrering av etikk kan virke tungvint for organisasjoner som raskt tar i bruk AI, kan virkelige tilfeller av skade forårsaket av problemer i AI-modelldesign og bruk vise at å neglisjere riktig etikk kan være risikabelt og kostbart.

Hvem er ansvarlig for KI-etikk?

Det korte svaret: Alle som er involvert i AI, inkludert bedrifter, myndigheter, forbrukere og borgere.

De ulike rollene til forskjellige mennesker i KI-etikk

• Utviklere og forskere spiller en avgjørende rolle i å skape AI-systemer som prioriterer menneskelige byråer og tilsyn, adresserer skjevheter og diskriminering, og er transparente og forklarbare.
• Politikere og regulatorer etablerer lover og forskrifter for å styre den etiske bruken av AI og beskytte enkeltpersoners rettigheter.
• Forretnings- og industriledere sørger for at organisasjonene deres innfører etiske KI-prinsipper slik at de bruker AI på måter som bidrar positivt til samfunnet.
• Sivilsamfunnsorganisasjoner tar til orde for etisk bruk av AI, spiller en rolle i oppsynet, og gir støtte til berørte samfunn.
• Akademiske institusjoner bidrar gjennom utdanning, forskning og utvikling av etiske retningslinjer.
• Sluttbrukere og berørte brukere, som forbrukere og borgere, har en innsats i å sikre at AI-systemer er forklarbare, forståelige, rettferdige, transparente og nyttige for samfunnet.

Rollen som bedriftsledere i KI-etikk

Mange bedrifter etablerer komiteer ledet av deres overordnede ledere for å forme sin AI-styringspolitikk. Hos SAP har vi for eksempel opprettet et rådgivningspanel og en KI-etisk styringskomité, som består av etikk- og teknologieksperter, for å integrere våre etiske KI-prinsipper i alle våre produkter og operasjoner. Disse prinsippene prioriterer:

• Proporsjonalitet og gjør ingen skade
• Sikkerhet og sikkerhet
• Rettferdighet og likebehandling
• Bærekraft
• Rett til personvern og databeskyttelse
• Tilsyn og besluttsomhet hos mennesker
• Åpenhet og forklarbarhet
• Ansvar og ansvar
• Bevissthet og teknisk leseferdighet
• Multiinteressent og adaptiv styring og samarbeid

Å danne en KI-etisk styringskomité

Etablering av en styringskomité er avgjørende for å håndtere en organisasjons tilnærming til etikken av AI og gir toppnivå ansvarlighet og tilsyn. Denne komiteen sørger for at etiske hensyn veves inn i AI-utvikling og -utrulling.

Beste praksis for å danne en KI-etisk styringskomité

• Sammensetning og ekspertise: Inkluder en mangfoldig blanding av interessenter med ekspertise innen AI, lov og etikk. Eksterne rådgivere kan tilby objektive perspektiver.
• Definere formålet og omfanget: Definere utvalgets formål og mål, med fokus på etisk AI-design, implementering og drift. Dette bør samsvare med selskapets verdier, rettferdighet, åpenhet og personvern.
• Definere roller og ansvarsområder: skissere spesifikke roller for medlemmene, for eksempel utvikle KI-etiske retningslinjer, gi råd om etiske bekymringer i AI-prosjekter og sikre overholdelse av forskrifter.
• Sett mål: Sett klare, målbare mål som å gjennomføre en årlig etisk revisjon av AI-prosjekter og tilby kvartalsvis etisk KI-opplæring.
• Opprette prosedyrer: Etablere driftsprosedyrer, inkludert møteplaner, dokumentasjonsstandarder og kommunikasjonsprotokoller for å opprettholde åpenhet.
• Pågående utdanning og tilpasning: Hold deg oppdatert på nye utviklinger innen AI-teknologi, etiske standarder og forskrifter gjennom regelmessig opplæring og konferanser.

Opprette en KI-etikkpolicy

Å utvikle en KI-etisk policy er avgjørende for å veilede KI-initiativer i en organisasjon. Styringskomiteen er kritisk i denne prosessen, og bruker sin mangfoldige kompetanse for å sikre at politikken overholder lover, standarder og bredere etiske prinsipper.

Eksempeltilnærming for å skape en KI-etikkpolicy

• Utarbeidelse av den første policyen: Begynn med å utarbeide en policy som gjenspeiler organisasjonens kjerneverdier, juridiske krav og beste praksis. Dette første utkastet vil tjene som grunnlag for ytterligere presisering.

• Konsultasjon og innspill: Engasjere seg med interne og eksterne interessenter, inkludert AI-utviklere, bedriftsledere og etikere, for å gjøre policyen omfattende og representativ for flere perspektiver.

• Integrering av tverrfaglig innsikt: Bruk den varierte bakgrunnen til komitémedlemmer for å innlemme innsikt fra teknologi, etikk, jus og virksomhet for å håndtere de komplekse aspektene ved AI-etikk.

• Definere brukstilfeller med høy risiko og røde linjer: For å sikre klarhet bør komiteen skissere hvilke AI-applikasjoner som utgjør en betydelig risiko, eller som anses som uetiske og derfor forbudt. SAP Steering Committee kategoriserer for eksempel disse som:

  • Høy risiko: Denne kategorien inkluderer applikasjoner som kan være skadelige på noen måte, og inkluderer applikasjoner knyttet til politimyndighet, migrasjon og demokratiske prosesser – samt de som involverer personopplysninger, automatisert beslutningstaking, eller som påvirker sosial velvære. Disse må gjennomgå grundig vurdering av komiteen før utvikling, utplassering eller salg.
  • Rød linje: Søknader som muliggjør menneskelig overvåkning, diskriminering, deanonymisering av data som fører til identifisering av enkeltpersoner eller grupper, eller de som manipulerer opinionen eller undergraver demokratiske debatter, er forbudt. SAP anser disse som svært uetiske og forbyr deres utvikling, utrulling og salg.

• Gjennomgang og revisjoner: Gjennomgå og revider politikken kontinuerlig basert på tilbakemeldinger, slik at den forblir relevant og praktisk for den virkelige verden.

• Fullføring og godkjenning: Send inn den utfylte policyen for endelig godkjenning av beslutningstakere, for eksempel styret, støttet av en sterk anbefaling fra komiteen.

• Gjennomføring og løpende tilsyn: Komiteen bør overvåke politikkens gjennomføring og regelmessig oppdatere den for å gjenspeile ny teknologisk og etisk utvikling.

Opprette en konformitetskontrollprosess

Det er viktig å utvikle effektive overholdelsesevalueringsprosesser for å sikre at KI-utrullinger overholder organisasjonens retningslinjer og forskrifter for KI-etikk. Disse prosessene bidrar til å bygge tillit til brukere og tilsynsmyndigheter og bidrar til å redusere risiko og opprettholde etisk praksis på tvers av KI-prosjekter.

Typiske etterlevelseskontrollprosesser

• Utvikle et standardisert evalueringsrammeverk: Formuler et omfattende rammeverk som definerer prosedyrer for vurdering av AI-prosjekter mot etiske retningslinjer, juridiske standarder og driftskrav.
• Risikoklassifisering: Klassifiser KI-prosjekter etter deres etiske og lovbestemte risikoer. Prosjekter med høy risiko, for eksempel prosjekter som håndterer sensitive persondata eller har betydelige konsekvenser for beslutningstakingen, krever en høy grad av granskning.
• Regelmessige revisjoner og vurderinger: Utfør regelmessige revisjoner for å verifisere løpende overholdelse, som involverer både automatiserte kontroller og manuelle evalueringer av tverrfaglige team.
• Interessentengasjement: Engasjere en mangfoldig gruppe interessenter i gjennomgangsprosessen, inkludert etikere, juridiske eksperter, dataforskere og sluttbrukere, for å oppdage potensielle risikoer og etiske dilemmaer.
• Dokumentasjon og åpenhet: Oppretthold detaljerte fortegnelser over alle samsvarsaktiviteter, slik at de er tilgjengelige og tydelige for både interne og eksterne revisjoner
• Mekanismer for tilbakemelding og eskalering: Implementer tydelige prosedyrer for rapportering og håndtering av etiske problemstillinger

Teknisk implementering av KI-etiske praksiser

Integrering av etiske hensyn i AI-utvikling innebærer å tilpasse dagens teknologipraksis for å sikre at systemer bygges og distribueres ansvarlig. I tillegg til å etablere etiske KI-prinsipper, skaper organisasjoner noen ganger også ansvarlige KI-prinsipper, som kan være mer fokusert på deres spesifikke bransje og tekniske brukstilfeller.

Viktige tekniske krav til etiske KI-systemer

Biasdeteksjon og -reduksjon: Bruk ulike datasett og statistiske metoder for å oppdage og korrigere skjevheter i AI-modeller. Gjennomføre regelmessige revisjoner for å overvåke skjevheter.

Gjennomsiktighet og forklaringsevne: Utvikle systemer som brukerne enkelt kan forstå og verifisere, ved å bruke metoder som funksjoner viktighetsscore, beslutningstrær og modellagnostiske forklaringer for å forbedre gjennomsiktighet.

Databeskyttelse og sikkerhet: Sikre at data i AI-systemer håndteres på en sikker måte og overholder personvernlovgivningen. Systemer må bruke kryptering, anonymisering og sikre protokoller for å sikre dataintegritet.

Robust og pålitelig design: AI-systemer må være holdbare og pålitelige under ulike forhold, med omfattende testing og validering for å håndtere uventede scenarier effektivt.

Kontinuerlig overvåkning og oppdatering: Oppretthold kontinuerlig overvåkning for å vurdere KI-ytelse og etisk overholdelse, oppdatere systemer etter behov basert på nye data eller endringer i forhold.

Interessentengasjement og tilbakemeldinger: Involvere interessenter, som sluttbrukere, etikere og domeneeksperter, i design- og utviklingsprosessene for å samle inn tilbakemeldinger og sikre at systemet samsvarer med etiske og driftsmessige krav.

Opplæring av organisasjonen i etikken til AI

Omfattende opplæring er avgjørende for å sikre at ansatte forstår KI-etikk og kan jobbe ansvarlig med KI-teknologier. Opplæring tjener også til å forbedre integriteten og effektiviteten til organisasjonens KI-verktøy og -løsninger.

Viktige komponenter i et effektivt KI-opplæringspensum

• Omfattende pensum utvikling: Bruk en opplæring pensum som tar hensyn til grunnleggende AI, etiske hensyn, samsvarsspørsmål og praktiske applikasjoner, skreddersydd til ulike organisatoriske roller fra teknisk personale til lederledelse.
• Rollespesifikke opplæringsmoduler: Tilby opplæringsmoduler tilpasset de unike behovene og ansvarsområdene til ulike avdelinger. For eksempel kan utviklere fokusere på etisk kodingspraksis, mens salgs- og markedsføringsteam lærer om KIs implikasjoner i kundeinteraksjoner.
• Kontinuerlig læring og oppdateringer: KI utvikler seg raskt, så det er viktig å holde opplæringsprogrammer oppdatert med den nyeste utviklingen og beste praksis.
• Interaktive og praktiske læringserfaringer: Bruk case-studier, simuleringer og workshops for å illustrere virkelige applikasjoner og etiske utfordringer for å støtte teoretisk kunnskap med praktisk erfaring.
• Vurdering og sertifisering: Gjennomføre vurderinger for å måle ansattes forståelse og ferdigheter i etikken til AI og vurdere å tilby sertifisering for å gjenkjenne og motivere kontinuerlig forbedring.
• Tilbakemeldingsmekanismer: Sett opp tilbakemeldingskanaler for ansatte for å bidra til den pågående forbedringen av opplæringsprogrammer, slik at de oppfyller organisasjonens stadig økende behov.

KI-etiske brukstilfeller for ulike roller i organisasjonen

Alle i en organisasjon som jobber med AI-drevne applikasjoner, eller med AI-svarmotorer, bør være forsiktige for risikoen for ai bias og jobbe ansvarlig. Eksempler på KI-etiske brukstilfeller for ulike roller eller avdelinger i bedrifter er:

• Dataforskere eller maskinlæringsteknikere: I disse rollene anbefales det å innlemme metoder for biasdeteksjon og -reduksjon, sikre modellens forklarbarhet og forbedre modellen. Dette innebærer teknikker som rettferdighetsmålinger og kontrafaktuell analyse.
• Produktledere eller forretningsanalytikere: KI-etiske ansvarsområder kan variere fra etiske risikovurderinger, prioritere brukersentrert design og utvikle klare kommunikasjonsstrategier for å forklare KI-systemer til brukere og interessenter. Dette innebærer å vurdere potensielle samfunnsmessige konsekvenser, brukerbehov og bygge tillit gjennom åpenhet.
• Avdeling for juridisk og overholdelse: Kritiske brukstilfeller er overholdelse av relevante forskrifter (f.eks. lover om personvern), håndtering av juridiske og omdømmende risikoer knyttet til KI, og utvikling av strategier for å redusere forpliktelser som oppstår som følge av algoritmisk skjevhet eller utilsiktede konsekvenser
• HR-fagfolk: HR-avdelingen bør arbeide med KI-drevne rekrutteringsverktøy som er uten skjevheter og som overholder antidiskrimineringslover. Oppgaver omfatter revisjonsalgoritmer, implementering av systemer for mennesker i sløyfe og opplæring i etisk KI-rekrutteringspraksis.

Myndigheter på KI-etikk

AI-etikk er kompleks, formet av utviklende forskrifter, juridiske standarder, bransjepraksis og teknologiske fremskritt. Organisasjoner må holde seg oppdatert på policyendringer som kan påvirke dem – og de bør samarbeide med relevante interessenter for å avgjøre hvilke policyer som gjelder for dem. Listen nedenfor er ikke uttømmende, men gir en følelse av utvalget av politiske ressurser organisasjoner bør oppsøke basert på deres bransje og region.

Eksempler på KI-etiske myndigheter og ressurser

ACET Kunstig intelligens for økonomisk politikk rapport: Denne forskningsstudien fra African Center for Economic Transformation vurderer de økonomiske og etiske vurderingene av AI for å informere inkluderende og bærekraftig økonomisk, finansiell og industriell politikk over hele Afrika.

AlgorithmWatch: En menneskerettighetsorganisasjon som fremmer og utvikler verktøy for opprettelse og bruk av algoritmiske systemer som beskytter demokrati, rettsstaten, frihet, autonomi, rettferdighet og likhet.

ASEAN Guide on AI Governance and Ethics: En praktisk veiledning for medlemsland i Association of Southeast Asian Nations for å designe, utvikle og distribuere AI teknologier etisk og produktivt.

European Commission AI Watch: Europakommisjonens felles forskningssenter gir veiledning for å skape pålitelige AI-systemer, inkludert landspesifikke rapporter og dashboards for å bidra til å overvåke utviklingen, opptaket og virkningen av AI for Europa

NTIA AI Accountability Report: Denne nasjonale telekommunikasjons- og informasjonsadministrasjonsrapporten foreslår frivillige, regulatoriske og andre tiltak for å bidra til å sikre juridiske og pålitelige AI-systemer i USA.

OECD AI Prinsipper: Dette forumet med land og interessentgrupper arbeider for å forme pålitelig AI. I 2019 la det til rette for OECD AI-prinsippene, den første mellomstatlige standarden på AI. Disse prinsippene fungerte også som grunnlag for G20 AI-prinsippene.

UNESCOs anbefaling om etikk for kunstig intelligens: Dette FNs byrås anbefalingsrammeverk ble vedtatt av 193 medlemsland etter en toårig global konsultasjonsprosess med eksperter og interessenter.

Konklusjon

Som konklusjon krever utvikling og distribusjon av etisk KI en flerfaset tilnærming. Som organisasjon anbefales det å etablere klare etiske prinsipper, integrere dem i KI-utviklingsprosesser og sikre kontinuerlig overholdelse gjennom solide styrings- og opplæringsprogrammer. Ved å prioritere menneskesentrerte verdier som rettferdighet, åpenhet og ansvarlighet, kan bedrifter utnytte kraften i AI på en ansvarlig måte, drive innovasjon samtidig som de reduserer potensielle risikoer og sikrer at disse teknologiene gagner samfunnet som helhet.

Les mer