Introducere în etica IA

Etica IA este o forță a binelui care ajută la atenuarea prejudecăților abuzive, elimină barierele din calea accesibilității și sporește creativitatea, printre multe alte beneficii. Pe măsură ce organizațiile se bazează din ce în ce mai mult pe IA pentru decizii care au impact asupra vieților umane, este esențial ca acestea să ia în considerare implicațiile etice complexe, deoarece utilizarea abuzivă a IA poate provoca prejudicii indivizilor și societății, precum și profitului și reputației companiilor.

În acest articol, vom explora:

• Principii, termeni și definiții comune de etică AI
• Crearea principiilor AI-ului etic pentru o organizație
• Cine este responsabil pentru etica AI
• Implementarea instruirii, guvernării și proceselor tehnice privind etica IA
• Cazuri de utilizare și implementări AI etice
• Unele autorități de conducere cu privire la etica IA

Exemple de principii etice privind IA

Bunăstarea oamenilor este în centrul oricărei discuții despre etica IA. În timp ce sistemele AI pot fi proiectate pentru a prioritiza moralitatea și etica, oamenii sunt în cele din urmă responsabili pentru asigurarea designului etic și a utilizării și pentru a interveni atunci când este necesar.

Nu există un set unic, universal acceptat, de principii etice privind IA. Multe organizații și agenții guvernamentale se consultă cu experți în etică, drept și IA pentru a crea principiile lor directoare. Aceste principii se referă în mod obișnuit la:

• Bunăstarea și demnitatea umană: sistemele IA ar trebui să acorde întotdeauna prioritate și să asigure bunăstarea, siguranța și demnitatea indivizilor, nici înlocuirea oamenilor, nici compromiterea bunăstării umane
• Supravegherea umană: IA are nevoie de monitorizare umană în fiecare etapă de dezvoltare și utilizare – uneori numită „om în buclă” – pentru a se asigura că responsabilitatea etică finală aparține unei ființe umane
• Abordarea discriminării și a părtinirii: procesele de proiectare ar trebui să acorde prioritate echității, egalității și reprezentării pentru a atenua părtinirea și discriminarea
• Transparență și explicabilitate: modul în care modelele AI iau decizii specifice și produc rezultate specifice ar trebui să fie transparente și explicabile într-un limbaj clar
• Menținerea confidențialității și protecției datelor: sistemele AI trebuie să îndeplinească cele mai stricte standarde de confidențialitate și protecție a datelor, utilizând metode robuste de securitate cibernetică pentru a evita încălcările datelor și accesul neautorizat
• Promovarea incluziunii și a diversității: tehnologiile AI trebuie să reflecte și să respecte gama vastă de identități și experiențe umane
• Societate și economii: IA ar trebui să contribuie la stimularea progresului societal și a prosperității economice pentru toate persoanele, fără a încuraja inegalitatea sau practicile neloiale
• Îmbunătățirea competențelor digitale și a alfabetizării: tehnologiile IA ar trebui să se străduiască să fie accesibile și ușor de înțeles pentru toată lumea, indiferent de competențele digitale ale unei persoane
• Sănătatea întreprinderilor: tehnologiile de afaceri AI ar trebui să accelereze procesele, să maximizeze eficiența și să promoveze creșterea

Termeni și definiții de etică AI

Ca o intersecție a eticii și a tehnologiei înalte, conversațiile despre IA etică folosesc adesea vocabularul din ambele domenii. Înțelegerea acestui vocabular este importantă pentru a putea discuta despre etica IA:

• AI: Capacitatea unei mașini de a îndeplini funcții cognitive pe care le asociem cu mințile umane, cum ar fi percepția, raționamentul, învățarea și rezolvarea problemelor. Există două tipuri principale de sisteme AI, iar unele sisteme sunt o combinație a ambelor:

  • AI-ul bazat pe reguli, numit și AI expert, se comportă în conformitate cu un set de reguli complet definite create de experți umani – de exemplu, multe platforme de comerț electronic utilizează IA bazat pe reguli pentru a oferi recomandări de produse
  • AI-ul bazat pe învățare rezolvă problemele și își adaptează funcționalitatea pe cont propriu, pe baza configurației sale inițiale proiectate de om și a setului de date de instruire—instrumentele AI generative sunt exemple de AI bazat pe învățare

Etica IA: Un set de valori, principii și tehnici care utilizează standarde acceptate pe scară largă de drept și rău pentru a ghida comportamentul moral în dezvoltarea, implementarea, utilizarea și vânzarea tehnologiilor AI.

Model AI: Un cadru matematic creat de oameni și instruit cu privire la date care permite sistemelor AI să efectueze anumite sarcini prin identificarea modelelor, luarea deciziilor și previzionarea rezultatelor. Printre utilizările comune se numără recunoașterea imaginii și traducerea limbilor, printre multe altele.

Sistemul AI: O structură complexă de algoritmi și modele concepute pentru a imita raționamentul uman și pentru a efectua sarcini autonome.

Agenție: Capacitatea persoanelor de a acționa independent și de a face alegeri libere.

Prejudecăți: o înclinație sau un prejudiciu pentru sau împotriva unei persoane sau a unui grup, în special într-un mod considerat a fi nedrept. Biazele în datele de antrenament – cum ar fi reprezentarea insuficientă sau excesivă a datelor aparținând unui anumit grup – pot determina IA să acționeze în moduri părtinitoare.

Explicabilitate: Capacitatea de a răspunde la întrebarea: „Ce a făcut mașina pentru a ajunge la ieșire?” Explicabilitatea se referă la contextul tehnologic al sistemului AI, precum mecanica, regulile și algoritmii săi, precum și la datele de antrenament.

Corectitudine: tratament sau comportament imparțial și corect, fără favoritism sau discriminare nedreaptă.

Human-in-the-loop: Capacitatea ființelor umane de a interveni în fiecare ciclu decizional al unui sistem AI.

Interpretabilitatea: capacitatea oamenilor de a înțelege contextul real și impactul rezultatelor unui sistem AI, de exemplu atunci când AI-ul este utilizat pentru a ajuta la luarea unei decizii cu privire la aprobarea sau respingerea unei aplicații de împrumut.

Model lingvistic mare (LLM): Un tip de învățare automată adesea utilizat în sarcinile de recunoaștere și generare a textului.

Învățarea automată: Un subset de AI care oferă sistemelor capacitatea de a învăța automat, de a îmbunătăți din experiență și de a se adapta la noile date fără a fi programate în mod explicit pentru a face acest lucru.

Normativ: Un context cheie de etică practică preocupat de ceea ce oamenii și instituțiile „ar trebui” sau „ar trebui” să facă în situații particulare.

Transparență: În ceea ce privește explicabilitatea, transparența este capacitatea de a justifica modul și motivul pentru care un sistem AI este dezvoltat, implementat și utilizat și de a face aceste informații vizibile și ușor de înțeles pentru oameni.

Cum să implementați principii pentru etica IA

Pentru organizații, este mai mult să utilizezi IA din punct de vedere etic decât să adopți doar principii etice; aceste principii trebuie integrate în toate procesele tehnice și operaționale ale AI. În timp ce integrarea eticii poate părea greoaie pentru organizațiile care adoptă rapid IA, cazurile din lumea reală de daune cauzate de probleme în proiectarea și utilizarea modelelor AI arată că neglijarea eticii adecvate poate fi riscantă și costisitoare.

Cine este responsabil pentru etica AI?

Răspunsul scurt: toți cei care sunt implicați în AI, inclusiv companii, guverne, consumatori și cetățeni.

Diferitele roluri ale diferitelor persoane în etica IA

• Dezvoltatorii și cercetătorii joacă un rol crucial în crearea sistemelor AI care acordă prioritate agențiilor umane și supravegherii, abordează prejudecățile și discriminarea și care sunt transparente și explicabile.
• Responsabilii politici și autoritățile de reglementare stabilesc legi și reglementări pentru a guverna utilizarea etică a IA și pentru a proteja drepturile persoanelor.
• Liderii din domeniul afacerilor și din industrie se asigură că organizațiile lor adoptă principiile IA etice, astfel încât să utilizeze IA în moduri care contribuie pozitiv la societate.
• Organizațiile societății civile pledează pentru utilizarea etică a IA, joacă un rol în supraveghere și oferă sprijin comunităților afectate.
• Instituțiile academice contribuie prin educație, cercetare și dezvoltarea de orientări etice.
• Utilizatorii finali și utilizatorii afectați, precum consumatorii și cetățenii, au o miză în asigurarea faptului că sistemele AI sunt explicabile, interpretabile, echitabile, transparente și benefice pentru societate.

Rolul liderilor de afaceri în etica IA

Multe companii înființează comitete conduse de liderii lor superiori pentru a-și modela politicile de guvernare AI. De exemplu, la SAP, am format un grup consultativ și un comitet de conducere de etică AI, alcătuit din experți în etică și tehnologie, pentru a integra principiile noastre privind AI-ul etic în produsele și operațiunile noastre. Aceste principii prioritizează:

• Proporționalitate și fără a face nici un rău
• Siguranță și securitate
• Corectitudine și nediscriminare
• Sustenabilitate
• Dreptul la confidențialitate și protecția datelor
• Supravegherea și determinarea la nivel uman
• Transparență și explicabilitate
• Responsabilitate și responsabilitate
• Conștientizarea și alfabetizarea tehnică
• Multistakeholder și guvernanță și colaborare adaptivă

Formarea unui comitet director de etică IA

Stabilirea unui comitet de conducere este vitală pentru gestionarea abordării unei organizații a eticii AI și oferă responsabilitate și supraveghere de nivel superior. Acest comitet asigură faptul că considerentele etice sunt țesute în dezvoltarea și implementarea IA.

Cele mai bune practici pentru formarea unui comitet de conducere pentru etica IA

• Compoziție și expertiză: Includeți o combinație diversă de părți interesate cu expertiză în IA, drept și etică. Consilierii externi pot oferi perspective imparțiale.
• Definirea scopului și a domeniului de aplicare: Definiți în mod clar misiunea și obiectivele comitetului, concentrându-se pe proiectarea, implementarea și operarea IA etică. Acest lucru ar trebui să se alinieze la valorile companiei, corectitudine, transparență și confidențialitate.
• Definirea rolurilor și responsabilităților: schițarea rolurilor specifice pentru membri, precum dezvoltarea politicilor de etică AI, consilierea privind preocupările de etică în proiectele AI și asigurarea conformității cu reglementările.
• Stabilirea obiectivelor: Stabilirea unor obiective clare, măsurabile, cum ar fi efectuarea unui audit anual de etică a proiectelor IA și oferirea de instruire trimestrială privind IA etică.
• Crearea procedurilor: Stabilirea procedurilor operaționale, inclusiv respectarea calendarelor, a standardelor de documentare și a protocoalelor de comunicare pentru a menține transparența.
• Educația și adaptarea continuă: Țineți pasul cu noile evoluții în domeniul tehnologiei IA, standardelor etice și reglementărilor prin instruire și conferințe periodice.

Crearea unei politici de etică privind IA

Dezvoltarea unei politici de etică AI este esențială pentru ghidarea inițiativelor IA în cadrul unei organizații. Comitetul director este critic în acest proces, folosind expertiza sa diversă pentru a se asigura că politica aderă la legi, standarde și principii etice mai largi.

Exemplu de abordare pentru crearea unei politici de etică AI

• Elaborarea politicii inițiale: Începeți prin elaborarea unei politici care reflectă valorile de bază ale organizației, cerințele legale și cele mai bune practici. Acest proiect inițial va servi drept bază pentru o mai bună perfecționare.

• Consultare și contribuție: Implicați-vă cu părțile interesate interne și externe, inclusiv dezvoltatori AI, lideri de afaceri și eticieni, pentru a face politica cuprinzătoare și reprezentativă pentru perspective multiple.

• Integrarea analizelor interdisciplinare: Utilizați mediile variate ale membrilor comitetului pentru a încorpora informații din tehnologie, etică, drept și afaceri pentru a aborda aspectele complexe ale eticii AI.

• Definirea cazurilor de utilizare cu risc ridicat și linie roșie: Pentru a asigura claritatea, comitetul ar trebui să evidențieze ce aplicații AI prezintă riscuri semnificative sau sunt considerate lipsite de etică și, prin urmare, interzise. Comitetul de conducere SAP, de exemplu, le clasifică ca:

  • Cu risc ridicat: Această categorie include aplicații care pot fi dăunătoare în orice fel și include aplicații legate de aplicarea legii, migrație și procese democratice – precum și cele care implică date cu caracter personal, luarea automată a deciziilor sau afectarea bunăstării sociale. Acestea trebuie să fie supuse unei evaluări aprofundate de către comitet înainte de dezvoltare, implementare sau vânzare.
  • Linia roșie: Aplicațiile care permit supravegherea umană, discriminarea, deanonimizarea datelor care conduc la identificarea individuală sau de grup sau cele care manipulează opinia publică sau subminează dezbaterile democratice sunt interzise. SAP consideră că aceste utilizări sunt extrem de lipsite de etică și le interzice dezvoltarea, implementarea și vânzarea.

• Revizuire și revizuiri: revizuirea și revizuirea continuă a politicii pe baza feedback-ului, asigurându-se că aceasta rămâne relevantă și practică pentru lumea reală.

• Finalizare și aprobare: Transmiteți politica finalizată pentru aprobarea finală de către factorii de decizie, cum ar fi consiliul de administrație, susținută de o recomandare puternică din partea comisiei.

• Punerea în aplicare și supravegherea continuă: Comitetul ar trebui să monitorizeze punerea în aplicare a politicii și să o actualizeze periodic pentru a reflecta noile evoluții tehnologice și etice.

Stabilirea unui proces de revizuire a conformității

Dezvoltarea eficientă a proceselor de revizuire a conformității este esențială pentru a asigura faptul că implementările AI respectă politicile și reglementările de etică AI ale organizației. Aceste procese ajută la consolidarea încrederii cu utilizatorii și autoritățile de reglementare și servesc la reducerea riscurilor și menținerea practicilor etice în cadrul proiectelor AI.

Procese tipice de revizuire a conformității

• Dezvoltă un cadru de revizuire standardizat: formulează un cadru cuprinzător care definește procedurile pentru evaluarea proiectelor AI în raport cu orientările etice, standardele legale și cerințele operaționale.
• Clasificarea riscurilor: Clasificați proiectele AI în funcție de riscurile lor etice și de reglementare. Proiectele cu risc ridicat, cum ar fi cele care gestionează date cu caracter personal sensibile sau care au un impact semnificativ asupra procesului decizional, necesită un grad ridicat de control.
• Audituri și evaluări periodice: Efectuați audituri periodice pentru a verifica conformitatea continuă, implicând atât verificări automate, cât și revizuiri manuale de către echipe interdisciplinare.
• Implicarea părților interesate: Implicarea unui grup diversificat de părți interesate în procesul de revizuire, inclusiv a eticiștilor, a experților juridici, a oamenilor de știință din domeniul datelor și a utilizatorilor finali, pentru a identifica riscurile potențiale și dilemele etice.
• Documentație și transparență: păstrați evidențe detaliate ale tuturor activităților de conformitate, asigurându-vă că acestea sunt accesibile și clare atât pentru auditurile interne, cât și pentru cele externe
• Mecanisme de feedback și escaladare: punerea în aplicare a unor proceduri clare pentru raportarea și abordarea preocupărilor etice și a aspectelor legate de conformitate

Implementarea tehnică a practicilor de etică AI

Integrarea considerentelor etice în dezvoltarea IA implică adaptarea practicilor tehnologice curente pentru a asigura că sistemele sunt construite și implementate în mod responsabil. În plus față de stabilirea principiilor de IA etică, organizațiile creează uneori și principii AI responsabile, care pot fi mai concentrate pe cazurile lor specifice de utilizare industrială și tehnică.

Principalele cerințe tehnice pentru sistemele de IA etică

Detectarea și atenuarea distorsiunilor: Utilizați diverse seturi de date și metode statistice pentru a detecta și corecta distorsiunile din modelele AI. Desfășurarea de audituri periodice pentru a monitoriza părtinirea.

Transparență și explicabilitate: Dezvoltați sisteme pe care utilizatorii le pot înțelege și verifica cu ușurință, utilizând metode precum punctaje de importanță caracteristică, arbori de decizie și explicații agnostice pentru a îmbunătăți transparența.

Confidențialitatea și securitatea datelor: asigurați-vă că datele din sistemele AI sunt gestionate în siguranță și respectă legile privind confidențialitatea. Sistemele trebuie să utilizeze protocoale de criptare, anonimizare și securizare pentru a proteja integritatea datelor.

Proiectare robustă și fiabilă: sistemele AI trebuie să fie durabile și fiabile în diferite condiții, încorporând testarea și validarea extinsă pentru a gestiona eficient scenariile neașteptate.

Monitorizarea și actualizarea continuă: Mențineți monitorizarea continuă pentru a evalua performanța AI și conformitatea etică, actualizând sistemele după cum este necesar pe baza noilor date sau a modificărilor condițiilor.

Implicarea părților interesate și feedbackul: Implicarea părților interesate, cum ar fi utilizatorii finali, eticienii și experții în domeniu, în procesele de proiectare și dezvoltare pentru a colecta feedback și a asigura alinierea sistemului la cerințele etice și operaționale.

Instruirea organizației în etica AI

Instruirea cuprinzătoare este esențială pentru a vă asigura că angajații înțeleg etica AI și că pot lucra în mod responsabil cu tehnologiile AI. Instruirea servește, de asemenea, la îmbunătățirea integrității și eficacității instrumentelor și soluțiilor AI ale organizațiilor.

Componentele cheie ale unui curriculum eficient de instruire IA

• Dezvoltarea cuprinzătoare a curriculumului: Utilizați un curriculum de instruire care abordează elementele de bază ale IA, considerentele etice, problemele de conformitate și aplicațiile practice, adaptate diferitelor roluri organizaționale, de la personalul tehnic la managementul executiv.
• Module de formare specifice rolului: Furnizați module de formare personalizate pentru nevoile și responsabilitățile unice ale diferitelor departamente. De exemplu, dezvoltatorii se pot concentra pe practici de codificare etică, în timp ce echipele de vânzări și marketing află despre implicațiile AI-ului în interacțiunile cu clienții.
• Învățare și actualizări continue: AI-ul evoluează rapid, deci este important să păstrați programele de formare la curent cu cele mai recente evoluții și cele mai bune practici.
• Experiențe de învățare interactive și practice: Utilizați studii de caz, simulări și workshop-uri pentru a ilustra aplicațiile din lumea reală și provocările etice pentru a sprijini cunoștințele teoretice cu experiență practică.
• Evaluare și certificare: Efectuați evaluări pentru a evalua înțelegerea și competența angajaților în etica IA și luați în considerare oferirea de certificare pentru a recunoaște și motiva îmbunătățirea continuă.
• Mecanisme de feedback: Stabiliți canale de feedback pentru ca angajații să contribuie la perfecționarea continuă a programelor de formare, asigurându-se că acestea răspund nevoilor în continuă evoluție ale organizației.

Cazuri de utilizare a eticii AI pentru roluri diferite în organizație

Toată lumea dintr-o organizație care lucrează cu aplicații pe bază de AI sau cu motoare de răspuns AI ar trebui să fie prudentă pentru riscul de a fi părtinitor și de a lucra responsabil. Exemple de cazuri de utilizare a eticii IA pentru roluri sau departamente diferite în companiile corporative sunt:

• Oamenii de știință de date sau inginerii de învățare automată: În aceste roluri, este recomandat să încorporați metode pentru detectarea și atenuarea distorsiunilor, asigurând explicabilitatea modelului și îmbunătățirea modelului. Aceasta implică tehnici precum metrica corectitudinii și analiza contrafactuală.
• Managerii de produs sau analiștii de afaceri: responsabilitățile legate de etica AI pot varia de la evaluări etice ale riscurilor, prioritizarea designului centrat pe utilizator și dezvoltarea unor strategii de comunicare clare pentru a explica sistemele AI utilizatorilor și părților interesate. Acest lucru implică luarea în considerare a posibilelor impacturi societale, a nevoilor utilizatorilor și a consolidării încrederii prin transparență.
• Departamentul juridic și de conformitate: Cazurile critice de utilizare sunt în conformitate cu reglementările relevante (de exemplu, legile privind confidențialitatea datelor), gestionarea riscurilor legale și reputaționale asociate cu IA și dezvoltarea strategiilor de reducere a pasivelor care decurg din distorsiunea algoritmică sau consecințele neintenționate
• Profesioniști HR: Departamentul de HR ar trebui să lucreze cu instrumente de recrutare bazate pe AI, care sunt lipsite de părtinire și respectă legile anti-discriminare. Sarcinile implică algoritmi de audit, implementarea sistemelor umane în buclă și furnizarea de instruire privind practicile de recrutare a AI-ului etic.

Autorități de etică AI

Etica IA este complexă, modelată de reglementările în evoluție, de standardele legale, de practicile din industrie și de progresele tehnologice. Organizațiile trebuie să fie la curent cu modificările de politică care le pot afecta și ar trebui să colaboreze cu părțile interesate relevante pentru a determina ce politici li se aplică. Lista de mai jos nu este exhaustivă, dar oferă un sentiment al gamei de resurse politice pe care organizațiile ar trebui să le caute în funcție de industria și regiunea lor.

Exemple de autorități și resurse de etică AI

Raportul ACET privind inteligența artificială pentru politicile economice: Acest studiu de cercetare realizat de Centrul african pentru transformare economică evaluează considerațiile economice și etice ale IA în scopul informării politicilor economice, financiare și industriale incluzive și sustenabile din întreaga Africă.

AlgorithmWatch: O organizație pentru drepturile omului care susține și dezvoltă instrumente pentru crearea și utilizarea sistemelor algoritmice care protejează democrația, statul de drept, libertatea, autonomia, justiția și egalitatea.

Ghidul ASEAN privind guvernanța și etica AI: Un ghid practic pentru statele membre din Asociația Națiunilor din Asia de Sud-Est pentru a proiecta, dezvolta și implementa tehnologii AI în mod etic și productiv.

AI Watch al Comisiei Europene: Centrul Comun de Cercetare al Comisiei Europene oferă orientări pentru crearea unor sisteme AI fiabile, inclusiv rapoarte și tablouri de bord specifice fiecărei țări pentru a ajuta la monitorizarea dezvoltării, adoptării și impactului IA pentru Europa

Raportul NTIA privind responsabilitatea AI: Acest raport național privind administrarea telecomunicațiilor și informațiilor propune măsuri voluntare, de reglementare și de altă natură pentru a contribui la asigurarea unor sisteme AI legale și de încredere în Statele Unite.

Principii privind IA ale OCDE: Acest forum al țărilor și al grupurilor de părți interesate lucrează pentru a modela IA de încredere. În 2019, acesta a facilitat Principiile OCDE privind IA, primul standard interguvernamental privind IA. Aceste principii au servit, de asemenea, ca bază pentru principiile G20 privind IA.

Recomandarea UNESCO privind etica inteligenței artificiale: Acest cadru de recomandare al agenției Națiunilor Unite a fost adoptat de 193 de state membre după un proces global de consultare de doi ani cu experți și părți interesate.

Concluzie

În concluzie, dezvoltarea și implementarea IA etică necesită o abordare cu mai multe fațete. Ca organizație, este recomandat să stabiliți principii etice clare, să le integrați în procesele de dezvoltare AI și să asigurați conformitatea permanentă prin programe robuste de guvernare și instruire. Prin prioritizarea valorilor centrate pe om, cum ar fi echitatea, transparența și responsabilitatea, companiile pot valorifica puterea AI în mod responsabil, stimulând inovarea, reducând în același timp riscurile potențiale și asigurându-se că aceste tehnologii aduc beneficii societății în ansamblu.

Citiți mai multe