Вступ до етики ШІ

Етика штучного інтелекту є силою добра, яка допомагає пом'якшити несправедливі упередження, усуває бар'єри для доступності та збільшує креативність, серед багатьох інших переваг. Оскільки організації все більше покладаються на ШІ для рішень, які впливають на людське життя, критично важливо, щоб вони розглядали складні етичні наслідки, оскільки неправильне використання ШІ може завдати шкоди людям і суспільству, а також для нижніх ліній і репутації бізнесу.

У цій статті ми розглянемо:

• Загальні принципи, терміни та визначення етики ШІ
• Створення етичних принципів штучного інтелекту для організації
• Хто відповідає за етику ШІ
• Впровадження навчання, управління та технічних процесів з етики ШІ
• Випадки та впровадження використання етичного ШІ
• Деякі провідні органи влади з питань етики ШІ

Приклади етичних принципів штучного інтелекту

Добробут людей знаходиться в центрі будь-якої дискусії про етику ШІ. Хоча системи ШІ можуть бути розроблені для визначення пріоритетів моралі та етики, люди в кінцевому підсумку відповідають за забезпечення етичного дизайну та використання — і втрутитися, коли це необхідно.

Немає єдиного, універсально узгодженого набору етичних принципів ШІ. Багато організацій та державних установ консультуються з експертами з етики, права та ШІ, щоб створити свої керівні принципи. Ці принципи зазвичай стосуються:

• Людське благополуччя та гідність: системи штучного інтелекту завжди повинні розставляти пріоритети та забезпечувати добробут, безпеку та гідність людей, не замінюючи людей і не шкодуючи людському добробуту
• Контроль людини: ШІ потребує моніторингу людини на кожному етапі розвитку та використання, який іноді називають «людиною в циклі», щоб гарантувати, що гранична етична відповідальність покладається на людину
• Вирішення упередженості та дискримінації: Процеси проектування повинні визначати справедливість, рівність і представництво для пом'якшення упередженості та дискримінації
• Прозорість та пояснюваність: як моделі ШІ приймають конкретні рішення та дають конкретні результати, мають бути прозорими та зрозумілими зрозумілою мовою
• Захист і конфіденційність даних: системи штучного інтелекту повинні відповідати найсуворішим стандартам конфіденційності та захисту даних, використовуючи надійні методи кібербезпеки, щоб уникнути порушень даних і несанкціонованого доступу
• Сприяння інклюзивності та різноманітності: технології ШІ повинні відображати та поважати широкий спектр людських ідентичностей та досвіду
• Суспільство та економіка: ШІ повинен сприяти розвитку суспільства та економічному процвітанню для всіх людей, не сприяючи нерівності чи несправедливим практикам
• Підвищення цифрових навичок та грамотності: технології ШІ повинні прагнути бути доступними та зрозумілими для всіх, незалежно від цифрових навичок людини
• Здоров'я бізнесу: бізнес-технології ШІ повинні прискорювати процеси, максимізувати ефективність і сприяти зростанню

Терміни та визначення етики ШІ

Як перетин етики та високих технологій, розмови про етичний ШІ часто використовують лексику з обох сфер. Розуміння цього словникового запасу є важливим для того, щоб вміти обговорювати етику ШІ:

• AI: Здатність машини виконувати когнітивні функції, які ми асоціюємо з людським розумом, такі як сприйняття, міркування, навчання та вирішення проблем. Існує два основних типи систем ШІ, і деякі системи є комбінацією обох:

  • Штучний інтелект на основі правил, який також називають експертним ШІ, поводиться відповідно до набору повністю визначених правил, створених людськими експертами — як приклад, багато платформ електронної комерції використовують штучний інтелект на основі правил для надання рекомендацій щодо продукту
  • Штучний інтелект на основі навчання вирішує проблеми та самостійно адаптує свою функціональність на основі його початкової конфігурації та навчального набору даних на основі людини –генеративні інструменти ШІ є прикладами штучного інтелекту на основі навчання

Етика ШІ: набір цінностей, принципів і методів, які використовують широко прийняті стандарти правильного і неправильного, щоб керувати моральною поведінкою в розробці, розгортанні, використанні та продажу технологій ШІ.

Модель ШІ: математична структура, створена людьми та навчена на основі даних, яка дозволяє системам ШІ виконувати певні завдання шляхом визначення шаблонів, прийняття рішень та прогнозування результатів. Поширені способи використання включають розпізнавання зображень і мовний переклад, серед багатьох інших.

Система штучного інтелекту: складна структура алгоритмів і моделей, призначених для імітації людського мислення та автономного виконання завдань.

Агентство: здатність окремих осіб діяти самостійно і робити вільний вибір.

Зсув: схильність або упередження до особи або групи, особливо в спосіб, який вважається несправедливим. Упередження в даних навчання, такі як недо- або надмірне представлення даних, що відносяться до певної групи, можуть призвести до того, що ШІ діє упереджено.

Пояснюваність: Можливість відповісти на питання: «Що машина зробила, щоб досягти свого виходу?» Пояснюваність відноситься до технологічного контексту системи ШІ, таких як її механіка, правила та алгоритми, а також навчальні дані.

Справедливість: неупереджене і справедливе ставлення або поведінка без несправедливого фаворитизму або дискримінації.

Людина в циклі: здатність людей втручатися в кожен цикл прийняття рішень системи ШІ.

Інтерпретованість: можливість для людей зрозуміти реальний контекст і вплив результатів системи ШІ, наприклад, коли ШІ використовується, щоб допомогти прийняти рішення про схвалення або відхилення кредитної заявки.

Велика мовна модель (LLM): Тип машинного навчання часто використовується в завданнях розпізнавання та генерації тексту.

Машинне навчання: Підмножина штучного інтелекту, яка надає системам можливість автоматично навчатися, вдосконалюватися з досвіду та адаптуватися до нових даних, не будучи явно запрограмованими для цього.

Нормативний: Ключовий контекст практичної етики, пов'язаний з тим, що люди та інституції «повинні» або «повинні» робити в певних ситуаціях.

Прозорість: прозорість – це здатність виправдати, як і чому система ШІ розробляється, впроваджується та використовується, і робить цю інформацію видимою та зрозумілою для людей.

Як впровадити принципи етики ШІ

Для організацій етично використовувати ШІ більше, ніж просто застосовувати етичні принципи; ці принципи повинні бути інтегровані в усі технічні та операційні процеси ШІ. У той час як інтеграція етики може здатися громіздкою для організацій, які швидко впроваджують ШІ, реальні випадки шкоди, спричиненої проблемами в дизайні та використанні моделей ШІ, показують, що нехтування належною етикою може бути ризикованим і дорогим.

Хто відповідає за етику ШІ?

Коротка відповідь: усі, хто займається штучним інтелектом, включаючи підприємства, уряди, споживачів та громадян.

Різні ролі різних людей в етиці ШІ

• Розробники та дослідники відіграють вирішальну роль у створенні систем штучного інтелекту, які надають пріоритет людському агентству та нагляду, усувають упередженість та дискримінацію, а також є прозорими та пояснювальними.
• Політики та регулятори встановлюють закони та нормативні акти для регулювання етичного використання ШІ та захисту прав фізичних осіб.
• Лідери бізнесу та галузі гарантують, що їхні організації використовують етичні принципи ШІ, щоб вони використовували ШІ таким чином, щоб позитивно сприяти суспільству.
• Організації громадянського суспільства виступають за етичне використання ШІ, відіграють роль у нагляді та надають підтримку постраждалим громадам.
• Академічні установи сприяють через освіту, дослідження та розробку етичних орієнтирів.
• Кінцеві користувачі та постраждалі користувачі, такі як споживачі та громадяни, мають частку в тому, щоб системи ШІ були пояснювальними, інтерпретованими, справедливими, прозорими та корисними для суспільства.

Роль бізнес-лідерів в етиці штучного інтелекту

Багато підприємств створюють комітети на чолі зі своїми вищими лідерами, щоб формувати свою політику управління ШІ. Наприклад, у SAP ми сформували консультативну панель і керівний комітет з етики ШІ, що складається з експертів з етики та технологій, для інтеграції наших етичних принципів ШІ у наші продукти й операції. Ці принципи визначають пріоритетність:

• Пропорційність і не завдає шкоди
• Безпека та безпека
• Справедливість і недискримінація
• Сталий розвиток
• Право на конфіденційність і захист даних
• Контроль і рішучість людини
• Прозорість і пояснюваність
• Відповідальність і підзвітність
• Усвідомлення та технічна грамотність
• Багатостороннє та адаптивне управління та співпраця

Формування керівного комітету з етики ШІ

Створення керівного комітету має важливе значення для управління підходом організації до етики штучного інтелекту та забезпечує підзвітність та нагляд вищого рівня. Цей комітет гарантує, що етичні міркування вплетені в розробку та розгортання штучного інтелекту.

Кращі практики формування керівного комітету з етики ШІ

• Склад і досвід: Включіть різноманітне поєднання зацікавлених сторін з досвідом у галузі ШІ, права та етики. Зовнішні консультанти можуть запропонувати неупереджені перспективи.
• Визначення мети та обсягу: Чітко визначте місію та цілі комітету, зосередившись на етичному проектуванні, впровадженні та експлуатації штучного інтелекту. Це має відповідати цінностям компанії, справедливості, прозорості та конфіденційності.
• Визначення ролей і обов’язків: окресліть конкретні ролі для членів, такі як розробка політик етики ШІ, консультування щодо проблем з етикою в проектах ШІ та забезпечення відповідності нормативним актам.
• Постановка завдань: Встановіть чіткі, вимірювані цілі, такі як проведення щорічного етичного аудиту проєктів ШІ та пропонуючи щоквартальне етичне навчання ШІ.
• Створення процедур: Встановлення операційних процедур, включаючи графіки виконання, стандарти документації та протоколи зв'язку для підтримки прозорості.
• Постійна освіта та адаптація: Будьте в курсі нових розробок у галузі технологій штучного інтелекту, етичних стандартів і правил через регулярні тренінги та конференції.

Створення політики етики ШІ

Розробка політики етики ШІ має важливе значення для керівництва ініціативами ШІ в організації. Керівний комітет має вирішальне значення в цьому процесі, використовуючи свій різноманітний досвід, щоб забезпечити дотримання політики законів, стандартів і більш широких етичних принципів.

Приклад підходу для створення політики етики ШІ

• Розробка початкової політики: Почніть з розробки політики, яка відображає основні цінності організації, юридичні вимоги та найкращі практики. Ця початкова чернетка послужить основою для подальшого доопрацювання.

• Консультація та внесок: Взаємодійте з внутрішніми та зовнішніми зацікавленими сторонами, включаючи розробників ШІ, лідерів бізнесу та етиків, щоб зробити політику всеосяжною та репрезентативною з різних точок зору.

• Інтеграція міждисциплінарних інсайтів: Використовуйте різноманітний досвід членів комітету, щоб включити інформацію з технологій, етики, права та бізнесу для вирішення складних аспектів етики ШІ.

• Визначення випадків з високим ризиком та червоною лінією використання: Щоб забезпечити ясність, комітет повинен окреслити, які застосунки ШІ становлять значні ризики або вважаються неетичними, а отже, забороненими. Керівний комітет SAP, наприклад, класифікує їх як:

  • Високий ризик: Ця категорія включає застосунки, які можуть бути шкідливими будь-яким чином, і включає застосунки, пов'язані з правоохоронними, міграційними та демократичними процесами, а також ті, що включають особисті дані, автоматизоване прийняття рішень або вплив на соціальне благополуччя. Вони повинні пройти ретельну оцінку комітетом перед розробкою, розгортанням або продажем.
  • Червона лінія: Застосування, що дозволяють стеження за людиною, дискримінацію, деанонімізацію даних, що призводять до ідентифікації окремих або групових, або тих, що маніпулюють громадською думкою або підривають демократичні дебати, заборонені. Компанія SAP вважає, що вони використовуються вкрай неетично, і забороняє їх розробку, розгортання й продаж.

• Огляд та виправлення: Постійно переглядайте та переглядайте політику на основі зворотного зв'язку, гарантуючи, що вона залишається актуальною та практичною для реального світу.

• Фіналізація та схвалення: надішліть завершену політику для остаточного схвалення особами, які приймають рішення, наприклад радою директорів, за підтримки сильної рекомендації комітету.

• Реалізація та постійний нагляд: Комітет повинен контролювати реалізацію політики та періодично оновлювати її для відображення нових технологічних та етичних подій.

Створення процесу перевірки відповідності

Розробка ефективних процесів перевірки відповідності має важливе значення для забезпечення дотримання розгортанням ШІ політики та нормативних актів організації щодо етики ШІ. Ці процеси допомагають формувати довіру з користувачами та регуляторами та служать для зменшення ризиків і дотримання етичних практик у межах проєктів ШІ.

Типові процеси перевірки відповідності

• Розробити стандартизовану базу рецензування: Сформулюйте комплексну структуру, яка визначає процедури оцінки проєктів ШІ відповідно до етичних директив, правових стандартів та операційних вимог.
• Класифікація ризиків: Класифікуйте проєкти ШІ за їх етичними та регуляторними ризиками. Проекти з високим ризиком, такі як ті, що обробляють конфіденційні особисті дані або мають значний вплив на прийняття рішень, вимагають високого ступеня ретельності.
• Регулярні аудити та оцінки: виконуйте регулярні аудити для перевірки поточної відповідності, включаючи як автоматизовані перевірки, так і ручні перевірки міждисциплінарними командами.
• Залучення зацікавлених сторін: залучіть до процесу рецензування різноманітну групу зацікавлених сторін, включаючи етиків, юридичних експертів, вчених з обробки даних та кінцевих користувачів, щоб виявити потенційні ризики та етичні дилеми.
• Документація та прозорість: Зберігайте докладну інформацію про всі операції з відповідності, гарантуючи, що вони доступні та зрозумілі як для внутрішнього, так і для зовнішнього аудиту
• Механізми зворотного зв'язку та ескалації: впровадити чіткі процедури звітування та вирішення етичних проблем і питань комплаєнсу

Технічне впровадження практик етики ШІ

Інтеграція етичних міркувань у розвиток штучного інтелекту передбачає адаптацію сучасних технологічних практик для забезпечення відповідальної побудови та розгортання систем. На додаток до встановлення етичних принципів ШІ, організації іноді також створюють відповідальні принципи ШІ, які можуть бути більше зосереджені на їх конкретних галузевих і технічних випадках використання.

Ключові технічні вимоги до етичних систем ШІ

Виявлення та пом'якшення зсуву: використовуйте різноманітні набори даних та статистичні методи для виявлення та виправлення упереджень у моделях ШІ. Проведення регулярних аудитів для моніторингу упередженості.

Прозорість і пояснюваність: Розробити системи, які користувачі можуть легко зрозуміти і перевірити, використовуючи такі методи, як оцінки важливості, дерева рішень і модельно-агностичні пояснення для підвищення прозорості.

Конфіденційність і безпека даних: Переконайтесь, що дані в системах ШІ надійно керуються та відповідають законам про конфіденційність. Системи повинні використовувати шифрування, анонімізацію та безпечні протоколи для захисту цілісності даних.

Надійна і надійна конструкція: системи штучного інтелекту повинні бути міцними та надійними за різних умов, що включає в себе широке тестування та перевірку, щоб ефективно обробляти несподівані сценарії.

Постійний моніторинг і оновлення: Вести поточний моніторинг для оцінки продуктивності ШІ та дотримання етичних норм, оновлення систем за потреби на основі нових даних або змін в умовах.

Залучення зацікавлених сторін та зворотний зв'язок: залучіть зацікавлених сторін, таких як кінцеві користувачі, етицисти та експерти в області доменів, до процесів проектування та розробки, щоб збирати відгуки та забезпечувати відповідність системи етичним та операційним вимогам.

Навчання організації етиці штучного інтелекту

Комплексне навчання має вирішальне значення для того, щоб працівники розуміли етику штучного інтелекту та могли відповідально працювати з технологіями ШІ. Навчання також служить для підвищення доброчесності та ефективності інструментів та рішень організації зі штучного інтелекту.

Ключові компоненти ефективного навчального плану ШІ

• Комплексна розробка навчальних планів: використовуйте навчальну програму, яка стосується основ штучного інтелекту, етичних міркувань, питань відповідності та практичних застосувань, адаптованих до різних організаційних ролей від технічного персоналу до виконавчого менеджменту.
• Рольові навчальні модулі: Забезпечити навчальні модулі, налаштовані під унікальні потреби та обов'язки різних підрозділів. Наприклад, розробники можуть зосередитися на етичних практиках кодування, тоді як команди з продажу та маркетингу дізнаються про наслідки ШІ у взаємодії з клієнтами.
• Постійне навчання та оновлення: ШІ швидко розвивається, тому важливо тримати навчальні програми в курсі останніх розробок та найкращих практик.
• Інтерактивний та практичний досвід навчання: використовуйте кейси, моделювання та семінари для ілюстрації реальних застосувань та етичних викликів для підтримки теоретичних знань із практичним досвідом.
• Оцінка та сертифікація: проведення оцінок для оцінки розуміння та володіння працівниками етикою штучного інтелекту та розглянути можливість сертифікації, щоб визнати та мотивувати до постійного вдосконалення.
• Механізми зворотного зв'язку: Налаштуйте канали зворотного зв'язку для співробітників, щоб сприяти постійному доопрацюванню навчальних програм, забезпечуючи їх задоволення зростаючих потреб організації.

Випадки використання етики ШІ для різних ролей в організації

Кожен в організації, яка працює з додатками на основі ШІ або з двигунами відповідей ШІ, повинен бути обережним до ризику упередження ai і працювати відповідально. Прикладами використання етики ШІ для різних ролей або відділів у корпоративному бізнесі є:

• Вчені даних або інженери машинного навчання: У цих ролях рекомендується включати методи виявлення та пом'якшення упереджень, забезпечуючи пояснюваність моделі та покращуючи модель. Це включає такі методи, як метрики справедливості та контрфактичний аналіз.
• Менеджери продуктів або бізнес-аналітики: обов'язки, пов'язані з етикою ШІ, можуть відрізнятися від етичних оцінок ризиків, визначення пріоритетів дизайну, орієнтованого на користувача, і розробки чітких комунікаційних стратегій для пояснення систем ШІ користувачам і зацікавленим сторонам. Це передбачає врахування потенційних соціальних впливів, потреб користувачів та формування довіри за допомогою прозорості.
• Відділ правового забезпечення та комплаєнсу: Критичні випадки використання – це відповідність відповідним правилам (наприклад, законам про конфіденційність даних), управління юридичними та репутаційними ризиками, пов’язаними зі штучним інтелектом, і розробка стратегій для пом’якшення зобов’язань, що виникають через алгоритмічне упередження або ненавмисні наслідки
• HR-фахівці: Відділ кадрів повинен працювати з інструментами підбору персоналу на основі ШІ, які не мають упередженості та відповідають антидискримінаційним законам. Завдання включають в себе алгоритми аудиту, впровадження систем «людина-в-циклі», а також навчання етичним практикам з підбору персоналу на основі штучного інтелекту.

Органи влади з етики ШІ

Етика ШІ є складною, що формується шляхом розвитку нормативних актів, правових стандартів, галузевих практик та технологічних досягнень. Організації повинні бути в курсі змін політики, які можуть вплинути на них, і вони повинні працювати з відповідними зацікавленими сторонами, щоб визначити, які політики застосовуються до них. Наведений нижче перелік не є вичерпним, але надає відчуття, що коло політичних ресурсів організації повинні шукати, виходячи зі своєї галузі та регіону.

Приклади органів влади та ресурсів з етики ШІ

Звіт ACET Artificial Intelligence for Economic Policymaking: Це дослідження Африканського центру економічної трансформації оцінює економічні та етичні міркування ШІ з метою інформування інклюзивної та стійкої економічної, фінансової та промислової політики в Африці.

AlgorithmWatch: правозахисна організація, яка відстоює та розробляє інструменти для створення та використання алгоритмічних систем, які захищають демократію, верховенство права, свободу, автономію, справедливість та рівність.

Посібник АСЕАН з управління та етики ШІ: практичний посібник для держав-членів Асоціації держав Південно-Східної Азії з розробки, розробки та розгортання технологій ШІ етично та продуктивно.

Європейська комісія AI Watch: Спільний дослідницький центр Європейської комісії надає рекомендації щодо створення надійних систем ШІ, включаючи звіти для конкретних країн та інструментальні панелі, які допоможуть контролювати розвиток, поглинання та вплив ШІ для Європи

Звіт NTIA AI Accountability Report: Цей звіт National Telecommunications and Information Administration пропонує добровільні, регуляторні та інші заходи, які допоможуть забезпечити правові та надійні системи ШІ в США.

Принципи штучного інтелекту ОЕСР: Цей форум країн та груп зацікавлених сторін працює над формуванням надійного ШІ. У 2019 році вона сприяла принципам штучного інтелекту ОЕСР, першому міжурядовому стандарту на ШІ. Ці принципи також послужили основою для Принципів ШІ G20.

Рекомендація ЮНЕСКО щодо етики штучного інтелекту: Ця рекомендаційна база Агентства ООН була прийнята 193 державами-членами після дворічного глобального процесу консультацій з експертами та зацікавленими сторонами.

Висновок

На закінчення, етична розробка та розгортання штучного інтелекту вимагають багатогранного підходу. Як організації, рекомендується встановити чіткі етичні принципи, інтегрувати їх у процеси розробки ШІ та забезпечити постійну відповідність за допомогою надійних програм управління та навчання. Шляхом визначення пріоритетів цінностей, орієнтованих на людину, таких як справедливість, прозорість та підзвітність, підприємства можуть відповідально використовувати силу ШІ, сприяючи інноваціям, зменшуючи потенційні ризики та гарантуючи, що ці технології приносять користь суспільству в цілому.

Читати далі