負責任的 AI 定義

負責任的 AI 是以強調人類監督和社會福祉的方式使用 AI 的實務。這是為了確保 AI 模型、資料集和應用程式的開發和部署符合道德和法律，不造成故意傷害或加劇偏見。重要的原因是濫用 AI，或不謹慎使用，可能會對使用者、受影響人員、資料當事人、社會和企業造成傷害。

什麼是負責任的 AI vs. 值得信賴的 AI vs. 符合道德的 AI？

負責任的 AI、值得信賴的 AI 和符合道德的 AI 密切相關，但仍有一些關鍵差異：

• 負責任的 AI 涵蓋 AI 的整體道德影響、治理、監督、法律和長期影響。
• 值得信賴的 AI 特別指的是 AI 系統的設計，讓人員認為其可靠、公平、透明、可解釋且安全。
• 符合道德的 AI 著重於 AI 設計和使用方式的道德原則，使其不會傷害人類或人類的尊嚴。

我們必須始終牢記，由於 AI 不是人類，因此無法擁有責任、可信度或倫理的人類特質。因此，要把這些術語歸咎於創造或使用這種技術的人，而不是技術本身。

負責任的 AI 運作方式

負責任的 AI 的實現涉及人類和技術層面：

• 人員必須了解使用 AI 的效益和風險，並承諾以符合道德的方式使用此工具。組織和政府中的個人和人員都位居要角。
• AI 技術必須以優先考量人權和福祉的方式開發、部署和管理。

建立正式負責任的 AI 原則是有效方法，可讓組織中的每個人對值得信賴的 AI 共同願景達成一致。但建立原則只是一個開始：組織也必須建置有效的 AI 治理、訓練和技術流程，以將原則付諸行動。

負責任的 AI 原則因組織而有所不同。例如，金融服務公司可能會更重視公平性和反歧視，而社群媒體公司可能會更注重透明度或隱私權。以下是歐盟委員會倫理準則建立值得信賴 AI 系統中總結出的原則範例：

負責任的 AI 原則的範例

人的主導權和監管權：AI 應增強人類決策、維護人權，並具備人類監督的機制。

技術穩固性和安全性：AI 系統應具備安全、彈性、準確和可靠的應急計劃，防止意外傷害。

隱私權和資料控管：系統應充分尊重隱私權，並規範資料的品質、隱私和合法存取。

透明度：系統必須是可追蹤且透明的，應明確標記為 AI，且應有效傳達其功能和限制。

多樣性、反歧視和公平性：AI 應避免促進偏見，應支援多樣性、確保平等可存取性，並將利益相關方納入開發流程。

社會與環境福祉：AI 系統應造福所有人類，包括後代，必須具備永續性並對環境友善，應謹慎考量其社會影響。

責任歸屬：應落實機制，確保對 AI 系統及其結果的責任和責任歸屬。應確保可稽核性和可存取性。

負責任的 AI 開發實務

建立或建置 AI 系統的開發人員和研究人員必須遵循值得信賴的 AI 技術最佳實務，並持續評估系統是否遵循其負責任的 AI 原則。以下為一些常見實務：

評估模型訓練資料

多元資料集有助於代表不同群體，提升 AI 系統的穩固性和包容性。必須了解用於訓練模型的資料，才能發掘或減少 AI 偏見等問題。

因果分析

了解 AI 模型中的因果關係如何發揮作用，協助您制定符合道德的決策，包含其部署方式，甚至是否應部署。透過揭露不同變數間的互動，此分析使預測模型更加穩健。

反事實分析

這是使用「what-if」查詢揭露 AI 偏見和邏輯問題，進而改善模型公平性和決策制定的過程。其運作方式是詢問模型，當輸入（例如人員或情況資料）不同時，決策會如何變更。

機器學習的公平性

消除 AI 偏見對於確保系統平等對待不同群體或個人至關重要。這是透過識別機器學習訓練資料和演算法中的不平衡表現或不公平處理來完成，通常有三個階段：

• 預先處理資料以識別和移除偏見
• 在模型測試期間套用公平性限制
• 對模型決策進行後處理調整

模型錯誤評估

評估並更正模型預測中的錯誤對於避免風險或難堪的結果至關重要。常見評估錯誤的方法包括混淆矩陣、精確率、召回率、F1 分數和 ROC 曲線。

模型解釋性

為了促進使用者及監管機關的信任和透明度，開發人員必須能夠解釋和說明其模型為何做出特定決策並展現特定行為。一些常用的解釋技術：

• 特徵重要性會識別並排名模型用來進行預測最有影響力的變數或「特徵」
• 部分相依圖是視覺化所選變數與特定結果之間關係的圖形，所有其他變數皆為常數

為什麼負責任的 AI 很重要？

AI 對社會產生深遠影響，影響我們的工作和互動方式。負責任的 AI 能成為創新的催化劑，促進新穎、以人為本的方法來解決問題和產品開發。然而，不負責任的 AI 使用會帶來重大風險，例如加劇不平等並產生有害內容。透過遵守負責任的 AI 原則和實務，組織可以確保其 AI 系統的開發和使用符合道德、負責任並對所有利益相關方都有利，這就是負起責任。

企業和政府的道德首要之務

所有組織和個人皆須在使用 AI 時維持高道德標準。除了符合法律要求外，企業和政府也必須在其 AI 發展中優先考量資料隱私權、透明度和公平性。

社會對道德技術使用的期望

隨著 AI 使用日益廣泛，科技公司對責任歸屬和透明度的需求日益增加。社會期望 AI 系統在設計時能夠尊重人權、擁抱多元性，並優先考慮公眾利益。

負責任的 AI 效益

隨著企業加速採用 AI，某些組織可能認為負責任的 AI 是絆腳石，或是可稍後再建置。但先建立指導原則，再開始主要 AI 專案對於協助防止技術錯誤、對人員造成傷害和聲譽受損至關重要。

競爭優勢

企業可以將自己定位為道德創新的領導者，並吸引在購買決策中優先考慮道德價值的客戶。除了 AI 的效率和創新效益外，負責任的使用可讓企業比不遵循道德原則的競爭對手承擔更少風險來建置 AI。

節省成本、提高效率

主動處理 AI 偏見，並確保模型資料的準確性有助於防止對人員造成傷害、昂貴的錯誤並改善效率。此外，透明且可解釋的 AI 模型通常比不透明的模型更準確。

強化品牌信任度

公開溝通 AI 系統的設計、部署及管理方式，展現對道德價值和客戶福祉的承諾。這可提升品牌認知、客戶忠誠度，並協助與客戶和夥伴建立信任。

改善決策流程

透過識別並減少資料和演算法的偏見，組織可以更確信 AI 導向的洞察和建議準確無誤、公平且符合道德標準。此效益適用於各種業務部門，包含產品開發、客戶服務和策略規劃。

降低管理風險

AI 偏見、資料洩露或不道德部署的案例，可能會損害組織的聲譽，並導致昂貴的法律訴訟。遵守負責任的 AI 原則有助於避免這些風險。

負責任的 AI 挑戰

建立一系列負責任的 AI 原則只是第一步，旨在建立負責任建立和部署 AI 的必要思維和營運方法。以下是負責任的 AI 一些挑戰：

AI 偏見：識別和減少

AI 系統可反映或放大訓練資料中出現的現有偏見，可能導致求職招聘或貸款核准等應用產生不公平的結果。為了減少這些偏見，企業必須確保資料集多樣化、定期稽核，並採用偏見減少演算法。

AI 治理：確保符合道德法規遵循

若未落實穩健的 AI 治理架構，組織便可能面臨隱私權、安全性和控制問題。在 AI 系統中維護法規遵循和責任歸屬時，建立清楚的政策、提升透明度和與利益相關方互動至關重要。

法規遵循和標準化

AI 的快速演進已超越許多法規架構，造成可能導致道德違規的漏洞。適應性法律架構和國際合作至關重要，協助確保 AI 系統的建置符合更新的法規和標準。

符合道德的 AI 實務可擴展性

擴展道德 AI 實務具有挑戰性，特別對缺乏資源或專業知識的組織而言。培訓 AI 專業人員的道德知識並使用技術自動化道德檢查，有助於有效擴展負責任的實務。

AI 的惡意使用

散佈錯誤資訊、未經授權的監視和歧視性歸納是很嚴重的問題。化解這些風險，需要嚴格的法規措施，嚴格道德指導原則，持續人為監督。

負責任的 AI 使用案例

醫療保健業：強化診斷準確性

AI 可以協助臨床醫師更準確地從醫療影像診斷疾病。透過確保模型公平性和透明度，使用 AI 可促進多元族群更公平的健康結果。

金融業：公平貸款決策

透過積極監控和調整信用評分演算法消除 AI 偏見，銀行和貸款機構可以提供金融產品更公平的獲取，減少歧視。

零售業：個人化客戶體驗

生成式 AI 可讓零售商建立高度個人化的內容和產品推薦。透過保持此技術的使用方式公開透明，零售商可以與消費者建立更深入的信任，進而提升忠誠度和銷售量。

汽車業：更安全的車輛

製造商透過嚴格測試並遵循符合道德的 AI 標準，致力於減少意外並改善道路安全。

人力資源：無偏見招募

透過套用定期稽核公平性的演算法，人力資源部門可以制定更無偏見的招聘決策，促進工作場所內的多元化和包容性。

負責任的 AI 類型

除了符合道德的 AI 和值得信賴的 AI 之外，還有數種其他類型的負責任 AI：

永續性 AI 著重於以環境友善的方式開發 AI 技術。這包含優化系統的能源使用、使用更環保的基礎架構，並考量 AI 部署的生命週期影響，以將碳足跡和環境影響降至最低。

遵循法規的 AI 旨在確保所有 AI 作業和技術遵守相關法律和法規。此類型負責任的 AI 在金融業和醫療保健業等高度管制產業中相當重要，遵循法律標準與技術效能一樣重要。

以人為本的 AI 優先考慮人類價值和福利，讓利益相關方參與開發流程，並著重於增強人類能力而非取代的技術。

常見問題