31/12/2025
*AI 四大理念於教育、心理與社會服務之理論基礎*
*前言（Introduction）*
隨著人工智慧（Artificial Intelligence, AI）逐步進入教育、心理與社會服務領域，其應用已不僅限於行政效率或資料處理層面，而開始影響評估、決策與專業判斷等核心實務歷程。然而，上述領域皆屬高度重視人際互動、倫理責任與專業判斷之工作場域，若未妥善設計 AI 的角色與使用原則，可能導致責任模糊、價值偏移或專業自主性受限等風險。
近年來，國際政策與學術研究逐漸發展出以「人本導向（human-centered）」為核心的 AI 理念，強調人工智慧應作為支持人類判斷與決策的工具，而非取代專業角色（European Commission, 2019）。在此脈絡下，學界常以 Human-in-the-Loop（人類介入迴圈）、Augmentation（增能）、Transparency（透明性） 與 Agency （主體性／自主權）作為建構負責任與可信賴 AI 系統的重要原則（Jarrahi, 2022；Liu, 2021）。
以下將分別說明此四項理念，並結合教育、心理與社會服務脈絡加以詮釋，以作為後續研究設計與實務應用之理論基礎。
一、Human-in-the-Loop（人類介入迴圈）
~教育、心理與社會服務中的專業監督原則
Human-in-the-Loop（HITL） 指在人工智慧系統的設計、運作與應用過程中，必須保留人類持續且具實質意義的介入與監督，使關鍵判斷不完全交由自動化系統執行（European Commission, 2019）。在此架構下，AI 可協助蒐集資料、進行分析或產生建議，但其輸出結果仍須由人類專業人員加以檢視、修正或否決。
在教育、心理與社會服務領域中，專業判斷往往涉及個體發展、心理狀態與社會處境，具有高度情境性與倫理敏感性。因此，將決策完全自動化不僅存在風險，也可能削弱專業責任的歸屬。研究指出，在 Human-in-the-Loop 架構下，人類的介入可有效降低 AI 錯誤所造成的負面影響，並有助於維持決策品質與責任清晰度（Agudo et al., 2023）。因此，人類在此並非被動的系統使用者，而是負責詮釋、評估與最終裁量的專業主體。
小結
> 在教育與助人專業中，AI 可以協助判斷，但責任仍應由人承擔。
> In educational and human service contexts, AI may support decision-making processes, but responsibility and final judgment should remain with human professionals.
（European Commission, 2019；Agudo et al., 2023）
二、Augmentation（增能）
~以人為核心的能力擴展，而非專業取代
Augmentation（增能）指將人工智慧定位為擴展與強化人類能力的工具，而非取代人類角色的自動化系統。此觀點主張人機協作（human–AI collaboration），使 AI 協助處理大量資訊、重複性工作或初步分析，從而讓專業人員能專注於更高層次的判斷、反思與關係工作（Jarrahi, 2022）。
在教育與助人實務中，AI 可用於整理學習歷程、輔助紀錄分析、呈現趨勢變化或生成初步建議；然而，學習意義的詮釋、心理理解的形成，以及介入策略的選擇，仍須仰賴人類的經驗、價值與同理能力。增能取向因此強調「輔助而非取代」，避免將專業工作簡化為技術流程。
此一觀點亦有助於回應對 AI 導致專業去技能化（deskilling）的疑慮，強調其潛在功能在於支持專業反思與提升判斷品質，而非削弱專業自主性（Jarrahi, 2022）。
小結
>人工智慧的功能在於擴展專業人員的認知與分析能力，而非取代其專業角色與人際關係工作。
>AI is intended to augment professionals’ cognitive and analytical capacities rather than replace their professional roles or relational work(Jarrahi, 2022）
三、Transparency（透明性／可解釋性）
~促進理解、信任與專業反思的基礎
Transparency（透明性）指 AI 系統的資料來源、運作邏輯、推論依據與限制應能被使用者理解與檢視，並在必要時加以質疑與修正。此概念與可解釋人工智慧（Explainable AI, XAI）密切相關，是建立信任與責任的重要前提（European Commission, 2019）。
在教育與心理實務中，若專業人員無法理解 AI 為何提出特定建議，將難以評估其適切性，也可能導致過度依賴或完全排斥。研究顯示，當系統提供適度的解釋資訊時，可降低人機互動的不確定感，並促進更理性的使用態度（Liu, 2021）。
透明性亦有助於促進專業反思，使 AI 的建議成為討論與判斷的起點，而非不可質疑的權威結論。
小結
>唯有當人工智慧的運作邏輯與限制可被理解時，其結果才能成為值得信賴的專業參考依據。
Only when the logic and limitations of AI systems are understandable can their outputs serve as trustworthy inputs for professional judgment（Liu, 2021；European Commission, 2019）
四、Agency（主體性／自主權）
~維護專業自主與服務對象之選擇權
Agency（主體性）指人在 AI 支援情境中仍保有決策權、選擇權與行動自主性，不因系統建議而喪失專業判斷或倫理責任。此概念在教育、心理與社會服務領域尤為重要，因其核心價值在於尊重人的尊嚴、自主與參與權。
具備主體性的 AI 設計應允許專業人員自由決定是否採納系統建議，並能依情境調整或拒絕其輸出。此外，服務對象亦應被告知 AI 的使用方式與角色，並保有知情與同意的權利（European Commission, 2019）。
Liu（2021）指出，當使用者感受到自身仍掌握決策權時，更可能對 AI 產生適度信任，而非被動依賴或抗拒。此原則對於維持專業倫理與關係品質具有關鍵意義。
小結
> 人工智慧可以提供建議，但不應取代人類在專業實務中的決定權與道德責任。
AI may provide recommendations, but it should not replace human decision-making authority or moral responsibility in professional practice（European Commission, 2019；Liu, 2021）.
AI 在教育、心理與社會服務中的使用建議綜合原則
綜合上述四項理念，未來在教育、心理與社會服務中導入 AI 時，建議遵循以下原則：
1. 以 Human-in-the-Loop 作為基本設計原則，確保人類能介入、審視與修正 AI 輸出。
2. 將 AI 定位為增能工具，而非替代專業角色的決策系統。
3. 提供足夠透明與可解釋的資訊，使專業人員理解其運作邏輯與限制。
4. 維護專業人員與服務對象之主體性與選擇權。
5. 在專業訓練與督導中納入 AI 素養與倫理反思。
6. 避免將 AI 結果直接作為評價、分類或介入的唯一依據。
---
【適度餵養訓練AI，提供完整資料，清楚的問句對話，有助於AI做出最佳服務。】
參考文獻
Agudo, U., Liberal, K., & Arrese, M. (2023). The impact of AI errors in a human-in-the-loop process. *Cognitive Research: Principles and Implications, 8, Article 74. https://doi.org/10.1186/s41235-023-00529-3
European Commission. (2019). *Ethics guidelines for trustworthy AI*. Publications Office of the European Union.
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Jarrahi, M. H. (2022). Artificial intelligence and the future of work: Human–AI symbiosis in organizational decision making. *Journal of the Association for Information Science and Technology, 73*(4), 543–556. https://doi.org/10.1002/asi.24560
Liu, B. (2021). In AI we trust? Effects of agency locus and transparency on uncertainty reduction in human–AI interaction. *Journal of Computer-Mediated Communication, 26*(6), 384–402. https://doi.org/10.1093/jcmc/zmab013
#蘇俊賢臨床心理師 #1545歲青壯心理支持方案
