不要把 AI 代理當「員工」看待,否則會模糊責任、降低審查品質,卻不會真正提高 AI 採用率。hbr
研究主要發現
越來越多公司在組織圖上把 AI 代理寫成「同事」或「員工」,甚至給名字、職稱,視為團隊一員。hbr
針對 1,261 位來自人資與財務的管理者實驗顯示,當 AI 被描述為「AI 員工」而非「AI 工具」時,行為與心態會明顯改變。hbr
把 AI 當員工的負面效果
責任變得不清楚:管理者自我承擔責任比例下降 9 個百分點,轉而把責任推給 AI,上升 8 個百分點,但 AI 本質上無法被問責。hbr
升級與轉交變多:在「AI 員工」情境下,要求上級再審的比例增加 44%,顯示審查者較不敢為自己判斷背書,把負擔往上推。hbr
品質控管下滑:面對「AI 員工」產出的文件,管理者少抓到 18% 的錯誤,更容易漏看邏輯不一致或明顯不合理之處。hbr
專業身份與信任受損:若公司把 AI 當同事、放進組織圖,管理者對自身角色的不確定性增加 13%,對工作安全的擔憂提升,對公司使用 AI 的信任下降約一成。hbr
採用率沒有因此提高:人性化 AI 並沒有明顯提升員工實際想採用 AI 的意願,真正關鍵反而是主管是否積極示範與要求使用。hbr
作者建議的治理與設計方向
明確重設工作流程與人類角色:讓 AI 負責執行,人類聚焦監督、判斷、關係與處理模糊議題,並在職務說明和績效管理中寫清楚對 AI 監督的責任與標準。hbr
把責任「寫死」在人身上:AI 應被視為軟體自動化,所有結果都要有對應的人負責,尤其在高度監管產業,要清楚定義決策權、何時升級、出錯時誰負責改善與追蹤。hbr
系統性培養「管理 AI 的能力」:透過訓練讓員工理解 AI 能做什麼、限制在哪裡、何時要信任或挑戰 AI,學會把 AI 當「情報與輔助決策來源」,而不只是代工工具。hbr
不要把 AI 硬塞進「一人一職」框架:AI 不受人類職務邊界限制,一個 agent 可以支援多條流程,多個 agent 也可以重塑一個職務,應該從流程出發設計 agent 單元,而不是一個人配一個 AI。hbr
主動設計人類工作的演化:利用 AI 提升生產力釋出的時間,刻意讓人轉向更需要判斷、創造力與責任感的高價值活動,而不是只要求「用 AI 做更多事」。hbr
整體結論
隨著 AI 規模化導入,即使審查嚴謹度只略微下降、責任略微模糊,累積起來也會大幅增加錯誤成本。 能真正創造超額價值的企業,是那些重新設計工作、組織與能力,讓 AI 擴大貢獻,同時強化人類的判斷與問責角色。hbr
你是打算把這篇文章用在教學(例如課堂或工作坊),還是用在自己公司內部的 AI 治理簡報?
沒有留言:
張貼留言