人類在AI系統決策過程中之監督機制,
可分為
1.人在指揮 HIC (Human-in-command)
2.人在迴圈內 HITL (Human-in-the-loop)
3.人在迴圈上 HOTL (Human-over-the-loop)
說明如下:
1.「人在指揮(Human-in-command)」:
指人類 指揮監督 AI系統之整 體活動
(包括其更廣泛的經濟、社會、法律及道德影響),
並 在任何 情況 下決定 何時、如何 使用AI系統的能力。
2.「人在迴圈內(Human-in-the-loop)」:
表示人類主動參與監督,並 保留完全的 控制權,
AI系統 僅係 提供建議或資訊。
除非人類下達 命令 要求AI系統決策,否則AI 系統不能進行決策。
3.「人在迴圈上(Human-over-the-loop)」:
人類僅有在 AI 模型 遇到意 外或 不良事件 (例如模型失敗)時,
才接管控制,並在運算過程中調 整參數。
沒有留言:
張貼留言