Human-in-the-loop

Human-in-the-loop란?

Human-in-the-loop(HITL)는 AI가 작업을 자동 수행하더라도, 특정 단계에서는 사람이 검토·승인해 최종 실행을 통제하는 방식입니다.
특히 삭제, 결제, 외부 발신처럼 되돌리기 어려운 액션에서 자주 적용됩니다.

어떻게 작동하나요?

보통 "AI 제안 -> 사람 확인 -> 실행" 흐름으로 설계합니다.

1. AI가 초안 또는 실행 계획을 생성
2. 사람이 정책 적합성과 리스크를 확인
3. 승인 또는 반려 후 다음 단계 진행

왜 중요한가요?

AI 자동화의 속도를 유지하면서도, 고비용 사고를 줄이는 가장 현실적인 통제 장치입니다.
운영 관점에서는 책임 경계를 명확히 하고 감사 가능성을 높여, 장기 신뢰를 확보하는 데 도움이 됩니다.