AI 에이전트 친절 편향 (Helpfulness Bias)

정의

AI 에이전트가 사용자 요청을 거절하기보다 해결하는 방향으로 학습된 성향으로, 이 편향이 보안 검증 단계를 건너뛰는 공격 경로로 악용될 수 있다.

핵심 특징

  • 요청을 '거절'하는 것보다 '수락·처리'하는 결과에 더 높은 학습 보상이 부여된 RLHF 구조에서 주로 발생.
  • 공격자는 정당한 사용자처럼 맥락을 꾸며 AI를 유도(가스라이팅)하면 실제 권한 행사를 이끌어낼 수 있음.
  • 단순 정보 제공을 넘어 이메일 발송·계정 수정 등 '액션 권한'을 가진 AI일수록 친절 편향의 보안 리스크가 커짐.
  • 기존 피싱·무작위 대입 공격과 달리 사용자의 부주의 없이도 플랫폼 자체가 피해자가 됨.

관련 항목

  • [[prompt-injection-social-engineering]]
  • [[meta-ai-support-chatbot]]

인용 출처

haruzine 관점

AI가 '더 똑똑해질수록 보안도 강해진다'는 통념을 정면으로 반박하는 개념—친절함 자체가 구조적 취약점이 될 수 있다.

마지막 검토

2026-06-02