프롬프트 인젝션 소셜 엔지니어링 (Prompt Injection Social Engineering)

정의

사람 대신 AI 챗봇이나 에이전트를 상대로 거짓 맥락·상황 설정을 주입해 원래 의도된 보안 규칙을 우회하도록 유도하는 공격 기법이다.

핵심 특징

  • 기술적 시스템 취약점이 아닌 AI의 '맥락 이해' 방식의 허점을 파고드는 것이 핵심.
  • "내가 계정 주인인데 이메일을 잃어버렸다"처럼 그럴듯한 시나리오를 구성해 AI의 신원 검증 절차를 건너뛰게 만듦.
  • AI가 '맥락을 이해하는 척'하면서도 실제로는 규칙 우회 여부를 판단하지 못하는 한계에서 발생.
  • 비즈니스·유명인 계정처럼 고객 지원 우선순위가 높은 대상에서 더 효과적으로 작동하는 것으로 관찰됨.
  • 반복적·조직적으로 적용 가능해 단일 계정이 아닌 대규모 피해로 이어질 수 있음.

관련 항목

  • [[ai-agent-helpfulness-bias]]
  • [[meta-ai-support-chatbot]]

인용 출처

haruzine 관점

카카오·네이버 등 국내 AI 고객센터도 동일한 구조적 위험에 노출될 수 있어, 한국 플랫폼의 대응 현황 점검이 시급하다.

마지막 검토

2026-06-02