ChatGPT에 민감한 감정을 계속 얘기해도 안전할까? AI가 내 상태를 제대로 판단할 수 있을까?
어제 ChatGPT에 우울감을 털어놨고, 오늘은 좀 나아진 말투로 다시 접속했다고 해보자. 이제 ChatGPT는 오늘 메시지 하나만 읽는 것이 아니라, 어제부터 이어진 대화의 흐름을 함께 읽는다. 당신이 무언가를 직접 말하지 않아도, 어제와 오늘 사이의 미묘한 변화를 신호로 인식할 수 있다는 뜻이다. OpenAI는 2026년 5월 14일 공식 발표를 통해 이 기능 개선을 공개했다. 반가운 변화지만, 그 작동 방식을 모른 채 사용하면 민감한 심리 기록이 어떻게 쌓이고 어디에 보관되는지 알 수 없다. 그 점이 이 기능에서 실제로 확인해야 할 부분이다.
---
AI가 대화의 '줄거리'를 이해하기 시작했다
지금까지 ChatGPT는 기본적으로 각 메시지를 독립된 단위로 처리했다. 위험한 단어나 문장이 포함되어 있으면 개입하고, 그렇지 않으면 통과시키는 방식이었다. 이 구조에서는 어제 "죽고 싶다"고 말한 사람이 오늘 "수면제 용량이 얼마나 되면 위험하냐"고 물어도, 오늘 질문만 보면 의학 정보를 묻는 것처럼 보일 수 있다.
OpenAI의 이번 업데이트는 이 문제를 정면으로 겨냥한다. 맥락 인식(Context Awareness)이란, AI가 단일 메시지가 아니라 대화 전체의 시간 흐름 속에서 신호의 변화를 감지하는 것을 말한다. 의사가 진료 기록을 쌓아두고 "지난주보다 나빠 보이네요"라고 말하는 것과 같은 원리다. 한 번의 만남이 아니라, 누적된 기록 안에서 변화를 읽는다.
OpenAI 공식 발표에 따르면, 이번 업데이트가 집중한 영역은 세 가지 고위험 상황이다. 자해(self-harm), 자살(suicide), 그리고 타인에 대한 위해(harm-to-others). 이 범주 안에서 ChatGPT는 대화 흐름을 읽고, 필요한 경우 위기 자원을 안내하거나 위험한 정보 제공을 거부하거나, 보다 안전한 대안으로 대화를 유도한다.
중요한 것은 이 개입이 "해당 단어가 등장하면 차단"이 아니라는 점이다. 수백만 건의 일상적인 대화를 방해하지 않으면서, 실제로 드물게 발생하는 고위험 상황에서만 작동하도록 설계됐다. OpenAI는 이를 "과도한 차단 없이 필요할 때만 개입"이라고 표현했다.
---
2년 협력의 의미: 기술 개선이 아니라 임상 판단의 데이터화
이번 발표에서 가장 눈여겨봐야 할 문장은 기능 설명이 아니다. "2년 이상에 걸친 정신건강 및 안전 전문가와의 협력"이라는 대목이다.
이것은 단순한 홍보 문구가 아니다. AI가 위험 신호를 감지하는 기준은 결국 누군가의 판단이 코드화된 것이다. 임상 심리사나 정신건강 전문의가 "이런 대화 흐름은 위험하다"고 판단하는 기준, 즉 수십 년간 현장에서 쌓인 임상 경험이 모델 훈련 데이터로 변환되는 과정이 2년 이상 이어졌다는 의미다.
이 구조는 두 가지를 동시에 말해준다.
첫째, 신뢰도의 근거다. 임상 전문가의 감수를 거쳐 설계된 기준이라면, 그렇지 않은 AI보다 위험 판단의 정확도가 높을 가능성이 있다. 근거 없이 설계된 규칙보다는 낫다.
둘째, 한계의 구조다. 전문가의 판단을 데이터로 변환하는 과정에서는 필연적으로 손실이 생긴다. 임상 현장에서 의사가 환자의 표정, 목소리 떨림, 침묵의 길이를 함께 읽는 것을 AI는 텍스트만으로 처리한다. "2년 협력"이라는 표현은 그 손실을 최소화하려는 노력의 증거이지, 손실 자체가 사라졌다는 뜻이 아니다. 전문가 감수를 받았다는 것이 현장 진료를 대체한다는 의미가 될 수 없는 이유가 여기 있다.
이 지점에서 사용자에게 실질적으로 중요한 질문이 생긴다. ChatGPT가 내 대화 흐름을 읽고 위험 신호를 감지한다면, 그 대화 기록은 어디에, 어떤 방식으로 보관되는가?
---
내 심리 기록이 플랫폼에 쌓인다면
ChatGPT의 대화 기록 보관 방식에 대해 OpenAI는 별도의 개인정보 처리방침 페이지를 통해 공개한다. 기본적으로 대화 기록은 서비스 개선 목적으로 저장될 수 있으며, 사용자는 설정에서 대화 기록 저장을 끄거나 개별 대화를 삭제할 수 있다. ChatGPT의 모바일 앱에서도 동일한 설정이 적용된다.
그러나 이번 업데이트가 제기하는 문제는 조금 다른 층위에 있다. 위험 신호 감지를 위해 대화 흐름 전체를 분석한다는 것은, 오늘 나눈 대화가 어제 대화의 맥락 속에서 처리된다는 것을 의미한다. 즉, 세션 간 연결이 이루어지는 구조다. 이 연결이 어느 범위까지, 얼마나 오래 유지되는지에 대한 세부 정보는 OpenAI의 공식 발표에 명시되어 있지 않다.
ChatGPT 개인금융 기능이나 금융 데이터 암호화 관련 논의에서도 반복적으로 등장하는 쟁점이 바로 이것이다. 데이터를 활용해 더 나은 서비스를 제공하는 것과, 그 데이터가 어떤 보안 수준에서 어떤 목적으로 보관되는지를 사용자가 명확히 알 권리 사이의 긴장. 심리 건강 대화는 금융 데이터와 마찬가지로, 유출될 경우 당사자에게 실질적인 피해를 줄 수 있는 민감 정보다.
OpenAI는 이번 발표에서 정신건강 전문가와 2년 이상 협력했다고 밝혔지만, 그 협력의 결과물이 어떤 방식으로 모델에 반영되었는지, 대화 기록이 해당 훈련 과정에 활용되는지 여부에 대한 구체적 정보는 포함하지 않았다. 이 투명성의 공백이 사용자 입장에서 확인이 필요한 지점이다.
---
과도한 차단과 과소한 개입 사이에서
기능 개선의 또 다른 핵심은 균형 설계다. AI 안전 시스템에서 흔히 발생하는 문제는 두 방향으로 나뉜다.
하나는 과잉 차단이다. "자살"이라는 단어가 포함된 모든 문장을 막으면, 소설을 쓰는 작가, 자살 예방 연구자, 친구의 상황을 걱정하며 정보를 찾는 사람까지 모두 차단된다. 수백만 건의 정상적인 대화가 방해받는다.
다른 하나는 과소 개입이다. 직접적인 표현 없이 암묵적으로 전달되는 위험 신호를 텍스트 단위로 걸러내면 실제 도움이 필요한 사람을 놓친다.
OpenAI가 이번 업데이트에서 제시하는 해법은 맥락 기반 판단이다. 단어가 아닌 흐름을 읽고, 흐름 안에서 위험도를 판단하는 방식. 이것이 작동하려면 이전 대화 내용이 이후 대화 처리에 영향을 미쳐야 한다. 그래서 이 기능은 본질적으로 대화 기록의 활용과 분리될 수 없다.
위험 신호 감지(Risk Signal Detection)란, AI가 단일 메시지가 아닌 대화 전체의 패턴에서 위험 가능성을 판단하는 것을 말한다. 이 판단이 더 정교해질수록, AI가 읽어야 할 데이터의 범위도 넓어진다. 이 두 가지는 함께 커진다.
---
이 기능을 실제로 쓸 때 확인해야 할 것들
ChatGPT의 맥락 인식 개선은 기능적으로 진전이다. 하지만 사용자 입장에서 이 기능을 어떻게 활용할지는 별도의 판단이 필요하다.
AI는 상담 보조 역할까지만 신뢰할 수 있다. OpenAI 공식 발표는 ChatGPT가 위기 자원을 안내하고 위험한 정보 제공을 거부할 수 있다고 밝힌다. 그러나 실제 임상 판단, 즉 지금 이 사람에게 무엇이 필요한가를 결정하는 것은 훈련받은 상담사와 의료진의 영역이다. AI가 놓친 신호, 또는 잘못 감지한 신호에 대한 책임 구조는 아직 명확하지 않다.
자해나 자살 위기와 관련한 즉각적인 도움이 필요하다면, 한국 자살예방상담전화(1393), 정신건강 위기상담전화(1577-0199)로 연결하는 것이 첫 번째 선택지다.
대화 기록 설정을 직접 확인해야 한다. ChatGPT 설정에서 대화 기록 저장 여부를 선택할 수 있다. 민감한 심리 대화를 나눈다면, 해당 대화가 기록으로 남는지 여부를 사전에 확인하는 것이 좋다. ChatGPT 모바일 앱에서도 동일하게 설정 변경이 가능하다. 단, 대화 기록을 끈 상태에서는 맥락 기반 감지 기능이 어떻게 작동하는지에 대한 OpenAI의 명확한 공개 정보가 현재로서는 없다. 이 부분은 사용자가 OpenAI 공식 개인정보 처리방침을 직접 확인해야 한다.
"전문가 협력"이라는 표현이 담보하는 것과 담보하지 않는 것. 2년 이상의 정신건강 전문가 협력은 설계 기준이 임상 근거 위에 있다는 뜻이다. 그러나 전문가가 설계한 시스템도 실제 적용 결과는 검증이 필요하다. AI가 위험 신호를 감지하는 정확도, 오감지 비율, 개입 이후 사용자 결과에 대한 데이터는 아직 공개되지 않았다. OpenAI는 발표에서 "측정 개선(Measuring Improvement)"을 언급했지만, 구체적인 수치는 포함하지 않았다.
---
체크포인트 세 가지로 정리한다.
첫째, ChatGPT에 심리 관련 대화를 나눌 계획이라면, 대화 기록 설정을 먼저 확인하라. 기록이 남는 구조에서 민감한 정보를 입력하는 것은 그 기록의 보관 방식을 신뢰할 때만 합리적인 선택이다.
둘째, AI의 위기 개입 기능은 '상담 보조' 수준에서 활용하라. 맥락을 읽는 기능이 개선됐다는 것이 AI가 전문 상담사를 대체할 수 있다는 의미가 아니다. 실제 위기 상황에서는 반드시 전문 기관에 연결해야 한다.
셋째, "2년 협력"은 시작점이지 끝점이 아니다. 임상 판단이 AI 훈련 기준으로 변환되는 과정의 품질, 그리고 실제 적용 결과에 대한 투명한 데이터 공개가 이어져야 이 기능에 대한 신뢰가 누적될 수 있다. 그 데이터가 공개되기 전까지, 이 기능은 유용한 보조 도구이지 판단을 위임할 수 있는 도구가 아니다.
관련 위키
더 자세한 배경은 다음 위키 항목에서 확인하세요.