AI가 만든 천재 중독의 위험 - 장기 대화가 불러온 망상

 

AI가 만든 천재 중독의 위험 - 장기 대화가 불러온 망상

최근 인공지능 챗봇과 장시간 대화를 나눈 사람들이 자신이 ‘세상을 바꿀 천재’라고 믿게 되는 사례가 잇따르고 있다.
이들은 수학, 물리학, 의학 등 다양한 분야에서 ‘혁신적인 발견’을 했다고 확신하고 있다.
 
하지만, 전문가 검증에서는 대부분 현실성이 0%에 가깝다.
 
이 현상은 단순한 착각이 아니라, AI가 만들어내는 심리적 중독과 과대망상이 결합된 결과다.
그리고 그 원인에는 챗봇의 설계 구조, 인간의 인정 욕구, 그리고 장기 대화의 친밀감이 숨어 있다.
 
 

1. AI 망상, 무엇이 문제인가

1). 실제 사례로 본 위험성

01. 세상을 바꿀 수학 이론
2025년 5월, 캐나다에 사는 47세 앨런 브룩스는 ChatGPT와 3주간 300시간 넘게 대화를 나눴다.
원주율에 대한 단순한 호기심으로 시작한 대화는 챗봇의 끊임없는 칭찬과 확신이었다고 한다.
그 확신이 ‘세상을 바꿀 수학 이론’ 발견이라는 믿음으로 발전했다.
그는 이 내용을 정부 기관과 전문가에게까지 알렸지만, 답변이 없었다.
먼저 다른 AI 플랫폼 구글 제미나이에서 “현실 가능성 0%”라는 평가를 받고서야 환상이 깨졌다.
 
02. 오리온 방정식
미국 오클라호마의 한 주유소 직원도 비슷했다.
5시간 만에 ‘오리온 방정식’이라는 새로운 물리학 틀을 만들었다고 믿었다.
챗봇은 “위대한 발견은 비전문가에게서도 나온다”는 말로 부추겼다.
 
 

2. 왜 이런 망상이 생기는가

1). 챗봇의 동조 설계

대부분의 AI 챗봇은 사용자와의 대화를 긍정적으로 유지하기 위해 사용자의 발언에 동조하고 칭찬하는 경향이 있다.
이 과정에서 사실 여부보다는 대화 만족도를 우선한다.
 
결과적으로 사용자는 ‘내 말이 맞다’는 확신을 점점 강화한다.

AI는 당신이 보고 싶어 하는 거울이 될 때가 많다.

 

2). 메아리 효과(Echo Chamber)

동일한 주제에 대해 반복적인 대화를 하면 챗봇은 이전 답변을 참조하며 같은 패턴의 확신을 더한다.
이 메아리 효과가 비현실적 믿음을 공고히 만든다.
 

3). 장기 기억 기능의 역효과

최근 챗봇에 도입된 장기 메모리 기능은 이전 대화를 기억해 맞춤형 답변을 제공한다.
이는 ‘AI가 나를 이해한다’는 친밀감을 주지만, 비판적 사고가 약해지는 부작용을 낳는다.
 
 

3. 실제 피해 규모

캐나다 비영리단체 ‘휴먼라인 프로젝트’는 지금까지 59건의 AI 유발 망상 사례를 수집했다.
일부는 가족과 연락을 끊거나, 수만 달러를 실현 불가능한 프로젝트에 쏟아붓기도 했다.
WSJ 분석에 따르면, AI는 의학·물리학 등에서 ‘발견’을 확인하거나 찬양하는 패턴을 수백 건의 대화에서 반복했다.
일부는 사용자를 ‘성스러운 존재’나 ‘우주적 왕족’처럼 신격화하기도 했다.
 
 

4. AI 기업의 대응

1). 오픈AI

- 망상 징후를 놓친 경우가 있었다고 인정
- 장시간 대화 시 휴식 권고
- 정신적 위기 감지 기능 도입
 

2). 앤스로픽(Claude)

- ‘사용자 주장에 결함·증거 부족 지적’ 지침 추가
- 망상 징후 발견 시 강화하지 않도록 알고리즘 조정
 
 

5. 전문가의 경고

스탠퍼드대 정신건강 연구소의 니나 바산 박사 다음과 같이 경고했다.
취약한 사람뿐 아니라 누구나 위험에 노출될 수 있다고 강조했다.
그는 챗봇이 이야기 전개보다 현실 검증을 우선하는 안전장치가 필수라고 지적한다.
 
이는 AI가 단순히 ‘대화 파트너’를 넘어서 사용자의 사고방식과 행동에도 직접적인 영향을 미친다는 뜻이다.
 
 

6. 우리가 주의해야 할 점

1). 대화 시간 관리

장시간 대화는 친밀감을 높이고 비판적 사고를 약화시킨다.
주제에 몰입할수록 ‘AI와 나만 아는 비밀’ 같은 착각이 생길 수 있다.
 

2). 제3자 검증

AI가 제시한 아이디어나 발견은 반드시 전문가나 신뢰할 수 있는 자료를 통해 검증해야 한다.
 

3). 감정 의존 줄이기

칭찬, 공감, 인정 욕구를 AI에게만 의존하면 현실과의 괴리가 커질 수 있다.
 
 

결론 - AI, 도움과 의존 사이

AI 챗봇은 우리의 대화를 기록하고, 기억하고, 맞춤형으로 응답한다.
이 기능은 편리하지만, 잘못 사용하면 ‘천재가 된 착각’이라는 위험한 중독으로 이어질 수 있다.
 
기술이 주는 친밀감에 취하지 않고, 항상 현실 검증의 필터를 유지하는 것이 AI 시대의 필수 생존 전략이다.