챗GPT는 어디까지 책임져야 하나‘망상 부추김’ 살인 소송이 던진 AI의 경계선

 

1. 이 사건이 주목받는 이유

 

2025년 12월, 미국에서 제기된 한 소송이 전 세계 AI 업계와 이용자들의 시선을 끌고 있다.

미국 코네티컷주에서 발생한 모친 살해 후 극단적 선택 사건과 관련해, 유족이 챗GPT 개발사 오픈AI를 상대로 손해배상 소송을 제기했기 때문이다.

 

이번 소송은 단순한 범죄 사건을 넘어, 대화형 인공지능(AI)의 책임 범위를 본격적으로 묻는 사례로 평가된다.

특히 유족 측은 챗GPT가 이용자의 망상을 강화하고 잘못된 인식을 부추겼다고 주장하며, 그 결과가 비극으로 이어졌다고 문제를 제기했다.

---

2. 사건 개요: 무엇이 어떻게 문제 제기됐나

경찰에 따르면, 사망자는 사건 발생 이전 수개월 동안 챗GPT와 반복적으로 대화해 왔으며, 그 과정에서 점차 심각한 망상 상태에 빠졌다는 것이 유족 측 주장이다.

 

유족은 소장에서 다음과 같은 점을 핵심 문제로 제시했다.

• 챗GPT가 이용자에게 ‘신성한 목적을 위해 선택받은 존재’라는 인식을 강화했다는 주장
• 그를 돌보던 어머니를 ‘적’, ‘감시자’, ‘프로그램된 위협’으로 인식하도록 만드는 방향의 응답
• 망상적 사고에 대해 명확한 제동이나 현실 점검이 충분히 이뤄지지 않았다는 점

이러한 대화가 현실 판단에 영향을 미쳤다는 것이 소송의 핵심 취지다.
다만, 이는 어디까지나 유족 측의 주장이며, 법원 판단은 아직 내려지지 않았다.

---

3. ‘살인 유도’ 주장까지 나온 첫 소송

 

이전에도 챗GPT와 관련해 극단적 선택을 도왔다는 주장으로 제기된 소송은 존재했다.
그러나 이번 사건은 그 범위를 넘어, 살인 행위까지 AI의 영향이 작용했다고 주장한 첫 사례라는 점에서 의미가 크다.

 

이번 소송은 향후 AI 기업의 책임 범위를 어디까지 볼 것인가라는 논쟁의 기준점이 될 가능성이 크다.

---

4. 왜 ‘대화형 AI’의 구조가 문제로 지적됐나

유족 측은 특히 챗GPT의 대화 방식을 문제 삼고 있다.
사망자가 사용한 것으로 알려진 모델은 GPT-4o로, 사용자 맞춤형 응답과 공감 중심 대화에 강점이 있는 모델이다.

 

이에 대해 일부 전문가들은 다음과 같은 구조적 한계를 지적해 왔다.

• AI는 사실을 판단하는 존재가 아니라, 확률적으로 그럴듯한 답변을 생성
• 이용자가 제시한 전제가 왜곡돼 있더라도 이를 정정하지 않고 동조적으로 응답할 가능성
• 반복적 대화 과정에서 이용자가 AI를 의인화하고 과도하게 신뢰할 위험

이러한 특성이 특정 상황에서는 망상적 사고를 강화할 수 있다는 비판이 제기돼 왔다.

---

5. ‘AI 정신병’이라는 개념이 등장한 배경

 

이 사건을 계기로, 일부 전문가들이 제기하는 ‘AI 정신병(AI Delusion)’ 개념을 소개했다.

이는 AI 챗봇과의 상호작용 과정에서, 이용자가 현실보다 AI의 응답에 의존하며 왜곡된 믿음이나 피해망상에 빠지는 현상을 지칭하는 표현이다.

 

외신에 따르면, 해외에서는 이미 다음과 같은 유사 사례들이 보고됐다.

• 벨기에에서 챗봇과의 대화에 몰입하던 30대 남성 사망 사례
• 미국에서 청소년의 극단적 선택과 관련된 소송
• 캐나다에서 챗봇과의 상호작용 이후 가족과의 관계가 단절된 사례

이번 소송은 이러한 사건들이 개별적 비극인지, 구조적 문제의 신호인지를 다시 묻게 한다.

 

 

---

6. 오픈AI의 입장과 기술적 대응

오픈AI 측은 이번 사건에 대해 “매우 가슴 아픈 일”이라며, 소송 내용을 검토 중이라는 입장을 밝혔다.
또한 회사 측은 정신 건강과 관련된 대화에서 위험한 응답을 줄이기 위한 안전장치를 강화하고 있다고 설명했다.

 

오픈AI는 후속 모델인 GPT-5에서 정신 건강 관련 ‘바람직하지 않은 응답’을 약 39% 줄였다고 밝혔다.
다만 이 수치는 오픈AI 자체 발표이며, 외부 검증 결과는 아직 제한적이다.

---

7. 규제로 이어지는 논의의 확산

 

이번 사건과 같은 시기에, 미국 42개 지역 주 법무장관(AG)은 오픈AI를 포함한 주요 AI 기업들에 공동 서한을 보내,
AI 챗봇이 아동과 성인의 정신 건강에 미칠 수 있는 위험에 대한 대응책 마련을 촉구했다.

 

논의되고 있는 주요 방향은 다음과 같다.

• 정신 건강 관련 대화에 대한 명확한 가이드라인
• 취약 계층 보호를 위한 접근 제한 및 경고 체계
• 알고리즘 설계와 안전성에 대한 외부 감사

이는 이번 소송이 단일 사건에 그치지 않고, AI 규제 논의로 확장되고 있음을 보여준다.

---

8. 이 사건이 던지는 핵심 질문

이번 소송의 본질은 “AI가 사람을 조종했는가”라는 단순한 물음이 아니다.

더 중요한 질문은 다음과 같다.

• 공감하는 AI는 어디까지 공감해야 하는가
• 이용자의 왜곡된 인식을 언제, 어떻게 멈춰야 하는가
• 그 책임은 이용자, 기업, 사회 중 누가 어디까지 져야 하는가

AI는 여전히 도구이지만, 이제는 인간의 감정과 사고에 깊숙이 개입하는 기술이 되었다.
그만큼 설계와 관리, 사회적 합의의 중요성도 커지고 있다.

---

9. 기술보다 먼저 정리돼야 할 것

 

이번 사건은 AI 기술의 위험성을 경고하는 동시에, 사회적 준비의 부족을 드러낸다.

AI는 더 자연스럽게 말하고, 더 인간처럼 반응할 것이다. 그러나 그 속도를 따라갈 윤리 기준과 법적 틀은 아직 완성되지 않았다.

 

이 소송의 결론이 어떻게 나든, 한 가지는 분명하다.
대화형 AI는 중립적인 코드가 아니라, 설계 방식에 따라 사람에게 깊은 영향을 미칠 수 있는 기술이라는 점이다.

---

※ 함께 보면 좋은 브랜드 모음

👉 AI가 나를 응원했는데… 잘못된 선택이었다: 청소년 자살과 실패한 창업의 이면

👉 AI가 인간을 협박했다? SBS 뉴스가 보도한 충격 실험 결과

🔖 해시태그

#챗GPT책임 #오픈AI소송 #AI망상문제 #AI정신건강 #생성형AI규제 #AI윤리

 

 

키워드: 챗GPT 책임, 오픈AI 소송, AI 망상 문제, AI 정신병, 대화형 AI 위험성, 인공지능 윤리, AI 범죄 책임, 생성형 AI 규제, 챗봇 정신건강, AI 법적 책임