AI는 왜 모를 때도 그럴듯하게 말할까? – 생성형 AI 환각의 진짜 이유
AI를 쓰다 보면 한 번쯤 이런 순간을 겪게 된다.“말은 정말 그럴듯한데, 나중에 확인해 보니 사실이 아니었다.”이때 많은 사람들은 자연스럽게 이렇게 묻는다.AI가 일부러 거짓말을 한 걸까? 결론부터 말하면 그렇지 않다.이 현상은 AI의 성격 문제가 아니라, 구조적인 언어 생성 방식에서 비롯된다.1. AI는 ‘아는 것’을 말하지 않는다생성형 AI는 질문을 받았을 때 머릿속에서 사실을 꺼내오는 존재가 아니다.AI가 하는 일은 훨씬 단순하면서도 기계적이다. 지금까지의 문맥을 바탕으로“다음에 오면 가장 자연스러운 단어는 무엇인가”를확률적으로 이어 붙이는 것이다. 그래서 문제가 생긴다.정확한 정보가 없거나, 질문 자체가 애매할 때에도AI는 문장을 멈추지 않는다.모르더라도, 말은 계속 이어가야 한다.2. 왜 틀려..
AI·디지털
2026. 1. 10. 00:10