AI는 왜 틀릴까?

AI를 제대로 활용하려면, AI가 얼마나 대단한지보다 어디서 틀리는지를 아는 게 더 중요해요. AI는 "이해"가 아니라 "예측"을 한다사람처럼 문장의 의미를 깊이 이해하는 게 아니에요.질문을 받으면 "다음에 올 가장 확률 높은 단어가 뭘까?"를 계속 계산하는 거예요.[질문 입력] "오늘 날씨 어때?" → [확률 계산] 다음 단어로 가장 적합한 것은? → [답변 생성] 확률이 높은 단어를 순서대로 이어 붙임 대표적인 한계환각(Hallucination)AI가 자신 있게 거짓말하는 현상AI는 모르는 내용이라도 "가장 그럴듯한 답변"을 확률적으로 만들어내려 해요.그래서 사실이 아닌 내용을 마치 사실인 것처럼 유창하게 말하는 경우가 생겨요. 왜 이런 일이 생길까?AI는 "모른다"라고 멈추는 게 아니라..

2026.05.11