독학러의 꿈 항아리

TRACK 05. AI 연대기AI의 거짓말, 환각(Hallucination)은 정말 사라질까? (AI 연대기 #008)기준 시점: 2025년 현재 이번 글에서는 LLM의 가장 큰 숙제인 '환각' 현상이 왜 발생하며, 어떻게 진화하고 있는지 정리합니다.먼저 핵심만 보면환각은 AI가 존재하지 않는 사실을 마치 진실인 양 당당하게 말하는 현상입니다.발생 원인은 LLM이 '지식'이 아닌 '단어의 확률적 조합'을 기반으로 하기 때문입니다.최근에는 RAG(검색 증강 생성)와 추론 모델을 통해 이 오차를 줄여가고 있습니다.AI와 대화를 나누다 보면 소름 돋는 순간이 있습니다. 너무나 완벽한 논리로 존재하지 않는 역사적 사건을 지어내거나, 읽지도 않은 논문의 내용을 상세히 요약해 줄 때입니다. 우리는 이것을 '환각(H..

[AI 연대기 #005] 2022년 11월 30일: ChatGPT라는 빅뱅누구나 인공지능과 대화하는 시대, 그 찬란하고도 낯선 시작가끔 역사는 요란한 나팔 소리 없이, 아주 조용히 문을 두드리곤 합니다. 2022년 11월 30일이 바로 그런 날이었습니다. 오픈AI(OpenAI)라는 기업이 블로그를 통해 "ChatGPT라는 연구용 프리뷰 모델을 공개합니다"라는 짧은 글을 올렸을 때, 그것이 인류의 일상을 뿌리째 흔들어놓을 '빅뱅'이 될 것이라고 직감한 사람은 그리 많지 않았습니다. 하지만 그날 밤, 전 세계의 수많은 개발자와 호기심 많은 독학러들이 이 작은 채팅창에 접속해 질문을 던지기 시작하면서 세상은 단 하루 만에 다른 궤도로 진입했습니다. 1. "안녕, 넌 누구니?" - 낯선 지능과의 첫 만남우리는 ..