VIBECODING 365 / DICTIONARY
환각
Hallucination (AI)
DEFINITION
무엇이 환각인가
AI에서의 환각(hallucination)은 모델이 그럴듯해 보이지만 실제로 틀린 정보를, 자신 있게 사실인 것처럼 생성하는 현상이다. Cursor Learn은 「모르는 주제를 아는 척하며 대화를 밀어붙이는 것」에 비유한다. 코딩에서는 존재하지 않는 API·메서드·설정 키를 제안하거나, 라이브러리 문법을 섞거나, knowledge cutoff 이후 패키지에 대해 틀린 해법을 내는 경우가 대표적이다.
왜 생기는가
LLM은 학습한 패턴으로 다음 토큰을 예측한다. 모르는 내용에서도 「모름」을 말하기보다, 본 패턴상 가장 그럴듯한 연속을 이어 쓰는 경향이 있다. 강력한 자동완성에 가깝다는 Cursor의 비유가 이 점을 잘 드러낸다. 학습 데이터 컷오프 이후 정보는 모델 가중치만으로는 알 수 없고, 컨텍스트에 근거가 없으면 추측성 출력이 늘어난다. 학술 문헌에서는 입력·출처에 충실하지 못한 faithfulness 문제와, 세계 지식·검증 가능 사실과 어긋나는 factuality 문제를 구분해 논의하기도 한다.
코딩·바이브코딩에서의 모습
Cursor Learn이 드는 예시는 React에서 없는 debounce import, pandas에 없는 remove_outliers, 유효하지 않은 package.json 필드 같은 「거의 맞는 듯한」 제안이다. 에이전트가 파일·터미널을 다루면 환각이 잘못된 패치·가짜 패키지 설치 시도로 이어질 수 있다. Anthropic 에이전틱 프롬프트 가이드는 코드를 열어보기 전에 추측하지 말라는 식의 조사 우선 지시를 환각 완화 패턴으로 제시한다.
다루는 법
만능 해결은 없다. Cursor Learn은 검증 마인드—제안은 시작점이지 최종 답이 아님—과 에디터 피드백(존재하지 않는 import 오류를 다시 모델에 넘기기)을 강조한다. 실무에서는 공식 문서·타입체크·테스트·RAG/도구로 근거를 붙이고, 컨텍스트 엔지니어링으로 「확인된 자료만」 창에 넣는 방식이 쓰인다. 「2026년에 완전히 해결됐다」 같은 단정은 두지 않는다.
관련 개념
환각은 LLM·프롬프트·컨텍스트 엔지니어링과 맞닿아 있다. 근거를 창에 넣고, 도구로 파일을 읽게 하고, 테스트를 돌리게 하는 흐름이 「자신 있는 추측」을 줄이는 실무 대응이다. official_url은 코딩 에이전트 학습 자료인 Cursor Learn의 Hallucinations 페이지를 둔다.
ENGLISH
Hallucination (AI)
EXAMPLE
모델이 import { debounce } from "react"를 제안하지만 React는 debounce를 export하지 않는다. 에디터 오류를 보고 lodash/직접 구현으로 고친다.
관련
이어서 볼 문서
RELATED TERMS
연관 용어
Large language model (LLM)
방대한 텍스트로 학습해 언어를 생성·변환하는 AI 모델. 맥락을 보고 다음 언어 조각을 예측하며, Transformer 계열 딥러닝이 흔하다. 바이브코딩 도구의 코드 생성 엔진이다.
concept 프롬프트 엔지니어링Prompt engineering
LLM에 원하는 출력을 얻기 위해 지시문(프롬프트)을 체계적으로 설계·평가·개선하는 실무. 명확한 지시, 예시(few-shot), XML 구조, 역할, 긴 컨텍스트 배치, thinking/체이닝이 핵심이며, 모든 문제가 프롬프트만으로 풀리지는 않는다.
concept 컨텍스트 엔지니어링Context engineering
다음 스텝에 필요한 정보만 LLM 컨텍스트 창에 채우는 설계 기술. Karpathy는 ‘delicate art and science of filling the context window’로 정의했고, write/select/compress/isolate 같은 패턴으로 실무화된다.