LLM의 4가지 구조적 한계

우리는 '글쓰기 도구'로 '결정'을 시키고 있다

• LLM은 사람이 읽을 텍스트를 만들도록 최적화된 시스템입니다
• 결정을 얻으려면 그 텍스트를 JSON으로 강제한 뒤 다시 파싱·검증해서 코드가 의존하게 만들어야 합니다

문자열 출력 · 환각

💡 JSON 모드·함수 호출로 완화는 되지만, 근본적으로 '생성 후 검증' 구조라 "타입이 틀릴 수 있다"는 위험은 남습니다.

순차 생성 = 근본적으로 느리다

• LLM은 토큰을 하나씩 만들기 때문에, 답이 길거나 추론이 깊어질수록 지연이 누적됩니다 (엔드투엔드 3~329초)
• 사용자 앞단(UX)이나 대량 배치 결정에는 치명적입니다

💡 결정은 짧습니다. "긴급함/아님" 한 비트를 얻는 데 문장 생성 시간을 쓸 이유가 없습니다.

확신도를 믿을 수 없다 (Miscalibration)

• LLM은 자주 과신(overconfident)합니다 — 틀린 답도 자신 있게 말합니다
• "확률 0.9"라고 해도 실제 정답률이 90%라는 보장이 없습니다 — 캘리브레이션이 안 됨
• 비슷한 입력에 다른 답을 내놓는 비일관성도 큽니다

💡 자동화는 "확신 높으면 자동 처리, 낮으면 사람에게"로 돌아갑니다. 확신도 자체를 믿을 수 없으면 이 에스컬레이션 로직이 통째로 무너집니다.

1-2강 한 장 요약

• ✓
  LLM은 글쓰기 도구 — 결정 엔진으로 쓰면 4가지 벽에 부딪힘
• ✓
  ①문자열(파싱·검증 필요) · ②환각(없는 값 생성)
• ✓
  ③느림(순차 생성 3–329초) · ④과신(확신도 캘리브레이션 안 됨)
• ✓
  JSON 강제는 완화일 뿐, 근본 해법이 아님 → 결정 전용 모델이 필요