Decoding 전략 (Greedy, Beam, Sampling) 정리

[workdd]

목표

LLM 텍스트 생성 전략의 원리와 트레이드오프 이해

세부 항목

• Greedy Decoding
• Beam Search
• Sampling (Temperature, Top-k, Top-p)
• 각 전략의 장단점 및 사용 시점
• 실습: 각 전략별 생성 결과 비교

면접 예상 질문

• Temperature가 뭔가요? 높이면/낮추면?
• Top-p vs Top-k 차이는?
• Beam search 단점은?
• 창의적인 답변 vs 정확한 답변 상황별 설정은?

참고 자료

• Hugging Face Generation 문서