Decoding

• 언어 모형에서 문장을 생성하는 것
• 결정론적 방법
  • 확률이 높은 문장을 생성
  • 번역, 요약 등에 활용
    • Exhaustive Search(완전 탐색)
    • Greedy Search
    • Beam Search
• 확률론적 방법
  • 다양한 문장을 생성
  • 대화 등에 활용
    • Random Sampling
    • Top-K
    • Top-P

결정론적 방법

확률론적 방법