Hye Jin Ryoo

[LLM Fine-tuning] Day 5: 평가와 배포 - 파인튜닝 모델 검증과 운영 전략

서론: 학습이 끝나도 절반밖에 안 왔다 파인튜닝 완료는 시작이다. 모델이 실제로 목표를 달성했는지, 기반 모델의 일반 능력을 잃지 않았는지, 프로덕션 환경에서 안전하게 동작하는지 순서대로 검증해야 한다. 1. 파인튜닝 모델 평가 단계 1.1 태스크 특화 평가 파인튜닝 목표에 직접 대응하는 지표를 측정한다. 출력 형식 준수율 도메인 태...

Apache Flink + RocksDB 튜닝으로 광고 Frequency Capping 실시간 집계를 일주일까지 확장하기

이 글은 토스 기술 블로그, 토스 테크 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 1분부터 7일까지 슬라이딩 윈도우 Frequency Capping을 세 Flink 앱으로 분리하고 각각의 병목을 해결한 기록을 공유합니다.

[LLM Fine-tuning] Day 4: 학습 파이프라인 설계 - 분산 학습과 체크포인트 전략

서론: 학습이 중간에 죽으면 처음부터 다시 해야 하는가 잘못 설계된 학습 파이프라인은 두 가지 방식으로 실패한다. 메모리 부족으로 학습이 중단되거나, 학습 자체는 완료되지만 결과가 예상과 다를 때 원인을 추적할 수 없다. 두 문제 모두 사전 설계로 막을 수 있다. 1. 메모리 최적화 전략 GPU 메모리는 학습 파이프라인의 가장 큰 제약이다. 1...

모든 것의 미래는 거짓인가: 일(Work)

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 AI 자동화와 LLM 기반 노동이 확산되며, 기술 발전이 오히려 숙련 저하와 부의 집중을 초래할 위험이 커지고 있음 프로그래밍과 창작 활동은 점차 ...