Hye Jin Ryoo

[LLM Observability] Day 4: 알람과 이상 탐지 - LLM 응답 품질 저하 신호 감지

서론: 무엇이 달라졌는지 알아야 알림을 보낼 수 있다 인프라 알람은 임계값이 명확하다. CPU 90% 초과, 에러율 1% 초과. LLM 품질 알람은 다르다. “응답이 나빠졌다”는 신호는 지연이나 에러율에 나타나지 않고, 여러 간접 지표가 복합적으로 변할 때 드러난다. 1. 알람 대상 지표 계층 LLM 시스템의 알람은 세 계층으로 구분한다. 1....

모든 시대를 바꾼 GPU의 30년 연대기

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 1996년부터 2025년까지의 49종 GPU를 시대별로 정리해, 기술 발전과 시장 변화를 시각화한 데이터 스토리 각 세대는 트랜지스터 수·소비전력·...

[LLM Observability] Day 3: 분산 추적 - 에이전트 체인과 멀티스텝 RAG 파이프라인 추적

서론: 에이전트는 추적이 없으면 블랙박스다 단일 LLM 호출은 지연을 측정하면 충분했다. 에이전트는 다르다. 툴 호출이 중첩되고, 루프가 발생하고, 여러 모델이 연쇄한다. span 추적 없이는 어느 단계에서 시간이 소비됐는지, 어디서 잘못된 결과가 생겼는지 알 수 없다. 1. Span 트리 구조 설계 에이전트 실행은 트리 형태로 표현할 수 있다....

독일 경찰, GandCrab·REvil 랜섬웨어 조직의 러시아인 수장 실명 공개

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 독일 연방범죄수사청이 러시아 국적의 다닐 막시모비치 슈추킨을 GandCrab과 REvil 랜섬웨어 조직의 수장으로 지목하며 실명을 공개함 슈추킨은 ...

Adobe가 Creative Cloud 설치 여부를 감지하기 위해 hosts 파일을 수정함

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 Windows와 macOS에서 Adobe Creative Cloud 설치 시 시스템의 hosts 파일이 자동 변경되어, 웹사이트 방문 시 설치 여부...

Layers of your time : 토스와 함께한 시간을 기념하기

이 글은 토스 기술 블로그, 토스 테크 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 팀원의 시간을 진심으로 축하하는 방법을 찾고 싶었어요. 8개월 동안 사내 굿즈를 다시 만들며 고민했던 과정과, 그 안에서 발견한 기준을 들려드려요.

[LLM Observability] Day 2: LLM 평가(Evaluation) - 오프라인 벤치마크와 온라인 A/B

서론: 지연은 낮지만 답은 틀릴 수 있다 LLM 시스템은 인프라 지표가 정상이어도 응답 품질이 저하될 수 있다. 모델 교체, 프롬프트 변경, RAG 인덱스 갱신 후에 “좋아졌는가”를 측정하는 체계가 없으면 배포 결정이 감에 의존하게 된다. 1. 오프라인 평가와 온라인 평가 구분 오프라인 평가 온라인...

프로그래밍을 위한 음악

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 프로그래밍 중 집중력 향상을 돕는 믹스 시리즈 스트리밍 사이트로, 총 77개의 에피소드와 114시간 분량의 음악을 제공 각 에피소드는 전자음악·앰비...