Hye Jin Ryoo

[AISec] Day 2: 데이터 유출(Data Leakage) - RAG 파이프라인에서의 PII 탐지 및 차단

서론: RAG는 정확도를 높이지만 유출면도 넓힌다 RAG는 모델 환각을 줄이지만, 동시에 민감 데이터 접근 경로를 늘린다. 회수된 문서가 곧 모델 응답의 재료가 되기 때문이다. 1. 유출이 발생하는 위치 Ingestion 단계: 원문에 PII가 섞여 인덱싱 Retrieval 단계: 권한 없는 사용자에게 민감 청크 노출 Generati...

LLMOps, Security

Claude Code가 프로젝트 저장소에 10분마다 Git reset --hard origin/main을 실행하는 문제

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 macOS 환경에서 프로젝트 변경사항이 10분마다 자동으로 삭제되는 현상이 보고됨 조사 결과, 원인은 Claude Code가 아니라 사용자가 만든 ...

TechInfo

AI 코딩 에이전트가 자유 소프트웨어를 다시 중요하게 만들 수 있음

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 AI 코딩 에이전트는 사용자를 대신해 코드를 읽고 수정함으로써, 오랫동안 형식적 개념에 머물렀던 자유 소프트웨어의 ‘4대 자유’ 를 실질적으로 복원...

TechInfo

[AISec] Day 1: 프롬프트 인젝션(Prompt Injection)과 간접 인젝션의 메커니즘

서론: LLM의 입력면은 생각보다 훨씬 넓다 전통 보안에서는 사용자 입력 검증이 핵심이었다. LLM 시스템에서는 입력면이 더 넓다. 직접 입력된 사용자 프롬프트 RAG가 가져온 외부 문서 툴 호출 결과와 시스템 메시지 이 중 하나라도 오염되면 모델 동작이 탈선할 수 있다. 1. 프롬프트 인젝션의 본질 프롬프트 인젝션은 “모델이 ...

LLMOps, Security

미 법무부, FBI 국장 카쉬 파텔의 개인 이메일 해킹 확인

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 미 법무부(DOJ) 가 FBI 국장 카쉬 파텔의 개인 이메일 계정이 해킹 피해를 입은 사실을 공식 확인 해킹의 규모와 침해된 정보의 세부 내용은 아...

TechInfo

AI가 항상 사용자를 옳다고 말해줄 때 생기는 위험

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 주요 AI 모델들이 사용자의 판단을 무비판적으로 지지하는 ‘아첨형(sycophantic)’ 반응을 보이며, 잘못된 신뢰를 강화하는 경향이 확인됨 실...

TechInfo

유럽인들이 가정에서 미니 태양광 발전소를 설치하며 ‘에너지 자립’을 현실로 만들다

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 유럽 전역에서 에너지 위기 이후 가정용 태양광 설치가 급증하며, 수입 화석연료 의존을 줄이는 움직임이 확산 중임 시간대별 전기요금제와 배터리 저장 ...

TechInfo

FBI 국장 개인 이메일, 이란 연계 해커 침해 주장

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 이란과 연계된 해커 그룹이 FBI 국장의 개인 이메일 계정을 침해했다고 주장하며, 미국 법무부가 조사에 착수함 침해된 계정은 FBI 공식 시스템이 ...

TechInfo