Hye Jin Ryoo

[AISec] Day 5: Red Teaming AI - 모델과 파이프라인의 취약점을 테스트하는 법

서론: 보안은 설계 문서가 아니라 공격 실험으로 완성된다 LLM/RAG 시스템은 새로운 공격면을 가진다. 정적 리뷰만으로는 실제 취약점이 드러나지 않는다. Red Teaming은 공격자 관점으로 시스템을 반복 검증하는 운영 절차다. 1. Red Teaming 범위 정의 테스트 대상은 모델 하나가 아니라 전체 파이프라인이어야 한다. 입력 채...

LLMOps, Security

미국, ‘국가안보’ 이유로 멕시코만 석유 산업에 멸종위기종 보호 의무 면제

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 트럼프 행정부의 고위 위원회가 멕시코만 석유·가스 산업을 멸종위기종보호법 적용 대상에서 면제하기로 만장일치 결정 이로 인해 Rice’s 고래, 바다...

TechInfo

[AISec] Day 4: 가드레일(Guardrails) 설계 - 네이티브 필터링과 외부 솔루션 비교

서론: 가드레일은 한 계층이 아니라 다층 방어다 LLM 보안에서 가드레일은 “금칙어 필터”가 아니다. 입력-중간 처리-출력 전 과정에 걸친 정책 집행 체계다. 1. 네이티브 필터링 접근 모델/플랫폼이 제공하는 기본 안전 기능을 활용한다. 장점: 빠른 적용 운영 복잡도 낮음 기본 안전 기준 확보 용이 한계: 도메인 특화 ...

LLMOps, Security

Show GN: 반품랩탑 - AI가 다나와 데이터와 오픈마켓 반품 특가를 매핑해 진짜 가성비 반품 노트북을 찾아주는 서...

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 안녕하세요. 대형 오픈마켓에서 쏟아지는 반품 노트북을 볼 때마다, 실제 스펙을 정확히 확인하고 다나와의 최저가와 비교하는 데 큰 피로감을 느꼈습니다...

TechInfo

미 해군이 이란을 공격해 호르무즈 해협을 ‘개방’하지 않는 이유

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 세계 최대 규모의 해군이지만, 이란의 해안 방어와 미사일 위협으로 인해 호르무즈 해협 진입을 피하고 있음 항공모함 중심의 해상력은 값싼 무인 대함 ...

TechInfo

[AISec] Day 3: 벡터 데이터베이스 보안 - 인덱스 탈취 및 멤버십 추론 공격(Membership Inference)

서론: 벡터는 익명 데이터가 아니다 많은 팀이 임베딩을 “원문보다 안전한 표현”으로 오해한다. 하지만 벡터 역시 민감 정보의 흔적을 담을 수 있고, 인덱스 유출 시 공격 표면이 된다. 1. 주요 위협 모델 인덱스 탈취: 벡터/메타데이터 덤프 유출 Membership Inference: 특정 데이터가 학습/인덱싱됐는지 추론 유사도 악용...

LLMOps, Security