Hye Jin Ryoo

[Transformer 원리] Day 2: 셀프 어텐션 - 각 단어가 문맥을 읽는 법

서론: “Attention Is All You Need”의 그 어텐션 Transformer 이름의 핵심이자 논문 제목의 그것 — 어텐션이다. 어텐션은 한 문장 안에서 각 단어가 다른 단어들을 얼마나 “주목”할지 계산해 문맥을 파악한다. “그 동물은 길을 건너지 않았다, 너무 피곤했기 때문에”에서 “그것(it)”이 동물을 가리킴을 아는 능력이 여기서 ...

일자리에 무슨 일이 벌어지고 있나? AI 과대광고와 현실 구분하기

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 현재 데이터에서는 AI 노출도가 높은 직종의 대규모 고용 감소가 확인되지 않지만, 신규 졸업자와 젊은 사무직의 채용 부진에는 AI가 일부 영향을 미...

오픈소스 AI에 반대하는 논거가 설득력 없는 이유

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 Kimi K3 공개 이후 오픈소스 AI를 위험한 위협으로 보는 목소리가 커졌지만, 독점 소프트웨어도 오픈소스 기반 위에 구축되며 AI 모델 역시 같...

13억원을 들인 딸의 유전자 편집 치료, 투여 7일 뒤 사망

이 글은 GeekNews - 개발/기술/스타트업 뉴스 서비스 블로그에 게시된 글을 자동으로 가져온 것입니다. 더 자세한 내용과 원문은 아래 링크를 참고해 주세요. ➡️ 원문 보러 가기 원문 요약 중국의 6세 소녀 Mei는 부모가 부담한 약 12억9,000만원($860k)으로 세계 최초의 뇌 표적 염기 편집 치료를 받았으나, 7일 뒤 치료 관...

[대규모 시스템] Day 5: 관측성과 운영 - 복잡한 시스템을 보고 지키기

서론: 볼 수 없으면 지킬 수 없다 Day 1~4에서 캐시·큐·로드밸런서·레이트리밋으로 대규모 시스템을 만들었다. 이제 컴포넌트가 수십 개고, 한 요청이 여러 서비스를 거친다. 무언가 느려지거나 실패할 때 “어디서 왜”를 모르면 손쓸 수 없다. 마지막 편은 시스템을 보고(관측성) 지키는(운영) 법이다. 1. 관측성의 세 기둥 메트릭(Metrics...