gyue 님의 블로그

코드 생성형 LLM이 만든 새로운 공급망 위협Package Hallucination이 소프트웨어 보안을 위협하는 방식논문 정보논문 제목We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs 학회USENIX Security 2025 논문 선정 이유이 논문을 선택한 가장 큰 이유는 LLM의 hallucination 문제가 단순히 "틀린 답변"에서 끝나는게 아니고실제 보안 위협으로 이어질수 있다는 점 때문이다.최근 ChatGPT, Copilot, Claude와 같은 코드 생성형 LLM은 개발 과정에서 매우 자연스럽게 사용되고 있다.단순한 코드 자동완성을 넘어 실제 라이브러리 impor..

1. 개요최근 대규모 언어 모델(Large Language Model, LLM)은 다양한 분야에서 활용되며, 보안 학습에서도 빠른 개념 이해를 돕는 도구로 자리 잡고 있다. 그러나 LLM은 종종 근거가 명확하지 않은 응답(할루시네이션)을 생성하며, 이는 보안 분야에서 심각한 신뢰성 문제를 야기할 수 있다.보안 영역에서는 취약점, 공격 기법, 대응 방안 등이 모두 공식 문서(NIST, OWASP, CIS 등)를 기반으로 검증되어야 한다. 따라서 단순 생성형 모델이 아닌, 문서 기반 근거 중심 응답 구조가 필요하다.이에 본 프로젝트에서는 RAG(Retrieval-Augmented Generation) 구조를 적용하여,신뢰 가능한 보안 문서를 기반으로 답변을 생성하는 보안 학습 도우미 시스템을 설계 및 구현..