PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.22792v1cs.CR

SelfOp: 자기 개선 보안 에이전트를 위한 최적화 알고리즘

SelfOp: An Optimization Algorithm for Self-Improving Security Agents

취약점 발견, 익스플로잇 재현, 패치 생성과 같은 보안 작업에 대규모 언어 모델(LLM) 에이전트가 점점 더 많이 활용되고 있습니다. 이러한 에이전트를 모델 수준에서 개선하려면 전문가의 시연이나 계산 가능한 보상이 필요하지만, 보안 작업에서는 흔히 그러한 요소가 제공되지 않습니다. 즉, 추적(trace)에는 많은 비용이 들고, 실패는 진단하기 어려우며, 보상은 희소하고 계산 불가능합니다. 이에 따라 노력의 초점은 하네스(harness)와 컨텍스트로 옮겨가고 있지만, 수동 튜닝은 작업별 전문 지식이 필요하고 확장성이 떨어지는 반면, 자동화된 방식은 희소한 정답(ground truth), 더 강력한 옵티마이저 모델, 혹은 값비싼 시행착오로 귀결되는 무유도 제안-평가 루프에 의존합니다. 본 논문에서는 실행 하네스와 모델 가중치를 수정하지 않고도 동결된 보안 에이전트의 작업 컨텍스트(인스트럭션, 스킬, 참조 문서)를 자동으로 개선하는 알고리즘인 SelfOp을 소개합니다. SelfOp은 컨텍스트 최적화를 연쇄 법칙(chain rule)에서 영감을 얻은 텍스트 그래디언트 경사하강법으로 정식화합니다. 단일 인스턴스의 결과로부터 평가자, 에이전트의 궤적(trajectory), 그리고 에이전트의 동작을 형성한 컨텍스트 아티팩트를 통해 오류 신호를 역전파하여 인스턴스별 텍스트 그래디언트를 도출합니다. 그래디언트는 클러스터링, 랭킹 및 필터링을 통해 여러 인스턴스에 걸쳐 누적되며, 인스턴스 간 합의가 이루어질 때만 반영(commit)됩니다. 수렴 감지기는 그래디언트 신호 자체를 모니터링하여, 별도의 홀드아웃 검증 데이터 없이도 컨텍스트가 학습 데이터 내 일반화 가능한 정보를 모두 흡수하면 동작을 중단합니다. 저자들은 실제 취약점 재현 작업 벤치마크인 CyberGym에서 SelfOp을 평가합니다. 200개 미만의 학습 예제만으로도 SelfOp은 GPT-5.4-mini(Codex 포함)의 성능을 17점 향상(자기 개선)시켜 프론티어 GPT-5.4 기준선을 6점 능가하도록 만들었으며, GPT-5.4 자체에 대해서도 18.5점의 자기 개선을 이끌어냈습니다. 최적화된 스킬은 모델 간 전이(transfer)도 가능하여, SelfOp으로 최적화된 스킬이 모델에 특화된 패턴이 아닌 일반화 가능한 작업 지식을 학습함을 보여줍니다.