FCP: LLM이 생성한 산출물을 검증하기 위한 형식적 컨텍스트 프로토콜
FCP: Formal Context Protocol for Verifying LLM-Generated Artifacts
한국어 초록
언어 모델이 산출물과 이를 검사하기 위한 테스트를 모두 작성하면, 테스트 통과는 약한 증거가 된다. 요청을 한 번 잘못 해석하면 결함 있는 산출물과 이를 받아들이는 검사가 함께 만들어지기 때문이다. 본 논문은 AI가 생성한 산출물을 요청 자체에 비추어 검사하는 형식적 컨텍스트 프로토콜(FCP)을 제시한다. FCP는 모델 체커와 SMT 솔버가 판정하는 적합성(conformance, 산출물이 요구사항의 형식적 해석을 만족하는가?)과, 결정 절차는 없지만 구체적인 증거(witness)로 반박할 수 있는 충실성(fidelity, 그 해석이 산문의 의미와 일치하는가?)을 분리한다. 증명이 요구사항을 잘못 인증할 수 있는 여덟 가지 경우는 각각 증거를 반환하는 기계적 검사가 되며, 어떤 기계도 확정할 수 없는 부분은 요청 작성자에게 던지는 구체적인 질문이 된다. 어댑터는 하드웨어, 텍스트, 에이전트, 코드를 동일한 엔진 위에 올려놓는다. 네 가지 하드웨어 설계에서 AI가 작성한 단언문(assertion)을 신뢰하면 위반된 요구사항의 23%가 인증되었으나, FCP는 하나도 인증하지 않았다. 열 개의 코드 작업에서 세 언어 모델이 작성한 코드는 매번 자신의 테스트를 통과하면서도 요청을 위반하였다. 테스트를 신뢰하면 33건의 위반이 모두 인증되었으나, FCP는 세 건을 인증하였다. 모델, 해석, 또는 테스트 간의 일치는 정확성을 의미하지 않았다.
원문 초록
When a language model writes both an artifact and the tests meant to check it, a passing test is weak evidence: one misreading of the request yields a faulty artifact and a check that accepts it. We present the Formal Context Protocol (FCP), which checks AI-generated artifacts against the request itself. FCP separates conformance (does the artifact satisfy a formal reading of a requirement?), which model checkers and SMT solvers decide, from fidelity (does the reading mean what the prose means?), which has no decision procedure but is refutable by a concrete witness. Eight ways a proof can falsely certify a requirement each become a mechanical check that returns a witness, and what no machine can settle becomes concrete questions for the request's author. Adapters place hardware, text, agents and code on the same engines. On four hardware designs, trusting AI-written assertions certified 23% of violated requirements, and FCP certified none. On ten code tasks, code from three language models passed its own tests and violated the request every time. Trusting the tests certified all 33 violations, and FCP certified three. Agreement among models, readings or tests did not imply correctness.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.21679v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.