신경 그래프 알고리즘에서 인증된 정답 변경 대조군을 이용한 불변성 학습 평가
Evaluating invariance training with certified answer-changing controls in neural graph algorithms
한국어 초록
불변성 학습은 신경 알고리즘 추론기가 정답을 보존하는 입력 변화에 강건하도록 하는 것을 목표로 하며, 정확도와 이러한 편집이 예측을 바꾸는 빈도로 평가된다. 우리는 이 평가가 합성 그래프의 최소 신장 트리에서 정답을 바꾸는 편집에 대한 민감도 상실을 검출하는지 묻는다. 여기서는 두 방향 모두 인증할 수 있다. 부분 그래프를 하나의 브리지로 연결하면 원래의 모든 레이블이 보존됨이 증명된다. 두 개의 간선으로 연결하되 오라클이 레이블을 바꾸도록 선택한 경우와, 그래프 내부의 가중치 하나를 낮추는 경우를 정답 변경 대조군으로 사용하며, 반응은 레이블이 바뀌는 간선에서 예측이 바뀌는 것으로 정의한다. 발표된 정확도 범위 내에서 재현한 그래프 트랜스포머(GDT)는 64개 정점 브리지를 연결한 뒤 정확히 풀어내는 64개 정점 그래프의 53.3~65.9%에서 증명상 고정된 레이블을 바꾼다. 연결 간선을 제거하면 변화는 거의 없다. 16개 정점의 그래프와 부착물에서는 세 가지 불변성 목적함수가 정확도를 거의 바꾸지 않으면서 GDT의 위반을 쌍의 2.91%에서 0.52~2.02%로 낮춘다. 학습은 또한 두 간선 부착에 대한 반응을 97.6%에서 66.0~79.0%로 낮추는 반면, 기저 내부 가중치 편집에 대한 반응은 99.5% 근처에 머문다. 64개 정점에서는 정확도도 하락하지만, 16개 정점 기저에서는 부착 대조군만이 이 손실을 드러낸다. 메시지 전달 네트워크는 작은 페널티 가중치에서 부착 반응을 일부 잃지만 불변성은 거의 얻지 못한다. 관례적으로 학습된 GDT를 각 이중 연결 블록에 별도로 실행하면 관찰된 모든 위반이 제거되고 정확도와 두 반응이 유지되므로, 이 과제가 그러한 상충 관계를 강제하지는 않는다. 학습된 불변성에 대한 민감도 검사에는 학습 편집과 마찬가지로 물질을 부착하는 인증된 정답 변경 편집이 포함되어야 한다.
원문 초록
Invariance training aims to make neural algorithmic reasoners robust to answer-preserving input changes and is judged by accuracy and by how rarely such edits change predictions. We ask whether this evaluation detects lost sensitivity to answer-changing edits on minimum spanning trees of synthetic graphs, where both directions can be certified. Attaching a subgraph through one bridge provably preserves every original label. Attaching it through two edges, oracle-selected to change a label, and lowering one weight inside the graph serve as answer-changing controls; a response is a changed prediction on an edge whose label changes. A reproduced graph transformer (GDT) within its published accuracy range changes a provably fixed label on 53.3-65.9% of the 64-vertex graphs it solves exactly after a 64-vertex bridge attachment; removing the connecting edge changes little. With 16-vertex graphs and attachments, three invariance objectives lower GDT violations from 2.91% to 0.52-2.02% of pairs at essentially unchanged accuracy. Training also lowers the response to two-edge attachments from 97.6% to 66.0-79.0%, while the response to in-base weight edits stays near 99.5%. At 64 vertices accuracy also falls, but on 16-vertex bases only the attachment control reveals the loss. A message-passing network loses some attachment response at small penalty weights but gains little invariance. Running the conventionally trained GDT on each biconnected block separately removes all observed violations and keeps accuracy and both responses, so the task does not force the trade-off. Sensitivity checks for trained invariance should include certified answer-changing edits that attach material as the training edits do.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23907v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.