가중치 공간 프로그래밍은 학습된 윤리적 우선순위를 바꿀 수 있는가?
Can Weight-Space Programming Alter Learned Ethical Priorities?
한국어 초록
본 연구는 가중치 편집을 통해 모델이 약속을 지키는 것과 더 많은 사람에게 이익을 주는 것 사이에서 균형을 잡는 방식을 바꿀 수 있는지 조사한다. 개념 지도 기반 텍스트 모델에서 적합된 선택 가중치를 변경하여, 공식적 서약을 어기는 데 필요한 이익의 크기가 일반적인 약속보다 커지도록 하였다. 독립적으로 학습된 여섯 개의 텍스트 리더 전반에서, 이 편집은 대상이 된 일반 충돌의 100%와 대상이 된 공식 충돌의 83.3%에서 두 가지 순서 모두에서 더 큰 집단을 선택한다. 또한 더 작은 충돌에 대한 원본 모델의 성공률과 사실 정확도를 유지한다. 나머지 공식 충돌에서의 실패는 수혜자 수를 읽는 오류와 일치한다. 별도의 분류기는 이러한 구분이 중요한 이유를 보여 준다. 사실 답변을 재사용하면 무조건적 선택 검사는 통과하지만 작은 격차의 약속은 유지하지 못한다. COCO128에서의 YOLO11n 예비 실험에서는 편향 편집으로 작은 대상의 일치 수가 43개 중 3개에서 9개로 증가했으며, 이에 상응하는 점수 보정이 유지된 검출 결과를 재현하였다. 이러한 탐색적 결과는 트레이드오프 메커니즘이 노출된 모델에서 학습된 우선순위에 대한 선택적 변경을 검증하는 방법을 보여 준다. 이 방법이 구조화 정도가 낮은 언어 모델에서도 그러한 변경을 찾아낼 수 있는지는 여전히 열린 문제이다.
원문 초록
We investigate whether a weight edit can alter how a model trades off honoring a commitment against benefiting more people. In a concept-supervised text model, we alter fitted choice weights so that the benefit required to override a formal pledge is larger than for an ordinary promise. Across six independently trained text readers, the edit selects the larger group in both orders on 100% of targeted ordinary conflicts and 83.3% of targeted formal conflicts. It preserves the source model's success rates on smaller conflicts and its factual accuracy. The remaining formal-conflict failures coincide with errors reading a beneficiary number. A separate classifier demonstrates why this distinction matters: reusing a factual answer passes an unconditional choice test but fails to preserve small-gap promises. In a YOLO11n pilot on COCO128, a bias edit increased small-target matches from 3/43 to 9/43, and an equivalent score calibration reproduced the retained detections. These exploratory results show a way to test selective changes to learned priorities in a model with an exposed trade-off mechanism. Whether the method can discover such changes in less structured language models remains open.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24330v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.