arXiv:2610.38096v1 cs.CE

알려진 기계적 한계에서 시험한 언어 모델에서 계산과 거부가 분리된다

Calculation and rejection diverge in language models tested at known mechanical limits

Shaoliang Yang, Jun Wang

제출 2026-10-30

한국어 초록

언어 모델이 공학적 수치를 "solved"라는 상태와 함께 반환하면, 이를 신뢰하는 소프트웨어는 요청된 설계가 물리적으로 불가능한 경우에도 그것을 그대로 전달한다. 이러한 실패는 부실한 계산, 답을 요청하는 방식, 또는 실현 가능성 판단의 실패를 반영할 수 있다. 본 연구는 보의 하중과 디스크 회전 속도를 소성 붕괴 또는 파열 한계보다 알려진 비율만큼 높거나 낮게 설정하고, 각 모델의 한계 계산을 별도로 측정하였으며, 새로운 설계에 대한 후속 실험을 포함해 12개 모델을 4,860회 호출로 시험하였다. 모델이 실현 가능한지만 물으면 불가능한 설계를 인식하면서도, 전체 답을 요구하면 같은 설계를 받아들여 "solved"라고 보고할 수 있음을 발견하였다. 세 모델은 별도의 질문에서는 정밀한 한계 계산을 수행했음에도 붕괴를 10~30% 넘어선 보를 받아들였고, 받아들인 많은 응답이 위반 사실을 명시하고 있었다. 실현 가능성만 묻자 Opus 5와 Gemini 3.8 Flash는 전체 답에서 받아들였던 설계를 포함해 주어진 불가능한 새 설계를 모두 거부했으며, 오경보는 없었다. 거부해야 할 때를 다시 표현하거나 답변 형식을 바꾸면 원래의 보에서는 거부율이 높아졌지만 새로운 설계에서는 일관되지 않았다. 모델의 상태 값을 사용하는 소프트웨어와 벤치마크는 실현 가능성 판단과 전체 답 거부를 별도로 시험하고 정확한 프롬프트를 보고해야 한다.

원문 초록

When a language model returns engineering quantities with the status "solved", software that trusts it passes them on, even when the requested design is physically impossible. Such failures could reflect poor calculation, how the answer is requested, or a failure to judge feasibility. We set beam loads and disk speeds at known percentages above or below plastic collapse or burst, measured each model's limit calculation separately and tested 12 models in 4,860 calls, including follow-up experiments on new designs. We find that a model can recognize an impossible design when asked only whether it is feasible, yet accept the same design, reporting "solved", when asked for a full answer. Three models accepted beams 10 to 30% beyond collapse despite precise limit calculations in separate questions, and many accepted replies stated the violation. Asked only about feasibility, Opus 5 and Gemini 3.8 Flash rejected every impossible new design they were given, including those accepted in full answers, without false alarms. Rewording when to decline or changing the answer format raised rejection on the original beams, but not consistently on new designs. Software and benchmarks using a model's status should test feasibility judgment and full-answer rejection separately, and report the exact prompt.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.38096v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.