arXiv:2407.21060

Using Large Language Models for the Interpretation of Building Regulations

Stefan Fuchs, Michael Witbrock, Johannes Dimyadi, Robert Amor

제출 2024-07-26

원문 초록

Compliance checking is an essential part of a construction project. The recent rapid uptake of building information models (BIM) in the construction industry has created more opportunities for automated compliance checking (ACC). BIM enables sharing of digital building design data that can be used for compliance checking with legal requirements, which are conventionally conveyed in natural language and not intended for machine processing. Creating a computable representation of legal requirements suitable for ACC is complex, costly, and time-consuming. Large language models (LLMs) such as the generative pre-trained transformers (GPT), GPT-3.5 and GPT-4, powering OpenAI's ChatGPT, can generate logically coherent text and source code responding to user prompts. This capability could be used to automate the conversion of building regulations into a semantic and computable representation. This paper evaluates the performance of LLMs in translating building regulations into LegalRuleML in a few-shot learning setup. By providing GPT-3.5 with only a few example translations, it can learn the basic structure of the format. Using a system prompt, we further specify the LegalRuleML representation and explore the existence of expert domain knowledge in the model. Such domain knowledge might be ingrained in GPT-3.5 through the broad pre-training but needs to be brought forth by careful contextualisation. Finally, we investigate whether strategies such as chain-of-thought reasoning and self-consistency could apply to this use case. As LLMs become more sophisticated, the increased common sense, logical coherence, and means to domain adaptation can significantly support ACC, leading to more efficient and effective checking processes.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.39964v2cs.AI공통 태그 Domain Adaptation, Few-Shot Learning

AIMS: Sim-to-Real 멀티모달 ISAC을 위한 에이전틱 AI 프레임워크

AIMS: An Agentic AI Framework for Sim-to-Real Multi-Modal ISAC

멀티모달 통합 감지 및 통신(ISAC)은 지능형 무선 네트워크를 위한 환경 인지 및 안정적인 연결성을 가능하게 합니다. 데이터 기반의 멀티모달 ISAC 모델은 센싱과 무선 관측치 간의 관계를 학습하기 위해 레이블이 지정된 실제 데이터에 크게 의존하므로 확장 가능한 배포가 제한됩니다. 합성 데이터 생성이 이러한 부담을 줄여주지만, 기존 시뮬레이션 파이프라인을 목표 배포 환경에 적응시키려면 일관된 장면, 센싱, 무선 및 학습 구성이 필요하며, 결합된 구성 요소 간의 불일치는 시뮬레이션에서 실제 환경으로의(sim-to-real) 전이성을 저해합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 AIMS라는 sim-to-real 멀티모달 ISAC을 위한 에이전틱 인공지능(AI) 프레임워크를 제안합니다. 목표 태스크, 배포 조건, 실제 데이터 예산을 명시한 자연어 배포 요청이 주어지면, AIMS는 배포 맞춤형 sim-to-real 구성을 도출하고 이의 실행을 조율하여 배포 맞춤형 태스크 모델을 생성합니다. 2개 에이전트 아키텍처는 장면 구축과 태스크 학습을 상호 조율합니다. 장면 구축 에이전트는 공유된 물리적 상태로부터 지리적으로 그라운딩(grounding)되고 동기화된 센싱 및 무선 기록을 생성하는 반면, 장면 이해 에이전트는 태스크 관련 모달리티와 제로샷(zero-shot) 추론 또는 퓨샷(few-shot) 적응을 위한 전문가 혼합(MoE) 학습을 구성합니다. 구조화된 도메인 지식은 의존성을 인식하는 계획 수립을 안내하며, 검증 증거는 영향을 받는 결정에 대한 피드백 기반 수정을 지원합니다. 실제 DeepSense 6G 데이터셋에 대한 실험 결과, 고려된 시뮬레이션 및 융합 베이스라인 대비 차량 탐지 및 빔 예측 성능이 향상되었음을 입증합니다. 별도의 오케스트레이션 벤치마크는 다양한 배포 요청 전반에 걸쳐 태스크 해석, 의존성 추론 및 피드백 기반 재계획을 평가하여 구조화된 도메인 지식과 검증 피드백을 통해 계획의 정확성이 향상됨을 보여줍니다.

arXiv:2607.22300v1cs.CL공통 태그 Domain Adaptation, Few-Shot Learning

교차언어 전이와 LoRA 어댑터 병합을 통한 저자원 아랍 문자 언어의 생의학 기계 번역

Biomedical Machine Translation for Low-Resource Arabic-Script Languages via Cross-Lingual Transfer and LoRA Adapter Merging

우리는 아랍 문자 언어에 대한 생의학 NMT(신경망 기계 번역) 자원 부족 문제를 해결하기 위해 의료 도메인 교차언어 전이에 대한 체계적 연구를 제시한다. 아랍어와 페르시아어를 고자원 피벗(pivot)으로 사용하여 \textbf{극히 저자원인} 네 가지 목표 언어—다리(Dari, 아프ghan Persian, 페르시아어의 표준화 변종), 파슈토어(Pashto), 소라니 쿠르드어(Sorani Kurdish, 중부 쿠르드어, 쿠르드어의 주요 표준화 변종), 우르두어(Urdu, 힌디어와 밀접하게 관련됨)—의 번역을 개선한다. 소형 디코더 전용 LLM에 LoRA 미세조정을 적용하여 \textit{도메인 특화 피벗 어댑터}를 학습하고 \textbf{세 가지 전이 전략}—퓨샷(few-shot) 문맥 내 학습(ICL), 최소 감독 적응(supervised adaptation), 그리고 우리가 아는 한 본 설정에서 최초로, 데이터 없는(zero-data) LoRA 어댑터 병합—을 평가한다. 단 500문장으로 수행한 감독 적응은 다리어에서 피벗 언어 수준에 근접한 품질(CHrF++ 41.01)을 달성하고 우르두어에서도 의미 있는 향상(28.88)을 보이며, 어댑터 병합은 추가 비용 없이 다리어에서 감독 적응 대비 CHrF++ 3.5 이내의 성능에 도달한다. 파슈토어와 소라니 쿠르드어는 고위험 임상 배포에는 여전히 불충분하며, 피벗과의 구조적 거리가 너무 클 때 교차언어 전이의 한계를 드러낸다. LoRA 어댑터 병합은 목표 언어의 생의학 데이터가 없더라도 밀접하게 관련된 언어에서 놀랍도록 잘 작동한다.

arXiv:2607.22012v1cs.LG공통 태그 Domain Adaptation, Few-Shot Learning

문맥적 밴딧을 위한 교차 도메인 오프-정책 평가 및 학습

Cross-Domain Off-Policy Evaluation and Learning for Contextual Bandits

문맥적 밴딧에서 오프-정책 평가 및 학습(OPE/L)은 과거에 기록된 로그 데이터만으로 새로운 정책을 안전하게 평가하고 학습할 수 있기 때문에 실제 시스템에서 빠르게 주목받고 있다. 그러나 OPE/L의 기존 방법들은 퓨샷(few-shot) 데이터, 결정론적 로깅 정책, 새로운 행동(action)과 같이 도전적이지만 널리 존재하는 많은 시나리오를 다룰 수 없다. 맞춤형 의료, 콘텐츠 추천, 교육, 광고 등 많은 응용 분야에서는 이러한 과제가 있는 상황에서 새로운 정책을 평가하고 학습해야 한다. 기존 방법들은 로그 데이터의 잘 알려진 분산 문제나 제한된 탐험(exploration) 때문에 이러한 상황에서 효과적으로 평가하고 최적화할 수 없다. 이러한 미해결 과제 하에서도 OPE/L을 가능하게 하기 위해, 새로운 정책이 구현될 대상(target) 도메인의 로그 데이터뿐만 아니라 다른 도메인에서 수집된 로그 데이터셋에도 접근할 수 있는 교차 도메인 OPE/L이라는 새로운 문제 설정을 제안한다. 이 새로운 공식화는 대상 병원, 국가, 기기, 사용자 세그먼트뿐만 아니라 다른 병원, 국가, 기기, 세그먼트의 과거 데이터도 활용할 수 있기 때문에 널리 적용 가능하다. 우리는 대상 및 소스(source) 데이터셋을 모두 활용하여 OPE/L을 해결하는 새로운 추정량(estimator)과 정책 그래디언트(policy gradient) 방법을 개발했으며, 실험 평가에서 이전에 해결되지 않았던 상황에서 OPE/L 성능이 실질적으로 향상되었다.

arXiv:2607.21004v1cs.CV공통 태그 Domain Adaptation, Few-Shot Learning

AUCH-Net: 교차 도메인 퓨샷 얼굴 표정 인식을 위한 액션 유닛 기반 일관성 인식 하이퍼그래프 네트워크

AUCH-Net: Action Unit-Based Consistency-Aware Hypergraph Network for Cross-Domain Few-Shot Facial Expression Recognition

최근 교차 도메인 퓨샷 얼굴 표정 인식(CF-FER)이 상당한 관심을 받고 있다. 그러나 기존 CF-FER 방법의 성능은 여전히 불만족스러운데, 이는 큰 도메인 차이와 제한된 타깃 샘플 하에서 이전 가능한 특징 학습이 미흡하기 때문이다. 다행히 액션 유닛(AU)은 서로 다른 얼굴 근육의 움직임을 나타내며, 도메인 내외에서 표정을 기술하는 데 일관된 개념적 의미론을 제공한다. 이에 영감을 받아, AU에 일관성 인식 하이퍼그래프를 구성하는 새로운 액션 유닛 기반 일관성 인식 하이퍼그래프 네트워크(AUCH-Net)를 CF-FER를 위해 제안한다. 구체적으로, AUCH-Net은 새로운 AU 특징 학습(AFL) 모듈과 새로운 시각적 특징 학습(VFL) 모듈을 제시한다. AFL 모듈은 새로운 관계 일관성 손실과 AU 정규화 손실의 지침 하에 AU 특징을 학습하고, VFL 모듈은 관계 일관성 손실과 분류 손실의 감독 하에 시각적 특징을 학습한다. 일관된 AU 특징을 학습함으로써 AUCH-Net은 AU와 표정 범주 간의 연결을 효과적으로 모델링한다. 그 결과, 세밀한 얼굴 변화와 고수준 표정 범주 사이의 간극을 메울 수 있어, 이전 가능한 특징 표현의 학습을 크게 촉진한다. 실험실(in-the-lab) 및 실세계(in-the-wild) 데이터셋 모두에서의 광범위한 실험은 우리 방법이 여러 최신(state-of-the-art) 방법보다 일관되게 우수한 성능을 보임을 나타낸다. 우리 결과는 AU 간의 관계를 모델링하는 것이 교차 도메인 퓨샷 시나리오에서 FER에 상당한 잠재력을 지님을 분명히 보여준다.

arXiv:2607.19421v1cs.AR공통 태그 Domain Adaptation, Few-Shot Learning

Opto-ViT-v2: 광학 near-sensor 비전 트랜스포머(ViT) 가속기를 위한 노이즈 내성 온칩 미세조정

Opto-ViT-v2: Noise-Resilient On-Chip Fine-Tuning for Photonic Near-Sensor Vision Transformer Accelerators

실리콘 광학(SiPh) 가속기는 마이크로링 공진기(MRR) 뱅크에서 행렬 곱셈을 수행하여 높은 처리량과 에너지 효율을 달성함으로써, 비전 트랜스포머(ViT) 추론을 위한 유망한 플랫폼으로 부상했다. 이러한 플랫폼을 온칩 미세조정을 지원하도록 확장하는 것은 여전히 어려운 과제인데, 역전파가 대규모 활성화 저장, MRR로의 빈번한 가중치 write-back, 그리고 장치 수준 노이즈에 대한 허용을 요구하기 때문이다. 우리는 near-sensor SiPh ViT 가속기에서의 매개변수 효율적 미세조정(PEFT)을 위한 최초의 프레임워크인 Opto-ViT-v2를 제안한다. 우리의 텐서화된 저랭크 분해는 사전학습된 광학 가중치와 소수의 학습 가능한 전자적 인자(ViT-Base의 경우 최소 8K 매개변수)를 분리하여, 활성화 저장과 가중치 업데이트를 크게 줄이면서 실용적인 온칩 학습을 가능하게 한다. 또한 일회성 top-k 그래디언트 마스킹을 통해 중요도가 낮은 가중치를 고정하는 그래디언트 누적 희소 분류기를 도입하여, 분류기 학습 비용을 약 40% 줄인다. 또한 광학 온칩 학습을 위한 최초의 시스템 수준 노이즈 모델을 개발하여, 순전파와 역전파 모두에서 MRR 크로스토크, 열 드리프트, 레이저 진폭 노이즈의 영향을 포착한다. 200개 이상의 제작된 MRR 장치 측정값으로 보정된 이 모델은, 동일한 노이즈 조건에서 저랭크 인자 업데이트가 전체 미세조정 및 기존의 층별 저랭크 적응보다 더 견고함을 보여준다. VTAB-1K(19개 태스크) 및 FGVC 퓨샷 벤치마크 실험에서 Opto-ViT-v2는 측정된 광학 노이즈 하에서 클린 소프트웨어 정확도 대비 0.3~0.8%p 이내로 성능을 회복하면서 100 KFPS/W 이상을 달성하여, 광학 엣지 비전 시스템을 위한 실용적인 온칩 도메인 적응을 가능하게 함을 보여준다.

arXiv:2607.14894v1eess.IV공통 태그 Domain Adaptation, Few-Shot Learning

Plug-and-Play 이미지 복원을 위한 불일치 Proximal 디노이저의 도메인 적응

Domain Adaptation of Mismatched Proximal Denoiser for Plug-and-Play Image Reconstruction

플러그 앤 플레이(Plug-and-Play) proximal 경사하강법(PnP-PGD)은 디노이저를 암시적 사전(prior)으로 사용하여 유연한 이미지 복원을 가능하게 한다. 실무에서는 이러한 디노이저가 종종 학습 도메인 밖에서 배포된다. 기존 분석은 배포된 디노이저에 대한 구조적 가정—예를 들어 proximal map이거나 수축(contraction)이어야 한다는 조건—하에서 수렴을 확립한다. 그러나 도메인 불일치가 PnP-PGD의 수렴에 미치는 영향을 측정하지는 않는다. 우리는 이 효과를 proximal mismatch로 정의한다: 배포된 디노이저 $\widehat{\mathsf D}$와 기저 정규화자(regularizer) $R_\star$에 연관된 목표 도메인 참조 map $\mathsf D_\star=\operatorname{prox}_{R_\star}$ 사이의 불일치이다. 이러한 불일치 하에서 각 디노이징 업데이트는 목표 목적함수에 대한 부정확(inexact) proximal 단계가 된다. 우리는 추가로 $\mathcal{O}(1/K)$의 속도로 감쇠하는 정상성(stationarity) bound를 도출하며, 평균 제곱 proximal mismatch에 비례하는 가산항을 포함한다. 이 결과는 MSE 기반 적응만으로는 부족하고 proximal matching을 통한 적응을 동기 부여한다. 우리는 학습된 proximal network와 gradient-step 디노이저라는 두 가지 확립된 디노이저 계열로 이 접근법을 연구한다. 상당한 도메인 이동(domain shift) 하에서 가우시안 디블러링(Gaussian deblurring)과 초해상도(super-resolution)에 대한 실험은 proximal matching 적응이 MSE 기반 적응보다 복원 품질을 유의미하게 향상시키며, 퓨샷(few-shot) 영역에서 가장 큰 수치적 이득을 보인다는 것을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.