Prismata는 웹 에이전트를 대상으로 한 크로스사이트 프롬프트 인젝션(Cross-Site Prompting, XSP) 공격을 방어하기 위해, 페이지 DOM 구조의 크리티컬 패스(critical path)에서 신뢰 레이블을 동적으로 도출하고 Biba 무결성 모델에서 영감받은 구조적 제한을 적용하는 맥락적 최소 권한(contextual least privilege) 방어 시스템이다. 개발자 어노테이션 없이 WebArena 환경 실험에서 공격 성공률을 85.5%에서 0.7%로 낮추면서 정상 작업 성공률은 29.9%에서 26.6%로 소폭만 감소시켰다.
CausalDS는 기호적 인과 추론과 현실적 데이터 분석을 통합한 에이전트 데이터 사이언스 벤치마크로, 구조적 인과 모델(SCM)로부터 생성된 합성 장면을 기반으로 Pearl의 세 단계(Rungs 1–3)에 걸친 태스크를 제공한다. 기존 벤치마크의 한계인 "인과 앵무새" 위험을 줄이면서 상징적 인과 추론, 데이터 사이언스 실행, 불확실성 정량화, 답변 보류, 도구 사용/코딩 등 다섯 가지 축을 종합적으로 평가하며, 현대 LLM 에이전트들이 이 축들에서 서로 다른 성능 프로파일을 보임을 실험을 통해 확인한다.
적대적 에이전트가 CoT 모니터를 설득하여 정책 위반 행동을 승인하도록 만들 수 있는지를 40개 태스크, 수천 건의 에이전트-모니터 상호작용을 통해 평가한 결과, CoT 추론 공개가 유해 행동 승인율을 평균 9.5% 오히려 증가시키는 것으로 나타났다. 이를 완화하기 위해 서로 다른 모델 계열을 조합한 팩트체킹 프레임워크(예: Claude 3.7 Sonnet 모니터 + GPT-4.1 팩트체커)를 도입한 결과 정책 위반 승인율이 최대 45%까지 감소하였으며, 동일 모델 계열 조합 시 6%에 그친 것과 대비된다.
연구 소프트웨어 협업에서 Slack, 회의, GitHub 등 여러 채널에 분산된 의사결정 맥락과 근거가 소실되는 정렬(alignment) 문제를 해결하기 위해, Aleena는 GitHub를 중심 플랫폼으로 활용하여 회의록·채팅·풀 리퀘스트 등 멀티모달 아티팩트를 구조화된 프로젝트 기록으로 변환하는 오픈소스 라이프사이클 정렬 에이전트다. 인간의 의사결정 권한을 유지하면서 이해관계자 기대, 과학적 어휘, 소유권 책임, 의사결정 연속성이라는 네 가지 정렬 과제를 지속적으로 추적하고 리스크를 표면화한다.
AegisDx는 LLM 기반 감별 진단에서 고위험 질환 누락과 추론 검증 부재 문제를 해결하기 위해, 역할별 계약과 검증 게이트로 다수의 전문화된 LLM 컴포넌트를 조율하는 안전성 지향 가설-연역적 임상 추론 프레임워크다. NEJM·JAMA·Annals of EM 증례에서 단독 LLM 대비 Top-3 진단 정확도를 최대 17.1%p 향상시켰으며, 반드시 놓쳐서는 안 되는 질환 포착률을 26.0%p 높이고 실제 응급실 기록 평가에서 의사 평가 복합 안전성 점수를 유의미하게 개선했다.
엔터프라이즈 LLM 에이전트 프로토타입을 감사 가능한 시스템으로 전환하기 위해, 결정론적 동작을 코드·매니페스트·스키마·검증 아티팩트로 이전하는 하네스 엔지니어링(harness engineering) 접근법을 제안한다. 한국 5개 기업집단(상장사 25개) 데이터로 검증한 결과, 코드 소유 강제 계층만이 안전성과 유용성을 동시에 보존하며(120/120), 프롬프트 지시만으로는 재현 불가능한 것으로 나타났다.
LLM이 구성성(compositionality)과 지식성(knowledgeability) 사이의 균형을 맞추지 못하는 구성-지식 이분법 문제를 해결하기 위해, 질문과 관련된 명제를 참·거짓 및 긍정·부정 네 가지 범주로 명시적으로 구체화하는 Concretized Proposition Prompting(CPP) 프레임워크를 제안한다. CPP는 의료 벤치마크에서 추론 성능을 크게 향상시키고 수학 벤치마크에서도 경쟁력 있는 성능을 보이며, Llama, Qwen, Phi 등 다양한 모델과 7B~72B 규모에서 일관된 성능을 입증했다.
촉매는 지속 가능한 화학 제조에 필수적이지만, 새로운 구조를 발견하는 과정은 시행착오적 실험과 계산 집약적 스크리닝이 지배하는 병목 구간으로 남아 있다. 전기화학적 이산화탄소 환원과 같은 복잡한 반응에서 생성물 선택성은 동적 계면, 전해질 및 전위 인자와 더불어 반응 경로 간의 운동학적 경쟁에 의해 결정된다. 기존의 디스크립터 기반 머신러닝 및 계산 포텐셜은 종단 간 위상학적 경로 분석보다는 주로 정적 바닥 상태 디스크립터나 벌크 구조적 상관관계에 의존하여 이러한 기계론적 분기점을 해결하는 데 어려움을 겪는다. 본 연구에서 우리는 프론티어 언어 모델이 명시적 반응 네트워크에 대한 추론을 엄격히 제약받을 때, 경로 경쟁을 지배하는 물리적 레버를 식별함으로써 새로운 촉매를 발견할 수 있음을 보인다. 우리는 복잡한 화학 그래프에서 검증 가능한 가설을 추출하기 위해 네트워크 불변성을 강제하는 인간-AI 공동 사고 프레임워크를 개발했다. CO2 전기환원에 적용한 결과, 이 프레임워크는 케텐(ketene) 탈착과 수산화물 포획을 아세테이트 형성 경로로 식별하고, 케텐으로 이어지는 별도의 흡착된 CO와 CH2 결합 경로를 예측했다. 실행 가능한 제어 레버, 구체적으로 국소 알칼리성, 제어된 철 혼입, 제한된 계면 양성자 공여체 접근성을 분리함으로써, 이 프레임워크는 매칭된 Cu 풍부 기준선 대비 아세테이트 선택성을 3배 향상시킨 구리-산화철 촉매의 전향적 합성을 이끌었다. 이 기계론적 추론 아키텍처는 계산 패러다임을 소급적 통계 예측에서 전향적 가설 생성으로 전환하며, 기계론적 소재 발견을 위한 광범위하게 적용 가능한 청사진을 제공한다.
코딩 에이전트가 이제 풀 리퀘스트 전체를 작성하게 되면서, 이것이 코드 리뷰에 미치는 영향에 대해 실무자들의 의견이 첨예하게 갈린다. 코드 리뷰가 병목 지점이 되는지, 인간의 리뷰가 여전히 필요한지, 그리고 코드 리뷰가 한때 쌓아주던 이해력을 조용히 잠식하는지에 대한 논쟁이다. 저장소 마이닝 연구는 표면적 트렌드를 측정하지만 그 이면의 메커니즘을 거의 설명하지 못하며, 트렌드 자체도 불안정한 것으로 나타난다. 동기 부여 목적으로 수행한 공개 GitHub 활동 관찰 분석에 따르면, 에이전트가 작성한 풀 리퀘스트는 인간이 작성한 것보다 리뷰 빈도가 낮고, 수 배 빠르게 병합되며, 논의도 적다. 그러나 이러한 트렌드의 방향은 동등하게 타당한 다른 분석 선택에 따라 반전되므로, 이 흔적들은 무엇이 변하고 있는지는 보여주되 왜 그런지는 설명하지 못한다. 메커니즘을 규명하기 위해, 우리는 실무자 담론을 대규모로 종합하여 설명적 이론을 구축한다. 구체적으로 38,709개의 회색 문헌(엔지니어링 블로그와 Reddit 스레드)을 수집하고, 코드 리뷰에 실질적으로 관련된 문서를 필터링한 후, 대규모 언어 모델(LLM) 보조 파이프라인으로 층화 무작위 표본 3,100개를 코딩하여, 26개의 구성 개념과 67개의 관계(지향 관계 64개, 경합 관계 3개)로 이루어진 인과 모델을 구축한다. 이 이론의 핵심 주장은 리뷰가 코딩 에이전트의 소프트웨어에 대한 효과가 결정되는 제어 지점이며, AI는 그 효과의 방향을 고정하지 않는다는 것이다. 방향을 결정하는 것은 팀이며, 구성원 인간의 전문성과 리뷰 프로세스를 구조화하는 방식에 달려 있다. 이 이론은 경쟁하는 입장들을 명시적으로 드러내고, "AI가 코드 리뷰를 변화시키고 있다"는 명제를 명명된 구성 개념과 조절 변수를 갖춘 반증 가능한 명제로 전환한다. 부차적 기여로서, 우리는 소프트웨어 공학 연구를 위한 확장 가능한 템플릿으로서 LLM 보조 회색 문헌 이론 구축 방법과 공개 구현체를 제공한다.
OCEAN(개방성·성실성·외향성·친화성·신경증) 프레임워크를 활용해 대규모 언어 모델(LLM)의 페르소나(persona)를 가중치 공간에서 측정·제어하는 방법을 제안하며, 개별 성격 특성을 증폭하거나 억제하는 LoRA 어댑터를 학습시켜 스케일에 따라 단조적으로 작동하고 가산적으로 조합 가능함을 3개 모델 패밀리(4B–32B)에서 검증했다. 또한 신경증·친화성 축 이동이 각각 좌절 반응과 아첨(sycophancy) 같은 안전성 관련 행동에 영향을 미침을 보이고, 비지도 심리측정 파이프라인으로 어조·주도성·교훈주의·인식론적 신중함이라는 4가지 잠재 행동 요인을 복원했다.
대규모 언어 모델(LLM)의 탈옥(jailbreak) 공격 메커니즘을 분석하기 위해, 정상 프롬프트와 공격 프롬프트 각각의 내부 계산 그래프(computation graph)를 쌍으로 구성하고 정렬하여 적대적 공격이 안전성 관련 구성 요소를 억제하고 계산 경로를 재라우팅하는 방식을 인과적으로 진단하는 프레임워크를 제안한다. 다수의 오픈소스 LLM과 탈옥 벤치마크 실험에서 내부 계산 그래프의 구조적 편차가 안전하지 않은 행동과 강하게 상관되며, 식별된 취약점 모티프에 대한 표적 개입이 모델 견고성을 향상시킴을 검증하였다.
아프리카 경제권의 산업 기계류에 관한 공개적이고 모델 학습에 바로 활용 가능한 데이터는 매우 부족하다. 이로 인해 해당 환경에 기반한 수치 과제에서 정량적 분석을 수행하거나 언어 모델을 학습시키기가 어렵다. 우리는 이 문제의 일부를 해결하기 위해 두 가지를 공개한다. 첫 번째는 나이지리아 기계류 사용 및 고장 데이터셋으로, 28개 지표에 걸친 89개의 기계 수준 레코드를 포함하며 2006년부터 2025년까지 나이지리아의 제조업 및 석유·가스 부문을 다룬다. 모든 레코드는 공개 출처를 명시하고 코드북으로 해석된다. 두 번째는 이러한 희소한 수치 값으로부터 사고의 연쇄(CoT) 추론 예시를 구축하는 방법이다. 결과물은 프롬프트, 완성, 추론 추적으로 구성된 94개의 행이다. 각 행의 프롬프트는 해당 레코드가 출처로 삼는 실제 지표, 하위 부문, 연도, 출처를 명시한다. 데이터 적응 작업은 Adaption Labs가 수행하였다. 이 과정에서 우리는 언어 모델이 데이터셋을 구축하는 데 활용될 때 흔히 나타나는 문제를 기술한다. 프롬프트가 실제 수치와 일치하면서도 실제 도메인에 대해서는 아무것도 언급하지 않을 수 있다. 이를 수정하면 도메인 기반 프롬프트의 비율이 이전 릴리스의 78개 중 1개에서 94개 중 94개로 높아지고, 모든 검색 답변이 출처 값과 일치함을 보인다(84개 중 84개). 데이터, 추론 층, 그리고 행별 출처 파일을 CC-BY-4.0 라이선스 하에 공개한다. 한계에 대해서도 명확히 밝힌다. 89개의 레코드와 단 하나의 관측치만을 가진 17개의 지표로 구성된 이 데이터셋은 대규모 학습 데이터셋이 아닌 참조 및 시드 데이터셋이다. 대부분의 추론 행은 다단계 계산보다는 검색에 해당한다.
소규모 상업용 사업주 종합보험(BOP) 직통 언더라이팅에 에이전틱 AI 프레임워크를 적용하여, 단일 LLM 기준선 및 단순 검색-증강 생성(RAG) 시스템과 비교한 결과, 목표 지향적 검색·제3자 데이터 확인·다단계 규칙 평가를 결합한 멀티 에이전트 Agentic RAG 파이프라인이 특히 다단계 추론 및 정보 누락 시나리오에서 가장 높은 정확도를 달성했다. 이 연구는 에이전틱 시스템이 보험계리 실무의 투명성·감사 가능성·인간 감독 거버넌스 요건을 충족하면서도 비정형 문서 기반 의사결정을 구조화하는 데 효과적임을 보여준다.
전문화된 대규모 언어 모델(LLM) 에이전트 팀이 구조화된 수학적 청사진과 주기적 인간 검토를 통해 행렬곱 상태(matrix-product states)의 기본 정리를 Lean 4 증명 보조기로 자율적으로 형식화하는 에이전트 기반 워크플로를 제시한다. 이 과정에서 Mathlib에 없던 텐서 네트워크 및 양자 정보 라이브러리를 새롭게 구축하였으며, 일부 명제에서는 표준 문헌에 없는 새로운 증명 경로를 탐색하고, 대규모 자동형식화의 주요 병목이 수학적 의도의 일관된 관철임을 밝혔다.
Google의 오픈 가중치 모델 Gemma 4 26B를 기반으로, MATLAB 벡터화·푸리에 해석·미분방정식 등 공학 수업(CTEC 247)에 특화된 교수 보조 대규모 언어 모델(LLM) VectorizationLLM을 소개하며, 검색-증강 생성(RAG) 지식 베이스와 시스템 프롬프트 아키텍처를 결합해 직접 답 제공 없이 개념 설명 중심의 학습 지원을 제공한다.
대규모 언어 모델(LLM)은 정신 건강 지원의 중요한 제공자로 자리 잡았지만, 이 모델들은 효과적인 심리적 지원이 요구하는 마찰보다 지속적인 참여를 선호하는 어텐션 경제(attention economy)의 운영적·상업적 목표를 따르는 제품으로 남아 있다. 개발자들의 안전성 대응은 대체로 사후 반응적이어서, 가장 가시적이고 급성적인 피해를 다루는 데 집중하는 반면, 의존성, 경계 침식, 왜곡된 신념의 증폭과 같이 더 미묘하고 장기적인 위험 패턴은 상대적으로 주목받지 못하고 있다. 우리는 LLM을 구조적으로 안전하게 만들기 위해서는 사회가 인간 임상 실무의 안전성을 보증하는 방식을 반영한 세 가지 수준에서 정렬이 조직되어야 한다고 주장한다: 1) 임상 실무의 성문화된 규범적 약속에 기반한 명시적 가치 명세, 2) 해당 가치를 모델에 내재화하는 학습, 3) 인간 실무에 대한 임상 감독과 마찬가지로 배포 중 편향(drift)과 장기적 피해를 감지하는 감독. 이러한 방식으로 정렬을 조직하면 우리가 정렬 타당성(alignment plausibility)이라 부르는 구성 개념이 도출된다—이는 시스템의 가치, 학습 체계, 감독 메커니즘이 함께 안전하고 긍정적인 결과와 일관성이 있음을 구조적으로 입증하는 것이다. 우리는 정렬 타당성을 의료 분야 AI의 규제적 구성 개념으로 제안한다(확립된 구성 개념인 생물학적 타당성(biological plausibility)과의 유추를 통해): 시스템이 긍정적인 건강 결과에 정렬되어 있고, 그럴 능력이 있더라도 해를 끼치지 않을 것이며, 궁극적으로 환자 이익으로 이어질 것이라는 신뢰를 논증하거나 반박하는 원칙적 방법이다.
의료 분야에서 LLM의 임상 추론 역량을 평가하기 위해 Miller's Pyramid를 기반으로 한 5단계 역량 체계와 연역·귀납·귀추 추론 유형을 연결하는 이중 관점 프레임워크를 제안하며, 18개 최신 모델을 대상으로 구축한 5,000개 샘플 벤치마크 평가 결과 의료 전문 모델은 진단 중심 과제에, 범용 모델은 의사결정 지원 및 대화 과제에 강점을 보이는 것으로 나타났다.
우리는 공개적 주장이 증언, 추론, 기관 인증, 암묵적 신뢰의 연쇄에 의해 지지되는 고밀도 상호작용적 소통 환경을 위한 적대적 사회 인식론(ASE)을 제시한다. 이러한 환경에서 행위자들은 사적·명성적·수사적 또는 물질적 이득을 위해 정보를 왜곡하고, 편향되게 표현하고, 생략하고, 조작하거나 전략적으로 불충분하게 명시할 유인과 수단을 갖는다. 우리는 이러한 현상이 인식론적 버블, 에코 챔버, 또는 허위정보 확산에 관한 기존의 설명으로는 충분히 포착되지 않는다고 주장한다. 설명이 필요한 것은 소통 행위자들이 통상적으로 지지된 주장을 신뢰 가능하게 만드는 책임과 자격을 어떻게 악용하는가이다. 우리는 이에 필요한 분석을 제공하는 언어를 제시하고, 지지된 공개 소통에서 신뢰를 훼손하는 메커니즘을 개괄하며, 추론 연쇄의 감사 가능성을 훼손함으로써 발생하는 신뢰 위반을 감사하고 시정하기 위한 체계를 개괄한다. 이는 주장 해석을 위한 추론주의 의미론(inferentialist semantics)으로 풍부화된 인식론적 네트워크를 활용한다.
농업 공급망은 연결된 생물물리학적·경제적 시스템을 통해 공급 충격에 취약하다. 본 연구에서는 경제 모델(GTAP)과 생물물리학적 모델(APSIM)을 통합한 AI 기반 도구를 개발하여 공급망 충격을 분석하고, 정책 입안자와 시장 참여자가 자연어로 작성된 질의와 응답을 통해 학제간 영향을 평가할 수 있도록 한다.
반응적(reactive) 설계에 머물러 있는 엔터프라이즈 AI 에이전트의 한계를 극복하기 위해, 엔터프라이즈 엔티티의 상태 변화를 실시간으로 추적하는 관계형 데이터 구조인 Context Graph와 이를 기반으로 한 Delta Detection Engine, Proactivity Scorer, LLM 기반 Surfacing Layer로 구성된 능동적(proactive) 서페이싱 시스템을 제안한다. 계약 수명주기 관리, 인시던트 대응, 영업 파이프라인 관리 등 세 가지 엔터프라이즈 사례에서 Precision@5 0.83을 달성하고, 평균 정보 제공 시간을 47분에서 30초 미만으로 단축하는 효과를 보였다.