arXiv:1806.05250

What About Applied Fairness?

Jared Sylvester, Edward Raff

제출 2018-06-13

원문 초록

Machine learning practitioners are often ambivalent about the ethical aspects of their products. We believe anything that gets us from that current state to one in which our systems are achieving some degree of fairness is an improvement that should be welcomed. This is true even when that progress does not get us 100% of the way to the goal of "complete" fairness or perfectly align with our personal belief on which measure of fairness is used. Some measure of fairness being built would still put us in a better position than the status quo. Impediments to getting fairness and ethical concerns applied in real applications, whether they are abstruse philosophical debates or technical overhead such as the introduction of ever more hyper-parameters, should be avoided. In this paper we further elaborate on our argument for this viewpoint and its importance.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.01243v1cs.CV공통 태그 Fairness, Position

판사가 행동할 때: 문화적 맥락의 프롬프트에서 VLM 기반 이미지 선택 감사하기

When the Judge Acts: Auditing VLM-Guided Image Selection on Culturally Situated Prompts

비전-언어 모델(VLM)이 생성된 여러 이미지 중 최선의 이미지를 선택하는 판사(judge) 역할을 수행하는 경우가 점차 늘어나면서, 이들의 선택이 사용자가 보게 되는 결과를 결정짓고 있습니다. 이러한 판사는 대개 자신이 반환하는 이미지가 아니라 인간의 평가 점수와의 일치도를 바탕으로 검증됩니다. 본 연구에서는 의사결정자로서의 VLM 판사를 감사(audit)합니다. 문화적 맥락이 담긴 300개의 프롬프트를 대상으로, 판사가 반환한 이미지를 판사가 사전에 보지 않은 인간 평가 및 동일한 후보군에서의 무작위 선택과 비교하고, 후보의 순서를 바꾸어 모든 결정을 반복 평가합니다. 40억(4B) 매개변수 판사는 무작위 선택을 겨우 넘어서는 수준에 그치며 CLIP 유사도 기준선에 미치지 못합니다. 이 판사는 호출의 49%에서 첫 번째로 제시된 이미지를 선택하며(무작위 확률: 28%), 순서를 변경할 경우 60%의 프롬프트에서 선택이 바뀝니다. 이 판사의 경우 순서 간의 일치 여부가 유의미한 정보를 제공합니다. 순서 재배치에도 유지되는 결정은 무작위보다 훨씬 우수한 반면, 더 성능이 낮은 두 번째 판사와의 일치도를 기준으로 삼으면 잘못된 결정이 그대로 남게 됩니다. 80억(8B) 판사는 위치 바이어스가 거의 나타나지 않으며 CLIP을 능가하지만, 이 판사에서는 동일한 필터를 적용할 경우 오히려 좋은 결정을 대부분 버리게 됩니다. 일치도는 판사의 실패 모드를 정확히 겨냥할 때만 도움이 되므로, 판사가 변경될 때마다 필터를 다시 감사해야 합니다. 4B 판사에서 소폭 증가했던 고정관념 평가는 여러 순서에 걸쳐 집계하거나 더 큰 판사와 결합한 후에는 더 이상 감지되지 않습니다.

arXiv:2606.26631v2cs.CV공통 태그 Position

효율적인 다중 턴 반복 멀티모달 추론을 위한 적응형 시각 KV 캐시 재사용

Adaptive Visual KV Cache Reuse for Efficient Multi-Turn Iterative Multimodal Reasoning

다중 턴 시각 추론은 반복적인 크롭과 국소 검사를 통해 증거를 확보하지만, 관측 영역이 겹치면 시각 인코딩과 프리필이 중복된다. 본 논문은 추가적인 이미지 세부 정보에 대한 접근을 유지하면서 반복 처리를 줄이는 적응형 시각 KV 캐시 재사용 프레임워크를 제안한다. 핵심적인 어려움은 시각 프리필을 생략하면 새로운 관측과 현재 추론 사이의 상호작용도 함께 사라진다는 점이다. 과거의 키는 이전 위치에 묶여 있고, 과거의 값에는 크롭 사이에서 형성된 의도가 반영되어 있지 않다. 본 프레임워크는 먼저 크롭 크기와 캐시 가용성에 따라 전체 재인코딩과 영역 재사용 중 하나를 선택한다. 재사용 경로에서는 위치 키 재결합(Positional Key Rebinding, PKR)이 새로운 위치에서의 어텐션 매칭을 보정하고, 의도 유도 값 강화(Intent-guided Value Enhancement, IVE)가 크롭 이전의 추론 어텐션을 이용해 현재 목표와 관련된 내용을 강화한다. 전체 재인코딩된 크롭의 소스 상태는 이후의 검색과 재사용을 위해 보존된다. 본 프레임워크는 재사용이 적중한 경우 추가 학습이 필요하지 않으며, 선택된 시각 토큰에 대해 시각 인코더와 프리필을 건너뛴 뒤 일반적인 텍스트 추론을 재개한다. 실험 결과, 제안한 방법은 중간 크롭 이미지에 의존하는 다중 턴 시각 추론의 전체 정확도를 유지하면서 추론 시간을 줄인다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.