arXiv:2407.13439

Reducing Barriers to the Use of Marginalised Music Genres in AI

Nick Bryan-Kinns, Zijin Li

제출 2024-07-18

원문 초록

AI systems for high quality music generation typically rely on extremely large musical datasets to train the AI models. This creates barriers to generating music beyond the genres represented in dominant datasets such as Western Classical music or pop music. We undertook a 4 month international research project summarised in this paper to explore the eXplainable AI (XAI) challenges and opportunities associated with reducing barriers to using marginalised genres of music with AI models. XAI opportunities identified included topics of improving transparency and control of AI models, explaining the ethics and bias of AI models, fine tuning large models with small datasets to reduce bias, and explaining style-transfer opportunities with AI models. Participants in the research emphasised that whilst it is hard to work with small datasets such as marginalised music and AI, such approaches strengthen cultural representation of underrepresented cultures and contribute to addressing issues of bias of deep learning models. We are now building on this project to bring together a global International Responsible AI Music community and invite people to join our network.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.20253v1cs.SD공통 태그 Style Transfer, Music Generation

전곡 생성의 한계 확장: 계층적 자기회귀 계획과 플로우 매칭 렌더링

Pushing the Frontier of Full-Song Generation: Hierarchical Autoregressive Planning Meets Flow-Matching Rendering

본 보고서에서는 가사, 텍스트 설명, 음악적 속성으로부터 고품질의 전곡 음악을 생성할 수 있는 통합 노래 생성 프레임워크를 제시한다. 제안된 프레임워크는 세 가지 작업을 지원한다: 텍스트 설명, 가사, 음악적 속성으로부터 완전한 노래를 생성하는 Lyrics-to-Song Generation; 보컬 없이 음악을 생성하는 Instrumental Music Generation; 멜로디 내용을 보존하면서 다른 스타일로 기존 곡을 재해석하는 Cover Song Generation. 아키텍처적으로 본 시스템은 네 가지 주요 구성 요소로 이루어진다: semantic-aware tokenizer, hybird-LM, FullDiT, 2단계 melody module. 토크나이저는 오디오를 효율적인 이산 음악 표현을 위해 8-codebook RVQ 토큰으로 인코딩한다. 이러한 토큰을 기반으로 hybird-LM은 전곡 생성을 위해 계층적 자기회귀(autoregressive) 오디오-토큰 모델링을 수행한다. 오디오 충실도를 높이기 위해 FullDiT는 codec 토큰, 가사, 텍스트 캡션을 조건으로 하는 연속 VAE 잠재 공간에서 전곡 flow matching을 수행한다. Cover Song Generation의 경우 melody module은 참조 오디오에서 멜로디 단서를 추출·이산화하여 원래 멜로디 내용을 보존하면서 생성을 안내한다. 마지막으로 hybird-LM에 대해 DPO, GRPO, OPD를 보상 기반 사후 학습 전략으로 검토하고, FullDiT에 flow-based GRPO를 적용하여 음악성과 렌더링 품질을 개선한다. 다국어 자동 벤치마크에 대한 실험 결과와 Artificial Analysis Music with Vocals 리더보드가 이를 보완하며, 제안된 프레임워크가 평가된 설정에서 경쟁력 있는 성능을 달성함을 보여준다.

arXiv:2505.19212v2cs.CL공통 태그 Ethics공식 코드 · Papers with Code

윤리와 보상이 갈라질 때: 도덕적으로 민감한 사회적 딜레마에서의 LLM 에이전트

When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas

최근 LLM의 발전으로 인간이나 다른 에이전트와의 의사결정을 포함하는 복잡한 에이전트 역할에 LLM을 활용할 수 있게 되면서, 윤리적 정렬(alignment)이 중요한 관심사가 되었다. 기존 연구는 LLM의 도덕적 판단과 전략적 행동을 각각 따로 다루어 왔지만, 도덕적 명령이 이익 추구와 직접 충돌할 때 LLM이 어떻게 행동하는지에 대한 이해는 제한적이다. 우리는 \msimfull (\msim)을 도입하여, 9개 모델에 걸쳐 도덕적 프레이밍, 상대 행동, 생존 압력을 변화시키며 도덕적으로 민감한 맥락에 내재된 죄수의 딜레마(prisoner's dilemma)와 공공재 게임(public goods game)에서 LLM이 어떻게 행동하는지 평가한다. 행동 측정을 넘어, 평균 처리 효과(ATE)를 통해 각 요인의 인과 효과를 추정하고, 에이전트 자체의 추론 trace를 분석하여 선택 뒤에 있는 동기를 특성화한다. 어떤 모델도 일관되게 도덕적이지 않으며, 협력률은 7.9\%에서 76.3\%까지 분포한다는 것을 발견했다. 게임 구조와 도덕적 프레이밍이 도덕적 행동의 가장 강한 인과적 동인이며, 추론 trace 분석은 모델마다 뚜렷한 동기 프로필을 드러낸다. 이는 주로 보상 최대화(payoff-maximizing)부터 도덕적·평판 지향적 성향까지 다양하다. 이 결과들은 현재 LLM의 도덕적 행동이 상황에 따라 쉽게 흔들린다는 점과, 이익 추구가 윤리적 지침과 충돌하는 환경에 LLM을 배치할 때의 위험을 드러낸다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.