PyTorchKR Papers

업데이트된 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2611.00301v2cs.MS

저정밀도 부동소수점의 부상

The Rise of Low Precision Floating Point

부동소수점 연산은 충분히 높은 정밀도와 충분히 넓은 범위로 실수를 근사할 수 있는 다재다능한 능력 덕분에 1950년대부터 과학 계산을 지배해 왔다. 1985년 이후 업계 전반에서 두 가지 형식이 표준이 되었는데, 하나는 많은 용도에 충분한 32비트 형식이고, 다른 하나는 더 높은 정밀도와 더 넓은 범위가 필요한 응용을 위해 두 가지 모두를 크게 향상시킨 64비트 형식이다. 그러나 지난 10년 동안 딥러닝이 계산을 주도하게 되면서, 정밀도가 낮고 범위가 좁은 더 작은 부동소수점 형식이 꾸준히 보편화되었다. 본 논문에서는 이러한 현상과 그 발생 이유, 다양한 16비트, 8비트, 심지어 4비트 부동소수점 형식이 개발된 과정, 그리고 이러한 형식을 표준화하려는 노력을 논의한다.

arXiv:2505.23565v2cs.LG공식 코드 · Papers with Code

DRO: 기계학습을 위한 분포적 강건 최적화 파이썬 라이브러리

DRO: A Python Library for Distributionally Robust Optimization in Machine Learning

우리는 회귀 및 분류 문제를 위한 분포적 강건 최적화(DRO) 오픈소스 파이썬 라이브러리인 dro를 소개한다. 이 라이브러리는 15개의 DRO 정식화와 9개의 백본 모델을 구현하여 85가지의 서로 다른 DRO 방법을 지원한다. 또한 dro는 통합 인터페이스를 통해 scikit-learn 및 PyTorch와 모두 호환되며, 계산량이 많은 일부 정식화에 대해서는 근사 기법을 사용하여 실행 시간을 줄인다. 포괄적인 문서는 https://python-dro.org 에서 확인할 수 있다.