불확실성 보정의 역할을 이해해서 섭동 기반 설명 개선해요.
게시글: 제39회 신경 정보 처리 시스템 컨퍼런스 (NeurIPS 2025)
토마스 데커¹²³, 볼커 트레스프²³, 플로리안 뷔트너
(¹ Siemens, ² LMU 뮌헨, ³ 뮌헨 머신러닝 센터 (MCML), ⁴ 괴테 대학교 프랑크푸르트, ⁴ 독일 암 연구 센터, 독일 암 컨소시엄)
섭동 기반 설명은 ML 투명성을 향상시키지만 섭동 시 알려지지 않은 모델 동작은 신뢰성을 떨어뜨립니다.이런 섭동 상태에서 모형들이 신뢰할 수 없는 확률 추정치를 내서 지역적이고 세계적인 설명의 질을 직접적으로 떨어뜨린다는 걸 우리가 증명했어요.원래 예측을 변경하지 않고 더 나은 설명을 위해 견고성을 개선하도록 모델을 재보정하는 RecalX를 제안해요.
출판사 페이지에서 봐요
적극적인 라벨링 개입을 통한 점진적인 불확실성 인식 성능 모니터링
출판: 제28회 인공 지능 및 통계 국제 컨퍼런스 논문집, PMLR 258:2188‑2196, 2025년
알렉산더 쾨블러, 토마스 데커, 잉고 톤, 볼커 트레프, 플로리안 뷰트너
우리는 감지하지 못하는 사이에 정확도가 서서히 저하되는 점진적 분포 변화 하에서 ML 모델을 모니터링하는 것을 연구해요.최적 전송을 사용하여 성능 변화를 추정하는 라벨 없는 방법인 점진적 불확실성 인식 성능 모니터링 (IUPM) 을 제안해요.IUPM은 예측 불확실성을 수치화하고 제한된 예산으로 액티브 라벨링을 사용하여 추정치를 복원해 교대 시나리오에서 기준선을 능가해요.
출판사 페이지에서 봐요.
위키 태브너: 이름이 지정된 개체 인식을 위키백과 테이블에 통합하기
출판 날짜: 2025년 정보 검색 연구 개발에 관한 국제 ACM SIGIR 컨퍼런스
아네타 콜레바, 마틴 링스콴들, 아메드 하템, 토마스 런클러, 볼커 트레프
기존 테이블 해석 벤치마크는 종종 실제 데이터를 지나치게 단순화해요.이 문제를 해결하기 위해 Wiki-Tabner를 소개해요. 셀당 엔티티가 여러 개 있고 DBPedia 클래스로 주석이 달린 복잡한 위키백과 테이블로 구성된 난이도 높은 데이터셋이에요.테이블 내 네임드 엔티티 인식 (NER) 과 엔티티 연결을 위해 설계되었으며, 기능, 라벨링, LLM 평가 프레임워크를 자세히 설명하고 모델 성능과 데이터 세트 제한에 대한 질적 분석을 진행해요.
출판사 페이지에서 봐요.
라이트닝 UQ 박스: 신경망의 불확실성 정량화
출판물: 머신 러닝 리서치 저널 26 (2025)
닐스 레만, 니나 마리아 고츨링, 야콥 갈리코프스키, 애덤 J. 스튜어트, 스테판 디페그, 에릭 날리스닉
딥러닝의 성공에도 불구하고 딥러닝의 블랙박스적 특성과 신뢰도 추정치가 빗나가면 의학 같은 중요한 분야에서는 회의론이 생겨요.불확실성 정량화 (UQ) 를 더 쉽게 접근하고 재사용할 수 있게 하기 위해 파이토치 라이트닝으로 구동되는 파이토치 기반 라이브러리인 라이트닝 UQ 박스를 도입했어요.다양한 UQ 방법에 걸친 분류, 회귀, 분할을 지원해 실무자에게 확장 가능하고 바로 사용할 수 있는 도구를 제공해요.
출판사 페이지에서 봐요
대형 언어 모델에서의 세분화된 불확실성 분해: 스펙트럼 접근법
출판: AAAI 인공 지능 컨퍼런스 논문집 (AAAI26)
나심 왈하¹², 세바스찬 G. 그루버³, 토마스 데커, 양인충, 알리레자 자바마르디, 아이크 훌러마이어, 플로리안 뷰트너¹²³
(¹ 독일 암 연구 센터 (DKFZ), ² 독일 암 컨소시엄 (DKTK), ³ 프랑크푸르트 암 연구소, ³ 독일, ⁴ 괴테 대학교 프랑크푸르트, ESAT-PSI, KU 루벤, 벨기에, Siemens AG, LMU 뮌헨, 뮌헨 기계 학습 센터 (MCML), 독일 인공 지능 센터 (DFKI), 카이저슬라우테른, 독일)
LLM이 다양한 애플리케이션에 통합되기 때문에 신뢰할 수 있는 예측 불확실성 측정을 얻는 것이 중요해요.각 출처를 해결하려면 무작위적 데이터 모호성과 인식적 모델 한계를 구분하는 것이 필수예요.스펙트럼 불확실성을 도입해요. 양자 정보 이론의 폰 노이만 엔트로피를 사용하여 전체 불확실성을 무작위적 구성 요소와 인식적 구성 요소로 엄격하게 분리하는 접근법이에요.의미적 유사성을 활용하여 다양한 모델과 벤치마크에서 최첨단 방법보다 성능이 뛰어나죠.
출판사 페이지에서 봐요.