Îmbunătățirea explicațiilor bazate pe perturbații prin înțelegerea rolului calibrării incertitudinii
Publicat în: A 39-a Conferință privind sistemele de procesare a informațiilor neuronale (NeurIPS 2025)
Thomas Decker¹²³, Volker Tresp²³, Florian Büttner5
(¹ Siemens, ² LMU München, ³ Centrul de învățare automată din München (MCML), ⁴ Universitatea Goethe Frankfurt, ⁄ Centrul German de Cercetare a Cancerului, Consorțiul German al Cancerului)
Explicațiile bazate pe perturbații sporesc transparența ML, dar comportamentul necunoscut al modelului sub perturbații le compromite fiabilitatea. Dovedim că modelele produc estimări de probabilitate nesigure sub aceste perturbații, degradând direct calitatea explicațiilor locale și globale. Propunem RecalX să recalibreze modelele pentru explicații mai bune fără a modifica predicțiile originale, îmbunătățind robustețea.
Vizualizare pe pagina editorului
Monitorizarea incrementală a performanței conștiente de incertitudine cu intervenție activă de etichetare
Publicat în: Lucrările celei de-a 28-a Conferințe Internaționale de Inteligență Artificială și Statistică, PMLR 258:2188‑2196, 2025
Alexander Köbler, Thomas Decker, Ingo Thon, Volker Tresp, Florian Büttner
Studiem monitorizarea modelelor ML sub schimbări treptate de distribuție, care degradează încet precizia nedetectată. Propunem monitorizarea incrementală a performanței conștiente de incertitudine (IUPM), o metodă fără etichete care estimează modificările de performanță folosind transportul optim. IUPM cuantifică incertitudinea de predicție și folosește etichetarea activă în cadrul unui buget limitat pentru a restabili estimările, depășind liniile de bază în scenariile de schimbare.
Vizualizare pe pagina editorului
Wiki-Tabner: Integrarea recunoașterii entităților numite în tabelele Wikipedia
Publicat în: Conferința internațională ACM SIGIR 2025 privind cercetarea și dezvoltarea în recuperarea informațiilor
Aneta Koleva, Martin Ringsquandl, Ahmed Hatem, Thomas Runkler, Volker Tresp
Reperele de interpretare a tabelelor existente simplifică adesea datele din lumea reală. Pentru a aborda acest lucru, introducem Wiki-Tabner, un set de date provocator care conține tabele complexe Wikipedia cu mai multe entități pe celulă, adnotate folosind clase DBpedia. Proiectat pentru recunoașterea entității denumite în tabel (NER) și conectarea entității, detaliem caracteristicile sale, etichetarea și un cadru de evaluare LLM, urmată de analiza calitativă a performanței modelului și a limitărilor setului de date.
Vizualizare pe pagina editorului
Lightning UQ Box: Cuantificarea incertitudinii pentru rețelele neuronale
Publicat în: Jurnalul de Cercetare a Învățării Mașini 26 (2025)
Nils Lehmann, Nina Maria Gottschling, Jacob Gawlikowski, Adam J. Stewart, Stefan Depeweg, Eric Nalisnick
În ciuda succesului învățării profunde, natura sa de cutie neagră și estimările lipsă de încredere provoacă scepticism în domenii critice precum medicina. Pentru a face cuantificarea incertitudinii (UQ) mai accesibilă și reutilizabilă, introducem Lightning UQ Box, o bibliotecă bazată pe PyTorch alimentată de PyTorch Lightning. Sprijină clasificarea, regresia și segmentarea în diverse metode UQ, oferind practicienilor instrumente scalabile, gata de utilizare.
Vizualizare pe pagina editorului
Descompunerea incertitudinii cu granulație fină în modele de limbaj mari: o abordare spectrală
Publicat în: Lucrările Conferinței AAAI privind inteligența artificială (AAAI26)
Nassim Walha¹², Sebastian G. Gruber5, Thomas Decker, Yinchong Yang, Alireza Javanmardi, Eyke Hüllermeier, Florian Buettner¹²³⁴
(¹ Centrul German de Cercetare a Cancerului (DKFZ), ² Consorțiul German al Cancerului (DKTK), ³ Institutul de Cancer din Frankfurt, Germania, ⁴ Universitatea Goethe Frankfurt, Germania, ⁄ESAT-PSI, KU Leuven, Belgia, Siemens AG, LMU München, Centrul Munchen pentru Învățare automată (MCML), Centrul German pentru Inteligență Artificială (DFKI), Kaiserslautern, Germania)
Deoarece LLM-urile se integrează în diverse aplicații, obținerea de măsuri fiabile de incertitudine predictivă este esențială. Distingerea între ambiguitatea datelor aleatorice și limitările modelului epistemic este esențială pentru abordarea fiecărei surse. Introducem incertitudinea spectrală, o abordare care utilizează entropia Von Neumann a teoriei informației cuantice pentru a separa riguros incertitudinea totală în componente aleatorice și epistemice. Folosind similitudinea semantică, depășește metodele de ultimă generație în diverse modele și repere.
Vizualizare pe pagina editorului