Poboljšanje objašnjenja zasnovanih na poremećajima razumevanjem uloge kalibracije nesigurnosti
Objavljeno u: 39. konferencija o sistemima za obradu neuronskih informacija (NeuRIPS 2025)
Thomas Decker¹²³, Volker Tresp²³, Florian Bütner
(¹ Siemens, ² LMU Minhen, ³ Minhenski centar za mašinsko učenje (MCML), Univerzitet Goethe Frankfurt, Nemački centar za istraživanje raka, Nemački konzorcijum za rak)
Objašnjenja zasnovana na poremećajima povećavaju transparentnost ML -a, ali nepoznato ponašanje modela pod poremećajima ugrožava njihovu pouzdanost. Dokazujemo da modeli proizvode nepouzdane procene verovatnoće pod ovim poremećajima, direktno degradirajući lokalni i globalni kvalitet objašnjenja. Predlažemo da RecalKs ponovo kalibrira modele za bolja objašnjenja bez promene originalnih predviđanja, poboljšavajući robusnost.
Pogledajte na stranici izdavača
Inkrementalno praćenje performansi svesno neizvesnosti sa aktivnom intervencijom označavanja
Objavljeno u: Zbornik radova sa 28. međunarodne konferencije o veštačkoj inteligenciji i statistici, PMLR 258:2188‑2196, 2025
Alekander Koebler, Thomas Decker, Ingo Thon, Volker Tresp, Florian Buettner
Proučavamo praćenje ML modela pod postepenim pomeranjima distribucije, koji polako degradiraju tačnost neotkriveno. Predlažemo inkrementalno praćenje performansi svesno neizvesnosti (IUPM), metodu bez oznaka koja procenjuje promene performansi koristeći optimalni transport. IUPM kvantifikuje nesigurnost predviđanja i koristi aktivno označavanje pod ograničenim budžetom za vraćanje procena, nadmašujući osnovne linije u scenarijima smene.
Pogledajte na stranici izdavača
Viki-tabner: Integrisanje prepoznavanja imenovanih entiteta u Vikipedijske tabele
Objavljeno u: 2025 Međunarodna ACM SIGIR konferencija o istraživanju i razvoju u pronalaženju informacija
Aneta Koleva, Martin Ringskuandl, Ahmed Hatem, Thomas Runkler, Volker Tresp
Postojeća merila za tumačenje tabela često previše pojednostavljuju podatke iz stvarnog sveta. Da bismo rešili ovo, predstavljamo Viki-Tabner, izazovan skup podataka koji sadrži složene Vikipedije tabele sa više entiteta po ćeliji, označene pomoću DBpedia klasa. Dizajniran za prepoznavanje entiteta u tabeli (NER) i povezivanje entiteta, detaljno opisujemo njegove karakteristike, označavanje i okvir za procenu LLM-a, praćen kvalitativnom analizom performansi modela i ograničenja skupa podataka.
Pogledajte na stranici izdavača
Lightning UK Bok: Kvantifikacija nesigurnosti za neuronske mreže
Objavljeno u: Časopis za istraživanje mašinskog učenja 26 (2025)
Nils Lehmann, Nina Maria Gottschling, Jakob Gavlikovski, Adam J. Stevart, Stefan Depeveg, Eric Nalisnick
Uprkos uspehu dubokog učenja, njegova priroda crne kutije i nedostajuće procene samopouzdanja izazivaju skepticizam u kritičnim oblastima poput medicine. Da bismo kvantifikaciju nesigurnosti (UK) učinili pristupačnijom i višekratnijom, predstavljamo Lightning UK Bok, biblioteku zasnovanu na Pitorchu koju powered by PiTorch Lightning. Podržava klasifikaciju, regresiju i segmentaciju kroz različite UK metode, pružajući praktičarima skalabilne alate spremne za upotrebu.
Pogledajte na stranici izdavača
Finozrnata dekompozicija nesigurnosti u velikim jezičkim modelima: spektralni pristup
Objavljeno u: Zbornik radova sa AAAI konferencije o veštačkoj inteligenciji (AAAI26)
Nassim Valha¹², Sebastian G. Gruber, Thomas Decker, Iinchong Iang, Alireza Javanmardi, Eike Hullermeier, Florian Buettner¹²³
(¹ Nemački centar za istraživanje raka (DKFZ), ² Nemački konzorcijum za rak (DKTK), ³ Frankfurtski institut za rak, Nemačka, Goethe Univerzitet Frankfurt, Nemačka, ESAT-PSI, KU Leuven, Belgija, Siemens AG, LMU Minhen, Minhenski centar za mašinsko učenje (MCML), Nemački centar za veštačku inteligenciju (DFKI), Kaiserslautern, Nemačka)
Kako se LLM-ovi integrišu u različite aplikacije, dobijanje pouzdanih mera predviđanja nesigurnosti je presudno. Razlikovanje dvosmislenosti aleatoričnih podataka i ograničenja epistemičkog modela od suštinskog je značaja za rešavanje svakog izvora. Uvodimo spektralnu nesigurnost, pristup koji koristi Von Nojmanovu entropiju kvantne teorije informacija za rigorozno odvajanje ukupne neizvesnosti na aleatorične i epistemičke komponente. Koristeći semantičku sličnost, on nadmašuje najsavremenije metode u različitim modelima i referentnim vrednostima.
Pogledajte na stranici izdavača