Βελτίωση των εξηγήσεων που βασίζονται σε διαταραχές κατανοώντας το ρόλο της βαθμονόμησης αβεβαιότητας
Δημοσιεύθηκε σε: 39ο Συνέδριο για τα Συστήματα Επεξεργασίας Νευρωνικών Πληροφοριών (NeurIPS 2025)
Τόμας Ντέκερ¹²³, Φόλκερ Τρέσπ²³, Φλόριαν Μπίτνερ5
(¹ Siemens, ² LMU Μόναχο, ³ Κέντρο Μηχανικής Μάθησης του Μονάχου (MCML), ⁴ Πανεπιστήμιο Goethe της Φρανκφούρτης, ⁄ Γερμανικό Κέντρο Έρευνας για τον Καρκίνο, Γερμανική Κοινοπραξία Καρκίνου)
Οι εξηγήσεις που βασίζονται σε διαταραχές ενισχύουν τη διαφάνεια ML, αλλά η άγνωστη συμπεριφορά μοντέλου υπό διαταραχές θέτει σε κίνδυνο την αξιοπιστία τους. Αποδεικνύουμε ότι τα μοντέλα παράγουν αναξιόπιστες εκτιμήσεις πιθανότητας κάτω από αυτές τις διαταραχές, υποβαθμίζοντας άμεσα την τοπική και παγκόσμια ποιότητα εξήγησης. Προτείνουμε το RecalX να επαναβαθμονομήσει μοντέλα για καλύτερες εξηγήσεις χωρίς να αλλάζει τις αρχικές προβλέψεις, βελτιώνοντας την ευρωστία.
Προβολή στη σελίδα του εκδότη
Σταθερή παρακολούθηση απόδοσης με επίγνωση της αβεβαιότητας με ενεργή παρέμβαση επισήμανσης
Δημοσιεύθηκε σε: Πρακτικά του 28ου Διεθνούς Συνεδρίου Τεχνητής Νοημοσύνης και Στατιστικής, PMLR 258:2188‑2196, 2025
Αλεξάντερ Κόμπλερ, Τόμας Ντέκερ, Ίνγκο Θον, Βόλκερ Τρέσπ, Φλόριαν Μπέτνερ
Μελετάμε την παρακολούθηση μοντέλων ML υπό σταδιακές μετατοπίσεις κατανομής, οι οποίες υποβαθμίζουν αργά την ακρίβεια χωρίς να εντοπιστούν. Προτείνουμε την επαυξητική παρακολούθηση απόδοσης με επίγνωση αβεβαιότητας (IUPM), μια μέθοδο χωρίς ετικέτες που εκτιμά τις αλλαγές απόδοσης χρησιμοποιώντας τη βέλτιστη μεταφορά. Το IUPM ποσοτικοποιεί την αβεβαιότητα πρόβλεψης και χρησιμοποιεί ενεργή επισήμανση με περιορισμένο προϋπολογισμό για την αποκατάσταση των εκτιμήσεων, ξεπερνώντας τις γραμμές βάσης σε σενάρια βάρδιας.
Προβολή στη σελίδα του εκδότη
Wiki-Tabner: Ενσωμάτωση αναγνώρισης ονομασμένων οντοτήτων στους πίνακες της Wikipedia
Δημοσιεύθηκε στο: 2025 Διεθνές Συνέδριο ACM SIGIR για την Έρευνα και Ανάπτυξη στην Ανάκτηση Πληροφοριών
Ανέτα Κολέβα, Μάρτιν Ρίνγκσκουαντλ, Αχμέτ Χατέμ, Τόμας Ράνκλερ, Βόλκερ Τρέσπ
Τα υπάρχοντα σημεία αναφοράς ερμηνείας πινάκων συχνά απλοποιούν υπερβολικά τα δεδομένα πραγματικού κόσμου. Για να το αντιμετωπίσουμε αυτό, παρουσιάζουμε το Wiki-Tabner, ένα προκλητικό σύνολο δεδομένων που περιλαμβάνει πολύπλοκους πίνακες Wikipedia με πολλαπλές οντότητες ανά κελί, σχολιασμένο χρησιμοποιώντας κλάσεις DBpedia. Σχεδιασμένο για αναγνώριση οντοτήτων εντός πίνακα (NER) και σύνδεση οντοτήτων, περιγράφουμε λεπτομερώς τα χαρακτηριστικά, την επισήμανση και ένα πλαίσιο αξιολόγησης LLM, ακολουθούμενο από ποιοτική ανάλυση της απόδοσης του μοντέλου και των περιορισμών του συνόλου δεδομένων.
Προβολή στη σελίδα του εκδότη
Lightning UQ Box: Ποσοτικοποίηση αβεβαιότητας για νευρωνικά δίκτυα
Δημοσιεύθηκε σε: Εφημερίδα της Έρευνας Μηχανικής Μάθησης 26 (2025)
Νιλς Λέμαν, Νίνα Μαρία Γκότσλινγκ, Γιάκομπ Γκαουλίκοφσκι, Άνταμ Τζέι Στιούαρτ, Στέφαν Ντέπεβεγκ, Έρικ Ναλίσνικ
Παρά την επιτυχία της βαθιάς μάθησης, η φύση του μαύρου κουτιού και οι ελλιπείς εκτιμήσεις εμπιστοσύνης προκαλούν σκεπτικισμό σε κρίσιμους τομείς όπως η ιατρική. Για να κάνουμε την ποσοτικοποίηση της αβεβαιότητας (UQ) πιο προσιτή και επαναχρησιμοποιήσιμη, παρουσιάζουμε το Lightning UQ Box, μια βιβλιοθήκη που βασίζεται στο PyTorch που τροφοδοτείται από το PyTorch Lightning. Υποστηρίζει την ταξινόμηση, την παλινδρόμηση και την τμηματοποίηση σε διάφορες μεθόδους UQ, δίνοντας στους επαγγελματίες επεκτάσιμα, έτοιμα προς χρήση εργαλεία.
Προβολή στη σελίδα του εκδότη
Λεπτομερής αποσύνθεση αβεβαιότητας σε μεγάλα γλωσσικά μοντέλα: Μια φασματική προσέγγιση
Δημοσιεύθηκε σε: Πρακτικά του Συνεδρίου AAAI για την Τεχνητή Νοημοσύνη (AAAI26)
Νασίμ Γουάλα¹², Σεμπάστιαν Γκρούμπερ5, Τόμας Ντέκερ, Γιντσόνγκ Γιανγκ, Αλιρέζα Τζαβανμάρντι, Έικε Χουλλερμέιερ, Φλοριάν Μπουέτνερ¹²³⁴
(¹ Γερμανικό Κέντρο Έρευνας για τον Καρκίνο (DKFZ), ² Γερμανική Κοινοπραξία Καρκίνου (DKTK), ³ Ινστιτούτο Καρκίνου της Φρανκφούρτης, Γερμανία, ⁴ Πανεπιστήμιο Γκαίτε Φρανκφούρτη, Γερμανία, ⁄ ESAT-PSI, KU Leuven, Βέλγιο, Siemens AG, LMU Μόναχο, Κέντρο Μηχανικής Μάθησης (MCML), Γερμανικό Κέντρο Τεχνητής Νοημοσύνης (DFKI), Kaiserslautern, Γερμανία)
Καθώς τα LLM ενσωματώνονται σε διάφορες εφαρμογές, η λήψη αξιόπιστων μέτρων προγνωστικής αβεβαιότητας είναι κρίσιμη. Η διάκριση μεταξύ αλλιεργικής ασάφειας δεδομένων και περιορισμών επιστημονικού μοντέλου είναι απαραίτητη για την αντιμετώπιση κάθε πηγής. Εισάγουμε τη φασματική αβεβαιότητα, μια προσέγγιση που χρησιμοποιεί την εντροπία Von Neumann της κβαντικής θεωρίας πληροφοριών για να διαχωρίσει αυστηρά τη συνολική αβεβαιότητα σε αλεατικά και επιστημικά συστατικά. Αξιοποιώντας τη σημασιολογική ομοιότητα, ξεπερνά τις υπερσύγχρονες μεθόδους σε διάφορα μοντέλα και σημεία αναφοράς.
Προβολή στη σελίδα του εκδότη
