Cải thiện các giải thích dựa trên nhiễu loạn bằng cách hiểu vai trò của hiệu chuẩn độ không chắc chắn
Xuất bản trong: Hội nghị lần thứ 39 về hệ thống xử lý thông tin thần kinh (NeurIPS 2025)
Thomas Decker¹²³, Volker Tresp²³, Florian Büttner５
(¹ Siemens, ² LMU Munich, ³ Trung tâm Học máy Munich (MCML), ⁴ Đại học Goethe Frankfurt, ⁄ Trung tâm Nghiên cứu Ung thư Đức, Hiệp hội Ung thư Đức)
Các giải thích dựa trên nhiễu loạn tăng cường độ trong suốt ML, nhưng hành vi mô hình không xác định dưới nhiễu loạn ảnh hưởng đến độ tin cậy của chúng. Chúng tôi chứng minh rằng các mô hình tạo ra các ước tính xác suất không đáng tin cậy dưới những nhiễu loạn này, làm giảm trực tiếp chất lượng giải thích cục bộ và toàn cầu. Chúng tôi đề xuất RecalX hiệu chỉnh lại các mô hình để giải thích tốt hơn mà không làm thay đổi dự đoán ban đầu, cải thiện tính mạnh mẽ.
Xem tại trang của nhà xuất bản
Giám sát hiệu suất nhận thức không chắc chắn gia tăng với can thiệp ghi nhãn tích cực
Xuất bản trong: Kỷ yếu Hội nghị Quốc tế lần thứ 28 về Trí tuệ nhân tạo và Thống kê, PMLR 258:2188‑2196, 2025
Alexander Koebler, Thomas Decker, Ingo Thon, Volker Tresp, Florian Buettner
Chúng tôi nghiên cứu giám sát các mô hình ML dưới sự thay đổi phân phối dần dần, từ từ làm giảm độ chính xác mà không bị phát hiện. Chúng tôi đề xuất giám sát hiệu suất nhận thức không chắc chắn gia tăng (IUPM), một phương pháp không có nhãn ước tính những thay đổi hiệu suất bằng cách sử dụng phương pháp vận chuyển tối ưu. IUPM định lượng độ không chắc chắn dự đoán và sử dụng ghi nhãn hoạt động theo ngân sách hạn chế để khôi phục các ước tính, vượt trội hơn các mức cơ sở trong các kịch bản thay đổi.
Xem tại trang của nhà xuất bản
Wiki-Tabner: Tích hợp nhận dạng thực thể được đặt tên vào các bảng Wikipedia
Xuất bản trong: Hội nghị quốc tế ACM SIGIR 2025 về Nghiên cứu và Phát triển trong Truy xuất Thông tin
Aneta Koleva, Martin Ringsquandl, Ahmed Hatem, Thomas Runkler, Volker Tresp
Các điểm chuẩn giải thích bảng hiện có thường đơn giản hóa quá mức dữ liệu trong thế giới thực. Để giải quyết vấn đề này, chúng tôi giới thiệu Wiki-Tabner, một tập dữ liệu đầy thách thức có các bảng Wikipedia phức tạp với nhiều thực thể trên mỗi ô, được chú thích bằng cách sử dụng các lớp DBpedia. Được thiết kế để nhận dạng thực thể có tên trong bảng (NER) và liên kết thực thể, chúng tôi trình bày chi tiết các tính năng, ghi nhãn và khung đánh giá LLM của nó, tiếp theo là phân tích định tính về hiệu suất mô hình và các hạn chế của tập dữ liệu.
Xem tại trang của nhà xuất bản
Lightning UQ Box: Định lượng không chắc chắn cho mạng nơ-ron
Xuất bản trong: Tạp chí Nghiên cứu Học Máy 26 (2025)
Nils Lehmann, Nina Maria Gottschling, Jacob Gawlikowski, Adam J.Stewart, Stefan Depeweg, Eric Nalisnick
Bất chấp thành công của việc học sâu, bản chất hộp đen và thiếu ước tính tự tin của nó gây ra sự hoài nghi trong các lĩnh vực quan trọng như y học. Để làm cho việc định lượng độ không chắc chắn (UQ) dễ tiếp cận và có thể tái sử dụng hơn, chúng tôi giới thiệu Lightning UQ Box, một thư viện dựa trên PyTorch được cung cấp bởi PyTorch Lightning. Nó hỗ trợ phân loại, hồi quy và phân đoạn trên các phương pháp UQ đa dạng, cung cấp cho các học viên các công cụ có thể mở rộng, sẵn sàng sử dụng.
Xem tại trang của nhà xuất bản
Phân hủy độ không chắc chắn hạt mịn trong các mô hình ngôn ngữ lớn: Cách tiếp cận quang phổ
Xuất bản trong: Kỷ yếu Hội nghị AAAI về Trí tuệ nhân tạo (AAAI26)
Nassim Walha¹², Sebastian G. Gruber⇓, Thomas Decker, Yinchong Yang, Alireza Javanmardi, Eyke Hüllermeier, Florian Buettner¹²³⁴
(¹ Trung tâm Nghiên cứu Ung thư Đức (DKFZ), ² Hiệp hội Ung thư Đức (DKTK), ³ Viện Ung thư Frankfurt, Đức, ⁴ Đại học Goethe Frankfurt, Đức, ⁄ ESAT-PSI, KU Leuven, Bỉ, Siemens AG, LMU Munich, Trung tâm Học máy Munich (MCML), Trung tâm Trí tuệ nhân tạo Đức (DFKI), Kaiserslautern, Đức)
Khi LLM tích hợp vào các ứng dụng đa dạng, việc có được các biện pháp không chắc chắn dự đoán đáng tin cậy là rất quan trọng. Việc phân biệt giữa sự mơ hồ dữ liệu ngẫu nhiên và các hạn chế của mô hình nhận thức là điều cần thiết để giải quyết từng nguồn. Chúng tôi giới thiệu sự không chắc chắn quang phổ, một cách tiếp cận sử dụng entropy Von Neumann của lý thuyết thông tin lượng tử để tách chặt chẽ sự không chắc chắn tổng thành các thành phần ngẫu nhiên và nhận thức. Bằng cách tận dụng sự tương đồng về ngữ nghĩa, nó vượt trội hơn các phương pháp hiện đại trên các mô hình và điểm chuẩn đa dạng.
Xem tại trang của nhà xuất bản
