??????? ??? ?? ???,
??? ???? ???? ?? ?
???? ???? ??? ??? ??
- ?? ?? AI/???? ????? ????????? ?? 2? ??
[????] ??? ??, ??? ?? ?1??, ??? ?? ?1??, ??? ?? ?1??, ??? ?? ?1??
??????? ??? ?? ???? ???? ??? ? ?? ????[??? ???? ???? ??(?? 1?? ??? ????, ??? ????) ? ???? ???? ??? ??? ??(?? ? 1?? ??? ????, ??? ??????)] ??? ????? ???.
? ??? ?????????(MSIT)? ???? ?????????(IITP)? ?????????(KIST)? ??? ?? ??????, 12? 9?(?) AI/???? ??? ?? ?? ??? ????? ????????(Neural Information Processing Systems, NeurIPS)?? ?? 2?? ?????.
NeurIPS ????? ?? ?? ??? ??? ??? ????? ?? ???? ?????(??? 21.1%) ?? ???? 2? ?? ??? ??? ?? ???? ??? ?? ???? ????.
[??1] Hongjoon Ahn*, Sungmin Cha*, Donggyu Lee, and Taesup Moon, “Uncertainty-based Continual Learning with Adaptive Regularization” (*equal contribution)[??2] Juyeon Heo*, Sunghwan Joo*, and Taesup Moon, “Fooling Neural Network Interpretations via Adversarial Model Manipulation”(*equal contribution)
???? ? ??? ??? ??? ???? ????? ???? ??? ?? ?? ? ???, ???? ???? ???? ????? ??? ? ?? ?? ??(Continual learning) ??? ??? ??. ? ????? ???? ??? ??(Bayesian online learning)? ???? ?? ???? ?? ????? ????? ?? ??? ??? ?????? ??? ??? ?? ? 30% ?? ?? ???? ??????, ????? ??? ??? ??? ??? ??? ????? ??? ? ? ?? ????? ?????. ? ??, ??? ????? ???? ???? ?? ?? ?????? ???? ??? ????.
? ?? ??? ???? ???? ??? ??? ??? ?? ??? ????? ?? ??? ????? ?? ???? ?? ??(saliency-map) ??? ??? ?? ??(interpretation method)? ???? ?? ??(adversarial model manipulation)? ?? ??? ? ??? ?? ????. ?? ?? ??? ??? ?? ???? ?? ??? ??? ??? ?? ???? ? ???? ?? ? ??? ??? ???, ? ???? ??? ??? ?? ??? ??? ?? ?? ???? ?? ??? ?? ???? ?? ??? ?? ??? ?? ? ??? ????.
??? ??? “??? ???? ????? ?? AI??? ???? ?? ???? ?? ??? ?? ???? ????, ?? ? ??? ? ?????? ???? ????? ??? ??? ?? ?? ??? ?? ?? ? ?? ?? ???? ???”? ???. ??, “???? ???? ??? ???? ?? ??? ?? ?? ??? ???? ???? ???? ??? ?? ??? ???? ???? ??? ???? ? ????? ???? ?? ??? ????”? ????.
[?? 1, ?? 1] ???? ???? ???? (UCL)?? ??? ?? ???? (??)? ???? ?? ?? (???)
[?? 1, ?? 2] ???? (??) ? ???? (???)?? ?? UCL ????? ?? ??? (EWC, SI, Fine-tuning ?)? ??? ???? ??? ?.
[?? 2, ?? 1] ???? ??? ?? ??? ?? ??? ??? ???? ?? ??
[?? 2, ?? 2] ???? ??? ?? ??? ??? ?? ??? ??? ???? ? ?? ?? ?? (??) ? ??? ???? ?? ??? ?? ????? ?? ???? ?? (???)
??
