Annual Conference of KIPS (한국정보처리학회:학술대회논문집)

  • 2024.10a
  • /
  • Pages.533-536
  • /
  • 2024
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

Reliability of Artificial Intelligence Models for Supporting Nuclear Plant Operations

원자력발전소 운전지원을 위한 인공지능 모델의 신뢰성

  • Jaekwan Park (Korea Atomic Energy Research Institute) ;
  • Seoryong Koo (Korea Atomic Energy Research Institute)
  • 박재관 (한국원자력연구원) ;
  • 구서룡 (한국원자력연구원)
  • Published : 2024.10.31
Download PDF
⟨ Previous Next ⟩

Abstract

운전지원은 원자력 분야에서 인공지능 기술의 현장 적용 가능성이 가장 높은 기능 중에 하나이다. 원전 시설을 감시, 비정상 탐지, 사고 예측, 조치 지원과 같은 다양한 세부 기능에서 인공지능기술을 적용하기 위한 연구가 수행되고 있다. 원전은 안전상의 이유로 규제기관의 신뢰성 검토를 통한 허가를 받은 기능만 현장에서 운용 가능하다. 그러나, 인공지능 기술은 전통적인 소프트웨어와는 다른 특성들 때문에 기존 방식으로는 신뢰성을 평가하기 어렵고 이것은 현장 적용을 더디게 하는 요소가 된다. 이 논문은 국내외 문헌조사를 통해 원전분야에서 인공지능 모델의 신뢰성을 평가하기 위한 항목들을 검증 요건으로 제안한다. 이러한 검증 요건에 대한 정성적, 정량적 평가는 원전 인공지능 모델의 신뢰성을 평가하는데 도움이 될 것으로 기대된다.

Keywords

Acknowledgement

This work was supported by the National Research Foundation of Korea (NRF) grant funded by the Korea government (Ministry of Science and ICT) (No. RS-2022-00144150) and the Korea Institute of Energy Technology Evaluation and Planning (KETEP) and the Ministry of Trade, Industry, & Energy (MOTIE) of the Republic of Korea (No. 20224B10100130)

References

  1. US NRC, RG 1.168, Verification, Validation, Reviews, and Audits for Digital Computer Software used in Safety Systems of Nuclear Power Plants, 2013
  2. IEEE, IEEE 1012, Standard for Software Verification and Validation, 2004
  3. Zhang et. al., "Machine Learning Testing: Survey, Landscapes and Horizons", IEEE Transactions on Software Engineering, Vol. 48, Issue 1, pp. 1-36, 2022
  4. ISO/IEC, ISO/IEC TR 29119-11, "Guidelines on the testing of AI-based systems", 2020
  5. 한국정보통신기술협회, TTAK.KO-10.1497, " 인공지능 시스템 신뢰성 제고를 위한 요구사항", 2023
  6. The Institution of Engineering and Technology, "The Application of Artificial Intelligence in Functional Safety", 2024
  7. 정보통신산업진흥원, "기업 공개소프트웨어 거버넌스 가이드", 2021
  8. Sandip Kundu, "Security and Privacy of Machine Learning Algorithms", International Symposium on Quality Electronic Design, 2019
  9. Florian Tramer et. al., "Stealing Machine Learning Models via Prediction APIs", Proceedings of the 25th USENIX Conference on Security Symposium, pp. 601-618, 2016
  10. Ian Goodfellow et. al., "Explain and harnessing adversarial examples", ICLR, 2015
  11. 한국정보통신기술협회, TTAK.KO-11.0280, "검증용 데이터세트의 밸런스 기반 인공지능 소프트웨어 신뢰성 평가 방법 - 제 3 부: 시계열 타입 밸런스 데이터 설계", 2021