• 정보보호학회지
• /
• 제31권5호
• /
• pp.21-31
• /
• 2021

컴퓨터 기술의 발전에 따라 ML(Machine Learning) 및 AI(Artificial Intelligence)의 도입이 활발히 진행되고 있으며, 정보보호 분야에서도 활용이 증가하고 있는 추세이다. 그러나 이러한 모델들은 black-box 특성을 가지고 있으므로 의사결정 과정을 이해하기 어렵다. 특히, 오탐지 리스크가 큰 정보보호 환경에서 이러한 문제점은 AI 기술을 널리 활용하는데 상당한 장애로 작용한다. 이를 해결하기 위해 XAI(eXplainable Artificial Intelligence) 방법론에 대한 연구가 주목받고 있다. XAI는 예측의 해석이 어려운 AI의 문제점을 보완하기 위해 등장한 방법으로 AI의 학습 과정을 투명하게 보여줄 수 있으며, 예측에 대한 신뢰성을 제공할 수 있다. 본 논문에서는 이러한 XAI 기술의 개념 및 필요성, XAI 방법론의 정보보호 분야 적용 사례에 설명한다. 또한, XAI 평가 방법을 제시하며, XAI 방법론을 보안 시스템에 적용한 경우의 결과도 논의한다. XAI 기술은 AI 판단에 대한 사람 중심의 해석정보를 제공하여, 한정된 인력에 많은 분석데이터를 처리해야 하는 보안담당자들의 분석 및 의사결정 시간을 줄이는데 기여할 수 있을 것으로 예상된다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2000년도 추계학술발표논문집 (상)
• /
• pp.605-608
• /
• 2000

본 논문에서는 자바로 작성된 에이전트가 신뢰할 수 없는 호스트에서도 자신의 코드와 데이터를 노출시키지 않고 안전하게 수행할 수 있게 하는 3가지 시간제한 블랙박스 보안 방법 즉 변수 분해, 코드 어포스캐이팅 그리고 클래스 지연로딩을 제안한다. 변수 분해는 호스트가 에이전트 수행을 감시하여 에이전트 내의 데이터를 파악하는 것을 어렵게 하며, 코드 어포스캐이팅은 실행코드에 더미코드와 가상코드를 삽입하여 역컴파일 등과 같은 기법으로도 코드의 의미 분석을 힘들게 하여 에이전트를 보호한다. 그리고 클래스 지연로딩은 변수에 접근하는 함수들을 암호화하여 실행시간까지 그 접근 방법의 공개를 차단한다. 제안하는 블랙박스 보안방법들은 호스트가 에이전트 내부를 파악하는데 상당한 시간을 소요하게 하여 적어도 에이전트가 실행되는 동안은 에이전트가 보호되게 하는 보안 방법이다.

• 컴퓨터교육학회논문지
• /
• 제7권6호
• /
• pp.129-139
• /
• 2004

C4I 시스템과 같이 신뢰성이 강조되는 시스템의 개발에 있어 정형기법의 도입은 개발 과정에서 나타나는 결과물에 대한 검증을 가능케 함으로서 올바른 시스템을 개발하고 있다는 확신을 개발자와 의뢰자 모두에게 기공해준다. 본 논문은 엄밀한 검증이 필요한 컴포넌트를 설계할 때 사용될 수 있는 컴포넌트의 정형명세 기법과 이에 기반한 테스트 방법을 논한다. 특히 상태기반의 기능명세에 대해 미약선조건을 이용하여 분해하는 방법과 이 과정을 통해 생성된 하위명세에 대한 블랙박스 테스트케이스를 생성시키는 방법을 제시한다.

• 한국통계학회:학술대회논문집
• /
• 한국통계학회 2000년도 추계학술발표회 논문집
• /
• pp.135-140
• /
• 2000

베이지안 신경망 모형(Bayesian Neural Networks Models)에서 주어진 입력값(input)은 블랙 박스(Black-Box)와 같은 신경망 구조의 각 층(layer)을 거쳐서 출력값(output)으로 계산된다. 새로운 입력 데이터에 대한 예측값은 사후분포(posterior distribution)의 기대값(mean)에 의해 계산된다. 주어진 사전분포(prior distribution)와 학습데이터에 의한 가능도함수(likelihood functions)를 통해 계산되어진 사후분포는 매우 복잡한 구조를 갖게 됨으로서 기대값의 적분계산에 대한 어려움이 발생한다. 이때 확률적 추정에 의한 근사 방법인 몬테칼로 적분을 이용한다. 이러한 방법으로서 Hybrid Monte Carlo 알고리즘은 우수한 결과를 제공하여준다(Neal 1996). 본 논문에서는 Hybrid Monte Carlo 알고리즘과 기존에 많이 사용되고 있는 Gibbs sampling, Metropolis algorithm, 그리고 Slice Sampling등의 몬테칼로 방법들을 비교한다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2001년도 추계학술발표논문집 (상)
• /
• pp.371-374
• /
• 2001

본 논문에서는 EJB 컴포넌트 성능 측정 도구 설계에 대하여 설명한다. 이전 연구에서는 EJB 컴포넌트를 역컴파일하는 방법을 사용하였으나, 역컴파일 방지 기술이 사용된 컴포넌트에 대해서는 성능 측정 할 수 없다는 문제를 가졌다. 또 성능 측정을 하기 위한 테스트 프로그램을 작성해야 하는 2차적인 능력이 필요하였다. 이러한 문제를 해결하기 위해 본 논문에서는 black box 성능 측정 기법을 사용하고, 테스트 프로그램을 자동 생성하여 성능 측정을 자동화하는 방법을 제시한다.

• 문화기술의 융합
• /
• 제9권3호
• /
• pp.655-662
• /
• 2023

사회과학 분야에서 빅데이터 연구는 기존의 사회과학 연구방법을 보완하는 역할을 하고 있다. 사회과학자들이 선호하는 서베이 및 실험 방법이 주로 회상 기억에 의존하여 다소 부정확하다면 빅데이터는 실시간 기록이라 보다 정확하다. 기존의 사회과학 연구가 시간과 비용 등의 이유로 연구대상을 전수 조사하기보다 표집에 의한 표본 조사를 주로 하는 것과 달리 빅데이터 연구는 전수에 가까운 데이터를 분석한다. 그렇지만 시간의 흐름에 따라 사회 분위기가 변할 수 있고, 연구대상도 동일하지 않아 연구의 반복 및 재현은 둘 다 쉽지 않다. 무엇보다 기존의 사회과학 연구가 '이론-방법-데이터'의 삼각구조가 튼튼한 데 반해 빅데이터를 활용한 분석은 이론의 빈약함을 보이고 있어 심각한 문제다. 과학적 설명논리로서의 이론이 없으면 연구결과를 얻고서도 제대로 해석하지 못하거나 온전히 활용 할 수 없기 때문이다. 그러므로 빅데이터 연구가 진정한 방법론적 혁신이 되기 위해서는 새로운 이론(블랙박스)을 창출하기 위한 연구자들의 노력과 함께 빅 씽킹(big thinking)이 필요함을 제안했다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2007년도 한국컴퓨터종합학술대회논문집 Vol.34 No.1 (B)
• /
• pp.41-46
• /
• 2007

소프트웨어 테스팅을 위해서 테스트 케이스를 작성하는 작업은 어렵고 많은 비용을 요구한다. 예로 약 100,000라인의 코드를 테스트하기 위해서는 천문학적인 테스트 시나리오들이 필요할 수도 있다. 따라서 경험 있는 테스터들은 필요한 테스트 케이스들만을 선별적으로 사용하고자 한다. 그리고 이를 위한 많은 테스트 기법들이 연구되고 있다. 그러나 다수의 연구 자료들은 기법의 효과를 이론적으로만 제시한다. 일부 사례를 통해서 그 효과를 제시하는 자료들도 있으나 그 적용 과정이 구체적이지 않아 신뢰를 얻기가 어려운 경우가 많다. 본 논문에서는 업계에서 많이 사용되는 9가지 테스팅 방법들을 소개하고 이들을 실제 개발 과제에 적용 하였다. 그리고 각각의 결과를 비교하고 분석하였다. 본 논문의 결과를 일반화하기는 어려울 것이다. 하지만 하나의 사례 연구로서 참고되고 활용될 수 있을 것이다.

• 지능정보연구
• /
• 제28권2호
• /
• pp.307-332
• /
• 2022

부도예측모형은 여러 금융기관의 신용평가모형의 지식기반(knowledge base)로 이용되고 있으며 최근 머신러닝 기법의 발전으로 이를 도입하여 고도화하려는 다양한 시도가 진행 중이다. 그러나 실제 이러한 모형이 도입되기 위해서는 모형을 이용하는 사용자와 설명제공 대상인 고객의 이해와 수용이 전제되어야 한다. 그러나 사용자에게 제공되는 설명이 현실적 타당성(feasibility)이 결여되어 있다면 모형의 신뢰성과 수용도에 부정적인 영향을 미친다. 이에 따라 본 연구는 도메인 지식을 설명 생성 알고리즘에 통합하여 현실적으로 타당한 설명을 사용자에게 제공하고자 한다. 본 연구에서는 머신러닝 기반의 부도예측 모형에 설명력을 더하는 방법으로 반사실적 예시(counterfactual example) 기반의 로컬영역에서의 설명을 제공하는 모델을 제안한다. 제안 모델은 모형에 이용된 재무변수의 특성을 설명력 생성 알고리즘에 통합하여 설명의 현실적 가능성을 확보하고 이를 통해 사용자의 이해와 수용을 도모하고자 한다. 또한 본 연구에서는 반사실적 예시기반 설명을 위해 유전알고리즘(GA)를 이용하며 다목적함수를 목적함수로 설정하여 반사실적 예시의 주요 기준이 되는 항목을 반영하고 있다. 본 연구는 대표적인 머신러닝 기법인 인공신경망을 이용해 부도예측모형을 학습시킨 뒤, 사후적 방법(post-hoc)으로 설명을 위한 알고리즘을 도입하여 기존의 모형 설명 알고리즘인 LIME과 현실적 가능성이 결여된 반사실적 예시 기반 알고리즘과 비교하였다. 더 나아가 제안방법의 금융/회계 분야의 종사자를 대상으로 서베이를 진행하여 제안 방법의 설명의 질을 정성적으로 평가하였다.

• 한국멀티미디어학회논문지
• /
• 제19권1호
• /
• pp.10-21
• /
• 2016

Images taken from outdoor are degraded quality by fog or haze, etc. In this paper, we propose a method that provides the visibility improved images through fog or haze removal. We proposed haze removal method that uses brightness transform based on atmospheric scatter coefficient rate with local histogram equalization. To calculate the transmission rate that indicate fog rate in original image, we use atmospheric scatter coefficient rate based on quadratic equations about haze model. And primary brightness transformed image can be obtained by using the obtained transmission rate. Also we use local histogram equalization with proposed brightness transform for effectively image visibility enhancement. Unlike existing methods, our method can process real-time with stable and effect image visibility enhancement. Proposed method use only the luminance images processed by good performance surveillance systems because it represents the real-time processing is required, black-box, digital camera and multimedia equipment is applicable. Also because it shows good performance only with the luminance images processed, Surveillance systems, black boxes, digital cameras, and multimedia devices etc, that require real-time processing can be applied.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2013년도 추계학술발표대회
• /
• pp.1019-1021
• /
• 2013

오늘날 소프트웨어의 복잡화에 따라 그 테스트 방법 또한 다양화 되고 있다. 입력의 따른 결과 값을 비교하여 대상의 내부 구조에 대한 깊은 이해 없이 가능한 블랙박스 테스팅은 오늘날의 복잡한 소프트웨어의 테스팅에 있어 매우 적합한 방법이다. 하지만 이러한 테스트를 위한 테스트 케이스 생성을 위해서는 요구 명세와 더불어 이에 대한 깊은 이해를 필요로 한다. 이러한 문제를 해결하기 최근에는 UML과 같은 정형화된 명세 기반의 테스트 케이스 생성기법이 연구되고 있지만, 모델 기반의 개발 방법이 사용되지 않는 부분에서는 매번 이루어지는 코드 변경에 따라 모델을 다시 수정하는 번거로움이 필요하다. 이에 본 논문에서는 함수 레벨의 블랙박스 테스트를 위하여 코드를 이용하여 테스트 케이스를 생성하는 방법을 제안한다. 이를 위해 먼저 대상 함수를 추상화한 후 함수의 각 인자들을 이용하여 각 조건문 상의 인자의 쓰임을 분석하여 각 조건의 기준 값을 추출하고 이로부터 테스트 케이스를 추출하는 방법을 제안한다. 이러한 방법은 이미 구현되어 있는 코드를 사용함으로써 새로운 요구 명세에 대한 이해의 필요성을 줄이고 더불어 코드 기반의 테스트 케이스의 자동 생성연구의 초석이 된다.