• 디지털융복합연구
• /
• 제18권8호
• /
• pp.217-224
• /
• 2020

본 연구는 인공지능 수용의도를 증가시킬 수 있는 정책적 시사점을 제시하고자 하였다. 이를 위해 인공지능에 대한 지식수준과 감정적 요인이 인공지능 수용의도에 미치는 영향을 확인하였고, 이에 대한 영향을 정부신뢰가 조절하는지 검증하고자 위계적 회귀분석을 활용하였다. 연구결과는 다음과 같다. 첫째, 인공지능에 대한 지식수준이 높을수록 수용의도가 증가하였고, 인공지능에 대한 감정이 부정적으로 형성될수록 인공지능의 수용의도가 감소하였다. 그리고 수용의도에 미치는 영향은 인공지능에 대한 감정, 정부신뢰, 지식 순으로 나타났다. 둘째, 규제에 대한 정부신뢰가 높을수록 수용의도가 증가하였으며, 규제에 대한 정부신뢰가 낮은 집단일수록 인공지능에 대한 감정이 수용의도에 미치는 영향이 더 큰 것으로 나타났다. 한편, 인구통계학적 요인 중 종교가 인공지능 수용의도에 유의미한 영향을 미치는 것으로 나타나 후속연구에 대한 필요성을 제안하였다. 이 연구는 전반적인 인공지능에 대한 지식과 감정, 그리고 규제에 대한 정부신뢰라는 변인을 통해 인공지능에 대한 인식과 판단을 실증 분석하여 인공지능 연구를 위한 기초자료를 제공하는데 의의가 있다.

• 한국융합학회논문지
• /
• 제9권9호
• /
• pp.97-104
• /
• 2018

본 연구는 보건계열 전공 학생들의 의료용 인공지능에 대한 기대도를 조사하여 의료용 인공지능의 보건의료영역에서의 전반적 활용을 위한 기초자료로 이용하고자 충청남도 천안시에 소재한 일개 대학교 보건계열 전공 대학생들 500명을 대상으로 인공지능에 대한 인지도와 의료용 인공지능에 대한 신뢰도 및 활용에 대한 기대도를 조사하였다. 의료용 인공지능에 대한 인지도는 대상자의 18.6%가 높다고 응답하였고, 의료용 인공지능에 대해 신뢰도는 대상자의 24.8%가 높다고 응답하였으며 의료용 인공지능의 활용에 대한 찬성은 대상자의 38%가 그렇다고 응답하였다. 또한, 인공지능에 대한 인지도와 신뢰도가 높을수록 인공지능의 보건의료 활용에 대한 기대도도 높게 조사되었다. 이상의 결과로 볼 때 전공과정에서의 의료용 인공지능에 대한 교육은 인공지능에 대한 인지도와 신뢰도 및 기대도를 제고시켜 의료용 인공지능을 활용하는 효율적인 보건의료 환경 조성에 초석이 될 것으로 사료된다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2022년도 추계학술발표대회
• /
• pp.405-407
• /
• 2022

4차 산업 시대가 도래하며 인공지능이 비약적으로 발전함에 따라, 인공지능은 다양한 산업 분야에 도입되어 업무의 효율성을 높이고 인류 발전에 중요한 역할을 하고 있다. 그러나 사회 전반에 걸쳐 인공지능의 역할이 커질수록 인공지능의 오판단, 오작동으로 인한 문제 또한 크게 작용한다. 따라서 인공지능 모델의 판단, 행동에 대한 신뢰성을 확보하기 위해 XAI 기술의 중요성이 크게 대두되었다. 본 논문에서는 이러한 XAI 기술에 대한 동향을 조사, 분석한다.

• 한국수자원학회:학술대회논문집
• /
• 한국수자원학회 2017년도 학술발표회
• /
• pp.106-106
• /
• 2017

우리나라는 현재 재난의 유형을 자연재난과 사회재난으로 구분하여 관리하고 있다. 하지만 최근 재난 사고 사례를 살펴보면 단일재난으로 인한 피해보다 자연재난이 발생한 이후 사회재난으로 재난이 전파되는 복합재난의 형태가 종종 나타나고 있다. 복합재난은 단일 재난에 의한 피해(인적, 물적) 보다 크게 나타나고 복합재난의 발생원인 및 전파과정을 분석하기 어려워 이에 대한 다각적인 분석과 동시에 재난상호간의 연관성을 도출하는 연구가 필요한 시점이다. 과거 재난사고정보를 분석하는 연구는 일반적인 통계기법을 활용한 분석에 머물러 있으며 수집된 재난사고사례가 많지 않아 분석에 신뢰성을 보장할 수 없었다. 이에 본 연구에서는 복잡하게 나타나는 재난 사고를 분석하기 위하여 최근 각광받고 있는 인공지능 분석기법을 연구에 고려하였다. 본 연구의 과정은, 첫째로 재난사고정보 분석에 인공지능을 활용한 사례를 조사하고 여타 연구분야에서 적용되고 있는 인공지능 분석기술을 재난사고정보 분석에 활용할 수 있는 방안을 모색하였다. 둘째로 수집가능 한 재난사고정보를 수집하고 인공지능 모형에 적용가능 한 형태로 변환하는 과정을 수행하였다. 셋째로 변환된 재난사고정보를 대표적인 인공지능 알고리즘을 활용하여 다양한 질문(목적)에 부합하는 재난사고정보 분석모형을 구축하고자 하였다. 마지막으로 다양한 인공지능 알고리즘을 적용한 모형의 신뢰성을 비교하였으며 이를 통하여 재난사고정보 분석에 적용가능 하며 질문(목적)에 부합하는 최적 인공지능 알고리즘을 도출하고자 하였다.

• 정보화정책
• /
• 제30권2호
• /
• pp.22-45
• /
• 2023

AI 기반 음성비서 서비스 이용에 관한 연구에서는 서비스 이용 경험으로 인한 이용자의 신뢰 및 프라이버시 보호와 관련된 문제가 지속적으로 제기되고 있다. 본 연구의 목적은 AI에 대한 개인의 신뢰와 온라인 프라이버시 염려가 AI 기반 음성비서의 지속적인 사용에 미치는 영향, 특히 상호 작용의 영향을 실증적으로 분석하는 것이다. 본 연구에서는 선행연구를 바탕으로 설문문항을 구성하고 응답자 405명을 대상으로 온라인 설문조사를 실시하였다. 인공지능에 대한 사용자의 신뢰와 개인정보보호 관심이 인공지능 기반 음성비서 서비스 도입 및 지속 이용의도에 미치는 영향을 Heckman 선택모형을 이용하여 분석하였다. 연구의 주요 결과로 첫째, 인공지능 기반 음성비서 서비스 이용행태는 기술수용 촉진요인인 지각된 유용성, 지각된 이용편의성, 사회적 영향에 의해 긍정적인 영향을 받았다. 둘째, 인공지능에 대한 신뢰는 인공지능 기반 음성비서 서비스 이용행태에 통계적으로 유의한 영향을 미치지 않았으나 지속 이용의도에는 정(+)의 영향을 미쳤다. 셋째, 프라이버시 염려 수준은 AI에 대한 신뢰와의 상호작용을 통해 지속적인 이용의도를 억제하는 효과(β=-0.153)가 있음을 확인하였다. 이러한 연구 결과는 디지털 정부를 구현하기 위한 거버넌스로서 기술에 대한 신뢰를 높이고 프라이버시에 대한 사용자의 우려를 완화할 수 있는 이용자 의견수렴과 조치를 통한 이용자 경험을 강화할 필요가 있음을 시사한다. 이러한 수단으로서 인공지능 기반의 정책서비스를 도입할 때, 인공지능 기술의 적용 범위를 공론화 과정을 통해 투명하게 공개하고, 프라이버시 문제가 사후적으로 추적 및 평가될 수 있는 제도의 마련과 프라이버시의 보호를 고려한 알고리즘의 개발이 필요하다.

• 한국콘텐츠학회:학술대회논문집
• /
• 한국콘텐츠학회 2018년도 춘계 종합학술대회 논문집
• /
• pp.89-90
• /
• 2018

최근 4차 산업혁명의 핵심분야로 부상한 인공지능 기술에 미국, 중국, 일본, EU 등 주요국가와 국내 인공지능 기술수준을 보다 신뢰성 높은 전문가, 특허, 논문 등 다차원 평가를 통해 객관적인 기술수준 평가와 이를 바탕으로 인공지능 분야의 기술경쟁력 확보를 위한 연구개발(R&D) 투자전략 수립 및 사업 추진에 대한 기본방향 설정에 대한 기술경영 프레임워크를 제안한다.

• 정보보호학회지
• /
• 제26권2호
• /
• pp.35-38
• /
• 2016

본 논문에서는 핀테크 보안에 활용 가능한 딥러닝 기술을 살펴본다. 먼저 인공지능과 관련된 보안 이슈를 인공지능이 사람을 위협하는 상황에 대한 보안(Security FROM AI), 인공지능 시스템이나 서비스를 악의적인 공격으로부터 보호하는 이슈(Security OF AI), 인공지능 기술을 활용해 보안 문제를 해결하는 것(Security BY AI) 3가지로 구분하여 살펴본다. Security BY AI의 일환으로 딥러닝에 기반한 비정상탐지(anomaly detection)과 회귀분석(regression)기법을 설명하고, 이상거래탐지, 바이오인증, 피싱, 파밍 탐지, 본인확인, 명의도용탐지, 거래 상대방 신뢰도 분석 등 핀테크 보안 문제에 활용할 수 있는 방안을 살펴본다.

• 지능정보연구
• /
• 제28권3호
• /
• pp.259-278
• /
• 2022

인공지능(AI)의 확산과 함께 금융 분야에서도 상품추천, 고객 응대 자동화, 이상거래탐지, 신용 심사 등 다양한 인공지능 기반 서비스가 확대되고 있다. 하지만 데이터에 기반한 기계학습의 특성상 신뢰성과 관련된 문제 발생과 예상하지 못한 사회적 논란도 함께 발생하고 있다. 인공지능의 효용은 극대화하고 위험과 부작용은 최소화할 수 있는 신뢰할 수 있는 인공지능에 대한 필요성은 점점 더 커지고 있다. 이러한 배경에서 본 연구는 소비자의 금융 생활에 직접 영향을 끼치는 인공지능 기반 개인신용평가의 공정성 확보를 위한 체크리스트 제안을 통해 인공지능 기반 금융서비스에 대한 신뢰 향상에 기여하고자 하였다. 인공지능 신뢰성의 주요 핵심 요소인 투명성, 안전성, 책무성, 공정성 중 포용 금융의 관점에서 자동화된 알고리즘의 혜택을 사회적 차별 없이 모두가 누릴 수 있도록 공정성을 연구 대상으로 선정하였다. 문헌 연구를 통해 공정성이 영향을 끼치는 서비스 운용의 전 과정을 데이터, 알고리즘, 사용자의 세 개의 영역으로 구분하고, 12가지 하위 점검 항목과 항목별 세부 권고안으로 체크리스트를 구성하였다. 구성한 체크리스트는 이해관계자(금융 분야 종사자, 인공지능 분야 종사자, 일반 사용자)별 계층적 분석과정(AHP)을 통해 점검 항목에 대한 상대적 중요도 및 우선순위를 도출하였다. 이해관계자별 중요도에 따라 세 개의 그룹으로 분류하여 분석한 결과 학습데이터와 비금융정보 활용에 대한 타당성 검증 및 신규 유입 데이터 모니터링의 필요성 등 실용적 측면에서 구체적인 점검 사항을 파악하였고, 금융 소비자인 일반 사용자의 경우 결과에 대한 해석 오류 및 편향성 확인에 대한 중요도를 높게 평가한다는 것을 확인할 수 있었다. 본 연구의 결과가 더 공정한 인공지능 기반 금융서비스의 구축과 운영에 기여할 수 있기를 기대한다.

• 한국융합학회논문지
• /
• 제9권5호
• /
• pp.191-202
• /
• 2018

최근 들어 인공지능이 인사선발 업무에서 활용되고 있으며, 인공지능이 인사선발 결정을 할 것으로 예측되고 있다. 본 연구에서는 인간이 채용하는 절차와 인공지능이 채용하는 절차를 비교하여 인공지능 인사담당자에 대한 잠재적 입사지원자들의 인식을 파악하였다. 대한민국의 대학생들을 대상으로 연구를 진행하였으며, 집단 간 설계(between-group design) 방식으로 2가지 시나리오(인간 인사담당자 vs 인공지능 인사담당자)를 제시하고 채용 절차에 대한 만족도, 절차공정성, 인사담당자에 대한 신뢰, 그리고 정당세상믿음을 측정하였다. 그 결과 잠재적 입사지원자들은 인공지능이 채용하는 절차를 인간이 채용하는 절차보다 더 만족했고, 더 공정하다고 인식하였으며, 인공지능 인사담당자를 인간 인사담당자보다 더 신뢰하였다. 또한 세상이 정당하다고 믿는 정도에 따라 인간과 인공지능에 대한 인식에 차이가 있는 것으로 나타났다. 본 연구의 결과를 토대로 향후 연구 방향성을 제시하였다.

• 정보보호학회논문지
• /
• 제32권5호
• /
• pp.1019-1034
• /
• 2022

4차 산업혁명의 초연결사회에서 악성코드 공격은 더욱 기승을 부리고 있다. 이러한 악성코드 대응을 위해 인공지능기술을 이용한 악성코드 탐지 자동화는 새로운 대안으로 주목받고 있다. 그러나, 인공지능의 신뢰성에 대한 담보없이 인공지능을 활용하는 것은 더 큰 위험과 부작용을 초래한다. EU와 미국 등은 인공지능의 신뢰성 확보방안을 강구하고 있으며, 2021년 정부에서는 신뢰할 수 있는 인공지능 실현 전략을 발표했다. 정부의 인공지능 신뢰성에는 안전과 설명가능, 투명, 견고, 공정의 5가지 속성이 있다. 우리는 악성코드 탐지 모델에 견고를 제외한 안전과, 설명가능, 투명, 공정의 4가지 요소를 구현하였다. 특히 외부 기관의 검증을 통해 모델 정확도인 일반화 성능의 안정성을 입증하였고 투명을 포함한 설명가능에 중점을 두어 개발하였다. 변화무쌍한 데이터에 의해 학습이 결정되는 인공지능 모델은 생명주기 관리가 필요하다. 이에 인공지능 모델을 구성하는 데이터와 개발, 서비스 운영을 통합하는 MLOps 프레임워크에 대한 수요가 늘고 있다. EXE 실행형 악성코드와 문서형 악성코드 대응 서비스는 서비스 운영과 동시에 데이터 수집원이 되고, 외부 API를 통해 라벨링과 정제를 위한 정보를 가져오는 데이터 파이프라인과 연계하도록 구성하였다. 클라우드 SaaS 방식과 표준 API를 사용하여 다른 보안 서비스 연계나 인프라 확장을 용이하게 하였다.