• 제목/요약/키워드: Responsible AI

검색결과 42건 처리시간 0.023초

Evaluating Conversational AI Systems for Responsible Integration in Education: A Comprehensive Framework

  • Utkarch Mittal;Namjae Cho;Giseob Yu
    • Journal of Information Technology Applications and Management
    • /
    • 제31권3호
    • /
    • pp.149-163
    • /
    • 2024
  • As conversational AI systems such as ChatGPT have become more advanced, researchers are exploring ways to use them in education. However, we need effective ways to evaluate these systems before allowing them to help teach students. This study proposes a detailed framework for testing conversational AI across three important criteria as follow. First, specialized benchmarks that measure skills include giving clear explanations, adapting to context during long dialogues, and maintaining a consistent teaching personality. Second, adaptive standards check whether the systems meet the ethical requirements of privacy, fairness, and transparency. These standards are regularly updated to match societal expectations. Lastly, evaluations were conducted from three perspectives: technical accuracy on test datasets, performance during simulations with groups of virtual students, and feedback from real students and teachers using the system. This framework provides a robust methodology for identifying strengths and weaknesses of conversational AI before its deployment in schools. It emphasizes assessments tailored to the critical qualities of dialogic intelligence, user-centric metrics capturing real-world impact, and ethical alignment through participatory design. Responsible innovation by AI assistants requires evidence that they can enhance accessible, engaging, and personalized education without disrupting teaching effectiveness or student agency.

5G 모바일 에지 컴퓨팅에서 빅데이터 분석 기능에 대한 데이터 오염 공격 탐지 성능 향상을 위한 연구 (A Study on Improving Data Poisoning Attack Detection against Network Data Analytics Function in 5G Mobile Edge Computing)

  • 옥지원;노현;임연섭;김성민
    • 정보보호학회논문지
    • /
    • 제33권3호
    • /
    • pp.549-559
    • /
    • 2023
  • 5G 네트워크의 핵심 기술로 모바일 에지 컴퓨팅(Mobile Edge Computing, MEC)이 주목받음에 따라, 모바일 사용자의 데이터를 기반으로 한 5G 네트워크 기반 에지 AI 기술이 최근 다양한 분야에서 이용되고 있다. 하지만, 전통적인 인공지능 보안에서와 마찬가지로, 에지 AI 핵심 기능을 담당하는 코어망 내 표준 5G 네트워크 기능들에 대한 적대적 교란이 발생할 가능성이 존재한다. 더불어, 3GPP에서 정의한 5G 표준 내 Standalone 모드의MEC 환경에서 발생할 수 있는 데이터 오염 공격은 기존 LTE망 대비 현재 연구가 미비한 실정이다. 본연구에서는 5G에서 에지 AI의 핵심 기능을 담당하는 네트워크 기능인 NWDAF를 활용하는 MEC 환경에 대한 위협 모델을 탐구하고, 일부 개념 증명으로써 Leaf NWDAF에 대한 데이터 오염 공격 탐지 성능을 향상시키기 위한 특징 선택 방법을 제안한다. 제안한 방법론을 통해, NWDAF에서의 Slowloris 공격 기반 데이터 오염 공격에 대해 최대 94.9%의 탐지율을 달성하였다.

The Regulation of AI: Striking the Balance Between Innovation and Fairness

  • Kwang-min Lee
    • 한국컴퓨터정보학회논문지
    • /
    • 제28권12호
    • /
    • pp.9-22
    • /
    • 2023
  • 본 논문에서는 인공지능의 무한한 발전 가능성을 유지하면서 공정성과 윤리적 책임을 유지하는 AI 규제에 대한 균형 잡힌 방안을 제시합니다. AI 시스템이 일상생활에 점점 더 통합됨에 따라, 특정 인구 집단에 대한 편견과 불이익을 방지하기 위한 규제 개발이 필수적입니다. 본 논문에서는 책임 있는 개발과 적용을 보장하기 위해 AI 애플리케이션의 규제 프레임워크와 사례 분석 연구를 진행합니다. 본 논문을 통하여 AI 규제에 대한 지속적인 논의를 이끌어내며, 혁신과 공정성 사이의 균형을 맞추는 정책을 수립을 제안합니다.

Exploratory Analysis of AI-based Policy Decision-making Implementation

  • SunYoung SHIN
    • International Journal of Internet, Broadcasting and Communication
    • /
    • 제16권1호
    • /
    • pp.203-214
    • /
    • 2024
  • This study seeks to provide implications for domestic-related policies through exploratory analysis research to support AI-based policy decision-making. The following should be considered when establishing an AI-based decision-making model in Korea. First, we need to understand the impact that the use of AI will have on policy and the service sector. The positive and negative impacts of AI use need to be better understood, guided by a public value perspective, and take into account the existence of different levels of governance and interests across public policy and service sectors. Second, reliability is essential for implementing innovative AI systems. In most organizations today, comprehensive AI model frameworks to enable and operationalize trust, accountability, and transparency are often insufficient or absent, with limited access to effective guidance, key practices, or government regulations. Third, the AI system is accountable. The OECD AI Principles set out five value-based principles for responsible management of trustworthy AI: inclusive growth, sustainable development and wellbeing, human-centered values and fairness values and fairness, transparency and explainability, robustness, security and safety, and accountability. Based on this, we need to build an AI-based decision-making system in Korea, and efforts should be made to build a system that can support policies by reflecting this. The limiting factor of this study is that it is an exploratory study of existing research data, and we would like to suggest future research plans by collecting opinions from experts in related fields. The expected effect of this study is analytical research on artificial intelligence-based decision-making systems, which will contribute to policy establishment and research in related fields.

NIST AI 위험 관리 프레임워크 적용: NTIS 데이터베이스 분석의 MAP, MEASURE, MANAGE 접근 사례 연구 (Applying NIST AI Risk Management Framework: Case Study on NTIS Database Analysis Using MAP, MEASURE, MANAGE Approaches)

  • 임정선;배성훈;권태훈
    • 산업경영시스템학회지
    • /
    • 제47권2호
    • /
    • pp.21-29
    • /
    • 2024
  • Fueled by international efforts towards AI standardization, including those by the European Commission, the United States, and international organizations, this study introduces a AI-driven framework for analyzing advancements in drone technology. Utilizing project data retrieved from the NTIS DB via the "drone" keyword, the framework employs a diverse toolkit of supervised learning methods (Keras MLP, XGboost, LightGBM, and CatBoost) enhanced by BERTopic (natural language analysis tool). This multifaceted approach ensures both comprehensive data quality evaluation and in-depth structural analysis of documents. Furthermore, a 6T-based classification method refines non-applicable data for year-on-year AI analysis, demonstrably improving accuracy as measured by accuracy metric. Utilizing AI's power, including GPT-4, this research unveils year-on-year trends in emerging keywords and employs them to generate detailed summaries, enabling efficient processing of large text datasets and offering an AI analysis system applicable to policy domains. Notably, this study not only advances methodologies aligned with AI Act standards but also lays the groundwork for responsible AI implementation through analysis of government research and development investments.

AI의 역할 확대에 따른 교사 역량 강화 방안 (Strengthening Teacher Competencies in Response to the Expanding Role of AI)

  • 신수범
    • 실천공학교육논문지
    • /
    • 제16권4호
    • /
    • pp.513-520
    • /
    • 2024
  • 본 연구는 AI의 학교교육 영향이 확대됨에 따른 교사의 직무 변화에 대한 연구이다. 전통적으로 교사는 교실 수업, 교육과정 개발, 평가 및 피드백과 같은 핵심 업무를 담당해왔다. AI는 이러한 과정을 자동화할 수 있으며, 특히 개인화된 학습을 통해 효율성을 높일 수 있으며 학생 추적, 행동 감지 및 그룹 활동 분석과 같은 복잡한 교실 관리 작업을 지원할 수 있다. 그러나 AI는 상담 및 대인 커뮤니케이션과 같은 학생 생활 지도에 중요한 측면을 자동화가 어려운 것으로 나타났다. 이와 같은 직무에서 AI가 직접적으로 상담활동을 대체 하는 것은 어렵지만, 데이터 기반의 인사이트와 사전 대화 자료를 제공함으로써 교사를 지원할 수 있다. AI시대의 교사 역량 강화 요소로는 심화 학습 운영 전문성, 데이터셋 분석 능력, 개별학습 운영 능력, 학생 및 학부모 상담역량, 그리고 AI디지털 역량이 필요하다. 교사는 AI와 협업하여 창의성과 확장적 추상능력을 강조하는 수업을 운영하고, AI시스템에서 생성된 데이터셋을 분석하고 개별화된 학습 경로를 조정하는 역량을 가져야 한다. 또한 개별화된 학습과 학생 상담에 집중하여 AI로 대체되기 어려운 부분을 수행해야 한다. 교사의 기본적인 역량으로는 AI디지털 소양 능력이 필요하며, AI시스템에 대한 이해와 학생 데이터 관리 역량이 요구된다.

산업보건분야에서의 생성형 AI: ChatGPT 활용과 우려 (Applications and Concerns of Generative AI: ChatGPT in the Field of Occupational Health)

  • 박주홍;함승헌
    • 한국산업보건학회지
    • /
    • 제33권4호
    • /
    • pp.412-418
    • /
    • 2023
  • As advances in artificial intelligence (AI) increasingly approach areas once relegated to the realm of science fiction, there is growing public interest in using these technologies for practical everyday tasks in both the home and the workplace. This paper explores the applications of and implications for of using ChatGPT, a conversational AI model based on GPT-3.5 and GPT-4.0, in the field of occupational health and safety. After gaining over one million users within five days of its launch, ChatGPT has shown promise in addressing issues ranging from emergency response to chemical exposure to recommending personal protective equipment. However, despite its potential usefulness, the integration of AI into scientific work and professional settings raises several concerns. These concerns include the ethical dimensions of recognizing AI as a co-author in academic publications, the limitations and biases inherent in the data used to train these models, legal responsibilities in professional contexts, and potential shifts in employment following technological advances. This paper aims to provide a comprehensive overview of these issues and to contribute to the ongoing dialogue on the responsible use of AI in occupational health and safety.

활동관여-장소애착 유형에 따른 환경책임행동분석 - 남한산성 도립공원 방문객을 대상으로 - (Analysis of Environmentally Responsible Behaviors based on a Typology of Activity Involvement and Place Attachment - Focuses on Visitors to Namhansanseong Provincial Park -)

  • 김현;송화성;김예은
    • 한국조경학회지
    • /
    • 제43권3호
    • /
    • pp.114-124
    • /
    • 2015
  • 활동관여와 장소애착은 자원의 지속가능한 이용을 설명하는데 유용한 개념이다. 활동관여와 장소애착의 영향관계, 그리고 각 개념과 환경행동의 관계에 대한 연구는 선행되었으나, 두 개념을 결합하여 환경행동과의 관계를 살펴본 연구는 이루어진 바 없다. 이에 본 연구에서는 남한산성 방문객을 대상으로 활동관여와 장소애착을 결합한 유형구분을 실시하고 유형별 환경책임행동에 대하여 고찰하였다. 남한산성의 주요 등산로에서 총 587부의 표본을 수집하였으며 빈도, 신뢰도, 요인, 교차, 평균비교분석, 상관분석과 일원분산분석을 실시하였다 그 결과, 활동관여-장소애착에 따라 고관여-고애착, 고관여-저애착, 저관여-저애착, 저관여-고애착의 4유형으로 분류되었고, 유형별 환경책임행동은 유의미한 차이를 가지고 있으며, 일반적 환경행동과 전문적 환경행동 모두에서 차이를 보였다. 또한 활동관여보다는 장소애착이 환경책임행동에 미치는 영향이 큰 것을 알 수 있었다. 등산에 대한 관여도가 높고 남한산성에 애착이 높은 방문객이 가장 적극적인 환경행동을 보인 반면 등산에 대한 관여도와 장소애착이 모두 낮은 방문객의 경우 소극적인 환경책임행동이 나타나 장소애착이 사람들의 친환경행동을 이끌어내므로 향후 관광 레크리에이션 자원 관리는 장소에서 일어나는 활동 경험을 기반으로 수립되어야 함을 강조하였다.

국가위기관리를 위한 인공지능 활용 가능성에 관한 고찰: 인공지능 운용과 연구개발 사례를 중심으로 (A Study on the Possibility of Utilizing Artificial Intelligence for National Crisis Management: Focusing on the Management of Artificial Intelligence and R&D Cases)

  • 최원상
    • 디지털융복합연구
    • /
    • 제19권3호
    • /
    • pp.81-88
    • /
    • 2021
  • 현대사회는 다양한 형태의 위기에 노출되어 있다. 특히, 9·11테러 이후로 각 국가는 비군사적 위기에 대한 관리의 비중이 점차 커지고 있다. 이에 본 연구에서는 제4차 산업혁명시대에서 국가위기관리를 위해 인공지능(AI)을 활용하는 방안에 관한 고찰을 목적으로 한다. 이를 위해 인간의 의사결정을 지원해주기 위해 운용되고 연구개발(R&D) 중인 인공지능(AI)의 실효성을 분석하여 인공지능(AI)을 국가위기관리에 활용 가능성을 살펴보았다. 연구결과, 인공지능(AI)은 데이터에 근거한 객관적인 상황 판단과 최적의 대응 방안을 정책결정권자에게 제시해주어 급박한 위기 상황에서 정책결정권자의 결정행위를 지원해주는 것이 가능하여 인공지능(AI)을 국가위기관리에 활용하는 것이 효율적임을 알 수 있었다. 이러한 연구결과는 신속하고 효율적인 국가위기 대응을 위해 인공지능(AI) 활용의 가능성을 제시해 준다.

대학 방사선학과 인공지능 교육 활성화를 위한 Orange 플랫폼 이용 사례 (Utilizing the Orange Platform for Enhancing Artificial Intelligence Education in the Department of Radiological Science at Universities)

  • 최경호
    • 대한방사선기술학회지:방사선기술과학
    • /
    • 제47권4호
    • /
    • pp.255-262
    • /
    • 2024
  • Although a universally accepted definition of artificial intelligence (AI) remains elusive, the terminology has gained widespread familiarity owing to its pervasive integration across diverse domains in our daily lives. The application of AI in healthcare, notably in radiographic imaging, is no longer a matter of science fiction but a reality. Consequently, AI education has emerged as an indispensable requirement for radiological technologists responsible for the field of radiology. This paper underscores this imperative and advocates for the incorporation of AI education, using the Orange platform in university radiology department as part of the solution. Furthermore, this paper presents a case study featuring machine learning analysis using structured data on exposure doses for radiation related workers and unstructured data consisting of X-ray data encompassing 69 COVID-19-infected cases and 25 individuals with normal findings. The emphasized importance of AI education for radiology professionals in this research is expected to contribute to the job stability of radiologic practitioners in the future.