• 제목/요약/키워드: 시청각음성인식

검색결과 8건 처리시간 0.023초

발화구간 검출을 위해 학습된 CNN 기반 입 모양 인식 방법 (Lip Reading Method Using CNN for Utterance Period Detection)

  • 김용기;임종관;김미혜
    • 디지털융복합연구
    • /
    • 제14권8호
    • /
    • pp.233-243
    • /
    • 2016
  • 소음환경에서의 음성인식 문제점으로 인해 1990년대 중반부터 음성정보와 영양정보를 결합한 AVSR(Audio Visual Speech Recognition) 시스템이 제안되었고, Lip Reading은 AVSR 시스템에서 시각적 특징으로 사용되었다. 본 연구는 효율적인 AVSR 시스템을 구축하기 위해 입 모양만을 이용한 발화 단어 인식률을 극대화하는데 목적이 있다. 본 연구에서는 입 모양 인식을 위해 실험단어를 발화한 입력 영상으로부터 영상의 전처리 과정을 수행하고 입술 영역을 검출한다. 이후 DNN(Deep Neural Network)의 일종인 CNN(Convolution Neural Network)을 이용하여 발화구간을 검출하고, 동일한 네트워크를 사용하여 입 모양 특징 벡터를 추출하여 HMM(Hidden Markov Mode)으로 인식 실험을 진행하였다. 그 결과 발화구간 검출 결과는 91%의 인식률을 보임으로써 Threshold를 이용한 방법에 비해 높은 성능을 나타냈다. 또한 입모양 인식 실험에서 화자종속 실험은 88.5%, 화자 독립 실험은 80.2%로 이전 연구들에 비해 높은 결과를 보였다.

오디오 기반 인간로봇 상호작용 기술 (Audio-Based Human-Robot Interaction Technology)

  • 곽근창;김혜진;배경숙;윤호섭
    • 전자통신동향분석
    • /
    • 제22권2호통권104호
    • /
    • pp.31-37
    • /
    • 2007
  • 인간로봇 상호작용 기술(human-robot interaction)은 다양한 의사소통 채널인 로봇카메라, 마이크로폰, 기타 센서를 통해 인지 및 정서적으로 상호작용할 수 있도록 로봇시스템 및 상호작용 환경을 디자인하고 구현 및 평가하는 지능형 서비스 로봇의 핵심기술이다. 본 고에서는 오디오 기반 인간로봇 상호작용 기술 중에서 음원 추적(sound localization)과 화자인식(speaker recognition) 기술의 국내외 기술동향을 살펴보고 최근 ETRI 지능형로봇연구단에서 상용화를 추진중인 시청각 기반 음원 추적(audio visual sound localization)과 문장독립 화자인식(text-independent speaker recognition)기술들을 다룬다. 또한 이들 기술들을 가정환경에서 효과적으로 사용하기 위해 음성인식, 얼굴검출, 얼굴인식 등을 결합한 시나리오에 대해서 살펴본다.

멀티모달 인터페이스(3차원 시각과 음성 )를 이용한 지능적 가상검객과의 전신 검도게임 (A Full Body Gumdo Game with an Intelligent Cyber Fencer using Multi-modal(3D Vision and Speech) Interface)

  • 윤정원;김세환;류제하;우운택
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제9권4호
    • /
    • pp.420-430
    • /
    • 2003
  • 본 논문에서는 멀티모달(multi-modal) 인터페이스를 통해 지능적 가상검객과 체감형 검도게임을 할 수 있는 시스템을 제안한다. 제안된 검도게임 시스템은 멀티모달 인터페이스(시각과 청각), 인공지능(AI), 피드백(스크린과 사운드) 등 크게 세 가지 모듈로 구성된다. 첫 번째로, 멀티모달 인터페이스는 시각기반, 3차원 인터페이스를 이용하여 사용자가 자유롭게 3차원 공간에서 움직일 수 있도록 하고, 음성기반 인터페이스를 이용하여 사용자가 현실감 있는 검도게임을 즐길 수 있도록 한다. 두 번째, 인공지능은 가상검객에게 멀티모달 인터페이스에서 입력되는 시각과 음성을 인식하여 가상검객의 반응을 유도한다. 마지막으로, 대형 스크린과 스피커를 통한 시청각 피드백은 체감형 상호작용을 통하여 사용자가 몰입감을 느끼며 검도게임을 경험할 수 있도록 한다. 따라서 제안된 시스템은 전신의 움직임으로 사용자에게 몰입감의 검도게임을 제공한다. 제안된 시스템은 오락 외에 교육, 운동, 예술행위 등 다양한 분야에 적용될 수 있다.

자율주행 자동차의 제어권 전환상황에서 상황인식 및 의사결정 정보 제공이 운전자에게 미치는 영향 (Effects of Situation Awareness and Decision Making on Safety, Workload and Trust in Autonomous Vehicle Take-over Situations)

  • 김지현;이가현;변영시
    • 한국HCI학회논문지
    • /
    • 제14권2호
    • /
    • pp.21-29
    • /
    • 2019
  • 반자율 주행상황은 급커브나 도로 장애물과 같이 차량이 제어할 수 없는 상황에서 제어권 전환이 요청되며, 이때 운전자가 수동주행으로 전환하지 못한다면 심각한 사고가 발생할 수 있다. 운전자는 다른 과업으로 분산된 주의를 도로 환경으로 이전하고 도로상황 인식 후 전방의 특정 상황에 적절한 반응을 해야한다. 이를 위해서 상황인식과 의사결정이 필수적이다. 상황인식과 의사결정을 돕는 시청각 메시지 제공 여부에 따른 운전자의 안전감과 인지부하, 신뢰도의 효과를 알아보기 위해 시뮬레이터를 활용한 실험을 진행하였다. 실험은 $2{\times}2$ 피험자간 설계로 구성하였다. 상황인식 정보를 제공하는 경우, 음성안내음으로 제어권 전환 요청이 일어나는 이유를 제공하였고, 제공하지 않는 경우 비프음으로 제어권 전환을 요청하는 알람만 제시되었다. 의사결정 정보는 전방의 도로 상황에 어떻게 대응하여 운전해야 하는지 운전 방법에 대한 예시를 시각유형으로 제공하거나, 예시 없이 제어권 전환 요청 아이콘만 제공하는 것으로 구분하였다. 그 결과, 안전감, 인지부하, 신뢰도 모두 상황인식 정보와 의사결정 정보를 제공하였을 때 효과가 있는 것으로 나타났다. 특히 인지부하의 경우 의사결정 정보와 상황인식 정보를 포함하지 않은 경우 인지부하가 가장 높았으며, 모두 포함한 경우 인지부하가 가장 낮은 것으로 나타났다. 이 연구는 반자율주행 차량에서 운전자의 상황인식과 의사결정을 돕는 정보구성의 효과를 알아보았다는 데에 의의가 있다.

모바일 환경에서 온톨로지 및 시청각 정보를 이용한 셀프케어 시스템 구현 (An Implementation of Ontology, Vision and Voice Using Self-Care System in Mobile Environment)

  • 권형오;박세권;손종욱;조희섭
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2012년도 한국컴퓨터종합학술대회논문집 Vol.39 No.1(D)
    • /
    • pp.55-57
    • /
    • 2012
  • 최근의 정보통신 기술의 발달은 의료의 중심을 기존의 진단 및 치료에서 예방으로 이동하게 하였다. 이에 따라 환자 뿐 아니라 건강에 관심이 많은 일반인들이 병원 밖에서도 스스로 건강 증진을 위해 질병 예방을 수행할 수 있도록 지원하는 셀프케어 시스템들이 개발되어지고 있다. 그러나 현재 개발되어지고 있는 셀프케어 시스템들은 대부분 회원 등록의 과정이 필수적이며, 또한 회원 등록 과정에서 자가진단을 위해 성별과 같은 기본적인 정보를 수동적으로 입력해야 하는 번거로움이 있다. 따라서 본 논문에서는 사용자의 음성과 영상을 이용한 성별 인식을 통해 비 등록 사용자에 대한 기본정보를 자동으로 인식하고 온톨로지를 이용한 자가진단 서비스에 적용함으로써 회원 등록을 원치 않는 비 등록 사용자에 대한 편의성을 고려하였다. 또한 온톨로지를 이용한 자가진단 서비스의 진단 결과로 질환에 대한 정의 및 증상, 치료 방법을 설명하고 증상의 경중에 따라 방문 치료할 진료과에 대한 정보를 제공함으로써 사용자가 스스로 건강을 진단하고 진단결과에 따라 간단한 치료를 할 수 있으며, 증상의 악화를 예방할 수 있도록 도와준다.

플랫폼 분류 기준 고찰 : 감각의 입·출력 (Classification standard of Communication Tool)

  • 김효은
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2018년도 춘계 종합학술대회 논문집
    • /
    • pp.189-190
    • /
    • 2018
  • 정보콘텐츠는 문자, 이미지, 음성에 플로우로 나타나는 인간 체험 방식 및 컴퓨터와 인간 사이의 언어까지 들여다 볼 수 있는 개념과 구조를 요구한다. 빌렘 플루서의 독창적인 학문인 코무니콜로기는 인간 인식의 경계를 재고하게 하면서, 경계를 재구성하는 지평을 열어 준다. 이를 통해 인간 소통의 근본 요소인 감각의 입출력을 도출할 수 있었으며, 이는 소통 도구를 분류하고 재구성하는 기준이 된다. 인간을 기준으로 외부 자극을 받아들이는 경계는 감각으로 볼 수 있으며, 소통이 이루어지는 방향은 입출력으로 표현할 수 있다. 콘텐츠를 향유한다는 것은 인간 소통의 경계인 감각이 방향을 통해 작동하는 것으로 볼 수 있다. 감각의 입출력을 소통 도구에 적용해 보면, 책은 시각의 입력으로, 텔레비전은 시청각의 입력으로, 데스크탑은 시청각의 입력과 촉각(손가락)의 출력으로, 모바일은 신청각의 입력과 촉각(손가락, 다리)의 출력으로 볼 수 있다. 기존의 다양한 플랫폼과 콘텐츠, 아직 드러나지 않은 플랫폼도 일관된 기준을 통해 좌표를 정해 줄 수 있다. 이를 통해 공학에서 접근할 수 없는 콘텐츠 기획과 전망이 가능하다.

  • PDF

영유아 무인 관리 시스템 (Infants Manless Management System)

  • 민영귀;권광민;이언조;박상준;정희창
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2017년도 춘계학술대회
    • /
    • pp.413-416
    • /
    • 2017
  • 4차 산업혁명의 도래로 인한 사물인터넷(IoT, Internet of Thing)의 발달이 최근 우리 삶에 서서히 영향을 끼치고 있다. 이 흐름을 토대로 최근에는 다양한 제품들이 나오고 있는데 영유아의 위험을 감지해주는 기능적 측면으로는 아직 개발되지 않았다고 파악이 되었다. 일상에서의 생활소음 및 가사활동으로 인해 아이들을 위험으로부터 감지하고 대처하는 것이 점차 문제로 제기되고 있다. 이 프로젝트에서는 일상생활에서의 여러 소음으로 인해 아이의 돌발행동을 감지하지 못하여 생기는 위험을 방지하고자 이를 라즈베리파이와 시청각 센서 모듈을 가지고 개발하려고 한다. 그리고 이를 Wifi 신호를 통해 스마트폰 앱과 연동을 구현시켜 더욱 보호자들에게 편의를 줄 수 있도록 설계하였다.

  • PDF