• 제목/요약/키워드: 미세 조정

검색결과 316건 처리시간 0.03초

페르소나 기반 한국어 대화 모델 (Persona-based Korean Conversational Model)

  • 장윤나;임정우;허윤아;양기수;박찬준;서재형;이승준;임희석
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2021년도 제33회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.453-456
    • /
    • 2021
  • 대화형 에이전트가 일관성 없는 답변, 재미 없는 답변을 하는 문제를 해결하기 위하여 최근 페르소나 기반의 대화 분야의 연구가 활발히 진행되고 있다. 그러나 한국어로 구축된 페르소나 대화 데이터는 아직 구축되지 않은 상황이다. 이에 본 연구에서는 영어 원본 데이터에서 한국어로 번역된 데이터를 활용하여 최초의 페르소나 기반 한국어 대화 모델을 제안한다. 전처리를 통하여 번역 품질을 향상시킨 데이터에 사전 학습 된 한국어 모델인 KoBERT와 KoELECTRA를 미세조정(fine-tuning) 시킴으로써 모델에게 주어진 페르소나와 대화 맥락을 고려하여 올바른 답변을 선택하는 모델을 학습한다. 실험 결과 KoELECTRA-base 모델이 가장 높은 성능을 보이는 것을 확인하였으며, 단순하게 사용자의 발화만을 주는 것 보다 이전 대화 이력이 추가적으로 주어졌을 때 더 좋은 성능을 보이는 것을 확인할 수 있었다.

  • PDF

언어모델을 활용한 문서 내 발화자 예측 분류 모델 (Speaker classification and prediction with language model)

  • 김경민;한승규;서재형;이찬희;임희석
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2020년도 제32회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.317-320
    • /
    • 2020
  • 연설문은 구어체와 문어체 두 가지 특성을 모두 갖고 있는 복합적인 데이터 형태이다. 발화자의 문장 표현, 배열, 그리고 결합에 따라 그 구조가 다르기 때문에, 화자 별 갖는 문체적 특성 또한 모두 다르다. 국정을 다루는 정치인들의 연설문은 국정 현황을 포함한 다양한 주요 문제점을 다룬다. 그러면 발화자의 문서 내 문체적 특성을 고려할 경우, 해당 문서가 어느 정치인의 연설문인지 파악 할 수 있는가? 본 연구에서는 대한민국 정책 브리핑 사이트로부터 한국어 기반 사전 학습된 언어 모델을 활용하여 연설문에 대한 미세조정을 진행함으로써 발화자 예측 분류 모델을 생성하고, 그 가능성을 입증하고자 한다. 본 연구는 5-cross validation으로 모델 성능을 평가하였고 KoBERT, KoGPT2 모델에서 각각 90.22%, 84.41% 정확도를 보였다.

  • PDF

GAN 으로 합성된 흉부 X-ray 를 활용한 의료 인공지능 교육 모델에 관한 사례 연구 (A Case Study on an Educational Model of Medical AI Using Chest X-ray Synthetized by GAN)

  • 이규빈;윤예빈;함소진;배현진;유원상
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2021년도 추계학술발표대회
    • /
    • pp.887-890
    • /
    • 2021
  • 최근 AI 를 활용한 의료 진단 솔루션 시장이 크게 성장함에 따라 의료 인공지능 기술에 대한 대학 교육에 대한 수요가 증가하고 있지만, 개인정보 유출의 위험성 등으로 인하여 의료 데이터를 대학 교육에 활용하기 어려운 실정이다. 본 논문에서는 실제 의료 데이터 대신 생성적 적대 신경망(GAN)으로 합성된 흉부 X-ray 영상을 활용한 의료 인공지능 교육 모델의 사례를 제시한다. 프로메디우스(주)에 의해 제공받은 흉부 X-ray 합성영상을 사용하여, VGG-16 모델을 훈련하고 성능을 검증 및 평가하며 미세조정을 통해 성능을 개선하는 교육 모델을 구성하였다. 또한 교육모델이 의료 인공지능에 대한 학생들의 이해력 향상에 기여한 효과를 정량적으로 평가하였다.

BERT 기반 혐오성 텍스트 필터링 시스템 - 대학 청원 시스템을 중심으로 (BERT-based Hateful Text Filtering System - Focused on University Petition System)

  • 문태진;배현빈;이현수;박상욱;김영종
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.714-715
    • /
    • 2023
  • 최근들어 청원 시스템은 사람들의 다양한 의견을 반영하고 대응하기 위한 중요한 수단으로 부상하고 있다. 그러나 많은 양의 청원 글들을 수작업으로 분류하는 것은 매우 시간이 많이 소요되며, 인적 오류가 발생할 수 있는 문제점이 존재한다. 이를 해결하기 위해 자연어처리(NLP) 기술을 활용한 청원 분류 시스템을 개발하는 것이 필요하다. 본 연구에서는 BERT(Bidirectional Encoder Representations from Transformers)[1]를 기반으로 한 텍스트 필터링 시스템을 제안한다. BERT 는 최근 자연어 분류 분야에서 상위 성능을 보이는 모델로, 이를 활용하여 청원 글을 분류하고 분류된 결과를 이용해 해당 글의 노출여부를 결정한다. 본 논문에서는 BERT 모델의 이론적 배경과 구조, 그리고 미세 조정 학습 방법을 소개하고, 이를 활용하여 청원 분류 시스템을 구현하는 방법을 제시한다. 우리가 제안하는 BERT 기반의 텍스트 필터링 시스템은 청원 글 분류를 자동화하고, 이에 따른 대응 속도와 정확도를 향상시킬 것으로 기대된다. 또한, 이 시스템은 다양한 분야에서 응용 가능하며, 대용량 데이터 처리에도 적합하다. 이를 통해 대학 청원 시스템에서 혐오성 발언 등 부적절한 내용을 사전에 방지하고 학생들의 의견을 효율적으로 수집할 수 있는 기능을 제공할 수 있다는 장점을 가지고 있다.

Super In-Context Learning을 활용한 생성 방법론 (Generation Methodology Using Super In-Context Learning)

  • 홍성태;이승준;김경민;임희석
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.382-387
    • /
    • 2023
  • 현재 GPT-4와 같은 거대한 언어 모델이 기계 번역, 요약 및 대화와 같은 다양한 작업에서 압도적인 성능을 보이고 있다. 그러나 이러한 거대 언어 모델은 학습 및 적용에 상당한 계산 리소스와 도메인 특화 미세 조정이 어려운 등 몇 가지 문제를 가지고 있다. In-Context learning은 데이터셋에서 추출한 컨택스트의 정보만으로 효과적으로 작동할 수 있는 효율성을 제공하여 앞선 문제를 일부 해결했지만, 컨텍스트의 샷 개수와 순서에 민감한 문제가 존재한다. 이러한 도전 과제를 해결하기 위해, 우리는 Super In-Context Learning (SuperICL)을 활용한 새로운 방법론을 제안한다. 기존의 SuperICL은 적용한 플러그인 모델의 출력 정보를 이용하여 문맥을 새로 구성하고 이를 활용하여 거대 언어 모델이 더욱 잘 분류할 수 있도록 한다. Super In-Context Learning for Generation은 다양한 자연어 생성 작업에 효과적으로 최적화하는 방법을 제공한다. 실험을 통해 플러그인 모델을 교체하여 다양한 작업에 적응하는 가능성을 확인하고, 자연어 생성 작업에서 우수한 성능을 보여준다. BLEU 및 ROUGE 메트릭을 포함한 평가 결과에서도 성능 향상을 보여주며, 선호도 평가를 통해 모델의 효과성을 확인했다.

  • PDF

Transglutaminase로 처리한 초고온 살균유 침전물의 전자현미경적 관찰 (Electron Microscopical Observation of Transglutaminase-treated Ultra High Temperature Milk Sedimiment)

  • 문정한;홍윤호
    • 한국식품영양과학회지
    • /
    • 제33권8호
    • /
    • pp.1359-1366
    • /
    • 2004
  • 초고온-살균 우유를 이용하여 탈지유와 콜로이드성 인산칼슘이 제거된 우유에 TGase를 첨가하여 반응시킨 다음 초고속 원심분리를 실시하고 침전된 카제인 입자들을 동결건조하여 조직의 성상에 대해 주사 전자 현미경을 이용해 관찰, 비교하였다 탈지유는 카제인 입자들이 원심분리 초기(5,000${\times}$g)에는 규칙적으로 회합하였으며 원심분리 속도가 증가하면서 홈을 형성하였고(10,000∼20,000${\times}$g), 40,000${\times}$g에서 다시 회합하였다. 그리고, 100,000${\times}$g에서는 카제인 입자 수의 증가와 함께 규칙적인 회합층을 이루었다. 탈지유에 TGase를 처리하고 1시간 반응시킨 경우에 카제인 입자들의 성상은 입자들끼리 엉켜져서 회합을 하였으며 초고속 원심 분리 속도 증가에 따라 규칙적으로 혹은 불규칙적으로 변형되면서 입자들이 넓어지다가 다시 규칙적으로 카제인 입자들이 회합층을 이루었다. 탈지유에 TGase를 처리하고 8시간 반응시킨 경우 카제인 입자들의 성상은 1시간 반응시킨 경우보다 카제인 입자들이 미세해지면서 규칙적인 층을 형성하였으며, 초고속 원심분리 속도가 증가함에 따라 카제인입자들의 조직이 홈을 형성하면서 불규칙적으로 회합하여 분산된 형태를 나타내다가 다시 비교적 규칙적으로 회합하였다. 콜로이드성 인산칼슘이 유리된 우유에서는 카제인 입자들이 침전되지 않았다. TGase가 첨가되어 1시간 반응시킨 후 콜로이드성 인산칼슘이 유리된 우유에서는 20,000${\times}$g 속도에서부터 카제인 입자들이 침전하였고 그 양상은 작은 낙엽처럼 미세하게 회합층을 형성하였으며, 속도 증가에 따라 카제인 입자들의 조직은 개방되었다. TGase가 첨가된 후 8시간 반응시킨 다음 콜로이드성 인산칼슘이 유리된 시료의 경우 카제인 입자들은 대부분 넓게 회합층을 이루고 불규칙적이었으며 원심분리 속도 증가에 따라서도 큰 변화가 없었다. TGase가 첨가된후 1시간 혹은 8시간 반응시킨 다음 콜로이드성 인산칼슘을 제거하고 원심분리한 현탁액(유청 단백질)을 pH 4.6으로 조정 후 2단계 원심 분리한 침전물의 경우 카제인 입자들은 1시간 반응시킨 시료에서는 대부분의 카제인 입자들끼리 엉켜져 불규칙적인 회합층을 이루고 있는 반면에 8시간 반응시킨 시료에서는 입자들이 미세한 형태로 분산되어 규칙적인 층을 형성하였다.

RF 마그네트론 스퍼터링법으로 증착된 Multiferroic BiFeO3 박막의 미세구조 및 자기적 특성 (Microstructures and Magnetic Properties of Multiferroic BiFeO3 Thin Films Deposited by RF Magnetron Sputtering Method)

  • 송종한;남중희;강대식;조정호;김병익;최덕균;전명표
    • 한국자기학회지
    • /
    • 제20권6호
    • /
    • pp.222-227
    • /
    • 2010
  • RF 마그네트론 스퍼터링법을 이용하여 Pt/Ti/$SiO_2$/Si(100) 기판위에 $BiFeO_3$ 박막을 증착하였고, 스퍼터링 공정에서 산소량이 $BiFeO_3$ 박막에 미치는 영향을 조사하였다. $BiFeO_3$ 박막은 XRD 회절패턴의 결과를 통하여 소량의 불순물상이 존재하는 페로브스카이트 구조로 결정화되었다. $O_2$ 가스의 유량은 박막의 미세구조 및 자기적 특성에 많은 영향을 끼친다. $O_2$ 가스의 유량이 증가함에 따라 박막의 표면 거칠기 및 grain size가 증가하였다. $BiFeO_3$ 박막은 상온에서 약자성적인 거동을 보였으며, PFM 측정을 통하여 박막의 미세구조와 압전계수와의 상관관계를 조사하였다.

정연견사의 Lousiness 개선연구 (Lousiness Improving on the Refining Process)

  • 김병호;정진영
    • 한국잠사곤충학회지
    • /
    • 11호
    • /
    • pp.15-22
    • /
    • 1970
  • 이 실험은 생사의 정연조건이 Lousiness발생에 미치는 영향을 구명하기 위하여 정연시간, 정연온도, 정연반복회수, 정연제의 양, 정연제의 종류 및 정녁액의 pH 등의 처리조 에 따라 실험하였으며 그 결과는 아래와 같다. (1) 정연시간이 짧을수륵 Lousiness의 발생이 많았으며 특히 30분과 60분, 그리고 90분과 120분 사이에 Lousiness발생 차가 큰 반면 60분과 90분사이에는 적었다. (2) 정연시간에 으하여 발생한 Lousiness의 형태는 60분 이하에서는 모우상의 분열 미세단섬유가, 그리고 220분에서는 분열 미세장섬유의 출현이 많았다. (3) 정연온도 9$0^{\circ}C$ 이하에서는 미용해 Sericin의 부착으로 인한 Panel상의 사조 분리가 곤란하여 Exfoliation (Lousines) 검사가 거의 불가능하였다. 즉 95$^{\circ}C$ 이상에서만이 Exfoliation 검사가 가능하였다. (4)정연의 반복처리 (동일 정연액에서)에) 의한 Lousiness의 발생은 처리회수가 많을수록 적었다. 특히 반복 처리회수에 의한 Lousiness의 발생차는 8회까지는 대동소이 하였으나 8회와 9회사이에는 Lousiness의 발생 차가 대단히 컸다. (5) 정연제의 양에 의한 Lousiness의 발생은 정연제(Marseilles soap)의 양이 0.75%에 이를때 까지는 정연제의 사용량이 많을수록 Lousiness의 발생도 증가하였으나 정연제의 양이 0.75% 이상 더 많았을 때는 오히려 Lousiness가 감소하였다. 그러고 Lousiness의 발생차는 0.15%와 0.30% 사이에 컸다. (6) 정연제의 양에 의해서 발생한 Lousiness의 형태적 특징은 0.30% (Marseilles soap) 이하에서는 모우상의 분열 미세단섬유가 많았으나, 0.75% 이상에서는 분열 미세장섬녹와 괴상의 Lousiness가 대부분이었으며 0.5%에서는 이상 2가지 형태의 Lousiness가 혼재하여 발생하였다. (7) 정연제의 종류에 의한 Lousiness의 발생은 탄산소다 ($Na_2$CO$_3$) 0.5%에서 가장 적은 반면, 탄산소다 0.25%와 Marseilles soap 0.25%를 혼용한 것이 Lousiness의 발생이 가장 많았다. (8) 정연액의 pH치가 클수록 Lousiness의 발생이 많았으며, 그 형태적 특징을 보면 pH 9.0 以下에서는 모우상의 분열 미세단섬유가, 그고 pH 11.0 이상에서는 사조의 강력 저하와 섬사(Brin)의 절점으로 인한 미세장섬유의 출현이 많았다. (9) 이상의 결과로 보아 Lousiness발생을 감소시키기 위한 정연조건 은 아래와 같이 추정된다. \circled1 정연시간을 가능한 범위내에서 길게 한다(이때 정연온도는 정연시간에 반비례로 낮춘다) \circled2 완연을 목적으로 하는 경우, 정연온도는 95$^{\circ}C$ 이상으로 하는 것이 좋으나 99$^{\circ}C$ 이상은 피한다. \circled3 정연제(Marseilles soap)를 사용하는 경우, 양은 0.5% 정도로 하는 것이 좋다. \circled4 정연제는 탄산소다 또는Marseilles soap를 혼합하지 않고 각각 단독으로 사용한다. \circled5 정연액의 pH는 9.5~10.5 범위내에서 조정한다.

  • PDF

고속 디지털 보드를 위한 새로운 전압 버스 설계 방법 (Novel Power Bus Design Method for High-Speed Digital Boards)

  • 위재경
    • 대한전자공학회논문지SD
    • /
    • 제43권12호
    • /
    • pp.23-32
    • /
    • 2006
  • 다층 고속 디지털 보드에 대한 빠르고 정확한 전압 버스 설계 방법은 정확하고 정밀한 고속 보드에 전원 공급망 설계 방법을 위해 고안되었다. FAPUD는 PBEC(Path Based Equivalent Circuit)모델과 망 합성 방법의 두 중요 알고리즘을 기반으로 구성된다. PBEC 모델 기반의 회로 레벨의 2차원 전원 분배 망의 전기적 값으로부터 lumped 1차원 회로 모델로 간단한 산술 표현들을 활용한다 제안된 PBEC 기반인 회로 단계 설계는 제안한 지역 접근법을 이용해 수행된다. 이 회로 단계 설계는 온칩 디커플링 커패시터의 크기, 오프칩 디커플링 커패시터의 위치와 크기, 패키지 전압 버스의 유효한 인덕턴스를 직접 결정하고 계산한다. 설계 출력에 따라 모든 디커플링 커패시터가 포한된 lumped 회로 모델과 전압 버스의 레이아웃은 FAPUD 방법을 이용한 후 얻을 수 있다. 미세조정 과정에서, I/O Switching에 의해 덧붙여진 Simultaneous Switching Noise(SSN)를 고려한 보드 재 최적화가 수행될 수 있다 이는 전원 공급 잡음에 I/O 동작 효과가 lumped 회로 모델을 가지고 전 동작 주파수 범위에 대해 추산될 수 있기 때문이다. 게다가 만약 설계에 조정이 필요하거나 교체해야 한다면, FAPUD 방법은 다른 전면 설계변경 없이 디커플링 커패시터들을 대체하여 설계를 수정하는 것이 가능하다. 마지막으로 FAPUD 방법은 전형적인 PEEC 기본설계 방법과 비교해 정확하고 FAPUD 방법의 설계 시간은 전형적인 PEEC 기본 설계 방법의 시간보다 10배가 빠르다.

양극산화방법으로 착색한 티타늄 안경테의 산화막 두께에 따른 색상 연구 (Study on Color and Oxidation Thickness for Titanium Spectacle Frames Colored by Anodization)

  • 현승철;진문석;김용근
    • 한국안광학회지
    • /
    • 제14권4호
    • /
    • pp.33-37
    • /
    • 2009
  • 목적: 본 연구에서는 양극산화방법을 이용하여 티타늄 안경테를 다양한 색상으로 착색하는 조건들을 규명하고자 한다. 방법: 자체 제작한 양극산화박막 제조 장치를 사용하였다. 음극에는 $3{\times}3cm^2$의 백금판을 사용하였으며, 양극에는 티타늄 안경테 재료 시편을 장착한 다음 전해액이 접촉하도록 하였다. 전원 장치는 정전류 방식으로 시간에 따라 일정한 전류가 미세하게 조정되도록 고안 설계하였다. 산화막의 색분석은 분광측색계의 적분구를 이용하였고, 색좌표는 CIE $L^*a^*b$ color system를 사용하였다. 결과 및 고찰: 전극에 인가되는 시간을 조정하여 티타늄 안경테 재료의 산화막($TiO_2$) 두께를 변화시킴으로서 호도색, 황갈색, 군청색, 파란색, 연푸른색, 녹두색, 황록색, 연보라색, 보라색, 꽃분홍색, 청록색, 에메랄트색, 녹색등 다양한 색상을 얻을 수 있었다. 정확한 색상 변화를 CIE $L^*a^*b^*$ 값을 측정하였다. 그 결과 티타늄 안경테 재료 산화막의 두께가 두꺼워지면서 색좌표 상에서 시계방향으로 변화가 진행 되는 것을 알 수 있었다. 결론: 티타늄 안경테 재료에 양극산화에 의해 착색원리를 규명하였다.

  • PDF