• Title/Summary/Keyword: MLM

Search Result 53, Processing Time 0.024 seconds

Impact of Various Feedstock Attributes on the Social Acceptance on Bioethanol Promotion in South Korea (바이오에탄올 보급에 대한 사회적 수용성 분석: 바이오에탄올 원료 속성을 중심으로)

  • Li, Dmitriy D.;Bae, Jeong Hwan
    • Environmental and Resource Economics Review
    • /
    • v.30 no.1
    • /
    • pp.49-77
    • /
    • 2021
  • This study uses a choice experiment approach to examine whether different types of feedstocks as well as other attributes such as the cost of bioethanol, bioethanol blending ratio, and government support policies affect consumers' biofuel preferences. We apply a standard conditional logit model, a mixed logit model (MLM), and individual coefficient estimation model (ICM) to estimate the parameters of the investigated attributes. The results show that people prefer domestic and non-food feedstock, along with tax exemption as a support policy. All the attributes show unobservable preference heterogeneity in the MLM and ICM. In particular, willingness to pay for attributes are higher in the genetically modified (GM) feedstock-unknown group than in the known one. We show the importance of using domestic and non-food feedstocks and managing GM feedstocks carefully to avoid consumer resistance when producing bioethanol in South Korea.

Deep Learning-based Target Masking Scheme for Understanding Meaning of Newly Coined Words (신조어의 의미 학습을 위한 딥러닝 기반 표적 마스킹 기법)

  • Nam, Gun-Min;Seo, Sumin;Kwahk, Kee-Young;Kim, Namgyu
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2021.07a
    • /
    • pp.391-394
    • /
    • 2021
  • 최근 딥러닝(Deep Learning)을 활용하여 텍스트로 표현된 단어나 문장의 의미를 파악하기 위한 다양한 연구가 활발하게 수행되고 있다. 하지만, 딥러닝을 통해 특정 도메인에서 사용되는 언어를 이해하기 위해서는 해당 도메인의 충분한 데이터에 대해 오랜 시간 학습이 수행되어야 한다는 어려움이 있다. 이러한 어려움을 극복하고자, 최근에는 방대한 양의 데이터에 대한 학습 결과인 사전 학습 언어 모델(Pre-trained Language Model)을 다른 도메인의 학습에 적용하는 방법이 딥러닝 연구에서 많이 사용되고 있다. 이들 접근법은 사전 학습을 통해 단어의 일반적인 의미를 학습하고, 이후에 단어가 특정 도메인에서 갖는 의미를 파악하기 위해 추가적인 학습을 진행한다. 추가 학습에는 일반적으로 대표적인 사전 학습 언어 모델인 BERT의 MLM(Masked Language Model)이 다시 사용되며, 마스크(Mask) 되지 않은 단어들의 의미로부터 마스크 된 단어의 의미를 추론하는 형태로 학습이 이루어진다. 따라서 사전 학습을 통해 의미가 파악되어 있는 단어들이 마스크 되지 않고, 신조어와 같이 의미가 알려져 있지 않은 단어들이 마스크 되는 비율이 높을수록 단어 의미의 학습이 정확하게 이루어지게 된다. 하지만 기존의 MLM은 무작위로 마스크 대상 단어를 선정하므로, 사전 학습을 통해 의미가 파악된 단어와 사전 학습에 포함되지 않아 의미 파악이 이루어지지 않은 신조어가 별도의 구분 없이 마스크에 포함된다. 따라서 본 연구에서는 사전 학습에 포함되지 않았던 신조어에 대해서만 집중적으로 마스킹(Masking)을 수행하는 방안을 제시한다. 이를 통해 신조어의 의미 학습이 더욱 정확하게 이루어질 수 있고, 궁극적으로 이러한 학습 결과를 활용한 후속 분석의 품질도 향상시킬 수 있을 것으로 기대한다. 영화 정보 제공 사이트인 N사로부터 영화 댓글 12만 건을 수집하여 실험을 수행한 결과, 제안하는 신조어 표적 마스킹(NTM: Newly Coined Words Target Masking)이 기존의 무작위 마스킹에 비해 감성 분석의 정확도 측면에서 우수한 성능을 보임을 확인하였다.

  • PDF

Study on Wave Generation Technique and Estimation of Directional Wave Spectra for Multi-Directional Irregular Waves (다방향 불규칙파에 대한 조파 기법 및 방향 스펙트럼 추정 연구)

  • Seunghoon Oh;Sungjun Jung;Sung-Chul Hwang;Eun-Soo Kim;Hong-Gun Sung
    • Journal of the Society of Naval Architects of Korea
    • /
    • v.60 no.4
    • /
    • pp.266-277
    • /
    • 2023
  • In this study, fundamental research is conducted for the generation technique and analysis of multi-directional irregular waves in the Deep Ocean Engineering Basin (DOEB). A three-dimensional boundary element method-based numerical tank is implemented to perform wave generation simulations, and directional spectrum estimation is carried out using the results of simulations. The wave generation technique of the Snake type wave maker, generating multi-directional irregular waves, is implemented using the Fast Fourier Transform (FFT) and Inverse Fast Fourier Transform (IFFT) algorithms. The wave generation technique is validated by comparing the wave spectrum from simulations and experiments. A Maximum Likelihood Method (MLM) based estimation code is developed for estimating the directional wave spectra. The multi-directional irregular waves are tested in the DOEB and the numerical tank, and directional wave spectra obtained from two methodologies are estimated and compared. A correction procedure for the directional distribution of multi-directional waves is established, and the possibility of correcting the directional spreading function using the numerical tank is validated.

Design of the XML for Decision-making in the Medical Treatment (의료부문 의사결정지원을 위한 XML 설계)

  • Lee, Sang-Young
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2009.01a
    • /
    • pp.5-8
    • /
    • 2009
  • XML(eXtensible Markup Language)을 통하여 의료부문의 Arden Syntax틀 표현하기 위한 모델은 Arden Syntax의 이식성을 증가시키기 위하여 개발된다. Arden Syntax는 의료분야에서의 논리적인 시스템에 활용되는 의학적인 의사 결정을 위한 언어이다. 또한 의료영역에서의 의사결정들을 컴퓨터에 의해 실행이 가능하도록 하기 위하여 고안된 언어이다. 본 논문에서는 의료부문에서의 Arden Syntax를 XML로 변화하기 위한 ArdenML을 설계한다. 즉 ArdenML에 대한 스키마와 스타일시트 등을 제시하고 MLM 예제를 통하여 검증한다. 즉 점차 이식성측면이 강조되는 Arden Syntax를 위한 XML 스키마 및 스타일시트를 구축하며 제시한다.

  • PDF

Post-Training with Hierarchical Masked Language Modeling (계층적 마스크 모델링을 이용한 언어 모델의 사후 학습)

  • Hyun-Kyu Jeon;Hyein Jung;Seoyeon Park;Bong-Su Kim
    • Annual Conference on Human and Language Technology
    • /
    • 2022.10a
    • /
    • pp.588-591
    • /
    • 2022
  • 최근 자연어 이해 및 생성에 있어서 사전학습 기반의 언어 모델이 널리 사용되고 있다. BERT, roBERTa 등의 모델이 있으며, 마스크 언어 모델링을 주요 과제로 하여 사전 학습을 한다. 하지만 MLM은 문법적인 정보를 활용하지 못하는 단점이 있다. 단 순히 무작위로 마스크를 씌우고 맞추기 때문이다. 따라서 본 연구에서는 입력 문장의 문법적 정보를 활용하는 방법을 소개하고, 이를 기반으로 사후 학습을 하여 그 효과를 확인해 본다. 공개된 사전학습 모델과 사후학습 모델을 한국어를 위한 벤치마크 데이터셋 KLUE에 대하여 조정학습하고 그 결과를 살펴본다.

  • PDF

BERT-based Data Augmentation Techniques for Korean Coreference Resolution (한국어 상호참조해결을 위한 BERT 기반 데이터 증강 기법)

  • Kim, Kihun;Lee, Changki;Ryu, Jihee;Lim, Joonho
    • Annual Conference on Human and Language Technology
    • /
    • 2020.10a
    • /
    • pp.249-253
    • /
    • 2020
  • 상호참조해결은 문서 내에 등장하는 모든 멘션 중에서 같은 의미를 갖는 대상(개체)들을 하나의 집합으로 묶어주는 자연어처리 태스크이다. 한국어 상호참조해결의 학습 데이터는 영어권에 비해 적은 양이다. 데이터 증강 기법은 부족한 학습 데이터를 증강하여 기계학습 기반 모델의 성능을 향상시킬 수 있는 방법 중 하나이며, 주로 규칙 기반 데이터 증강 기법이 연구되고 있다. 그러나 규칙 기반으로 데이터를 증강하게 될 경우 규칙 조건을 만족하지 못했을 때 데이터 증강이 힘들다는 문제점과 임의로 단어를 변경 혹은 삭제하는 과정에서 문맥에 영향을 주는 문제점이 발생할 수 있다. 따라서 본 논문에서는 BERT의 MLM(Masked Language Model)을 이용하여 기존 규칙기반 데이터 증강 기법의 문제점을 해결하고 한국어 상호참조해결 데이터를 증강하는 방법을 소개한다. 실험 결과, ETRI 질의응답 도메인 상호참조해결 데이터에서 CoNLL F1 1.39% (TEST) 성능 향상을 보였다.

  • PDF

Personality Consistent Dialogue Generation in No-Persona-Aware System (페르소나 대화모델에서 일관된 발화 생성을 위한 연구)

  • Moon, Hyeonseok;Lee, Chanhee;Lim, Heuiseok
    • Annual Conference on Human and Language Technology
    • /
    • 2020.10a
    • /
    • pp.572-577
    • /
    • 2020
  • 일관된 발화를 생성함에 있어 인격데이터(persona)의 도입을 이용한 연구가 활발히 진행되고 있지만, 한국어 데이터셋의 부재와 데이터셋 생성의 어려움이 문제점으로 지적된다. 본 연구에서는 인격데이터를 포함하지 않고 일관된 발화를 생성할 수 있는 방법으로 다중 대화 시스템에서 사전 학습된 자연어 추론(NLI) 모델을 도입하는 방법을 제안한다. 자연어 추론 모델을 이용한 관계 분석을 통해 과거 대화 내용 중 발화 생성에 이용할 대화를 선택하고, 자가 참조 모델(self-attention)과 다중 어텐션(multi-head attention) 모델을 활용하여 과거 대화 내용을 반영한 발화를 생성한다. 일관성 있는 발화 생성을 위해 기존 NLI데이터셋으로 수행할 수 있는 새로운 학습모델 nMLM을 제안하고, 이 방법이 일관성 있는 발화를 만드는데 기여할 수 있는 방법에 대해 연구한다.

  • PDF

Quality Characteristics of Muffin added with Makgeolli Lees (주박 첨가량을 달리한 머핀의 품질 특성)

  • Yun, Chun-Sik;Kim, Hyun-Ah;Kim, Yong-Sik
    • Culinary science and hospitality research
    • /
    • v.21 no.3
    • /
    • pp.198-211
    • /
    • 2015
  • The following research was done to develop a low calorie muffin that has good taste, as well as nutritional benefit. This was done through adding various nutritional qualities of Makgeolli Lees to muffins. It was found that adding Makgeolli Lees substantially increased the amount of ash, crude protein, crude fiber, and moisture. However, it decreased the amount of crude fat. It was also found that the volume, height, and weight all increased with a lower baking loss rate. Other testing on the hardness, expand chewiness, gumminess, and cohesiveness of the muffins with different amounts of Makgeolli Lees found that more Makgeolli Lees led to a lower hardness and chewiness. However, it did not affect the gumminess. "MLM10" with 10 g of added Makgeolli Lees had a cohesiveness that was significantly different from other samples. The cohesiveness of the other samples was substantially lower. "L-value", or lightness, as well as yellowness, decreased as more Makgeolli Lees was added. On the other hand, "a-value", or redness, increased as more Makgeolli Lees was added. A sensory test proved that Makgeolli Lees added muffins were not preferred over the control group in its color, texture, and overall preference, but was evaluated as "good". However, the Makgeolli Lees added muffins were evaluated better than the control group in the categories of "expanded", "uniformity", and "he size of the pores". Therefore, creating muffins by using Makgeolli Lees instead of fat was proven to be possible, and furthermore proved to be a viable substitute.

Optimal combination of 3-component photoinitiation system to increase the degree of conversion of resin monomers (레진 모노머의 중합전환률 증가를 위한 3종 중합개시 시스템의 적정 비율)

  • Kim, Chang-Gyu;Moon, Ho-Jin;Shin, Dong-Hoon
    • Restorative Dentistry and Endodontics
    • /
    • v.36 no.4
    • /
    • pp.313-323
    • /
    • 2011
  • Objectives: This study investigated the optimal combination of 3-component photoinitiation system, consisting of CQ, p-octyloxy-phenyl-phenyl iodonium hexafluoroantimonate (OPPI), and 2-dimethylaminoethyl methacrylate (DMAEMA) to increase the degree of conversion of resin monomers, and analyze the effect of the ratio of the photoinitiator to the co-initiator. Materials and Methods: Each photoinitiators (CQ and OPP) and co-initiator (DMAEMA) were mixed in three levels with 0.2 wt.% (low concentration, L), 1.0 wt.% (medium concentration, M), and 2.0 wt.% (high concentration, H). A total of nine groups using the Taguchi method were tested according to the following proportion of components in the photoinitiator system: LLL, LMM, LHH, MLM, MMH, MHL, HLH, HML, HHM. Each monomer was polymerized using a quartz-tungsten-halogen curing unit (Demetron 400, USA) for 5, 20, 40, 60, 300 sec and the degree of conversion (DC) was determined at each exposure time using FTIR. Results: Significant differences were found for DC values in groups. MMH group and HHM group exhibited greater initial DC than the others. No significant difference was found with the ratio of the photoinitiators (CQ, OPPI) to the co-initiator (DMAEMA). The concentrations of CQ didn't affect the DC values, but those of OPPI did strongly. Conclusions: MMH and HHM groups seem to be best ones to get increased DC. MMH group is indicated for bright, translucent color and HHM group is good for dark, opaque colored-resin.

Comparison of Genome-wide Association Study (GWAS) Algorithms for Detecting Genetic Variants Associated with Growth Traits in Olive Flounder Paralichthys olivaceus (넙치(Paralichthys olivaceus)의 성장형질 연관 유전자 변이 탐색을 위한 전장유전체연관분석(GWAS) 알고리즘 비교 분석 연구)

  • Sangwon Yoon;Heegun Lee;Jong-Won Park;Minhwan Jeong;Dain Lee;Hyo Sun Jung;Julan Kim;Hye-Rim Yang;Seung Hwan Lee;Jeong-Ho Lee
    • Korean Journal of Fisheries and Aquatic Sciences
    • /
    • v.56 no.4
    • /
    • pp.411-418
    • /
    • 2023
  • Genome wide association studies (GWAS) identify genetic loci associated with quantitative traits in genomic selection. Although several studies have compared performance of various algorithms, no study compares them in olive flounder Paralichthys olivaceus. This study compared the GWAS results of four mixed linear model (MLM) algorithms and one Fixed and random model Circulating Probability Unification (FarmCPU) algorithm in olive flounder. Considering gender and genetic association matrices as fixed and random effects, the MLM had stable performance without inflation for λGC (genomic inflation factor) of -log10P. The FarmCPU algorithm had some appropriate λGC of -log10P, and an upward tail was identified in quantile-quantile plots. Therefore, the models were suitable for detecting genetic variants associated with olive flounder growth traits. Moreover, significant genotypes appeared several times at chromosome 22, around which quantitative trait loci are expected to exist. Finally, in both models, some of the most genetic variants were found in genes related to growth traits, confirming their reliability. These results will be helpful when applied to the genomic selection of olive flounder growth traits in the future.