• 제목/요약/키워드: 프리코딩

검색결과 71건 처리시간 0.028초

한국어 중심의 토큰-프리 언어 이해-생성 모델 사전학습 연구 (Towards Korean-Centric Token-free Pretrained Language Model)

  • 신종훈;허정;류지희;이기영;서영애;성진;임수종
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.711-715
    • /
    • 2023
  • 본 연구는 대부분의 언어 모델이 사용하고 있는 서브워드 토큰화 과정을 거치지 않고, 바이트 단위의 인코딩을 그대로 다룰 수 있는 토큰-프리 사전학습 언어모델에 대한 것이다. 토큰-프리 언어모델은 명시적인 미등록어 토큰이 존재하지 않고, 전 처리 과정이 단순하며 다양한 언어 및 표현 체계에 대응할 수 있는 장점이 있다. 하지만 관련 연구가 미흡, 서브워드 모델에 대비해 학습이 어렵고 낮은 성능이 보고되어 왔다. 본 연구에서는 한국어를 중심으로 토큰-프리 언어 이해-생성 모델을 사전 학습 후, 서브워드 기반 모델과 비교하여 가능성을 살펴본다. 또한, 토큰 프리 언어모델에서 지적되는 과도한 연산량을 감소시킬 수 있는 그래디언트 기반 서브워드 토크나이저를 적용, 처리 속도를 학습 2.7배, 추론 1.46배 개선하였다.

  • PDF

다중 사용자 MIMO 시스템을 위한 고정 복잡도를 갖는 스피어 인코더 (Fixed-complexity Sphere Encoder for Multi-user MIMO Systems)

  • 마나르 모하이센;한동걸;장경희
    • 한국통신학회논문지
    • /
    • 제35권7A호
    • /
    • pp.632-638
    • /
    • 2010
  • 본 논문에서는 다중 사용자 MIMO 시스템을 위한 고정 복잡도를 갖는 스피어 인코더 (FSE)를 제안하고, FSE의 복잡도를 감소시키는 2가지 방법을 제시한다. FSE는 성능과 복잡도 간의 트레이드오프 관계를 적응적으로 조절할 수 있고, 병렬의 트리 탐색구조를 적용함으로써 프리코딩 지연을 상당히 감소시킬 수 있다. $4\times4$ 다중 사용자 MIMO 시스템에서 시뮬레이션을 수행한 결과, 제안한 FSE는 QRDM 인코더 (QRDM-E)에 비하여 작은 BER 성능 감소를 가져오지만 최적의 다이버시티 오더를 달성함과 더불어 일반적인 QRDM-E 복잡도의 16%정도만을 갖고, 인코딩 처리량(throughput)이 7.5배 향상됨을 확인하였다.

5G 스마트폰의 샤논과 신호처리의 푸리에의 표본화에서 만남 (Connection between Fourier of Signal Processing and Shannon of 5G SmartPhone)

  • 김정수;이문호
    • 한국인터넷방송통신학회논문지
    • /
    • 제17권6호
    • /
    • pp.69-78
    • /
    • 2017
  • 5G 스마트폰의 샤논과 신호처리의 푸리에가 표본화정리(최고 주파수의 2배분1 즉, $\frac{1}{2f_n}=T$)에서 만난다. 본 논문에서는 초기 샤논 정리가 Point-to-Point에서 샤논 용량을 구했지만 5G는 Multi point MIMO로 기술이 발전했음을 Relay 채널에서 보인다. 푸리에 변환은 고정매개변수로 신호처리를 했는데, 멀티미디어 시대에 2N-1 다변수인 푸리에-Jacket 변환을 제안해서 성능을 분석했다. 이 연구에서 저자는 시간 계산 측면에서 프리 코딩 / 디코딩 복잡성을 줄이기위한 Jacket 기반의 빠른 방법을 제안함으로써 신호 처리의 복잡성 문제를 해결한다. 재킷 변환은 신호 처리 및 코딩 이론에서 응용 프로그램을 찾는 것으로 나타냈다. 재킷 변환은 속성 $AA^{\dot{+}}=nl_n$이 있는 필드 F에 대해 $n{\times}n$ 행렬 $A=(a_{jk})$로 정의되며, 여기서 $A^{\dot{+}}$는 A의 원소 역행렬의 전치 행렬, 즉 $A^{\dot{+}}=(a^{-1}_{kj})$이며, 이는 변환을 일반화하고 중심 가중 변환, 특히 재킷 변환 특성을 이용하여, 저자는 전송 기반의 중계 기반 DF 협동 무선 네트워크에서 분산 다중 입력 다중 출력 채널의 프리 코딩 및 디코딩에 적용하여 새로운 고유치 분해 (EVD : eigenvalue decomposition) 방법을 제안한다. 단일 심볼 디코딩 가능한 시공간 블록 코드를 사용한다. 본 논문은은 제안 된 Jacket 기반 EVD 방법이 기존의 EVD 방법에 비해 계산 시간이 현저히 단축되었다. 계산 시간 단축과 관련된 성능은 수학적 분석 및 수치결과를 통해 정량적으로 평가했다.

MHEG-5 객체의 인코딩/디코딩 클래스 라이브러리 설계 (Design of Encoding/Decoding Class Library for the MHEG-5 Objects)

  • 이세훈;왕창종
    • 한국정보처리학회논문지
    • /
    • 제4권11호
    • /
    • pp.2671-2678
    • /
    • 1997
  • MHEG-5는 이기종 통신망 상에서 멀티미디어/하이퍼미디어 정보의 실시간 상호교환, 프리젠테이션, 사용자 상호작용을 제공하기 위한 정보 표현 표준 및 전송을 위한 표준이다. MHEG-5에 기반한 응용 서비스를 제공하기 위해서는 MHEG-5 객체의 생성 및 편집이 필수적으로 요구된다. 따라서 본 연구에서는 MHEG-5 객체의 인코딩, 디코딩과 속성 설정을 제공하고, 이기종 간의 상호교환을 지원할 수 있도록 클래스 라이브러리를 설계하였다. 설계한 클래서 라이브러리는 이질적인 통신망을 통해 분산 멀티비디어/하이퍼미디어 서비스 제공을 위한 MHEG-5의 기반 기술을 제공하다는 점에서 의의를 갖는다.

  • PDF

멀티 채널과 DTS를 적용한 MPEG-4 재생기의 구현 (The Implementation of MPEG-4 Player Applying 075 and Multi-Channel)

  • 이동훈;이현주;박지현;김상욱
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2001년도 가을 학술발표논문집 Vol.28 No.2 (2)
    • /
    • pp.211-213
    • /
    • 2001
  • 본 논문에서는 서버와 클라이언트로 구성되는 분산환경에서 MPEG-4 데이터의 동기화를 제어하기 위한 방법과 그러한 방법으로 실제 구현이 된 MPEG-4 재생기를 소개한다. 데이터를 전송할 때 멀티 채널을 사용할 경우 얻을 수 있는 장점을 이용하기 위해서 서버측에서 MPEG-4 데이터를 디먹싱하여 비디오 부분과 오디오 부분을 분리해서 두 개의 채널로 클라이언트로 전송하며. 클라이언트는 이 데이터를 디코딩 타임 스템프(DTS)를 이용해서 화면상에 동기화를 구현하게 된다. MPEG 표준에서는 디코딩 타임 스템프(DTS)와 프리젠테이션 타임 스템프(PTS)를 정의하고 있는데, 본 논문에서는 DTS만으로 동기화를 구현을 한으로써 사용자 인터페이스 상의 재생 효율을 보장을 하면서 동시에 자원의 사용을 줄여 시스템 오버헤드를 줄일 수 있다. 이러한 방식은 무선환경에서의 멀티미디어 재생에 응용할 수 있을 것이다.

  • PDF

컴파일 된 시뮬레이션 기법을 이용한 ASIP 시뮬레이터의 성능향상 (Performance Improvement of ASIP Simulator Using Compiled Simulation Technique)

  • 김호영;김탁곤
    • 한국시뮬레이션학회:학술대회논문집
    • /
    • 한국시뮬레이션학회 2002년도 추계학술대회 논문집
    • /
    • pp.73-77
    • /
    • 2002
  • 이 논문은 빠른 ASIP(application specific instruction processor) 시뮬레이션을 위한 재적응성을 가진 컴파일드 시뮬레이션 기법에 대해 이야기 한다. 다양한 응용분야에서의 설계 요구사항을 충족시키는 ASIP의 빠른 개발을 위해서, 건전한 설계 방법론 및 고성능의 시뮬레이터가 필요하다. 본 논문에서는 HiX$R^2$라는 ADL(architecture description language)을 이용하여 인스트럭션 수준에서 컴파일드 시뮬레이터를 자동 생성하였다. 컴파일드 시뮬레이션은 시뮬레이션 수행 시 반복되는 인스트럭션 페칭 및 디코딩 부분을 시뮬레이션 런-타임 이전에 미리 수행함으로서 일반적으로 사용되는 인터프리티브 시뮬레이션에 비하여 큰 성능향상을 얻을 수 있다. HiX$R^2$에 기반 한 컴파일드 시뮬레이션은 ARM9 프로세서와 CalmRISC32 프로세서 예제들로 수행하였고, 결과로서 인터프리티브 방식에 비해 150배 이상의 성능향상이 있었다.

  • PDF

다중사용자 MIMO 하향링크 채널 환경에서 시스템 용량 향상을 위한 프리코딩 기법 (Precoding Method for Increasing System Capacity in Multiuser MIMO Downlink Channels)

  • 김광윤;이종식;구성완;양재수;김진영
    • 한국정보통신설비학회:학술대회논문집
    • /
    • 한국정보통신설비학회 2008년도 정보통신설비 학술대회
    • /
    • pp.12-16
    • /
    • 2008
  • In this paper, we study precoding techniques for co-channel interference suppression in multiuser MIMO systems. DPC is optimal techniques to achieve the system capacity of multiuser MIMO downlink channels. DPC is not proper in practical wireless systems because complexity is very high. So block diagonal precoding for multiuser MIMO downlink channel is studied. The block diagonal precoding is used to suppress co-channel interference between multiuser. Block diagonal precoding method, whose complexity is reduced by modified null space operation, change multiuser MIMO channel to multiple single-user MIMO channel. We also use V-BLAST decoder in receiver. V-BLAST decoder can achieve increased system capacity in proportion to the number of users. We show improved system performance by using computer simulation.

  • PDF

ATSC 3.0 시스템에서 2×2 MIMO 검출에 대한 연구 (Study on 2×2 MIMO Detection in ATSC 3.0 Systems)

  • 이운현;김정창;박성익;허남호
    • 방송공학회논문지
    • /
    • 제22권6호
    • /
    • pp.755-764
    • /
    • 2017
  • 본 논문에서는 ATSC 3.0 시스템의 $2{\times}2$ multiple-input multiple-output (MIMO) 송수신기 구조를 설계하고 성능을 분석한다. ATSC 3.0 시스템의 MIMO 방식은 송신기에서 입력 스트림의 역다중화 (demultiplexing) 및 프리코딩 (precoding)을 통하여 공간 다이버시티 (spatial diversity) 및 공간 다중화 (spatial multiplexing) 이득을 얻을 수 있다. 본 논문에서는 ATSC 3.0 MIMO 시스템의 프리코더를 이용한 송수신기 구조를 제시하고 전산 실험을 통하여 성능 결과를 제시한다.

채널 역변환 매트릭스의 가장 큰 싱귤러 값 영향을 줄이는 다중 사용자 프리코딩 (Power Efficient Precoding by Reducing the Effect of the Largest Singular Value of channel Inverse Matrix)

  • 노세용;양현욱;정정화
    • 디지털산업정보학회논문지
    • /
    • 제8권4호
    • /
    • pp.115-120
    • /
    • 2012
  • In multi-user multi-input multi-output (MU-MIMO) system, zero forcing beamforming (ZFB) is regarded as a realistic solution for transmitting scheme due to its low complexity and simple structure. However, ZFB shows a significant performance degradation when channel matrix has large condition number. In this case, the largest singular value of the channel inversion matrix has a dominant effect on transmit power. In this paper, we propose a perturbation method for reducing an effect of the dominant singular value. In the proposed algorithm, channel inverse matrix is first decomposed by SVD for the transmit signal to be expressed as a combination of singular vectors. Then, the transmit signal is perturbed to reduce the coefficient of the singular vector corresponding to the largest singular value. When a number of transmit antennas is 4, the simulation results of this paper shows that the proposed method shows 8dB performance enhancement at 10-3 uncoded bit error rate (BER) compared with conventional ZFB. Also, the simulation results show that the proposed method provides a comparable performance to Tomlinson-Harashima Precoding (THP) with much lower complexity.

GML기반 개방형 이동체 프리젠테이션 시스템 구현 (Implementation of Open Moving Object Presentation System Based on GML.)

  • 김동호;김진석
    • 정보처리학회논문지D
    • /
    • 제11D권6호
    • /
    • pp.1239-1246
    • /
    • 2004
  • 인터넷 기반의 광역화 물류환경인 e-Logistics에서 요구하는 가시성을 충족하기 위해서는 지역별 전자지도 및 차량 위치정보에 대한 공유와 통합이 필수적이다. 기존의 대부분의 차량관제시스템들은 독자적인 체계를 중심으로 구축되었기 때문에 정보의 공유와 통합을 위해서는 막대한 비용이 필요하다. 이를 효과적으로 해결하기 위해서 본 논문에서는 XML 엔코딩 표준인 GML을 이용하여 이동체 위치정보와 지도정보의 프리젠테이션을 위한 컴포넌트 기반의 개방형 시스템을 설계하고 구현하였다. 아울러 e-Logistics 환경의 배송 시나리오를 통한 실험을 통해 확장성 및 상호 운용성에 대한 우수성을 확인하였다.