인공위성 OTAR 기술의 분류와 향후 연구 방향

Satellite OTAR Technology Classification and Directions for Future Research

Abstract

인공위성은 항법, 군사, 통신 등 핵심 분야에서 필수적인 역할을 담당하며 그 중요성으로 인해 다양한 사이버 공격의 주요 표적이 되고 있다. 이에 따라 안전한 암호 키 관리의 중요성이 더욱 부각되고 있다. 그러나 기존 키 관리체계를 위성 시스템에 적용하기에는 운용 제약과 확장성 측면에서 한계가 존재한다. 이러한 문제를 해결하기 위해 효율적인 OTAR(Over-the-Air Rekeying) 기술이 활발히 연구되고 있다. 본 연구는 최신 동향을 반영하기 위해 2022년부터 2025년 2분기까지 공개된 주요 OTAR 관련 논문을 대상으로 인공위성 OTAR 기술을 키 관리 프로토콜 및 경량 암호 기술 두 개의 측면에서 분류하고 보안 속성을 평가하였다. 마지막으로 분석한 결과를 기반으로 향후 연구 방향을 제시한다.

Satellites play essential roles in navigation, defense, and communication, making them significant targets for various cyberattacks. Consequently, the importance of secure cryptographic key management is becoming increasingly critical. However, applying conventional key management schemes to satellite systems presents limitations in terms of operational constraints and scalability. To address these challenges, efficient Over-the-Air Rekeying (OTAR) technologies have been actively studied. To capture recent developments, this study analyzes major OTAR-related research published between 2022 and the second quarter of 2025, classifying satellite OTAR techniques from the perspectives of key management and cryptographic mechanisms, and evaluating their security properties. Finally, based on the analysis results, this paper proposes future research directions for satellite OTAR technologies.

I. 서론

위성 시스템은 지구 관측, 위성항법, 군사 작전, 인터넷 서비스 등 다양한 분야에서 필수적인 역할을 담당하고 있다. 이러한 중요성으로 인해 위성 시스템은 단 한 번의 사이버 공격으로도 광범위한 피해를 초래할 수 있으며, 전파 도청(eavesdropping), 재밍(jamming), 신호 스푸핑(spoofing) 등 다양한 사이버 위협이 실제 사례 [1-3]를 통해 실질적인 위협임이 입증되고 있다. 특히 러시아-우크라이나 분쟁에서는 러시아가 미국 통신회사 Viasat의 KA-SAT 네트워크를 공격하여 서비스가 광범위하게 마비되는 사건이 발생하였다[2]. 이 공격으로 유럽 전역에서 수천 개의 기관과 기업의 운영이 중단되었으며, 이러한 사례는 위성 시스템이 단 한 번의 침해만으로도 국가 차원의 피해를 줄 수 있음을 시사한다. 이러한 이유로 사이버 위협으로부터 통신의 기밀성과 무결성을 확보하기 위해서는 암호 키 관리가 필수적이며, 키 관리는 위성 시스템의 신뢰성과 안전성을 유지하기 위한 필수 요소이다.

기존 위성 시스템은 초기 탑재 시 내장된 정적 키 또는 지상국을 통한 수동적 키 교체 방식에 의존해 왔다. 그러나 최근 위성 수명의 장기화, 네트워크 규모의 확장으로 인해 이러한 전통적인 방식은 다음과 같은 한계가 존재한다. 첫째, 위성 운용 중 보안 위협이 발생하더라도 키 교체까지 상당한 시간이 소요되어 그 기간 동안 위성이 취약 상태에 노출된다. 둘째, 물리적 키 로딩이나 지상국 연결에 의존하는 구조는 즉각적인 대응 및 확장성 측면에서 비효율적이다. 이러한 한계를 극복하기 위한 기술로 OTAR(Over-the-Air Rekeying)가 주목받고 있다. OTAR는 무선 링크를 통해 암호 키를 원격으로 안전하게 재분배 및 갱신할 수 있도록 하는 기술로, 위성 통신의 보안성과 운영 효율성을 동시에 확보할 수 있다.

본 논문에서는 위성 통신 환경에서 OTAR 기술과 관련된 연구를 키 관리 기법과 암호 기술의 경량화라는 두 가지 관점에서 분석한다. 이를 바탕으로, 향후 위성 기반 OTAR 기술의 설계 방향과 연구 과제를 제시하고자 한다.

II. 위성 시스템의 보안 요구사항

OTAR 기술을 평가할 때 효율성은 단순히 키 교환 속도나 연산 복잡도와 같은 성능 지표를 의미한다. 그러나 효율성과는 별개로, 보안성과 안정성 또한 OTAR 시스템의 신뢰성을 결정하는 핵심 요소이다. 특히 위성 통신 환경에서는 전송 지연, 제한된 대역폭, 전력 제약 등 다양한 제약 조건이 존재하므로, 이러한 환경에서도 시스템이 안전하고 안정적으로 동작하는지를 보장해야 한다. 따라서 본 장에서는 OTAR 연구에서 반복적으로 언급되는 주요 보안 속성을 살펴본다.

2.1 OTAR 주요 보안 속성

⦁ 인증(authentication): 통신에 참여하는 주체(위성, 지상국, 사용자 등등)의 신원 확인을 통해 위장 공격을 할 수 없음을 보장한다.

⦁ 순방향 보안성(forward secrecy): 공격자가 알고 있는 키 집합으로 이후의 키를 알아낼 수 없음을 보장한다.

⦁ 익명성(anonymity): 공격자가 특정 노드를 식별하거나 추적하지 못하게 하여 위성 또는 단말의 프라이버시를 보장한다.

⦁ 재전송 공격 저항성(replay attack resistance): 공격자가 이전에 캡처한 메시지를 다시 보내더라도 해당 메시지는 유효하지 않음을 보장한다.

⦁ 중간자 공격 저항성(Man-in-the-Middle attack resistance): 중간자 공격은 공격자가 통신을 가로채어 메시지를 변조하거나 중계할 수 없음을 보장한다.

⦁ 내부자 공격 저항성(insider attack resistance): 내부자 공격은 시스템 내부의 정당한 사용자가 부정한 권한을 사용하거나 다른 사용자 사칭을 할 수 없음을 보장한다.

⦁ 가장 공격 저항성(impersonation attack resistance): 가장 공격은 공격자가 특정 사용자 사칭을 통해 인증을 통과할 수 없음을 보장한다.

⦁ 서비스 거부 공격 저항성(denial of service attack resistance): 서비스 거부 공격은 시스템 자원을 고갈시키거나 정상적인 인증 절차를 방해하여 서비스를 중단시킬 수 없음을 보장한다.

2.2 위성 보안 프로토콜 검증 방법론

2.2.1 형식적 분석(formal analysis)

형식적 분석은 보안 프로토콜의 안전성을 수학적으로 증명하기 위해 사용하는 방법이다. 대표적인 도구로 AVISPA[4], ProVerif[5], Tamarin[6], BAN(Burrows Abadi Needham) 논리[17] 등이 존재하며, 프로토콜의 상태 공간을 분석하여 중간자 공격, 재전송 공격 등 다양한 위협을 검증할 수 있다. 이러한 분석은 자동화를 통해 반복할 수 있으며 사람의 직관에 의존하지 않기 때문에 객관적인 보안 검증을 가능하게 한다.

2.2.2 비형식적 분석(informal analysis)

비형식적 분석은 설계자의 직관과 논리적 해석을 통해 보안 프로토콜의 작동 방식과 보안 검증을 자연어로 설명하는 방식이다. 대표적인 예시로, 임의의 난수와 타임스탬프를 사용하여 재전송 공격을 방어한다고 설명하거나, 인증 구조가 중간자 공격에 안전하다고 설명하는 식이다. 해당 방식은 설계의 목적과 신뢰 모델을 전달하는 데 유용하지만, 사람에 따라 해석이 달라질 수 있다.

2.3 위성 시스템의 운용적 제약 요소

2.3.1 제한된 전력

위성 시스템은 에너지 공급의 핵심인 태양광 패널의 면적 제한으로 인해 가용 전력이 매우 한정적이다. NASA의 최신 기술 보고서[27]에 따르면, 2021년 기준 소형 위성의 90%가 태양광 패널과 충전식 배터리를 이용한 전력 시스템에 의존하고 있으며, 범용적인 소형 위성의 평균 전력은 약 10-20W 수준이다. 실제로 시장에서 주로 쓰이는 3U 및 6U 규격의 표준 태양광 패널은 약 14.4W에서 19.2W 사이의 피크 전력을 생성하는 것으로 조사되었다. 더욱이 소형 위성의 주목적은 보안을 위한 키 교환 자체가 아니라, 영상 촬영이나 데이터 중계와 같은 본연의 임무 수행에 있기 때문에 키 교환에 할당할 수 있는 전력은 더욱 제한적일 수밖에 없다. 결과적으로 이러한 전력 제약은 통신 시스템의 송신 출력과 데이터 처리 속도를 제한할 뿐만 아니라, 복잡한 암호화 연산 및 빈번한 키 갱신 등을 수행하는 데 있어 제한된다.

2.3.2 제한된 대역폭

[Table 1]은 소형 위성에서 사용되는 주요 통신 주파수 대역과 그 특성을 정리한 것이다. [Table 1]에서 확인할 수 있듯이 소형 위성은 주로 VHF-band, UHF-band, L-band, S-band와 같은 저주파 대역을 기반으로 통신을 수행하며, 이중 TT&C(Tracking, Telemetry and Command) 링크는 S-band가 많이 활용되고 있다[28]. 또한 S-band의 경우 고주파 대역(X-band, Ku-band, K-band)과 비교하면 통신 경로 손실이 적고 통신 안정성이 높다는 장점이 있으나, 주파수 자원의 포화로 인해 할당받을 수 있는 대역폭이 매우 좁다. 이러한 대역폭의 한계는 직접적으로 전송률의 제한으로 이어진다. NASA의 최신 기술 보고서[27]는 고효율 부호화 기법을 통해 좁은 대역폭 내에서 전송 효율을 극대화하더라도 S-band의 실질적인 속도는 약15Mbps 내외라고 명시한다. 결과적으로, 수 Gbps급 전송이 가능한 Ka-band와 비교했을 때 S-band는 대용량 데이터 전송이나 빈번한 보안 통신을 수행하기에 상당한 운용적 제약을 안고 있다.

Table 1. Characteristics and Applications of Frequency Bands in Small Satellite Communications

2.3.3 제한된 계산 자원

위성 시스템은 우주 방사능으로 인한 하드웨어의 결함 방지를 위해 방사능 경화(Radiation Hardening) 처리가 필수적이며, 공기 대류가 없는 진공 환경에서의 열 방출 제한과 발사 비용 절감을 위한 엄격한 전력 및 무게 제약이라는 특수한 환경적 요인을 갖는다. 이러한 이유로 위성 시스템의 온보드 컴퓨팅 성능은 지상 시스템에 비해 현저히 낮은 수준에 머물러 있으며, 실제로 위성용 프로세서인 RAD5500의 연산 성능은 약 0.9 GFlops로 지상용 COTS 칩인 NVIDIA A100(156 TFlops)과 비교해 수만 배의 격차를 보일 뿐만 아니라, 가용 전력 또한 RAD750이 약 5W를 소모하는 반면 A100은 300W에 달하는 등 전력 공급 능력에서도 큰 차이가 존재한다. 결과적으로 이러한 계산 자원의 극심한 불균형은 위성 내에서 복잡한 암호화 연산을 수행하는 데 있어 제한된다[29].

2.3.4 지연 및 전송 손실 환경

위성과 지상국 간 통신은 궤도 위치, 회전 주기, 전파 간섭 등의 영향으로 물리적 지연 및 간헐적 단절이 빈번하게 발생한다. 실제로 LEO 위성의 경우 평균 20~40ms, GEO 위성은 600~700ms 수준의 물리적 지연이 보고되고 있으며[7], LEO 위성의 경우 지상국간 통신할 수 있는 시간은 평균 15분 이내에 불과하다[8-9]. 또한 위성 통신은 장거리 전송에 따른 경로 손실 및 강우 감쇠 등으로 인한 전송 손실 환경에 노출되어 있다[27, 30-32]. 특히 소형 위성은 송신 출력이 제한적이기 때문에 기상 변화나 물리적 환경에 따른 오류 발생에 매우 취약하며, 이는 보안 통신 시 비트 에러율(bit error rate, BER) 증가와 패킷 손실로 이어져 OTAR 프로토콜의 안정적인 운용을 저해하는 요소가 된다.

2.4 퍼지 추출기(fuzzy extractor)

퍼지 추출기는 지문, PUF(Physical Unclonable Function)등과 같이 측정할 때마다 값이 조금씩 달라지는 잡음 기반 입력으로부터 안정적이고 재현 가능한 암호 키를 생성하기 위한 기술이다[20]. 해당 방법은 유사한 입력만으로도 동일한 비밀 키를 복원할 수 있는 특징이 존재하여 생체인증, IoT 장치 보안, PUF 기반 키 생성 등 잡음이 불가피한 환경에서 널리 활용된다.

III. OTAR 기술을 위한 키 관리 및 암호 기술

위성 통신은 앞서 살펴본 운용적 제약 요소인 제한된 전력, 대역폭, 계산 자원, 그리고 높은 지연과 손실 환경은 고전적인 지상 네트워크에서 사용하는 암호 기술의 적용에 제약을 발생시킨다. 하지만 이러한 제약 아래에서도 위성 통신은 기밀성과 무결성을 보장하기 위해 위성 환경에 특화된 키 관리 및 경량 암호화 기술의 연구가 활발히 이루어지고 있다.

본 단락에서는 위성 통신 보안의 두 핵심 축인 키 관리 프로토콜과 경량 암호 기술을 중심으로 최근 연구 동향을 정리한다. 먼저 3.1절에서는 키 분배, 키 갱신 등을 다루며, 3.2절에서는 제한된 자원 환경에서의 암호 알고리즘 경량화 접근을 살펴본다.

3.1 Rekeying 프로토콜 연구

3.1.1 단일 키 교환

Somayeh Soltani외 3명은 기존 Mingping Qi외 2명[11]이 제안한 ECC를 활용한 키 합의 방식 인증에 내부자 공격 및 알려진 세션 임시 정보 공격에 취약하다고 주장하며, 이를 해결하는 강건한 사용자 인증과 세션 키 합의를 동시에 제공하는 경량 보안 프로토콜을 제안한다[10]. 해당 연구에서 제안된 프로토콜은 사용자, 위성, 지상국 간의 3자 인증 구조를 기반으로 하며, 각 참여자 간의 식별자, 난수, 타임스탬프를 이용한 상호 인증 절차를 통해 안전한 세션 키를 협상하도록 설계하였으며, 초기화 단계, 등록 단계, 인증 및 키 합의 단계로 구성하였다. 또한 효율적인 연산을 위해 ECC(Elliptic Curve Cryptography), 해시 함수를 사용하였다. 마지막으로 보안 평가를 위해 비형식적 분석과 AVISPA, RoR(Real-or-Random) 모델을 활용하여 분석을 수행하였다. 이러한 설계는 절대적인 계산 복잡도 측면에서는 효율적이지만, 기존 연구들[10-13]과의 상대적 비교에서는 다소 높은 연산 비용을 요구한다. 하지만 기존 연구들이 제공하지 못한 보안 속성을 충족한다는 점에서 개선된 보안성을 제공한다.

Yuanyuan Yang외 5명은 지연 및 단절 환경에서도 보안성과 효율성을 확보하기 위해 위성 간 통신(satellite-to-satellite, S2S)에서의 경량 인증 및 키 합의 프로토콜을 제안한다[14]. 해당 연구에서 제안된 프로토콜은 위성 A, 위성 B, TCC(Terrestrial Control Center)로 구성되며, TCC는 중심 시스템으로 각 위성의 공유 키와 궤도 정보를 관리하고 인증 과정에서 위성 간 공유 키를 생성하여 제공한다. 해당 프로토콜의 특징은 초기 구성에서만 TCC의 개입이 필요하고, 그 후 TCC의 개입 없이 자체적으로 위치 키를 갱신하고 세션 키를 합의할 수 있다. 또한 효율적인 연산을 위해 해시와 대칭 암호화/복호화 연산만을 사용하였다. 마지막으로 보안 평가를 위해 Scyther[15] 도구를 활용한 형식적 분석을 수행하였다.

Deepika Gautam외 4명은 기존 연구들이 GBS(Ground Base Station)에 대한 높은 의존성으로 인해 지연 및 단일 장애점 문제를 해결하기 위해 GBS의 개입 없이 위성 자체의 궤도 좌표와 ECDLP(Elliptic Curve Distance Logarithm Problem)의 복잡성을 활용하여 안전한 S2S 상호인증을 제공하는 프로토콜을 제안한다[16]. 해당 연구에서 제안된 프로토콜은 위성 A, 위성 B, GBS로 구성되며, 시스템 초기화, 등록 단계, 인증 단계로 구성되어 있다. 기존 [14] 연구와 비슷하게 초기 단계에서만 GBS의 개입이 일어나고 그 후는 인공위성간의 상호 인증이 가능하다. 마지막으로 보안 평가를 위해 비형식적 분석과 RoR 모델, BAN 논리 그리고 Scyther 도구를 활용해 분석을 수행하였다.

Garima Thakur외 4명은 기존 Akber Ali Khan외 4명[18]이 제안한 프로토콜에 일시적 비밀 정보 유출 공격, 오프라인 비밀번호 추측 공격, 사용자 가장 공격 등 다양한 공격에 취약하다고 주장하며, ECDLP의 복잡성을 활용한 신뢰할 수 있고 안전한 인증프로토콜을 제안한다[19]. 해당 연구에서 제안된 프로토콜은 ECC와 퍼지 추출기를 기반으로 기존 연구[18]에서 가지고 있는 취약성을 해결하며, 초기화 단계, 사용자 등록, 로그인, 인증 및 키 합의 3단계로 구성되어 있다. 또한 효율적인 연산을 위해 ECC, 대칭키, 해시 함수를 사용하였다. 마지막으로 보안 평가를 위해 비형식적 분석과 BAN 논리, Scyther 도구를 활용하여 형식적 분석을 수행하였다.

Dheerendra Mishra외 1명은 기존 Sonam Yadav외 3명[21]이 제안한 프로토콜에 세션 키 불일치, 서비스 거부 공격, 높은 계산 비용의 취약성을 가지고 있다고 주장하며, 해당 연구에서는 이를 해결하기 위해 새로운 격자 기반 KEA(Key Establishment Authentication) 프로토콜을 제안했다[22]. 제안된 프로토콜은 RLWE(Ring Learning with Errors) 문제의 난이도에 기반하여 양자 안전성을 보장하며, 계산 효율성을 향상시키고 주요 공격에 대한 강건성을 충족한다. 또한 사용자 설정 단계, 등록 단계, 로그인 및 인증 단계로 구성되어 있으며, 보안 평가를 위해 비형식적 분석과 ROM(Random Oracle Model)을 활용하여 형식적 분석을 수행하였다.

Chuanhua Wang 외 5명은 우주 TT&C 네트워크에서 다중 관리 도메인 간 사용자 인증 시 발생하는 높은 지연과 복잡성을 해결하기 위해, 블록체인 기반의 보안적이고 효율적인 교차 도메인 인증(SE-CAS) 기법을 제안한다[23]. 이 연구는 TS(TT&C Satellite), TBS(TT&C Base Station), 사용자로 구성되며, 특히 TBS들이 컨소시엄 블록체인을 구성해 등록 정보와 공개 파라미터를 공동 관리함으로써, 사용자는 최초 등록 시 부여받은 가상 신원을 기반으로 다른 도메인에서도 별도의 재등록 없이 인증을 받을 수 있다. 또한 SE-CAS는 BLS(Boneh–Lynn–Shacham) 서명과 그룹 서명을 결합해 사용자가 생성한 서명과 TBS 재서명을 통합한 배치 인증 구조를 도입하여 많은 TT&C 요청을 효율적으로 처리한다. 또한 시스템 초기화, 사용자 등록, 서명, 도메인 간 인증, 추적 단계로 구성되어 있으며, 보안 평가는 비형식적 분석을 활용해 수행하였다.

3.1.2 다중 키 교환

Junyan Guo외 5명은 위성, 지상 통합 네트워크(satellite–terrestrial integrated network, STIN)에서 다중 사용자 접근을 위한 새로운 3자 인증 N3PA(Novel Three-Party Authentication)-STIN 프로토콜을 제안한다[24]. 해당 연구에서는 다수의 사용자 인증 요청을 동시에 집계 및 검증하는 배치 검증(Batch Verification) 방법을 사용해 계산 및 통신 오버헤드를 최소화한다. 또한 동적으로 노드를 관리하기 위해 CRT(Chinese Remainder Theorem)에 기반한 도메인 키 갱신 절차를 통해 노드의 동적 가입 및 취소를 효율적으로 지원한다. 제안된 프로토콜은 시스템 초기화, 등록, 사용자 로그인, 인증 및 키 합의, 비밀번호 및 생체 정보 갱신 단계로 구성된다. 마지막으로 보안성 평가를 위해 비형식적 분석과 ROM을 활용하여 형식적 분석을 수행하였다.

3.2 암호 기술 및 경량 암호 알고리즘 연구

Yatao Yang외 4명은 위성 통신 환경이 내부 연산 과정까지 노출되는 화이트박스 환경이라는 점에 착안하여, ARX(Addition/Rotation/XOR) 기반의 경량 블록 암호 LWARX를 설계하고 이에 대한 화이트박스 구현을 제안한다[25]. 해당 연구에서 제안된 LWARX는 48라운드의 불균형 feistel 구조를 기반으로 하며, 기존 S-box를 제거하고 ARX 연산과 선형변환만으로 혼돈과 확산을 수행하여 경량화와 성능 향상을 동시에 달성하였다. 또한 화이트박스 구현에서는 룩업 테이블(lookup table) 기반 내부 코딩, 교란 값 추가, 외부 코딩 기법을 결합하여 키가 테이블에서 추출되지 않도록 설계하였다.

IV. OTAR 프로토콜 보안 분석

본 장에서는 [Table 2]와 [Table 3]을 분석한다. [Table 2]는 기존의 주요 연구들이 채택한 보안성 평가 방법론과 사용 알고리즘을 요약한 것으로 본 표를 통해 각 연구가 효율성과 보안성을 충족하기 위해 사용한 알고리즘의 종류와 정형 및 비정형 분석 수행 여부를 확인할 수 있다. [Table 3]의 경우 기존 연구들에서 보장하는 세부 보안 속성과 각 프로토콜의 안전성 검증에 사용된 모델 및 도구를 비교한 것으로 이를 통해 각 기법이 제공하는 보안 속성과 검증을 위해 사용한 정형 도구의 차이를 확인할 수 있다. 또한 각 표의 “O”의 의미는 각각 해당 보안 속성을 만족하거나 분석을 수행했음을 의미하며, 반대로 “-”의 경우에는 해당 보안 속성을 지원하지 않거나 분석이 수행되지 않았음을 의미한다. 분석은 (1) 사용된 암호 알고리즘의 경량성, (2) 보안 속성 충족 여부, (3) 형식·비형식 보안 검증 방식의 활용 수준을 중심으로 진행된다. 이를 통해 기존 OTAR 프로토콜의 보안적 특징을 파악하고, 이후 장에서 논의할 향후 연구 방향의 기초를 마련한다.

Table 2. Summary of Security Evaluation Methods in Existing Studies

Table 3. Comparison of Security Properties and Verification Methods in Existing Studies

위성 시스템의 운용적 제약은 통신 프로토콜의 구조적 최적화, 즉 라운드 수의 최소화를 통해 해결될 수 있다. 본 연구에서 분석한 최신 연구들이 3번 이내의 라운드로 인증 및 키 교환 수행을 완료하는 것을 [Table 2]를 통해 확인할 수 있다. 이러한 결과를 바탕으로 본 연구에서 분석한 최신 연구들이 운용적 제약을 극복한 것으로 평가하고 보안성 분석을 중점으로 분석하였다.

4.1 사용된 암호 알고리즘 및 경량화 분석

[Table 4]는 NIST의 권고안을 바탕으로 동일한 보안 강도를 달성하기 위해 요구되는 대칭 키, RSA(Rivest-Shamir-Adleman) 그리고 ECC의 키 크기를 비교한 것으로 보안 강도가 128비트에서 256비트로 증가함에 따라, 소인수분해 기반의 RSA는 키 크기가 3,072비트에서 15,360비트로 급격히 증가하는 양상을 보인다[26]. 이와 대조적으로 ECC는 동일한 보안 수준에서 RSA 대비 훨씬 짧은 키 길이를 유지함으로써 연산 효율성과 저장 공간의 이점을 제공한다. [Table 2]를 통해 실제 [10, 16, 19, 24] 다수의 연구가 경량화를 위해 ECC 알고리즘을 채택한 것을 알 수 있다. 또한 양자 컴퓨터 등장에 대비한 PQC(Post-Quantum Cryptography) 기술이 연구되기 시작했다는 점과 [23]의 연구에서는 블록체인 기반의 분산 키 관리 설계를 구축하였다.

Table 4. Comparison of Symmetric, FFC, IFC, and ECC Key Sizes by Security Strength

4.2 보안 속성 충족 여부

[Table 3]의 비교 결과를 기반으로 각 연구가 제공하는 보안 기능을 분석한 결과, 대부분의 연구가 공통으로 만족하는 요소와 연구마다 차이가 발생하는 요소로 구분할 수 있다.

먼저, 인증, 익명성, 재전송 공격 저항성, 중간자 공격 저항성은 모든 연구에서 일관되게 지원하는 것을 확인할 수 있다. 이는 위성 통신 환경의 특성상 개방된 무선 채널을 통해 메시지가 전달되기 때문에 도청, 위조, 재전송 공격에 매우 취약하다는 점에 기인한다. 이러한 환경적 제약은 OTAR 프로토콜 설계 시 최소한 이 네 가지 보안 요소를 반드시 보장해야 한다는 점을 시사한다.

반면, 연구 간 차이가 나타나는 요소들은 특정 설계나 선택이나 경량화 목표에 따라 지원 여부가 달라지는 경향을 보였다. 대표적으로 순방향 보안성은 [14, 19, 23] 연구에서는 지원하지 않거나, 명시적으로 다루지 않고 있다. 순방향 보안성은 키가 노출되더라도 과거의 통신 내용을 보호할 수 있는 중요한 보안 속성으로, 위성 통신처럼 장기간 운용이 되는 시스템에서 필요성이 증가하고 있다. 따라서 순방향 보안성을 제공하는 연구 [10, 16, 22, 24]는 보다 강화된 보안을 제공한다는 점에서 우수성이 확인된다. 또한 서비스 거부 공격 저항성과 내부자 공격은 연구마다 지원 여부가 상이하게 나타났다. 이는 경량화를 위해 의도적으로 제외했거나, 프로토콜 구조상 방어가 어렵기 때문으로 해석할 수 있다. 특히 내부자 공격은 키 관리 주체가 악의적으로 행동하는 경우 전체 보안 체계가 깨질 수 있다는 점에서 매우 중요한 보안 요소이다. 하지만 다수의 [19, 22, 24] 연구에서 지원되지 않음을 알 수 있고, 이는 향후 연구에서 보완되어야 할 부분이다.

위 내용을 기반으로 대부분의 연구가 공통적으로 충족하는 요소는 OTAR 프로토콜 설계 시 기본 요구사항으로 간주할 수 있으며, 연구 간 차이가 있는 요소들은 프로토콜의 보안 수준을 결정하는 차별화 요소로 해석된다. 이러한 분석은 OTAR 프로토콜이 향후 강화해야 할 보안 기능을 제시한다는 점에서 중요한 의미를 지닌다.

4.3 형식·비형식 보안 검증 방식

[Table 2]에서 확인할 수 있듯이 [23]의 연구를 제외하고 보안 검증을 위해 형식적 분석과 비형식적 분석을 혼합하여 사용되고 있음을 알 수 있다. 즉, 단일 방식에 의존하지 않고, 자동화 검증 도구와 수학적 증명 모델을 병행하는 경향을 보인다.

AVISPA와 Scyther와 같은 자동화 검증 도구는 프로토콜의 메시지 흐름을 모델링한 후 공격자가 개입할 수 있는 다양한 시나리오를 시뮬레이션하여 프로토콜의 잠재적인 취약점을 탐지한다. 이러한 도구는 프로토콜 설계 초기 단계에서 공격 경로를 자동으로 탐색할 수 있어 결함을 발견하는 데 효과적이다. 실제로 다수의 [10, 14, 16, 19] 연구에서 AVISPA, Scyther를 사용하여 보안 검증을 수행하였다. 또한 [10, 16, 22, 24] 연구에서는 RoR 모델과 ROM 모델을 사용하였는데 해당 모델은 수학적 확률에 기반한 보안 증명 방식으로, 공격자가 실제 암호문과 랜덤 암호문의 차이를 식별하거나 추측할 확률이 무시할 수 있을 만큼 작다는 것을 보장하며, 이러한 검증 방식은 단순한 구현 수준 검증이 아닌 근본적 안전성을 제공한다는 점에서 신뢰도가 높다.

최근 연구들이 보여주는 흐름을 고려할 때, 형식적 분석과 비형식적 분석을 결합한 분석은 현대 OTAR 프로토콜 연구의 핵심 요소로 자리 잡고 있음을 확인할 수 있다.

4.4 기존 연구의 한계점 및 시사점

본 장에서 분석한 기존 OTAR 프로토콜 연구들은 보안 요구사항 충족과 효율성 측면에서 공통된 강점과 한계점을 동시에 드러낸다. [Table 2]와 [Table 3]에 대한 종합적인 비교 분석을 통해, 향후 위성 OTAR 프로토콜 연구가 집중해야 할 주요 방향은 다음과 같이 정리할 수 있다.

4.4.1 보안성과 효율성 간의 상충(trade-off) 문제

대부분의 기존 연구는 인증, 재전송 공격 저항성, 중간자 공격 저항성과 같은 보안 요소를 안정적으로 충족하고 있다. 그러나 이러한 보안성을 확보하기 위해 사용된 공개키 기반 연산은 제한된 전력, 처리 능력을 가진 위성 환경에서는 부담이 된다. 즉, OTAR 프로토콜의 효율성과 보안성을 확보하기 위해서는 [25] 연구와 같은 암호 알고리즘 자체의 성능을 개선하는 연구가 이루어져야 한다.

4.4.2 차세대 보안 위협 대응을 위한 연구 필요성

최근 양자 컴퓨팅 기술이 빠른 속도로 발전함에 따라, 장기간 운용되는 위성 환경에서는 심각한 보안 문제가 발생할 수 있다. 기존에 널리 사용되는 RSA 및 ECC 기반 공개키 암호체계는 양자 내성이 없어, 양자 알고리즘에 의해 무력화될 가능성이 있기 때문이다. 이러한 위협을 고려하여 [22] 연구에서는 RLWE 기반의 양자 내성 암호를 적용함으로써 향후 양자 컴퓨팅이 초래할 보안 위협에 대비하고자 하였다. 따라서 양자 내성 기술을 적용한 OTAR 프로토콜의 설계는 장기 운용이 요구되는 위성 시스템에서 더 이상 선택 사항이 아닌 필수 요소로 평가된다. 또한 [Table 3] 분석에서 순방향 보안성, 서비스 거부 공격 저항성, 내부자 공격 저항성은 일부 연구에서는 제공되지 않는 것으로 나타났다. 이는 OTAR 프로토콜의 보안성을 강화하기 위해 반드시 보완되어야 하는 요소들이다.

V. 결론

본 연구에서는 2022년부터 2025년 2분기까지 공개된 주요 위성 환경에서의 OTAR 프로토콜의 효율성과 보안성을 평가하였다. 본 연구에서 분석한 OTAR 기술들은 보안 속성 충족 면에서는 우수하나, 실제 위성의 가혹한 운용 환경을 충분히 반영하지 못하고 있다는 한계가 있다. 이에 본 연구는 차세대 위성 OTAR 설계를 위해 다음과 같은 세 가지 향후 연구 방향을 제시한다.

첫째, 위성은 영상 전송, 통신, 원격측정 등 본연의 임무를 성공적으로 수행하는 것이 최우선이 되어야 한다. 즉, OTAR 수행이 보안적 목적에서 중요하더라도 성능 저하의 원인이 되어 위성 본연의 임무 수행에 방해 요소로 작용해서는 안 된다. 이를 위해 OTAR 수행이 실제 임무 데이터 처리율에 미치는 영향을 정량적으로 평가할 수 있는 새로운 평가 모델과 시뮬레이션 기술이 개발되고, OTAR 경량화 연구에 활용될 수 있는 순환 구조가 확립되어야 한다.

둘째, 현재 다수의 연구가 채택한 ECC 기반 알고리즘은 양자 컴퓨팅 환경에서 무력화될 가능성이 크다. 하지만 일부의 연구만이 양자 내성 암호를 다루고 있다. 위성은 짧게는 1년 길면 10년 이상 운용되며, 운용 기간 중에 양자 컴퓨터가 상용화될 가능성을 고려하여, 설계 단계부터 양자 내성 암호를 적용하거나 소프트웨어적으로 암호 알고리즘을 변경할 수 있는 구조를 고려하여 설계하여야 한다.

셋째, 최근 스페이스X가 발표한 바와 같이 향후 지상국을 경유하지 않고 일반 휴대폰과 위성 간 직접 통신이 가능해질 경우[34], 공격 경로가 다변화되면서 단말기 보안이 전체 위성 통신 체계의 핵심적인 보안 요소로 부상할 것으로 예상된다. 따라서 OTAR 기술의 보안성과 신뢰성 확보를 위해 기밀연산 등 단말기 보호를 위한 다양한 보안 기술을 위성 환경에 적용할 필요가 있다.