Development of a Practical Algorithm for en-route distance calculation

항로거리 산출을 위한 실용 알고리즘 개발

Abstract

The ICAO (International civil aviation organization)recommended the implementation of the GANP (global air navigation plan) for strategic decision-making and air traffic management evaluation. In this study, we proposed a new method for finding the route distance from KPI (key performance indicator) 05 actual route extension presented for air traffic management evaluation. For this purpose, we collected trajectory data for one month and calculated the en-route distances using the methods presented in ICAO and the methods presented by this author. In the ICAO method, the intersection point must be estimated through the equation of a circle for radius 40 NM and the equation of a straight line for an inner and outer point close to a circle in the track data, and four flight distances are calculated to calculate the en-route distance. In the method presented in this study, two flight distances are calculated without estimating the intersection point to calculate the en-route distance. To determine the error between the two methods, we used the performance evaluation index RMSE (root mean square error) and the determination factor R² of the regression model.

ICAO (international civil aviation organization)에서는 전략적인 의사결정과 항공교통관리 평가를 위해 세계항행계획인 GANP (global air navigation plan) 수행을 체약국에게 권고하였다. 본 연구에서는 항공교통관리 평가를 위해 제시된 KPI (key performance indicator) 05 실제 항로 연장에서 항로거리를 구하는 새로운 방법을 제안하였다. 이를 위해 한 달간의 항적 데이터를 수집하고 ICAO에서 제시한 방법과 본 저자가 제시하는 방법으로 각각 항로거리를 산출하였다. ICAO 방법은 반경 40 NM 원형에 대한 원의 방정식과 항적 데이터 내 원에 근접한 내·외부 지점에 대한 직선의 방정식을 통하여 교점을 추정하여야 하고, 네 가지의 비행거리를 계산하여 항로거리를 산출한다. 본 연구에서 제시한 방법은 교점을 추정하지 않고 두 가지의 비행거리를 계산하여 항로거리를 산출한다. 두 방법의 오차를 확인하기 위해 회귀모형 성능평가지표인 RMSE (root mean square error)와 결정계수 R² 를 사용하였다.

Ⅰ. 서론

국제 민간 항공 기구 (ICAO; international civil aviation organization)는 세계 민간 항공 산업의 지속 가능한 성장을 목표로 한다. ICAO는 증가하는 항공교통량을 효과적으로 관리하기 위해 미래항행시스템 (FANS; future air navigation system)개념을 제시하고 세계 항행 계획 (GANP; global air navigation plan)을 수립하였다[1].

GANP는 그림 1과 같이 4단계로 구성된다[2]. 첫 번째 단계는 Global Strategic으로 항행시스템 평가를 통해 전략적 의사결정을 할 수 있는 방향을 제시하며, GANP 문서가 이에 해당한다. 두 번째 단계는 Global Technical로 필수 항행 서비스를 효율적으로 계획 및 시행할 수 있도록 지원하며, aviation system block upgrade (ASBU)와 air navigation - system performance assessment (AN-SPA), basic building block (BBB)가 해당된다. ASBU는 항공교통 수요와 안정성 이슈를 해결하기 위한 계획이고, AN-SPA는 항행 시스템의 비용 대비 효과성을 목적으로 성능 기반 접근법 (PBA; performance based approach)을 보조하는 기법이다. BBB는 필수 제공 정보인 비행장 운영, 항공교통 관리 (ATM; air traffic management), 수색 및 구조, 비행 정보, 기상 정보 외에도 최종 사용자에게 통신, 항법 및 감시 (CNS; communication navigation surveillance) 체계 등을 알려 준다. 세번째 단계는 Regional로 지역 수준의 계획을 통해 성능을 개선하며, 우리나라의 경우는 아태지역 항행계획(APAC ANP; asia and pacific air navigation plan)에 해당한다. 네 번째 단계는 National로 국가 차원에서 이해관계자와 국가 상황에 맞는 운항 계획을 개발 및 시행한다. 이를 위해 우리나라는 국가항행계획(NARAE; national ATM reformation and enhancement)를 수립하였다.

그림 1. GANP 다층 구조도

Fig. 1. GANP Multi-layer structure diagram.

ASBU는 항공교통관리를 평가하기 위해 11개의 핵심성능영역 (KPA; key performance area)와 19개의 핵심성능지표 (KPI; key performance indicator)를 제시하였다[3]. 그 중 KPI 05 실제 항로 연장 (actual en-route extension)에서 항로 연장률을 계산하기 위해 항로거리를 산출한다. 본 연구에서는 기존 ICAO 항로 거리 산출 방법의 어려움을 고려한 항로거리 산출 방법 제안하고자 한다. ICAO 항로거리 산출 방법은 4개의 비행거리를 구하고, 그 과정에서 교점을 추정하여야 한다. 반면, 본 연구에서는 2개의 비행거리를 구하며, 교점을 추정하지 않는 방법을 제시하고자 한다.

본 논문의 구성은 다음과 같다. 2장에서는 ICAO KPI에 대해 설명하고, 3장에서는 ICAO 항로거리 산출 방법을 설명한다. 4장에서는 본 논문에서 제안하는 항로거리 산출 방법과 기존 ICAO 항로거리 산출 방법을 비교한다. 마지막으로 5장에서는 본 연구의 결론에 대해 설명한다.

Ⅱ. ICAO KPI

2-1 ICAO GANP 및 ASBU

ICAO에서 제시한 GANP는 증가하는 항공교통수요에 대비하기 위해 차세대 항공교통관리 시스템으로 전환하고, 체약국에 디지털 및 데이터 기반 항행시스템을 갖추도록 권고한다[4].

GANP의 하위 개념인 ASBU는 Global Technical로 최신 기술을 이용하여 항공안전과 수용량을 개선하며, 항공기 운영자가 계획한 출발·도착 시각에, 원하는 비행경로로 규정된 안전 수준을 만족하면서 운항할 수 있는 글로벌 항공교통관리(global ATM)시스템을 구축하는 것이다[5]. ASBU는 단일 국가나 특정 지역을 대상으로 하는 것이 아닌 전 세계적인 방향성을 제시하여 체약국에 수행 의무를 권고한다.

2-2 KPA 및 KPI

KPA는 목표와 관련된 성능 주제를 분류하는 방법이다. ICAO에서는 접근성 및 공평성, 수용량, 비용 효과성, (비행) 효율성, 환경, 유동성, 상호 운용성, 참여 및 협업, 예측성, 안전, 보안 총 11개의 KPA를 정의하여 표 1에 작성하였다[6]. ICAO에서 정의한 KPA 중 3가지인 수용량, 효율성, 예측성에 대한 KPI 19개를 표 2에 작성하였다.

표 1. ASBU에서 제시한 11가지의 KPA

Table 1. 11 KPAs presented by ASBU.

표 2. 3가지 KPA에 해당하는 KPI

Table 2. KPIs corresponding to 3 KPAs.

KPA 02 수용량은 항공교통흐름 제한을 최소화하여 항공기 운영자의 수요 충족을 목적으로 한다. KPA 04 효율성은 운영 효율성 및 gate-to-gate 운영에 대한 경제적 비용 효율성을 뜻한 자 (ANSP; air navigation service provider)가 일관되고 신뢰할 수 있는 수준의 성능을 제공할 수 있는 능력이다[7].

KPI는 성능을 수집, 측정 및 모니터링하여 달성하려는 성과 목표의 실현 정도를 파악할 수 있는 수단으로 경제성 분석, 수입 증가율, 현금 흐름 예측, 웹 사이트 트래픽 지표, 유료 디지털 마케팅 등 다양한 분야에서 KPI를 사용한다[8].

ICAO에서 정의한 KPI는 요구하는 성능 기반 접근법에 따라 ATM 성능을 측정하고 평가하기 위함이고, 현재 및 과거 ATM 성능, 예상되는 미래 ATM 성능, 목표 대비 실제 진행치를 계량적으로 표현해야 한다[7]. 산출된 KPI 사후 분석을 통해 항공교통 및 인프라를 개선할 수 있다. 표 3은 ICAO GANP PORTAL에서 확인한 KPI 19개를 순서대로 나열하였다.

표 3. ASBU에서 제시하는 19가지의 KPI

Table 3. 19 KPIs presented by ASBU.

Ⅲ. 항로거리산출

3-1 KPI 05 및 항로거리 필요성

ICAO에서 제시하는 KPI 05 실제 항로 연장은 이상적인 항적 거리 대비 실제 항로 연장 비율을 확인하고자 한다. 항로 연장률은 총 추가거리 (total extra distance)를 총 도달거리 (total achieved distance)로 나누어 백분율로 나타내며, 식 (1)과 동일하다. 도달거리는 대권거리 (GCD; great circle distance)로 계산되고 추가거리는 아래의 식 (2)와 동일하게 항로거리에서 도달 거리의 차이 값이다. 따라서 항로 연장률을 계산하기 위해서는 항로거리를 산출하여야 한다.

\(\begin{aligned}K P I[\%]=\frac{\text { Total extra distance }}{\text { Total achieved distance }} \times 100\end{aligned}\)       (1)

extradistance = en_route distance - achieved distance       (2)

항공안전법 제2조 제13항에 의하면 항공로는 국토교통부장관이 항공기, 경량항공기 또는 초경량비행장치의 항행에 적합하다고 지정한 지구의 표면상에 표시한 공간의 길이다. 항공로는 항로라고 표기가 가능하며, 항로거리는 항공기가 비행한 거리 중 항로에 해당하는 거리를 뜻한다.

3-2 항로거리 산출 방법

KPI 05는 아래의 두 가지 항로 설정 기준을 이용하여 항로거리를 산출한다. 첫 번째 기준은 출발·도착 공항을 중심으로 반경 40 NM 원형을 적용하는 것이고, 두 번째 기준은 출발 공항을 중심으로 반경 40 NM 원형과 도착 공항을 중심으로 반경 100 NM 원형을 적용하는 것이다. GANP PORTAL 내 KPI 05 문서에는 항로 기준 선정 시 두 가지 기준에 대한 사용조건이 명시되어 있지 않다.

본 논문에서는 첫 번째 방법인 출발·도착 공항 중심으로 반경 40 NM 원형을 적용하였다. 항로거리를 산출하는 방법은 그림 2와 같이 출발 공항 좌표에서 항로 진출점까지의 비행거리(OX), 출발 공항 좌표에서 항로 진입점까지의 비행거리 (ON), 도착 공항 좌표에서 항로 진입점까지의 비행거리 (DN), 도착 공항 좌표에서 항로 진출점까지의 비행거리 (DX)를 구한다. 그 후, 식 (3)을 통해 항로거리를 산출한다.

그림 2. ICAO 항로거리 산출 방법

Fig. 2. Calculation method of en-route distance in ICAO.

\(\begin{aligned}\text {En_route distance}=\frac{[(O X-O N)+(D N-D X)]}{2}\end{aligned}\)       (3)

3-3 항로거리 산출용 데이터 수집

그림 3는 국가통계포털를 통해 2020년 02월부터 2022년 09월까지 국내선 노선별 데이터를 받아 백분율로 도식화한 것이다[7]. 국내선 김포-제주 구간이 차지하는 비율은 평균 42.93%이며, 김포-김해 구간은 평균 15.42%, 김해-제주 구간은 평균 10.26%, 광주-제주 구간은 평균 5.21%, 기타는 평균 26.17%를 차지한다. 따라서 본 연구는 전체 비율에서 평균 42.93%에 해당하는 김포-제주 구간을 분석하기로 하였다.

그림 3. 국내선 노선별 백분율

Fig. 3. Percentage by domestic route.

항적 데이터 제공 사이트인 Flightaware를 통해 2022년 08월 01일부터 2022년 08월 31일까지 한 달간 김포국제공항 (RKSS)에서 제주국제공항 (RKPC)으로 가는 총 3,805편의 항적 데이터를 수집하였다.

Ⅳ. 항로거리 산출 방법 비교

4-1 ICAO KPI 05 항로거리 산출 알고리즘 적용 결과 및 한계

ICAO에서 제시한 방법으로 네 가지의 비행거리 OX, ON, DX, DN을 구하기 위해서는 출발·도착 공항 기준으로 반경 40 NM 원형 위의 점인 점 N과 점 X를 추정하여야 한다. 이를 위해서는 반경 40 NM 원의 방정식과 반경 40 NM 원형 전·후의 좌표점을 이용한 직선의 방정식이 필요하다.

식 (4)는 점을 추정하기 위한 원의 방정식으로 Lon은 공항 ARP 좌표 중 경도, Lat은 공항 ARP 좌표 중 위도, x는 변수로 반경 40 NM 원 좌표 중 경도, y는 변수로 반경 40 NM 원 좌표 중 위도 값이다. 지구 반경 3440.065 NM을 기준으로 위도(경도) 1도 변경 시, 대권거리는 60.0405 NM의 차이가 발생한다. 식 (4)의 0.6662는 40 NM의 거리를 도 (degree)단위 값이다.

0.6662² = (x - Lon)² + (y - Lat)²        (4)

Theradius of earth = 3440.065[NM]        (5)

1[deg] : 60.0405[NM] = 0.662[deg] : 40 [NM]

식 (6)은 점을 추정하기 위한 직선의 방정식으로 a는 직선의 방정식의 기울기, b는 원형 진출 직전 좌표 또는 원형 진출 이후 좌표로 구한 y절편이다. 식 (4)와 식 (6)은 교점을 구하여 항로 거리 계산 시 사용한다.

y = ax + b       (6)

위의 그림 4와 그림 5는 하나의 항공편에서 교점 하나를 추정한 예시이다. 그림 4는 교점을 추정하기 전이고, 그림 5는 원의 방정식과 직선의 방정식을 이용하여 분석 대상 원형 위에 교점을 추정한 그림이다.

그림 4. 추정 좌표 입력 전 예시

Fig. 4. Example before entering estimated coordinates.

그림 5. 추정 좌표 입력 후 예시

Fig. 5. Example after entering estimated coordinates.

4-2 항로거리 산출 알고리즘 개선 적용

그림 6은 본 논문에서 제시하는 항로거리 산출 알고리즘의 예시를 도식화한 것이다. 그림 6에서 T0은 출발 공항 ARP 좌표이며, T1은 출발 공항 중심으로 반경 40 NM 원형 내 항로 진입 전 마지막 지점, T2는 항로 진입 이후 첫 지점, T9는 항로 진출 내 진입 이후 첫 지점, T11은 도착 공항 ARP 좌표점이다. T1에 전 마지막 지점, T10은 도착 공항 중심으로 반경 40 NM 원형서 T9까지의 비행거리 (A), T2에서 T10까지의 비행거리 (B)를 구한 후, 식 (7)을 통해 항로거리를 산출한다.

그림 6. 새로운 항로거리 산출 방법 제시 안

Fig. 6. Proposal of a new method for calculating the en-route distance.

\(\begin{aligned} \begin{array}{l} \text {En_route distance}\\ =\frac{[(\text { Point T1 Point T9 })+(\text { Point T2 Point T10 })]}{2} \\ =\frac{(A+B)}{2} \end{array}\\\end{aligned}\)       (7)

4-3 항로거리 산출 알고리즘별 결과 비교 및 분석

ICAO 방법으로 산출한 항로거리와 제안된 방법을 비교 분석을 위해 예시로 동일 항공편에 대하여 날짜별 산출한 항로거리를 표 4에 작성하였다. ICAO 방법과 제시안의 가장 작은 차이는 0.0037 NM에 해당하고 가장 큰 차이는 2.5209 NM에 해당한다.

표 4. 동일한 항공편면의 날짜별 ICAO 방식과 제시안 방식 비교

Table 4. Comparison of ICAO method and proposal method by date on the same flight name.

그림 7은 수집한 3,805편의 항적 데이터를 통해 ICAO 방법과 제시안을 1대 1로 비교한 것이다. 그림 7에서 좌측 하단에서 우측 상단 방향으로 도식된 대각선은 기울기 1의 값을 가지며, 기준이 되는 선이다. 대조군의 값과 비교군의 값이 동일한 경우에 대각선상에 놓이게 된다.

그림 7. ICAO 산출 방법과 제시안의 산점도

Fig. 7. Scatter plot of ICAO calculation and proposal calculation.

ICAO 방법으로 산출한 값과 논문에서 제시한 방법으로 산출한 값의 특성을 확인해보면, 소량의 데이터가 ICAO 산출 방법보다 제시한 방법이 높은 값을 도출한다. 그렇지만 대부분의 값들이 기준선 인근에 위치한다.

추정치의 오차인 RMSE (root mean square error)는 실제값과 추정값의 차이로, 산점도에서 산포된 데이터가 기준선으로부터 떨어져 있는 정도이며, 0에 가까울수록 사용된 식이 적합하다고 판단된다. 결정 계수인 R²은 적용된 모형이 평균적으로 얼마나 적합한지를 나타내는 지표로, 1에 가까울수록 최적의 식으로 판단할 수 있다. RMSE와 R²를 이용하여 ICAO 항로거리 산출 방법과 본 논문에서 제시하는 항로거리 산출 방법에 대해 정확성 평가를 하였다. 산출된 RMSE는 1.9543 NM이고 R²는 0.9408이다. 두 가지 방법으로 계산된 값을 이용하여 제시한 방법에 대한 오차를 확인하였다. 이를 통해 KPI 05 실제 항로 연장에서 항로거리 산출 시 ICAO 방법 외에도 본 논문에서 제시한 방법의 적용이 가능함을 확인하였다.

Ⅴ. 결론

본 연구에서는 ICAO에서 제시한 항로거리 산출 방법과 새로운 항로거리 산출 방법을 비교하였다. ICAO에서 제시하는 방법은 출발 공항에서 항로 진출점까지의 비행거리 (OX), 출발 공항에서 항로 진입점까지의 비행거리 (ON), 도착 공항에서 항로 진입점까지의 비행거리 (DN), 그리고 도착 공항에서 항로 진출점까지의 비행거리 (DX) 총 네 가지의 비행거리를 계산하여 항로거리를 도출한다. 본 연구에서는 원형 선상의 교차점을 산출하기 위해, 출·도착 공항을 기준으로 원의 방정식과 직선의 방정식을 구하여 교차되는 점을 추정하였다.

반면, 본 연구에서 제시한 방법은 원형 선상에서 교차되는 점을 추정하지 않고, 항로 진입점 전 지점에서 항로 진출점 전 지점까지의 비행거리 (A), 항로 진입점 후 지점에서 항로 진출점 후 지점까지의 비행거리 (B) 총 두 가지의 비행거리를 계산하여 항로거리를 도출하였다.

두 가지 방법을 비교한 결과 RMSE 1.9543 NM, 결정계수 R² 0.9408 수준으로 도출되었으며, 이를 통해 제시한 방법으로 도출된 값이 ICAO 방법을 이용해 도출된 값과 유사함을 확인하였다.

본 연구에서 제시한 항로거리 산출 방법을 통해 보다 직관적이고, 효율적으로 결과 산출이 가능할 것으로 판단된다. 다만, 상세한 정밀도 확인 및 향상을 위해 더 많은 데이터를 활용한 연구와, 구형 좌표(WGS84 등)와 평면좌표(UTM, 평면지도 등)의 차이로 인하여 발생되는 원의 방정식의 한계를 극복하는 연구는 추가적으로 필요할 것이다.