양자내성암호 확산… 정부·업계는 하이브리드 선택 [보안 아웃룩]

PQC 적용 완료… 기존 암호와 병행 운용

 

사이버 공격은 날로 정교해지고, 단편적 사건을 넘어 산업과 기술 환경 전반에 영향을 미치고 있다. 변화하는 위협 속에서 보안 시장과 기업 대응 체계는 재편의 기로에 놓였다. 2026년 신년 기획 ‘보안 아웃룩’에서는 사이버 보안 위협과 주요 트렌드를 짚고, 보안 시장과 환경이 향하는 방향을 조망한다. [편집자 주]  양자내성암호 확산

양자내성암호(Post-Quantum Cryptography·PQC) 알고리즘 적용을 완료한 국내 보안 기업들이 속속 늘고 있다. 다만 현재 한국인터넷진흥원(KISA)을 필두로 한 정부와 보안 업계는 완전한 PQC로의 전환보다는 공개 키 기반(PKI) 암호 체계에서 사용하는 기존 알고리즘과 PQC를 함께 운용하는 ‘하이브리드 암호 체계’ 구축에 무게를 두고 있다. PQC 도입이 준비 단계를 넘어 실제 운영이 가능한 국면에 접어들었지만, 핵심은 단순한 PQC 적용 여부보다 운영 안정성에 있기 때문이다.

 

챗GPT 생성

양자내성암호 확산

앞당겨지는 양자 위협… PQC 전환 시계 빨라져

PQC는 양자컴퓨터가 상용화될 경우 기존 암호 체계가 무력화될 수 있다는 문제의식에서 출발한 차세대 암호 기술이다. 현재는 해독이 불가능한 암호화 데이터를 먼저 수집해 장기간 저장한 뒤, 향후 고도의 해독 기술이 등장했을 때 이를 풀어 활용하는 ‘HNDL(Harvest Now, Decrypt Later)’ 공격이 현실적인 위협으로 거론되고 있다. 이로 인한 잠재적 데이터 유출, 법적 책임, 재정적 손실을 피하려면 PQC 도입이 필요하다는 전문가들의 경고는 이미 수 년 전부터 제기돼 왔다. 이에 보안 업계 역시 일찌감치 미래 위협에 대비해 왔다.

하지만 최근 양자컴퓨터 관련 투자가 확대되고 기술 발전 속도가 빨라지면서 ‘고도의 해독기술’이 등장하는 시기가 앞당겨질 것이라는 전망이 나왔다. 글로벌 IT 리서치 기업 가트너는 이달 6일 “양자컴퓨팅의 발전으로 2030년까지 기업이 데이터와 시스템 보호에 사용하는 비대칭 암호화가 구조적인 보안 한계에 직면할 것”이라는 전망을 재차 내놨다. 2035년 이후로 보던 기존 전망보다 시기가 다소 앞당겨진 것이다.

알렉스 마이클스(Alex Michaels) 가트너 수석 애널리스트는 “PQC는 조직이 기존 암호화 방식을 식별·관리·교체하도록 요구하고, 암호화 유연성을 최우선 과제로 삼아 사이버 보안 전략을 재편하고 있다”며 “지금부터 관련 역량에 투자하고 전환을 우선시하면 양자 위협이 현실화될 때 자산을 보호할 수 있을 것”이라고 말했다.

 

기술은 준비됐지만… 현실적 부담이 만든 하이브리드 전략

글로벌 보안 시장에서는 이미 몇 년 전 미국 국립표준기술연구소(NIST)를 중심으로 국제 표준화가 진행되면서, ‘양자 이후(Post-Quantum)’를 전제로 한 암호 전환 논의가 시작됐다. 이런 흐름에 맞춰 국내에서도 암호 모듈과 보안 제품 단위에서 PQC 알고리즘을 적용하는 기술적 준비가 상당 부분 마무리된 상태다.

그러나 실제 현장에서는 PQC가 기존 암호를 완전히 대체 가능하기엔 아직 이르다는 인식이 우세하다. PQC 알고리즘은 이론적 안전성과 수학적 내성을 기반으로 설계됐지만, RSA(리베스트·샤미르·애들먼)나 ECC(타원곡선암호)처럼 수십 년간 실제 공격과 대규모 운영 환경에서 반복적으로 검증된 단계에는 이르지 못했다는 평가가 많기 때문이다. 이에 정부와 업계는 당분간 전면 교체보다는 병행 운용을 전제로 한 단계적 전환 전략을 택하고 있다.

특히 암호 알고리즘의 이론적 안전성과는 별개로, 구현 과정에서의 취약점이나 장기간 운용 과정에서 드러나는 예외 상황은 시간이 지나야 확인되는 경우가 적지 않다는 게 업계의 설명이다. 과거에도 이론적으로 안전하다고 평가받던 암호가 구현 오류나 사이드채널 공격으로 무력화된 사례는 반복해서 발생했다. 이에 국내 업계는 금융·공공 등 보안 사고의 파급력이 큰 영역일수록, 충분한 운용 경험이 축적되지 않은 암호 체계에 단독으로 의존하기는 부담이 크다는 판단을 하고 있다.

성능 부담도 하이브리드 전략을 뒷받침하는 요인으로 꼽힌다. 다수의 PQC 알고리즘은 기존 암호보다 키(key) 크기가 크고 연산량이 많아, 인증서 교환이나 키 협상이 빈번한 환경에서는 통신 지연이나 서버 부하 증가로 이어질 수 있다. 기존 RSA·ECC 기반 암호를 유지한 채 PQC를 병행 적용하면, 성능 영향을 단계적으로 관리할 수 있다는 설명이다.

운영 측면에서도 하이브리드 전환은 현실적인 선택지로 평가된다. 기업과 기관의 암호 체계는 네트워크 장비, 서버, 단말, 응용 프로그램, 인증서 인프라 전반에 걸쳐 복잡하게 연결돼 있다. 특정 시점에 모든 암호 체계를 PQC로 전환할 경우, 호환성 문제와 서비스 중단 위험이 커질 수 있다. 이에 따라 기존 인프라를 유지한 채 점진적으로 전환하는 방식이 유력한 대안으로 거론된다.

한 국내 인증 보안 기업 관계자는 “PQC는 분명히 나아가야 할 방향이지만, 아직 충분한 기간 동안 대규모 운영 환경에서 검증됐다고 보기는 어렵다”며 “금융·공공 등의 분야는 장애 허용 수준이 낮기 때문에 PQC 단독 전환보다는 하이브리드 구조를 통해 리스크를 관리하며 단계적으로 전환하려는 것”이라고 말했다. 그러면서 “양자컴퓨터의 실제 상용화 시점과 공격 현실성이 불확실한 상황에서, 장기간 보호가 필요한 데이터를 고려하면 단일 암호 체계에 의존하기보다 복수의 안전장치를 두는 것이 합리적”이라고 덧붙였다.

이미 자사 제품에 PQC 알고리즘 적용을 마친 기업들도 이러한 기조를 반영해 제품 전략을 수립하고 전환 사업에 나서고 있다. 펜타시큐리티는 지난달 말 자사 암호모듈에 글로벌 표준 PQC 알고리즘과 한국형 양자내성암호(KPQC) 알고리즘 적용을 모두 완료했으며, 이를 기존 공개키 암호 체계와 결합한 하이브리드 암호 전환 구조로 설계했다고 발표했다. 시스템을 전면 교체하지 않고도 단계적으로 PQC를 도입할 수 있도록 했다는 설명이다. 펜타시큐리티를 비롯해 한컴위드, 드림시큐리티, 엑스게이트, 라온시큐어 등 최근 PQC 알고리즘 적용을 마쳤다고 발표한 기업들 대부분이 하이브리드 전략을 택하고 있다.

정태준 펜타시큐리티 기획실장은 “이번 하이브리드 방식 PQC 적용은 단순히 특정 알고리즘을 추가한 수준이 아니라, 향후 표준화되는 신규 PQC까지 유연하게 수용할 수 있는 기술 플랫폼을 마련했다는 점에서 의미가 있다”며 “20년 이상 축적한 암호 기술 역량을 바탕으로 고객의 안정적인 PQC 전환을 지원하고, 양자 시대 보안 전환을 선도해 나가겠다”고 말했다.

한편 올해 정부의 PQC 시범전환 사업도 하이브리드 방식을 기반으로 추진된다. KISA는 올해 통신·금융·교통·국방·우주 등 5개 주요 산업 분야를 대상으로 PQC 시범 적용을 확대 추진하면서, 기존 암호 체계를 전제로 한 단계적 전환을 사업의 기본 방향으로 제시했다. 3월 첫째 주까지 서류 접수를 받은 뒤 5개 컨소시엄을 선정해 올해 말까지 사업을 진행하며, 각 컨소시엄에는 9억원씩 총 45억원의 예산이 투입될 예정이다.

 

[기사 원문 보기: IT조선]

양자내성암호 확산