[CBC뉴스] 아이온큐(IonQ·NYSE: IONQ)가 생성형 인공지능(AI)을 활용해 양자 최적화 회로를 직접 생성하는 연구 성과를 공개했다. 기존 양자 최적화 과정에서 많은 시간과 비용을 발생시켰던 반복적인 매개변수 튜닝 과정을 줄일 수 있다는 점에서 주목된다.

아이온큐는 미국 오크리지국립연구소(ORNL), 엔비디아(NVIDIA), 테네시대학교 녹스빌(UT)과 공동으로 진행한 연구에서 학습된 생성형 모델이 양자 최적화 회로를 직접 작성할 수 있다는 결과를 확인했다고 밝혔다. 해당 논문은 캐나다 토론토에서 열리는 ‘IEEE Quantum Week 2026’에서 발표된다.

하이브리드 양자 최적화는 규모가 큰 문제를 여러 개의 작은 문제로 나눈 뒤 각각을 해결하고, 그 결과를 다시 결합하는 방식이다. 이 과정에서 각각의 하위 문제에 적합한 양자회로가 필요하다.

기존에는 적절한 회로를 찾기 위해 실행과 측정, 매개변수 조정 과정을 반복해야 했다. 경우에 따라 이 과정이 수백 차례 이어질 수 있다. 더 큰 하위 문제를 처리하면 해답의 품질을 높일 가능성이 있지만, 그만큼 튜닝 비용도 증가해 실제 해결할 수 있는 문제 규모에 제약이 생긴다.

이번 연구에서는 생성형 AI가 이 같은 반복적인 튜닝 과정을 대신했다.

논문 공동 저자인 마틴 뢰텔러(Martin Roetteler) 아이온큐 양자 애플리케이션 R&D 부사장은 “하이브리드 양자 최적화에서 더 나은 답을 얻으려면 그동안 상당한 튜닝 비용을 감수해야 했다”며 “이번 벤치마크에서는 생성형 AI가 반복적인 튜닝 과정을 대체했고, 양자 하위 문제의 규모가 커질수록 해답의 품질도 향상됐다”고 설명했다.

이어 그는 이러한 비용을 줄일 경우 의미 있는 해답을 얻을 수 있는 규모의 문제를 다룰 수 있다며, 이번 결과가 하이브리드 양자 최적화를 확장하는 하나의 경로가 될 가능성을 제시했다고 평가했다.

연구진은 생성형 모델에 양자회로 명령을 조정하는 방법을 학습시키기 위해 먼저 우수한 결과가 어떤 형태인지 학습시켰다. 다양한 표본 문제에 기존의 반복적 최적화 방식을 적용한 뒤 최적에 가까운 회로만 선별해 트랜스포머 모델의 학습 데이터로 사용했다.

트랜스포머는 대규모언어모델(LLM)에 활용되는 것과 같은 계열의 모델이지만, 이번 연구에서는 텍스트 대신 양자회로를 학습했다.

학습을 마친 모델은 기존 방식처럼 매개변수를 반복적으로 조정하지 않고 후보 양자회로를 직접 생성했다. 실험에서는 각 하위 문제마다 10개의 후보 회로를 생성한 뒤 모두 시뮬레이션해 점수를 매겼으며, 이 가운데 가장 높은 점수를 받은 회로를 전체 해답 업데이트에 활용했다.

특히 100개의 의사결정 변수를 가진 고밀도 고차원 벤치마크 문제에서 하위 문제의 규모가 커짐에 따라 모델이 생성한 해답의 품질은 약 2배로 높아졌다.

시간 측면에서도 차이가 나타났다. 기존 최신 방식에서는 회로를 찾는 데 걸리는 시간이 4큐비트에서 약 34초였지만 12큐비트에서는 11분 이상으로 급증했다. 반면 생성형 AI를 이용한 방식은 기존에 시험한 모든 규모에서 약 28초 수준을 유지했다.

다만 연구진은 이번 연구가 양자컴퓨팅과 고전컴퓨팅의 성능을 직접 비교한 것은 아니라고 강조했다. 두 방식 모두 양자 알고리즘을 기반으로 하며, 이번 연구의 핵심은 서로 다른 ‘양자회로 생성 방식’을 비교한 데 있다.

이번 연구는 ORNL이 주도했으며 ORNL 산하 국립컴퓨터과학센터(NCCS)와 재료과학기술부문, 아이온큐, 엔비디아, 테네시대학교 연구진이 공동 저자로 참여했다.

ORNL의 인생 서(In-Saeng Suh) 박사와 성민 김(Seongmin Kim) 박사는 “이번 연구는 생성형 AI와 양자컴퓨팅, 고성능컴퓨팅(HPC)을 결합해 대규모 복합 최적화 문제를 해결하려는 시도”라며 “AI가 양자회로 합성을 위한 새로운 계산 계층이 돼 더욱 복잡한 문제에 필요한 양자회로를 자동으로 설계하고 최적화할 수 있다”고 밝혔다.

연구진은 현재 이 프레임워크를 실제 과학 및 엔지니어링 분야의 문제로 확대하는 한편, 더 큰 HPC 시스템으로 확장하는 연구를 진행하고 있다.

샘 스탠윅(Sam Stanwyck) 엔비디아 퀀텀 제품 담당 디렉터는 “가속 컴퓨팅과 AI를 활용해 양자 알고리즘의 돌파구를 마련하는 것은 유용한 양자 애플리케이션에 빠르게 도달할 수 있는 유망한 방법 가운데 하나”라며 “CUDA-Q와 같은 도구를 통해 개발자가 처음부터 AI를 중심으로 양자 알고리즘을 설계할 수 있게 되면서 차세대 양자컴퓨팅 발전의 기반이 마련되고 있다”고 말했다.

이번 결과는 논문에서 ’벤치마크 규모의 검증(benchmark-scale validation)’으로 규정됐다. 실제 양자컴퓨터에서 회로를 실행한 것은 아니라는 의미다.

연구에 사용된 모든 회로는 실제 양자 하드웨어가 아닌 시뮬레이션 환경에서 실행됐다. 연구진은 오크리지 리더십 컴퓨팅 시설의 ‘Defiant2’ 시스템에 탑재된 단일 엔비디아 H200 GPU에서 엔비디아 CUDA-Q 오픈 플랫폼과 cuQuantum SDK를 이용했다.

기존의 반복적 튜닝 방식과 생성형 AI 방식 모두 동일한 GPU 가속 인프라에서 실행함으로써 두 방식의 전체 작업 과정을 통제된 환경에서 비교했다.

연구진에 따르면 측정된 성능 차이는 주로 ‘DQAOA-GPT’가 기존의 반복적인 변분 매개변수 최적화를 생성형 회로 합성과 정해진 횟수의 후보 평가 방식으로 대체하면서 나타났다.

해당 논문은 arXiv에 ‘2607.20225’로 공개됐다. 이번 연구는 9월 13일부터 18일까지 토론토 메트로 컨벤션센터에서 열리는 IEEE Quantum Week 2026에 채택된 아이온큐 논문 9편 가운데 하나이며, 베스트 페이퍼상도 수상했다.

[‘서학!스타’는 CBC뉴스에서 제공하는 미국주식을 포함한 해외주식 콘텐츠로, 독자 여러분들께 앞으로도 폭넓은 정보를 제공하기 위해 노력하겠습니다. 모든 투자는 각자의 판단으로 선택해서 하는 것으로 최종적 책임은 투자자에게 있다는 점을 알려드립니다.]

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 권오성 기자