선형대수 레포트 - 양자컴퓨터와 인공지능이 융합될 가능성을 설명하시오.

I. 서론

선형대수를 배우다 보면 벡터, 행렬, 내적이 인공지능과 양자컴퓨터 양쪽에서 반복해서 등장한다. 신경망은 데이터를 벡터와 행렬 연산으로 다루고, 양자상태도 복소 벡터로 표현하며 양자게이트는 행렬 연산으로 나타낼 수 있다. 수학 언어가 비슷하다는 사실만으로 양자컴퓨터가 곧 인공지능을 훨씬 빠르게 만든다고 말할 수는 없다. 데이터 입력 비용, 양자회로의 오류, 학습 안정성 같은 문제가 남아 있기 때문이다. 그래도 두 분야는 계산 구조와 제어 문제에서 만날 지점이 많고, 현재 연구도 양자컴퓨터가 AI를 돕는 방향과 AI가 양자컴퓨터를 돕는 방향으로 동시에 진행되고 있다.

II. 본론

1) 벡터와 행렬이 만나는 양자기계학습의 출발점

고전 기계학습에서 하나의 데이터는 흔히 실수 벡터로 표현된다. 이미지의 픽셀값, 문장의 임베딩, 센서 측정값을 벡터로 놓고 가중치 행렬을 곱하거나 내적을 계산하며 특징을 찾는다. 양자컴퓨터에서는 n개의 큐비트 상태를 2의 n제곱 차원을 가진 복소 벡터로 표현한다. 양자게이트는 상태벡터에 작용하는 유니터리 행렬이고, 측정은 상태에서 확률적 고전 결과를 얻는 과정이다. 두 분야가 모두 선형대수 위에서 움직이므로 행렬 계산과 고차원 특징 공간을 연결하려는 연구가 자연스럽게 나왔다.

양자기계학습은 양자회로를 학습 모델의 일부로 쓰는 연구 분야다. 고전 데이터를 양자상태에 인코딩한 뒤 매개변수가 있는 양자게이트를 적용하고 측정 결과를 예측값으로 사용할 수 있다. 회로의 각도나 게이트 매개변수를 가중치처럼 조정하면 변분 양자회로가 된다. 손실함수를 계산하고 고전 최적화기가 매개변수를 갱신하는 구조는 신경망 학습과 닮은 부분이 있다. 차이는 중간 표현이 양자상태이고 측정할 때 확률 표본만 얻는다는 점이다.

양자 커널 방법도 선형대수 관점에서 이해하기 좋다. 고전 머신러닝의 커널은 데이터를 높은 차원의 특징 공간에 직접 펼치지 않고 두 데이터 사이의 내적에 해당하는 값을 계산한다. 양자회로는 어떤 데이터 변환을 양자상태에 넣고 상태 사이의 겹침을 측정해 커널 값을 만들 수 있다. 특정 데이터 구조에서 고전적으로 계산하기 어려운 특징공간을 효율적으로 다룰 수 있다면 장점이 생길 수 있다. 문제는 실제 데이터와 회로가 그런 조건을 자주 만족하는지 검증해야 한다는 데 있다.

Biamonte와 동료들은 2017년 양자기계학습 연구를 정리하면서 양자컴퓨터가 기계학습의 일부 계산을 가속할 가능성을 제시했다. 그 뒤 변분 회로, 양자 커널, 양자 생성모형 등 많은 연구가 나왔다. 2026년에도 양자기계학습의 일반적인 양자 우위를 어떤 조건에서 증명할 수 있는지가 연구 주제다. 최근 이론 연구는 특정 계산 우위가 학습 우위로 이어지는 조건을 다루지만, 모든 고전 데이터 학습이 자동으로 빨라진다는 뜻은 아니다.

2) 고전 AI와 양자회로가 나눠 맡는 하이브리드 계산