대수기하학과 심플렉틱 기하학에서 양자 코호몰로지(量子cohomology, 영어: quantum cohomology)는 코호몰로지 환의 q-변형이다. 양자 코호몰로지의 곱은 그로모프-위튼 불변량으로부터 정의된다.
이 콤팩트 켈러 다양체라고 하자.
노비코프 환
격자 의 기저 를 의 각 2차원 부분 다양체에 대응하게 잡자.
의 노비코프 환(영어: Novikov ring)
은 다음과 같은 생성원들로 생성되는 정수 계수 가환 형식적 멱급수환이다.
- 각 에 대하여, . 이들의 등급은 이다.
임의의
에 대하여,
로 쓰자. 대신 로 쓰기도 한다.
만약 이 칼라비-야우 다양체인 경우 이므로 노비코프 환의 모든 원소들은 등급이 0이다.
작은 양자 코호몰로지
위의 작은 양자 코호몰로지(영어: small quantum cohomology) 는 아벨 군으로서 다음과 같다.
이 위의 곱
은 코호몰로지의 합곱 과 다르며, 다음과 같이 그로모프-위튼 불변량으로 정의된다.
이는 결합 법칙 및 등급 가환 법칙을 만족시키며, 등급을 덧셈법으로 보존한다.
위의 작은 양자 코호몰로지의 짝수 차수 성분 에서, 0의 (충분히 작은) 근방
은 프로베니우스 다양체의 구조를 가진다. 이 경우 작은 양자 코호몰로지 곱 은 의 접다발 위의 접속을 이룬다. 작은 양자 코호몰로지 곱의 가환 법칙은 비틀림이 0임을, 결합 법칙은 리만 곡률이 0임을 뜻한다.
큰 양자 코호몰로지
임의의 에 대하여, 다음과 같은 큰 양자 코호몰로지 곱을 정의하자.
그렇다면, 를 큰 양자 코호몰로지(영어: big quantum cohomology)라고 한다. 작은 양자 코호몰로지는 종수 0의 그로모프-위튼 불변량 가운데 일부만을 포함하지만, 큰 양자 코호몰로지는 모든 종수 0 그로모프-위튼 불변량을 포함한다.
양자 코호몰로지는 위상 끈 이론에서 2차원 시그마 모형의 A-모형 위상 뒤틂의 손지기환으로 등장하며, A-모형과 B-모형 사이의 거울 대칭에 핵심적인 역할을 한다.