수학에서 집합(集合, 영어:set)은 어떤 명확한 조건을 만족시키는 서로 다른 대상들의 모임이다. 게오르크 칸토어의 설명에 따르면, 집합은 “하나로 간주한 여럿”이다. 임의의 대상이 집합에 속하는지 여부는 명확해야 하며, 집합 위에는 순서나 연산 따위의 구조가 주어지지 않는다. 집합은 현대 수학에서 가장 기본적인 개념이다. 집합론은 19세기 말에 개발되어 다른 수학 이론들에 비해 젊은 편이나, 거의 모든 수학 이론을 전개하는 토대로 삼을 수 있다.
소박한 집합론은 집합을 정의하는 조건에 제한을 가하지 않는다. 즉, 임의의 성질에 대하여 이 성질을 만족시키는 대상들의 집합이 존재한다고 가정한다. 이러한 가정은 모순을 일으키며, 모순을 유도하는 가장 쉬운 방법은 러셀의 역설이다. 오늘날 역설을 해결하는 다양한 집합론이 개발되어 있으며, 이 가운데 선택 공리를 추가한 체르멜로-프렝켈 집합론이 기본적으로 쓰인다. 이 집합론은 이미 알려진 모든 역설을 회피했지만, 그 밖의 모순이 존재할 가능성까지 배제한 것은 아니다. 또한, 이 이론의 무모순성을 증명하는 것은 무모순성 여부와 관계 없이 어떤 의미에서 불가능하다 (괴델의 불완전성 정리). 즉, 앙리 푸앵카레의 비판을 인용하면 “양 떼를 보호하기 위해 울타리를 쳤지만, 울타리 안에 늑대가 없으리라는 법은 없는 꼴”이다.
대개 집합은 대문자 로 표기하며, 원소는 소문자 로 표기한다. 가 의 원소임을 와 같이 표기하며, 가 의 원소가 아님을 와 같이 표기한다. 또한 '12보다 크고 7보다 작은 자연수들의 모임'같은 원소가 0개일 경우, φ으로 표기한다.
집합을 표현하는 방법에는 여러 가지가 있다. 하나는 집합에 속하는 원소들을 일일이 나열하는 것이다. 또 하나는 집합에 속하는 원소들이 만족하여야 하는 조건을 제시하는 것이다. 문자를 쓰는 대신 도형을 그려 나타낼 수도 있다.
원소 나열법
원소 나열법은 말 그대로 집합의 원소를 나열하여 집합을 표현하는 방법이다. 중괄호 '{}' 속에 쉼표 ','로 구별하여 나열한다. 예를 들어, 다음과 같다.
{1, 2, 3}
{흰색, 검은색}
무한 개의 원소가 있거나 유한 개더라도 나열하기에 너무 많은 경우, 그 중의 몇 개를 나열하여 남은 원소들을 유추할 수 있게끔 한 뒤 줄임표 '...'를 쓴다. 예를 들어, 다음과 같다.
집합의 원소들 사이에 눈에 띄는 규칙이 없을 경우, 원소 나열법으로 표현하기 힘들다. 또한, 모든 실수의 집합을 비롯한 비가산 집합은 이러한 표현이 불가능하다.
조건 제시법
조건 제시법도 말 그대로 집합의 원소인지를 판단하는 조건을 제시하여 집합을 표현하는 방법이다. 중괄호 '{}' 속을 수직선 '|'이나 쌍점 ':'을 써서 두 구역으로 나눈 뒤, 왼쪽 구역에 집합의 원소를 나타내는 식을 적고, 오른쪽 구역에 원소가 만족시킬 조건을 적는다. 예를 들어, 다음과 같다.
오일러 다이어그램은 집합을 나타내는 원을 그려 집합을 표현하는 방법이다. 어떤 원의 안쪽은 그 원이 나타내는 집합에 속하는 부분, 바깥쪽은 그 집합에 속하지 않는 부분을 의미한다. 두 원이 겹치는 부분은 두 집합에 공통으로 속하는 부분을 나타낸다. 어떤 원이 다른 원의 안쪽에 놓인다면, 집합의 모든 원소가 다른 집합의 원소라는 의미인데, 이때 첫째 집합이 둘째 집합의 부분 집합이라고 한다. 원이 서로 겹치는 두 집합은 공통 원소가 있는 집합을 의미하며, 원이 서로 겹치지 않는 두 집합은 공통 원소가 없는 집합, 즉 서로소 집합을 의미한다.
벤 다이어그램은 더 강한 조건을 만족시키는 오일러 다이어그램이다. 즉, 개의 원으로 이루어진 벤 다이어그램은 총 개의 영역으로 나뉘어야 한다. 예를 들어, 세 집합으로 이루어진 벤 다이어그램은 총 8개의 영역으로 나뉘며, 이들은 각각 다음과 같다.
세 집합 모두에 속하는 영역
첫째 집합에만 속하지 않는 영역
둘째 집합에만 속하지 않는 영역
셋째 집합에만 속하지 않는 영역
첫째 집합에만 속하는 영역
둘째 집합에만 속하는 영역
셋째 집합에만 속하는 영역
세 집합 모두에 속하지 않는 영역
수학 교육에서, 벤 다이어그램은 오일러 다이어그램의 동의어로 쓰이기도 한다.
둘 또는 더 많은 집합들로부터 새로운 집합을 만드는 연산은 여러 가지가 있다.
합집합과 교집합과 곱집합
일련의 집합들 ()이 주어졌다고 하자. 여기서 는 집합이며, 각 는 를 식별하는 데 쓰이는 첨수이다.
집합들 ()의 합집합은 이들 가운데 적어도 하나에 속하는 원소의 집합이다. 합집합을 나타내는 기호는 이다.
두 집합은 두 가지 방면에서 비교할 수 있다. 첫째는 혹여 한 집합의 모든 원소가 다른 한 집합의 원소이기도 한지, 즉 한 집합이 다른 한 집합에 완전히 포함되는지 살펴보는 것이고, 하나는 어느 집합의 원소가 더 많은지, 즉 어느 집합의 규모가 더 큰지를 비교하는 것이다.
만약 집합 에 속하는 모든 원소가 집합 의 원소이기도 하다면, 를 의 부분 집합이라고 한다. 이를 나타내는 기호는 이다.
오일러 다이어그램에서, 두 집합 가운데 하나가 다른 하나의 부분 집합이라면, 이 부분 집합을 나타내는 원은 다른 한 집합을 나타내는 원의 안쪽에 놓인다.
예를 들어, 가 모든 삼각형의 집합, 가 모든 다각형의 집합이라면, 는 의 부분 집합이다. 이는 모든 삼각형이 다각형이기 때문이다. 그러나, 가 모든 사각형의 집합, 가 모든 정다각형의 집합이라면, 는 의 부분 집합이 아니다. 이는 가로 길이가 2, 세로 길이가 3인 사각형은 정사각형이 아니기 때문이다. 즉, 이러한 사각형은 의 원소이지만, 의 원소가 아니다. 만약 , 라면, 이다. 만약 , 라면, 인데, 이는 3이 의 원소이지만 의 원소가 아니기 때문이다.
만약 가 의 부분 집합이면서, 가 의 부분 집합이라면, 와 의 원소는 완전히 같아진다. 이때 와 가 서로 같다고 하며, 이를 나타내는 기호는 이다. 만약 가 의 부분 집합이면서, 와 가 서로 같지는 않다면, 를 의 진부분 집합이라고 한다. 이를 나타내는 기호는 이다.
집합 의 모든 부분 집합을 모은 집합을 생각할 수 있다. 이를 의 멱집합이라고 한다. 멱집합을 나타내는 기호는 나 이다. 예를 들어, 의 멱집합은
두 집합 가 모두 유한 개의 원소만을 가진다고 하자. 만약 의 원소 개수가 의 원소 개수보다 많다면, 가 보다 크다고 한다. 반대로 만약 의 원소 개수가 의 원소 개수보다 적다면, 가 보다 작다고 한다. 만약 의 원소 개수가 의 원소 개수와 같다면, 가 와 크기가 같다고 한다.
예를 들어, 가 1부터 20까지의 자연수의 집합, 가 21부터 30까지의 자연수의 집합이라면, 의 원소 개수는 20, 의 원소 개수는 10이다. 20이 10보다 크므로, 의 크기는 의 크기보다 크다.
두 집합 가운데 적어도 하나가 무한 개의 원소를 갖는다고 하여도, 이 두 집합의 크기를 비교할 수 있다. 만약 의 서로 다른 원소와 의 서로 다른 원소가 남김 없이 짝지어질 수 있다면, 다시 말해 와 사이에 전단사 함수가 존재한다면, 와 의 크기가 같다고 한다. 만약 가 의 어떤 진부분 집합과 크기가 같지만, 와 크기가 같지 않다면, 가 보다 크기가 작다고 한다. 만약 가 의 어떤 진부분 집합과 크기가 같지만, 와 크기가 같지 않다면, 가 보다 크기가 크다고 한다.
예를 들어, 이고, 라면, 는 의 진부분 집합이지만,와 의 크기는 같다. 이는 의 원소 을 의 원소 에 대응시키는 함수가 전단사 함수이기 때문이다. 이 예가 보여주듯, 진부분 집합은 원래의 집합과 크기가 같을 수 있다.
집합의 크기는 기수로 양화될 수 있다. 집합 의 크기를 나타내는 기호는 또는 이다. 집합 의 크기가 의 크기보다 큼을 나타내는 기호는 또는 이다.
수의 집합
은 모든 자연수의 집합이다. 문맥에 따라 0부터 시작할 수도 있고, 1부터 시작할 수도 있다.