数学の位相空間論における開集合(かいしゅうごう、英: open set)は、実数直線における開区間の概念を一般化する概念である。もっとも簡単な例は距離空間における場合で、そこでは開集合の概念は、各点を中心とする球体を含むような部分集合と一致する。しかし、一般には開集合は非常に抽象的なもので、「開集合の任意個の合併は開集合である」「開集合の有限個の交わりは開集合である」「全体空間は開集合である」という性質を満たす限りにおいて任意の集合族を開集合族とすることができる。空間に対する開集合族の選び方の各々は位相と呼ばれる(位相の特徴付けの項も参照せよ)。全ての集合には、任意の部分集合が開集合である離散位相と、空集合と全体集合のみを開集合とする密着位相という、二つの自明な位相が定義できる。
一般に、0 の近似に用いる、0 を含む集合族として開近傍系が定まり、その元は開集合と呼ばれる。実は、これらのことは実数の集合 ℝ に限らず任意の集合 X に対して一般化することができる。その場合、集合 X の与えられた点 x に対して、x の近似に用いる x の「周囲」の(つまり x を含む)集合の族を定義することができる。もちろん、そのような族は(公理と呼ばれる)ある種の性質を満足するようにしなければならない(そうでないと距離を測る方法がきちんと定義できない)。たとえば、X に属する任意の点は x を何らかの精度で近似するはずであるから、X は当該の集合族に入っているべきものである。ひとたび x を含む「より小さい」集合を定義し始めれば、x をより高い精度で近似する方向へ向かっていく。このようなことを念頭に、x の周りの集合族が満足することが求められるほかの公理も定めることができる。
n-次元ユークリッド空間ℝn の部分集合 U が開であるとは、任意のx ∈ U に対し、実数 ε > 0 が存在して、x とのユークリッド距離が ε より小さい任意の y ∈ ℝn は y ∈ U も満たすようにできるときに言う[1]。あるいは同じことだが、ℝn の部分集合 U が開となるのは、U の各点が U に含まれる ℝn 内の近傍を持つときである。
距離空間の場合
距離空間(M, d) の部分集合 U が開であるとは、任意の点 x ∈ U に応じて適当な実数 ε > 0 を選べば、d(x, y) < ε なる任意の y ∈ M に対して y ∈ U となるようにできるときに言う。同じことだが、U が開となるのは、U の各点が U に含まれる近傍を持つときである。
いま、同じ集合上に二つの位相が存在するとすれば、その部分集合 U が一方の位相では開だが、他方では開でないということが起こり得る。たとえば X を任意の位相空間とし、Y は X の任意の部分集合とすれば、Y 自身も部分空間の位相と呼ばれる位相によって位相空間となる。相対位相は「Y の部分集合 U が開であるには、U が X のもともとの位相に関する開集合と Y との交わりに書けることが必要十分」とするものである。これは X の開集合でない部分集合が Y の開集合となる可能性を持っている。V はもとの空間 X の位相で開となるが、V ∩ Y は開でないものとするとき、V ∩ Y は相対位相で Y の開集合だが X のもともとの位相では開でない部分集合である。
このことの具体例を挙げれば、U を開区間 (0, 1) に属する有理数全体の成す集合とするとき、U は有理数全体の成す空間 ℚ の開部分集合だが、実数直線ℝ の部分集合としては開でない。これは実際、全体空間を ℚ とするとき、各点 x ∈ U に対し、正の数 ε が存在して、x との距離が ε 以内のすべての「有理」点が U に入るようにすることができ、他方、全体空間を ℝ とするならば、どのような x ∈ U を取っても、正の数 ε で x の ε 以内にあるすべての「実」点が U に入るようなものは存在しない(U は有理数でない数は含まないから)ということによる。
任意の位相において、定義により、全体空間 X と空集合は開集合である。さらに言えば、全体集合の補集合は空集合で、これは開であるから、補集合が開となる X は定義により閉集合である。つまり、任意の位相において、全体空間は開であると同時に閉でもある(開かつ閉集合)。
開区間 I ≔ (0, 1) は、ユークリッド位相の開集合族に入っているから、開集合である。仮に I が開な補集合を持つならば I は閉集合ということになるが、実際にはそうではない。補集合は ∁I = (−∞, 0]∪[1, ∞) で、これは開区間の合併には書けないから、ユークリッド位相には入っていない。よって I は開だが閉でない集合の例になっている。