Теорія операторів — розділ функціонального аналізу, який вивчає властивості неперервних лінійних відображень між нормованими просторами. Взагалі кажучи, оператор — це аналог звичайної функції або матриці в скінченновимірному просторі. Але оператор може діяти і в нескінченновимірних просторах.
Відображення з векторного простору у векторний простір називається лінійним оператором, якщо для будь-яких і із і будь-яких скалярів і . Часто пишуть замість . Лінійний оператор з нормованого простору в нормований простір називається обмеженим, якщо знайдеться додатне дійсне число таке, що для всіх . Найменша така константа , яка задовольняє цій умові, називається нормою оператора і позначається . Неважко бачити, що лінійний оператор між нормованими просторами обмежений тоді і тільки тоді, коли він неперервний. Під терміном «оператор» у функціональному аналізі зазвичай розуміють обмежений лінійний оператор.
Множина всіх (обмежених лінійних) операторів із нормованого простору в нормований простір позначається . У випадку, коли пишуть замість . Якщо — Гільбертів простір, то зазвичай пишуть замість . На можна ввести структуту векторного простору через і , де , а — довільний скаляр. З введеною вище операторною нормою, перетворюється на нормований простір.
Зокрема, і для будь-яких і довільного скаляра . Простір є Банаховим тоді і тільки тоді, коли — Банахів.
Нехай , і — нормовані простори, і . Композиція і позначається і називається «добутком» операторів та . Відмітимо, що і . Якщо — Банахів простір, то з введеним вище множенням є Банаховою алгеброю.
У «теорії операторів» можна виділити декілька основних розділів:
- Спектральна теорія вивчає спектр оператора.
- Класи операторів. Зокрема, компактні оператори, Фредгольмові оператори, ізоморфізми, ізометрії, строго сингулярні оператори тощо. Вивчають також необмежені оператори і частково визначені оператори, зокрема замкнуті оператори.
- Оператори на спеціальних нормованих просторах.
- На Гільбертових просторах вивчають самоспряжені, нормальні, унітарні, додатні оператори та ін.
- На функціональних просторах: диференціальні, псевдодиференціальні, інтегральні, і псевдоінтегральні оператори; оператори множення, підстановки, підстановки з вагою та ін.
- На Банахових решітках: додатні оператори, регулярні оператори тощо.
- Сукупності операторів (тобто, підмножини ): операторна алгебра, операторні напівгрупи та ін.
- Теорія інваріантних підпросторів.