Выражение 0⁰ (ноль в нулевой степени) многие учебники считают неопределённым и лишённым смысла[1][2]. Связано это с тем, что функция двух переменных в точке имеет неустранимый разрыв. В самом деле, вдоль положительного направления оси где она равна единице, а вдоль положительного направления оси где она равна нулю. Поэтому никакое соглашение о значении 0⁰ не может дать непрерывную в нуле функцию.
Некоторые авторы предлагают принять соглашение о том, что равно 1. В пользу подобного варианта приводятся несколько доводов. Например, разложение в ряд экспоненты:
можно записать короче, если принять :
(рассматриваемое соглашение используется при ).
Другое обоснование соглашения опирается на «Теорию множеств» Бурбаки[3]: число различных отображений n-элементного множества в m-элементное равно при получаем отображение пустого множества в пустое, а оно единственно. Разумеется, это нельзя считать доказательством (соглашения не нуждаются в доказательствах), тем более что в самой теории множеств соглашение не используется.
В любом случае соглашение чисто символическое, и оно не может использоваться ни в алгебраических, ни в аналитических преобразованиях из-за разрывности функции в этой точке, в противном случае может возникнуть ошибка. Пример для аналитических вычислений: функция где — произвольное положительное вещественное число. При мы получаем неопределённость типа и, если не отличать тип предела (где каждый из нулей обозначает стремление к нулю) и значение (где каждый из нулей и есть ноль), можно ошибочно посчитать, что предел равен 1. На самом деле данное выражение тождественно равно Это означает, что бесконечно малая в бесконечно малой степени может в пределе дать любое значение, не обязательно единицу. Аналогичные ошибки могут быть сделаны, если использовать соглашение в алгебраических преобразованиях.
История различных точек зрения
Дискуссия по поводу определения продолжается, по крайней мере, с начала XIX века. Многие математики тогда принимали соглашение , но в 1821 году Коши[4] причислил к неопределённостям, таким, как В 1830-х годах Либри[англ.][5][6] опубликовал неубедительный аргумент в пользу (см. Функция Хевисайда § История), и Мёбиус[7] встал на его сторону, ошибочно заявив, что всякий раз, когда . Обозреватель, который подписал своё имя просто как «S», предоставил приведённый выше контрпример , и это немного успокоило дебаты. Больше исторических деталей можно найти в статье Кнута (1992)[8].
Более поздние авторы интерпретируют ситуацию выше по-разному. Часть математиков считает, что должно быть определено как 1. Например, Кнут (1992) уверенно утверждает, что «должно быть 1», делая различие между значением, которое должно равняться 1, как это было предложено Либри, и предельной формой (аббревиатура для предела где ), что обязательно является неопределённостью, как указано Коши: «И Коши, и Либри были правы, но Либри и его защитники не понимали, почему истина на их стороне»[8]. Авторитетный сайт MathWorld, приведя мнение Кнута, всё же констатирует, что обычно значение считается неопределённым, несмотря на то, что соглашение позволяет в некоторых случаях упростить запись формул[9].
Другие математики утверждают, что наилучшее значение для зависит от контекста, и поэтому определение его раз и навсегда проблематично[10]. Согласно Бенсону (1999), «Выбор, следует ли определять основан на удобстве, а не на правильности. Если мы воздержимся от определения , то некоторые утверждения становятся излишне неудобными. <…> Консенсус заключается в использовании определения , хотя есть учебники, которые воздерживаются от определения »[11].
В России Большая российская энциклопедия, Большая советская энциклопедия, Математический энциклопедический словарь, Справочник по элементарной математике Выгодского, школьные учебники и другие источники однозначно характеризуют как выражение, не имеющее смысла (неопределённость).
Раскрытие неопределённости 00
Если даны две функции и , которые стремятся к нулю, то предел в общем случае, как показано выше, может быть любым. Таким образом, с этой точки зрения является неопределённостью. Для нахождения предела в этом случае пользуются методами раскрытия неопределённости — как правило, сначала взяв логарифм от данного выражения:
Однако при определённых условиях этот предел будет действительно равен единице. А именно: если функции и являются аналитическими в точке (то есть в некоторой окрестности точки совпадают со своим рядом Тейлора), и , а в окрестности , то предел при стремящемся к нулю справа равен 1[12][13][14].
Например, таким образом можно сразу убедиться, что
При этом надо не забывать, что если хотя бы одна из функций не разлагается в ряд Тейлора в точке 0 или тождественно равен 0, то предел может быть любым, или может не существовать. Например,
Комплексный случай
Для комплексных чисел выражение вида для многозначно и определяется как , Однако комплексный логарифм не определён ни в какой своей ветви, и это лишает смысла любое соглашение не только для но и для любого хотя часть авторов предлагает при принять соглашение [15][16][17].
Функция для возведения в целую степень: . Согласно стандарту, для любого , в том числе, когда равен нулю, NaN или бесконечности.
Функция для возведения в произвольную степень: — по сути равная . Согласно стандарту, возвращает значение «не число» NaN.
Функция для возведения в произвольную степень, которая особо определена для целых чисел: . Согласно стандарту, для всех (так же, как и ). Данное соглашение в целом имеет разумное обоснование (см. ниже), однако вопрос может вызывать случай, когда x=NaN.
Во многих языках программирования ноль в нулевой степени равен 1. Например, в C++: pow(0, 0) == 1, в языке Haskell это верно для всех трёх стандартных операций возведения в степень: 0^0 == 1, 0^^0 == 1, 0**0 == 1. То же касается и стандартного калькулятора MS Windows.
Хотя общеизвестно, что — это неопределённость, поведение некоторых функций, возвращающих в данном случае , не является результатом соглашения или ошибкой, оно имеет логическое обоснование. Дело в том, что в компьютерной арифметике числовые данные подразделяются на целые и вещественные. Это может неявно использоваться в некоторых функциях, реализующих операцию возведения в степень. Например, так сделано в калькуляторе Windows и функции pow в C++. Для целого и вещественного показателя степени используются различные алгоритмы, и функция возведения в степень анализирует показатель: если он равен целому числу, то вычисление степени идёт по другому алгоритму, в котором отрицательные и нулевое основания степени являются допустимыми. Если показатель степени принадлежит множеству целых чисел и равен 0, а основание - вещественное число, то операцию следует определять не иначе как . Поскольку 0 в показателе точный, предельный переход касается только основания и (в отличие от случая, когда показатель тоже вещественный) определён однозначно и равен . Сказанное в полной мере относится и к случаю вычисления выражения .
↑«Since log(0) does not exist, 0z is undefined. For Re(z) > 0, we define it arbitrarily as 0». (George F. Carrier, Max Krook and Carl E. Pearson, Functions of a Complex Variable: Theory and Technique, 2005, p. 15).
↑«For z = 0, w ≠ 0, we define 0w = 0, while 00 is not defined». Mario Gonzalez, Classical Complex Analysis, Chapman & Hall, 1991, p. 56.
↑«Let’s start at x = 0. Here xx is undefined». Mark D. Meyerson, The xx Spindle, Mathematics Magazine69, no. 3 (June 1996), 198—206.