А все-таки их можно измерить.

Над тем, что такое площадь фигуры, математики задумались еще до открытия неквадрируемых областей. До этого на протяжении многих тысячелетий ученые пользовались понятиями длины, площади, объема, не подвергая их строгому критическому анализу. Рассказывают, что когда один французский генерал принес в Парижскую академию наук свое "решение" проблемы квадратуры круга, его спросили, а что именно он понимает под площадью круга. "Площади не определяют, их вычисляют!" — воскликнул бравый генерал. И такая точка зрения была распространена тогда даже среди математиков. Они считали, что площадь — это число, сопоставленное геометрической фигуре и обладающее очевидными свойствами (площадь целого равна сумме площадей частей, конгруэнтные фигуры имеют равные площади и т. д.). Ни на одну минуту они не сомневались в том, что любая плоская геометрическая фигура имеет площадь (быть может, равную нулю или бесконечности).

Но характерной чертой математики является то, что наряду с созданием новых методов решения практических задач она изучает и оттачивает применяемый ею инструментарий, для каждого возникающего понятия ищет наиболее широкую и естественную область его применимости, для каждой доказанной теоремы — наиболее общие условия, при которых она справедлива. И это не пустые занятия математических снобов, а необходимость. Только установив понятия и теоремы в наибольшей общности, освободив их от ненужных ограничений, связанных с той конкретной задачей, из которой они возникли, можно увидеть связи между далекими друг от друга областями науки, научиться применять созданные методы в ситуациях, не имеющих на первый взгляд ничего общего с первоначальными источниками этих методов.

Поэтому столь очевидные, казалось бы, понятия, как длина, площадь, объем (позднее все эти понятия стали называть одним словом — мера), были подвергнуты тщательнейшему анализу. Одна из первых работ по уточнению понятия меры принадлежала Жордану. В течение многих десятилетий он читал в Париже курс математического анализа, построенный на самых точных определениях, безупречных доказательствах и строжайшей логике. И, конечно, он не мог пользоваться в этом курсе расплывчатым понятием площади. Придуманное им определение площади можно сформулировать так: площадь фигуры — это число, которое лежит между множеством площадей многоугольников, содержащихся в этой фигуре, и множеством площадей многоугольников, содержащих ту же фигуру. Оказалось, что площадь по Жордану имеют те и только те плоские фигуры, граница которых имеет нулевую площадь. К сожалению, слишком много фигур не поддавалось измерению по Жордану; в частности, нельзя было измерить описанные выше неквадрируемые области.

За решение возникших проблем взялись молодые ученые, вдохновленные лекциями Жордана. Одно из первых определений, применимых к весьма широкому классу фигур, предложил в конце XIX в. Эмиль Борель[76]. Он заметил, что все возникавшие в науке фигуры на прямой, плоскости и в пространстве могли быть получены из простейших фигур — отрезков, квадратов и кубов с помощью двух основных операций: образования дополнения к множеству и объединения счетной совокупности множеств (в частности, как мы видели выше, таким путем получаются все замкнутые множества). Чередуя эти операции и продолжая такой процесс трансфинитным образом, можно получать на каждом шагу все более сложные множества, названные в честь Бореля борелевскими, или, иначе, B-множествами (отметим, что, применяя идею Зенона, можно получить каждое такое множество за конечный промежуток времени, удваивая на каждом шагу скорость применяемых операций).

Оказалось, что любому борелевскому множеству можно приписать меру исходя из следующих двух принципов:

* если множество A представило в виде объединения счетной совокупности подмножеств, имеющих меру, причем никакие два из них не имеют общих точек, то мера всего множества равна сумме ряда, составленного из мер подмножеств;

* мера дополнения к подмножеству, имеющему меру, получается путем вычитания меры этого подмножества из меры целого.

Из принципов Бореля вытекало, в частности, что любое счетное множество имеет нулевую меру — ведь оно является объединением счетной совокупности точек, а мера каждой из этих точек равна нулю.

К сожалению, позднее выяснилось, что предложенный Борелем процесс измерения множеств обладал существенным недостатком. Дело в том, что одно и то же множество может быть разными способами составлено из простейших, а потому предстояло доказать, что все эти способы дадут одно и то же значение для меры данного множества. Такого доказательства Борель не смог получить.

Иначе подошел к проблеме измерения множеств начинавший в те годы свою научную деятельность Анри Лебег[77]. Уже первые работы Лебега разгневали математиков классического направления. Само название одной из них "О нелинейчатых развертывающихся поверхностях" казалось им столь же противоестественным, как, например, название "О газообразном льде" для физика или "О рыбообразных слонах" для биолога. Самый слабый студент знал, что любая поверхность, которую можно развернуть на плоскость (цилиндр, конус и т. д.), соткана из прямых линий, то есть может быть получена движением прямолинейной образующей. Но все дело было в том, что молодой автор по-иному понимал развертывающиеся поверхности, чем геометры-классики. Он считал такими не только поверхности, получаемые аккуратным изгибанием листа бумаги, но и поверхности, которые получатся, если этот лист бумаги скомкать (поясняя свою работу одному из друзей, Лебег сказал: "Представь себе скомканный носовой платок"). Он доказал, что кусок плоскости можно так "скомкать", чтобы после этого на нем не оказалось ни одного прямолинейного отрезка. Разумеется, получившаяся поверхность вся состояла из складок и изломов. Поэтому ее и пропустили геометры, классифицировавшие развертывающиеся поверхности: они занимались лишь гладким случаем.

От изучения произвольных развертывающихся поверхностей Лебег перешел к общему вопросу, как определить площадь поверхности, если эта поверхность не является гладкой, если к ней нигде нельзя провести касательную плоскость. Для скомканной развертывающейся поверхности задача решается просто: надо расправить ее и подсчитать площадь получившегося куска плоскости. Но этот ответ нельзя было получить по формулам, которые давала классическая математика: они годились лишь для гладких поверхностей.

Не удалась бы и попытка измерять площади поверхностей, вписывая в них многогранники и переходя к пределу при уменьшении размеров всех граней. Немецкий математик Г. Шварц[78] показал, что таким путем нельзя найти площадь самого обычного цилиндра — вписанный в него многогранник может оказаться настолько складчатым, что площадь его поверхности куда больше площади цилиндра. Лебегу удалось придумать определение площади поверхности, которое не требовало проведения касательных плоскостей, но в то же время обходило все трудности, связанные с "гармошкой Шварца". Решая эту частную задачу, Лебег пришел к общим идеям о том, что такое мера множества, как измерять длины, площади и объемы самых причудливых фигур.

Взяв от Бореля идею суммирования рядов, он видоизменил определение меры, предложенное Жорданом, разрешив использовать кроме многоугольников и фигуры, получаемые из них с помощью объединения счетных совокупностей. Именно, назовем фигуру ?-покрываемой по Лебегу, если существует счетная система многоугольников, объединение которых покрывает эту фигуру, причем сумма ряда, составленного из их площадей, меньше, чем ?. Далее, назовем множество X измеримым по Лебегу, если для любого ?>0 его можно представить в виде многоугольника ??, к которому присоединено одно ?-покрываемое множество и от которого отброшено другое ?-покрываемое множество. Если меру многоугольника A обозначить через |A|, то ясно, что мера множества X должна быть заключена между числами |A_?|-? и |A_?|+?. Оказалось, что для измеримых по Лебегу множеств всегда существует одно и только одно число, обладающее этим свойством, какое бы ?>0 мы ни выбрали и какой приближающий многоугольник A_? ни взяли. Это-то число и называют мерой Лебега множества X.

После создания понятия меры Лебега оказалось, что для нее нет никаких осложнений, причем по Лебегу можно измерить все встретившиеся до того в науке множества. Позднее были построены примеры неизмеримых множеств, но они используют так называемую аксиому выбора, о которой будет идти речь ниже. Построенные с ее помощью примеры не являются конструктивными. Поэтому можно сказать, что Лебег решил проблему измерения всех множеств, которые могут встретиться в практической работе математиков.

С помощью введенного им понятия меры Лебег сумел найти интегралы всех разрывных функций, которые можно было построить известными в то время методами (интеграл Лебега).

Триумф идей Лебега привел к тому, что даже один из вождей математиков-классиков Гастон Дарбу[79] изменил свое мнение и, выступая в 1908 г. на Математическом конгрессе в Риме, говорил о пламенном и пытливом духе математики XX в., о науке, ведущей свои изыскания в абсолютно новой области с неизведанными перспективами. Он подчеркнул, что наука XX в. не боится атаковать основы построений, которые столь долго казались непоколебимыми.

Позднее идеи, приведшие к созданию меры и интеграла Лебега, позволили А. Н. Колмогорову построить аксиоматику теории вероятностей, а Норберту Винеру — определить понятия меры и интеграла для пространств, состоящих из функций. Всюду, куда проникали идеи меры, использовались конструкции и теоремы, восходящие к Лебегу. После упомянутых выше работ А. Н. Колмогорова эти идеи стали широко использоваться в теории вероятностей и ее приложениях, в частности в статистической физике. Применялись они и при изучении динамических систем. А уж о теоретической математике не приходится и говорить — без интеграла Лебега многие ее важнейшие результаты невозможно даже и сформулировать. Недаром в гимне "Лузитании" — группы молодых советских математиков, посвятивших себя в 20-е годы изучению новейшей теории функций, пелось: "Наш бог — Лебег, Кумир наш — интеграл". Но о "Лузитании" названной в честь общего учнтеля этих математиков, основателя русской школы теории функций действительного переменного Николая Николаевича Лузина, надо сказать подробнее — ее роль в изучении математических проблем, связанных с бесконечными множествами, трудно переоценить.