Вычисли́тельная матема́тика, раздел математики, включающий круг вопросов, связанных с использованием компьютеров. Содержание термина «вычислительная математика» нельзя считать установившимся, т. к. эта область математики интенсивно развивается в связи с совершенствованием вычислительной техники и применениями электронно-вычислительных машин (ЭВМ) в новых направлениях. На начальном этапе использования ЭВМ термин «вычислительная математика» понимался как теория численных методов и алгоритмов решения типовых математических задач. Впоследствии термин стал пониматься в указанном выше более широком смысле. В вычислительной математике можно выделить следующие три основных раздела. Первый связан с применением ЭВМ в различных областях научной и практической деятельности и может быть характеризован как построение и анализ математических моделей. Второй связан с разработкой методов и алгоритмов решения типовых математических задач, возникающих при исследовании математических моделей. Третий раздел связан с вопросом об упрощении взаимоотношений человека с ЭВМ. Большой вклад в развитие вычислительной математики внесли Н. С. Бахвалов, В. В. Воеводин, В. М. Глушков, С. К. Годунов, А. А. Дородницын, А. П. Ершов, Ю. И. Журавлёв, М. В. Келдыш, М. М. Лаврентьев, Г. И. Марчук, Н. Н. Моисеев, А. Н. Тихонов, А. А. Самарский.

Построение и анализ математических моделей

Построение и анализ модели включает постановку задачи, выбор модели, анализ и обработку исходной информации, численное решение возникающих математических задач, анализ результатов вычислений и вопросов, связанных с реализацией полученных результатов. При выборе модели необходимо учитывать, что точность результатов, которую обеспечивает модель при исследовании конкретного явления, должна соответствовать точности исходной информации. При этом с появлением возможности получать более точную информацию обычно возникает необходимость уточнения используемой модели, а в ряде случаев её замены. Построение и изучение математических моделей с помощью ЭВМ широко применяется в научной и прикладной деятельности (химия, металлургия, биология и медицина, разведка и добыча полезных ископаемых, проблемы климата, экология, экономика, планирование, управление, прогнозирование), а во многих направлениях прикладной науки их развитие невозможно без развития численных методов и применения компьютеров. Например, в связи с прекращением ядерных испытаний совершенствование ядерного оружия должно опираться на результаты математического моделирования соответствующих процессов на всё более совершенных компьютерах.

Разработка методов и алгоритмов решения типовых математических задач

Изучение реальных явлений на основе анализа построенных моделей зачастую требует разработки новых численных методов, и в первую очередь методов решения типовых математических задач (вычислительная математика в узком смысле слова). Примерами типовых математических задач являются задачи алгебры, связанные с численными методами решения систем линейных алгебраических уравнений (в особенности, больших систем и систем с разреженными матрицами), обращением матриц, нахождением собственных значений матриц. Другие примеры связаны с численным дифференцированием и численным интегрированием функций одного или нескольких переменных, численными методами решения дифференциальных уравнений, методами решения интегральных уравнений. Многие исследования посвящены численным методам решения уравнений с частными производными. Здесь большое внимание уделяется экономичным методам, позволяющим получать решение при относительно малом числе операций. Важный раздел вычислительной математики составляют численные методы оптимизации. Задачи оптимизации состоят в нахождении экстремальных (наибольших или наименьших) значений функционалов на множествах, часто имеющих весьма сложную структуру. Сюда относятся задачи математического программирования (в том числе линейного и динамического), к которым сводятся многие задачи управления и экономики. К задачам оптимизации примыкают минимаксные задачи, возникающие в теории игр и в исследовании операций. При решении наиболее сложных прикладных задач получили распространение численно-асимптотические методы, сочетающие методы разложения решений в ряды (по малым параметрам) с использованием возможностей компьютеров. Важное направление в теории численных методов связано с исследованием их устойчивости к различного рода ошибкам (в том числе к ошибкам округления). Большое внимание уделяется разработке методов решения т. н. некорректных или обратных задач (см. Численные методы решения некорректных задач). К ним относятся, например, задачи определения коэффициентов дифференциальных уравнений по известному с некоторой погрешностью решению, задачи обработки результатов физических экспериментов, задачи геофизики, математические задачи, связанные с обнаружением залежей полезных ископаемых. В частности, типичная математическая задача определения элемента $x$ из уравнения $Ax=b$ при заданных матрице $A$ и векторе $b$ часто оказывается неустойчивой (некорректно поставленной) в том смысле, что малым погрешностям входных данных могут соответствовать большие погрешности решения $x.$ К классу некорректных задач относятся многие задачи обработки информации, в частности задачи распознавания образов, промышленной и медицинской диагностики, речевого ввода данных.

В большинстве разделов вычислительной математики важное место занимают вопросы оптимизации численных методов решения. Для широких классов задач удалось построить методы с вычислительными затратами, близкими к минимально возможным. В теоретической математике ведутся исследования сложности алгоритмов, важные при решении реальных прикладных задач.

Взаимодействие человека с ЭВМ

На начальном этапе применения компьютеров программы для них составлялись на внутреннем языке компьютера, затем появились языки высокого уровня, и ныне имеется большой набор стандартных программ решения типовых задач, пакетов и библиотек таких программ. Рост быстродействия компьютеров, сопровождавшийся ростом числа решаемых задач, привёл к возникновению трудностей в системе взаимодействия человека с машиной, связанных со скоростью программирования. Это привело к созданию последовательности универсальных и проблемно-ориентированных алгоритмических языков. Вследствие большой близости алгоритмических языков с естественными языками их внедрение упростило программирование и существенно расширило круг пользователей. В научных расчётах наиболее распространены язык Fortran, на котором созданы богатейшие запасы стандартных программ, и активно распространяющийся язык C, более удобный при разработке новых систем программирования и наиболее приспособленный для программирования параллельных вычислений. Используются также сочетания этих языков. В связи с глобальной компьютеризацией, сопровождающейся общим снижением уровня математической культуры, важной проблемой является разработка методов решения задач и создания систем общения человека с компьютером, требующих минимальных знаний математики и численных методов, что предъявляет новые требования к алгоритмам и программам решения типовых математических и прикладных задач и к разработке новых средств общения человека с компьютером. Возможности общения человека с компьютером непрерывно совершенствуются; например, создаются системы программирования, дающие возможность простого обращения к широкому классу стандартных программ, и системы программирования, содержащие формульные вычисления. Примерами универсальных систем такого рода являются Mathematiсa, MatLab, Maple, Reduce. Поскольку пользователями таких систем являются зачастую исследователи, весьма далёкие от математики, стандартные программы, включённые в такие системы, должны обладать повышенной надёжностью, в связи с этим разработка подобных систем предъявляет, в частности, новые требования к теории численных методов. При решении многих прикладных задач важно создание комплексов программ и языков общения с компьютером, позволяющих вести работу в диалоговом режиме, с тем чтобы сочетать вычислительные и логические возможности компьютеров с возможностями человека. В то же время во многих случаях, требующих быстрой реакции, разрабатываются алгоритмы, исключающие вмешательство человека. Получают распространение комплексы, включающие большое число вычислительных машин и допускающие одновременное обслуживание большого числа пользователей. Намечающееся широкое использование параллельных компьютеров и систем с распределённой памятью должно изменить приоритеты в развитии теории численных методов, их оптимизации и в разработке систем общения человека с компьютером.