Реферат
Тема: «Линейные системы уравнений»
Содержание
1. Уравнения, векторы, матрицы, алгебра
2. Умножение матриц как внешнее произведение векторов
3. Нормы векторов и матриц
4. Матрицы и определители
5. Собственные значения и собственные векторы
6. Ортогональные матрицы из собственных векторов
7. Функции с матричным аргументом
8. Вычисление проекторов матрицы
Пример использования числовых характеристик матриц
10. Оценка величины и нахождение собственных значений
Литература
1. Уравнения, векторы, матрицы, линейная алгебра
Многие из рассмотренных нами задач сводились к формированию систем линейных алгебраических или дифференциальных уравнений, которые требовалось решить. Пока системы включали в себя не более трех-четырех переменных, их несложно было решать известными классическими методами: методом определителей (Крамера) или методом исключения переменных (Гаусса). С появлением цифровых вычислительных машин порядок алгебраических уравнений, решаемых методом исключений вырос в несколько десятков раз. Однако выявилось множество причин, по которым решение таких систем получить не удавалось. Появившиеся различные модификации метода исключения не привели к существенным улучшениям ситуации с получением решений. Появление же систем с количеством переменных более многих сотен и тысяч заставили обратиться и развивать итерационные методы и методы эквивалентных векторно-матричных преобразований применительно к решению линейных систем алгебраических уравнений.
Основные теоретические результаты были получены путем обобщения известных классических методов функционального анализа и алгебры конечномерных линейных пространств на векторно-матричные представления систем линейных алгебраических и дифференциальных уравнений.
Общая форма записи линейной системы алгебраических уравнений с n
неизвестными может быть представлена следующим образом:
Здесь  – неизвестные,
 – заданные числа,
 – заданные числовые коэффициенты.
Последовательность записи уравнений в системе и обозначение неизвестных в последней не играет роли. В этом плане удобно при анализе и исследованиях системы использовать упорядоченную индексацию натурального ряда для неизвестных, значений правых частей и коэффициентов в уравнениях, однозначно привязывая, тем самым, каждое слагаемое и каждое уравнение к определенной позиции в общей записи. В результате можно выделить в данной записи уравнений три позиционно упорядоченных неделимых объекта:
список переменных –  ,
список правых частей –  и
матрицу коэффициентов –  .
Первые два объекта в линейной алгебре называют вектором-строкой
, а второй – квадратной матрицей.
Операции с векторами, матрицами должны быть определены так, чтобы однозначно отображать допустимые эквивалентные преобразования исходной системы алгебраических уравнений. В предельных случаях задания векторов и матриц:  ,  – аддитивные и мультипликативные операции должны переходить в аналогичные операции со скалярными величинами.
Если рассмотреть i-
тую строку исходной системы
 ,
то в ней кроме упорядоченного расположения компонент  присутствует упорядоченное по индексу j
размещение коэффициентов  , которые могут рассматриваться как вектор-строка  . Результатом суммы покомпонентного перемножения двух векторов-строк должно быть число. В линейной алгебре такая операция с векторами определена и названа скалярным
или внутренним произведением
векторов:
 .
Скалярное произведение линейно, так как обладает основными свойствами линейных преобразований  , и коммутативно.
Определение скалярного произведения позволяет переписать исходную систему уравнений в виде вектора с компонентами из скалярных произведений:
или
 .
Вторая форма представления векторов в форме столбцов более наглядна в смысле зрительного установления покомпонентного равенства двух векторов: стоящего слева от знака равенства и справа. Эта форма, форма вектора-столбца
принята за каноническую (основную).
Левый вектор-столбец в записи каждой строки содержит вектор неизвестных и естественно желание вынести его за прямые скобки. Оставшиеся коэффициенты упорядочены, как в матрице  . Теперь для представления исходной системы уравнений в виде  несложно определить векторно-матричную операцию  , результатом которой является вектор с i-
той компонентой, равной  .
Аксиоматическое построение линейной (векторной) алгебры с рассмотренными базовыми операциями позволило установить важные и полезные свойства, как самих объектов алгебры, так и их алгебраических выражений.
2. Умножение векторов и матриц
Среди n-
мерных векторов и векторных операций над ними важно выделить сумму n
векторов, умноженных на числовые константы:
 ,
которая при произвольном выборе  в частности может оказаться нулевым вектором (с нулевыми компонентами) или одним из суммируемых векторов . Если нулевой вектор при суммировании не нулевых векторов можно получить лишь в случае, когда все   , то такие векторы
в наборе называют линейно независимыми
. Такими векторами в частности будут единичные векторы
 , у которых все компоненты нулевые, кроме единичной компоненты, расположенной на j-
строке.
Линейно независимый набор единичных векторов с геометрической точки зрения можно рассматривать как n-
мерную систему координат. Набор компонент любого вектора в этой n-
мерной системе определяет координаты точки конца вектора, исходящего из начала координат, а также являются длинами проекций вектора на координатных осях.
Среди матриц размера  и операций с ними в первую очередь необходимо отметить операцию умножения матрицы на матрицу. Необходимость введения операции умножения матриц возникает уже при первом взгляде на полученную векторную форму записи линейного уравнения  . Векторы слева и справа имеют равные компоненты. Так как коэффициенты в строках матрицы в общем произвольны по величине, то соответствующие компоненты вектора x
не обязаны быть равными компонентам вектора y
. Последнее означает, что умножение вектора x
на матрицу A
вызвало изменение длины и направления вектора x
. Если аналогичное преобразование выполняется над вектором правой части до решения уравнения, то вектор левой части должен быть преобразован так же:
 .
Фактически мы имеем дело с заменой системы координат. Рассмотрим методику вычисления коэффициентов результирующей матрицы уравнения:
 ,
где  – элемент матрицы С
, равный скалярному произведению вектор-строки  матрицы В
на вектор-столбец  матрицы А
.
Произведение матриц в общем случае не коммутативно. Ассоциативный и распределительный законы в матричных выражениях выполняются.
3.
Нормы векторов и матриц
Интерпретация упорядоченного набора чисел, как вектора в многомерном пространстве, позволяет говорить и о его длине. В прямоугольной системе координат по известным длинам проекций на координатные оси длину самого вектора вычисляют, как корень квадратный из суммы квадратов проекций:
 ,
где – компоненты вектора  ,
 – евклидова норма вектора, его длина.
В качестве нормы в литературе иногда используют квадрат длины вектора или другое выражение с компонентами вектора, лишь бы оно обладало свойствами расстояния: было положительным, линейным и удовлетворяло неравенству треугольника.
Деление вектора на величину его нормы называют нормированием
, т.е. приведением вектора к единичной длине.
Норма матрицы в принципе тоже может быть определена в виде корня квадратного из суммы квадратов ее элементов или другими выражениями со свойствами расстояний. Однако в ряде случаев работы с векторно-матричными выражениями нормы векторов и матриц должны быть согласованными ввиду того, что результатом произведения матрицы на вектор является опять же вектор. Если выражение для нормы вектора принято, то
 ,
где функция sup говорит о том, что из всех отношений норм, стоящих в числителе и знаменателе, взятых при любом векторе x
, кроме нулевого, выбирается наименьшее, т.е. это функция выбора нижней границы значений. Согласованная матричная норма для евклидовой нормы вектора удовлетворяет неравенству
 .
Нормы вектора и матрицы служат, в основном, для сопоставительной оценки матриц и векторов, указывая на возможный диапазон представления строгих числовых характеристик. К числу последних, в первую очередь, нужно отнести определители матриц, собственные значения и собственные векторы матриц и ряд других.
4.
Матрицы и определители
Упорядоченный набор коэффициентов из системы линейных алгебраических уравнений используется для получения числовой характеристики, величина которой инвариантна по отношению к эквивалентным преобразованиям системы. Речь идет об определителе матрицы. Важное свойство определителей матрицы
обнаруживается в связи с вычислением произведения матриц:
Учитывая это свойство и зная, что определитель единичной матрицы det(E
)=1, можно найти матрицу B
и ее определитель из уравнения:
откуда следует, что  и  .
Из свойств определителей нелишне помнить и такие:
где  – транспонированная матрица A
,
n
– размер квадратной матрицы A
,
 – матрица перестановки строк или столбцов,
s, c=
0,1,…, n –
число выполненных перестановок строк и / или столбцов.
Если обратная матрица исходной системы уравнений определена, то, используя эквивалентные преобразования их векторно-матричной записи, решение уравнений можно представить в следующем виде:
Умножив вектор правых частей на обратную матрицу, получим вектор решения.
Классический способ вычисления обратной матрицы использует определители и осуществляется по формуле:
 ,
где  – алгебраическое дополнение, а  – минор матрицы A
, получаемый вычислением определителя матрицы A
, в которой вычеркнуты j-
тая строка и i-
тый столбец.
Такой способ вычисления определителя представляет в основном теоретический интерес, так как требует выполнения неоправданно большого числа операций.
Очень просто вычисляется определитель, если матрица диагональная или треугольная. В этом случае определитель равен произведению диагональных элементов. Кстати и решения уравнений, имеющих такие матрицы коэффициентов, получаются тривиально. Поэтому основные усилия разработчиков методов решения алгебраических уравнений направлены на поиск и обоснование эквивалентных преобразований матрицы с сохранением всех ее числовых характеристик, но имеющих в конце преобразований диагональную или треугольную форму.
5.
Собственные значения и собственные векторы
Рассмотрим теоретические основы и методы, позволяющие выполнять эквивалентные матричные преобразования.
Найдем вектор, который под воздействием матрицы A
изменяет только свою величину, но не направление. Для системы уравнений это означает, что вектор решения должен быть пропорционален с некоторым коэффициентом вектору правой части:
В результате несложных преобразований получены однородные векторно-матричные уравнения в столбцовой и в строчной формах с некоторым числовым параметром  и неизвестным вектором-столбцом x
и вектором-строкой  , представляющих собственное состояние системы. Однородная система может иметь отличное от нуля решение лишь в том случае, когда определитель ее равен нулю. Это следует из формул получения решения методом определителей (Крамера), в которых и определитель знаменателя, и определитель числителя оказываются равными нулю.
Полагая, что решение все же существует, т.е.  и  , удовлетворить уравнению можно только за счет приравнивания нулю определителя однородной системы:
Раскрыв определитель и сгруппировав слагаемые при одинаковых степенях неизвестного параметра, получим алгебраическое уравнение степени n
относительно  :
Это уравнение называется характеристическим уравнением
матрицы и имеет в общем случае n
корней, возможно комплексных, которые называются собственными значениями
матрицы и в совокупности составляют спектр матрицы
. Относительно n
корней различают два случая: все корни различные или некоторые корни кратные.
Важным свойством характеристического уравнения матрицы A
является то, что согласно теореме Гамильтона-Кели, матрица A
удовлетворяет ему:
где  – k-
тая степень матрицы.
Подставляя каждое  в однородную систему, получим векторно-матричные уравнения для нахождения векторов  или векторов-строк  . Эти векторы называются соответственно правыми собственными векторами
и левыми собственными векторами
матрицы.
Решение однородных уравнений имеет некоторую специфику. Если  (как в равной мере и  ) является решением, то, будучи умноженным на произвольную константу, оно тоже будет являться решением. Поэтому в качестве собственных векторов берут такие векторы, которые имеют норму, равную единице, и тогда:
Если все собственные числа различны, то собственные векторы матрицы A
образуют систему n
линейно независимых векторов таких, что
6.
Ортогональные матрицы из собственных векторов
Из правых собственных векторов можно составить матрицу T,
а из левых – матрицу  , которые обладают уникальными свойствами по отношению к матрице A
.
Умножив матрицу A
слева на матрицу , а справа – на матрицу T
,
после несложных преобразований получим:
 .
Каждое скалярное произведение  в матрице, принимая во внимание линейную независимость собственных векторов, полученных для различных собственных значений, можно преобразовать так:
Поэтому, результатом преобразования матрицы A
будет диагональная матрица с собственными значениями, расположенными на диагонали:
Если вместо A
взять единичную матрицу и проделать аналогичные преобразования, то станет очевидным равенство  , откуда следует  . Последнее позволяет для преобразования матрицы A
в диагональную обходиться только системой правых собственных векторов-столбцов:
Последнее показывает, что умножение матрицы A
на  слева и на S
справа, где S –
произвольная не особая матрица, преобразует ее в некоторую матрицу B
, которая имеет определитель, равный определителю матрицы A
. Такие преобразования матриц называют эквивалентными (подобными
).
Продолжая использовать T-
матрицу, несложно получить следующие важные результаты:
 .
7.
Функции с матричным аргументом
Пусть теперь задана некоторая матричная функция от матрицы A
:
 .
С другой стороны очевидно и обратное
 ,
где  – матрица с одной единицей на i
-том месте диагонали ( ).
где  – проекторы матрицы
A
, образуемые умножением одноименных правых и левых собственных векторов по правилам умножения прямоугольных матриц с размерами соответственно  и  . Сумма проекторов  .
Проекторы обладают свойствами идемпотентных матриц
, т.е. матриц, все степени которых равны первой. Для невырожденных проекторов ( ) матрицы A
( ) справедливо:
Представление функции от матрицы A
в виде взвешенной суммы проекций называется спектральным разложением
матричной функции по собственным значениям матрицы A
:
 .
Если в качестве матричных функций взять  и  , то их спектральные разложения будут следующими:
8. Вычисление проекторов матрицы
Проекторы матрицы можно также вычислить, воспользовавшись интерполяционным многочленом Лагранжа с матричным аргументом:
По известному спектру  проекторы матрицы можно найти и методом неопределенных коэффициентов. Для чего выбирают такие функции от матрицы A
, которые вычисляются очевидным образом, например, такие:
Записывая разложение для каждой функции, получим следующую систему линейных уравнений относительно проекторов:
В случае, когда в спектре матрицы имеются кратные собственные значения, вычисление проекторов осуществляется по интерполяционным формулам Лагранжа, учитывающим еще и заданные значения производных в отдельных точках. Разложение матричной функции по значениям ее на спектре в этом случае имеет вид:
где  – значения i
-тых произ-водных функции в точках, соответствующих различным (не кратным) корням характеристического многочлена,
 – число кратных корней  ,
 – проекторы кратных корней, в выражении которых содержатся
 – проекторы различных корней.
9. Пример использования числовых характеристик матриц
Знание собственных значений матрицы и ее проекторов позволяет выполнять вычисления аналитических функций получающихся, например, при решениях систем линейных дифференциальных уравнений, при исследованиях эквивалентных матричных преобразований и пр.
Для примера построим матрицу с заданными собственными значениями  и собственными векторами, основанными на векторах  .
Сначала необходимо убедиться в линейной независимости исходных векторов и добиться того, чтобы левые и правые одноименные собственные векторы оказались ортогональными, т.е.  . Проверка линейной независимости может быть объединена с процессом ортогонализации
заданной системы векторов методом Грама-Шмидта
.
Для заданных векторов построим систему векторов  таких, что  , следующим образом:
Откуда последовательно находятся коэффициенты  :
Взаимной ортогональности векторов v
можно было бы добиваться и так, чтобы каждый  был ортогонален каждому  , положив  и приравняв нулю скалярные произведения  :
Определитель этой системы называют определителем Грама
:
 ,
где  - матрица, в общем случае комплексно сопряженная с матрицей
 , составленной из заданных векторов.
Если грамиан
положителен, а он всегда неотрицателен, то векторы  линейно независимы, а если равен нулю, то зависимы. Это один из способов проверки конкретного набора векторов на их линейную независимость.
Для заданного выше набора векторов определитель произведения матрицы X
на транспонированную X
*
будет равен
Таким образом, заданная система векторов линейно независима. Для построения ортонормированной системы векторов последовательно вычислим коэффициенты и ортогональные векторы:
После нормирования векторы образуют правую систему собственных векторов. Транспонированная Т
-матрица с этими векторами есть  -матрица ( ); ее строки являются собственными левосторонними векторами:
 .
Внешнее (матричное) произведение каждого нормированного вектора  самого на себя дает нам проекторы искомой матрицы:
Умножая каждое собственное значение  из заданного набора на свой проектор и суммируя, получим:
 .
Аналогично получается обратная матрица:
 .
С помощью этих же проекторов вычисляется любая аналитическая функция, аргументом которой является матрица A
:
 .
10.
Оценка величины и нахождение собственных значений
Краткое рассмотрение основных теоретических положений линейной алгебры позволяет сделать следующие выводы: для успешного решения систем линейных алгебраических уравнений и вычислений матричных функций необходимо уметь находить ее собственные значения и собственные векторы.
Для любой матрицы A
с действительными компонентами и любого ненулевого вектора v
существует отношение Рэлея,
связывающее скалярное произведение векторов v
и Av
с минимальным и максимальным собственными значениями:
 .
К высказанному необходимо сделать еще ряд замечаний, связанных со случаями, когда исходная матрица имеет кратные собственные значения или оказывается вырожденной.
Характеристическое уравнение матрицы A
с кратным корнем можно записать в виде
 .
На основании этой записи можно составить минимальное
характеристическое уравнение
 , для которого матрица A
также является корнем:
 .
Особенности в части определения собственных значений и векторов обычно возникают в несимметричных матрицах ( ). Некоторые из них никакими подобными преобразованиями не удается свести к диагональной. Например, не поддаются диагонализации матрицы n-
го порядка, которые не имеют n
линейно независимых собственных векторов. Однако любая
матрица A
размера  с помощью преобразования подобия может быть приведена к прямой сумме жордановых блоков
или к канонической жордановой форме
:
 ,
где A
– произвольная матрица размера  ;
 – жорданов блок размера  ;
V
– некоторая невырожденная матрица размера .
Характеристическое уравнение жорданова блока размера независимо от количества единиц в верхней диагонали записывается в виде произведения  одинаковых сомножителей и, следовательно, имеет только кратных корней:
 .
Если выразить матрицу V
в форме вектора с компонентами в виде векторов-столбцов  , то из равенства AV=VJ
для каждого жорданового блока следует соотношение
 .
Здесь  в зависимости от структуры верхней диагонали, в которой может быть либо ноль, либо единица. Если жордановы блоки имеют размер  , то мы имеем случай симметричной матрицы или матрицы с различными собственными значениями.
При поиске решений систем линейных уравнений с несимметричными матрицами, последние стремятся теми или иными приемами свести к выражению с симметричными матрицами.
Один из возможных подходов к решению несимметричных линейных систем состоит в замене исходной системы эквивалентной системой:
 .
Недостаток этого подхода состоит в том, что мера обусловленности
произведения матрицы A
на свою транспонированную, оцениваемая отношением  , оказывается больше, чем у матрицы A
.
Под мерой обусловленности понимают отношение наибольшего собственного значения матрицы к наименьшему. Это отношение влияет на скорость сходимости итерационных процедур при решении уравнений.
Итак, основными алгебраическими системами уравнений можно считать неоднородные системы уравнений с симметричными матрицами коэффициентов.
Литература
1. Вержбицкий В.М. Основы численных методов: Учебник для вузов – 3-е изд. М: Высшая школа, 2009. – 840 с.
2. Самарcкий А.А. Задачи и упражнения по численным методам. Изд. 3 Изд-во: КомКнига, ЛКИ, 2006. – 208 с.
3. Турчак Л.И., Плотников П.В. Основы численных методов. Изд-во: ФИЗМАТЛИТ®, 2003. – 304 с.
4. Хеннер Е.К., Лапчик М.П., Рагулина М.И. Численные методы. Изд-во: «Академия/Academia», 2004. – 384c.
5. Чистяков С.В. Численные и качественные методы прикладной математики. СПб: 2004. – 268 с.
|
