דירוג מטריצות

דירוג מטריצות היא הפעלה של פעולות מתמטיות מסוימות על מטריצה, שאינן משנות את מרחב הפתרונות שלה. השימושים של תהליך זה הם מציאת פתרונות של מערכת משוואות ליניאריות, מציאת דרגה של מטריצה, מציאת דטרמיננטה של מטריצה ומציאת המטריצה ההופכית של מטריצות הפיכות.

השיטה שבעזרתה מדרגים מטריצות נקראת "שיטת החילוץ של גאוס" או "שיטת האלימינציה של גאוס", ולעיתים גם "אלימינציית גאוס-ז'ורדן". שיטה זו קרויה על שם המתמטיקאים קרל פרידריך גאוס הגרמני וקאמי ז'ורדן הצרפתי. שיטות דומות מופיעות כבר בפרק השמיני של תשעת הפרקים של אמנות המתמטיקה, כתב מתמטי סיני עתיק מלפני הספירה.

בכל שורה במטריצה שאיננה שורת אפסים, הרכיב הראשון השונה מאפס ייקרא האיבר המוביל של השורה.

מטריצה תקרא מטריצה מדורגת אם היא מקיימת את התנאים הבאים:

1. שורות האפסים מופיעות מתחת לשורות שאינן שורות אפסים.
2. האיבר המוביל בשורה ה- i נמצא משמאל לאיבר המוביל בשורה ה- i+1 (השורה שמתחתיו).

מטריצה תקרא מטריצה מדורגת קנונית אם מתקיימים התנאים הבאים:

1. בכל שורה שאינה שורת אפסים, האיבר המוביל שווה ל-1 וכל האיברים שמתחתיו ומעליו באותה עמודה שווים ל-0.
2. האיבר המוביל נמצא משמאל לאיבר המוביל בשורה שמתחתיו.
3. אם ישנן שורות אפסים הן תופענה מתחת לשורה האחרונה שאינה שורת אפסים.

הרעיון המנחה את האלגוריתם הוא ביצוע פעולות על שורות המטריצה, באופן שאינו משנה את מרחב הפתרונות של המערכת שהיא מייצגת. הפעולות הבאות נקראות פעולות אלמנטריות:

1. החלפה בין שתי שורות;
2. הכפלה של שורה בסקלר השונה מאפס, ששייך לשדה שהמטריצה מעליו. (כלומר הכפלת כל האיברים בשורה מסוימת בסקלר);
3. חיסור או חיבור של שורה המוכפלת בסקלר בשורה אחרת.

קל לראות באמצעות פעולות אלגבריות פשוטות, כי ביצוע הפעולות האלמנטריות הללו אינו משנה את מרחב הפתרונות.

מטריצה המתקבלת ממטריצת היחידה על ידי הפעלת פעולה אלמנטרית נקראת מטריצה אלמנטרית.

הרעיון של האלגוריתם הוא לבצע רצף של פעולות אלמנטריות כדי להביא אותה לצורה מדורגת קנונית.

1. הצג את הבעיה כמטריצה. אם יש m משוואות ב-n נעלמים, אזי המטריצה שתוצג תהיה בעלת m שורות ו-n+1 עמודות, כאשר העמודה האחרונה היא עמודת המקדמים החופשיים.

   ${\displaystyle \ \alpha _{11}x_{1}+\alpha _{12}x_{2}+...+\alpha _{1n}x_{n}=b_{1}}$

   ${\displaystyle \ \alpha _{21}x_{1}+\alpha _{22}x_{2}+...+\alpha _{2n}x_{n}=b_{2}}$

   :

   :

   ${\displaystyle \ \alpha _{m1}x_{1}+\alpha _{m2}x_{2}+...+\alpha _{mn}x_{n}=b_{m}}$

   שקול ל

   ${\displaystyle {\begin{bmatrix}\alpha _{11}&\cdots &\alpha _{1n}\\\vdots &\ddots &\vdots \\\alpha _{m1}&\cdots &\alpha _{mn}\end{bmatrix}}{\begin{pmatrix}x_{1}\\\vdots \\x_{n}\end{pmatrix}}={\begin{pmatrix}b_{1}\\\vdots \\b_{m}\end{pmatrix}}}$

2. i=1.
3. עבור העמודות j=1 עד j=n, בצע:
   1. אם המקדם הפותח (המקדם הראשון בשורה) בשורה ה-i הוא 0, בצע החלפת שורות עם השורה הראשונה שבה המקדם הפותח שונה מאפס. אם אין מקדם כזה (כל העמודה היא עמודת אפסים) עבור לעמודה הבאה, j=j+1.
   2. נרמל את השורה על ידי כפל בקבוע, כך שהמקדם הפותח יהיה שווה ל-1.
   3. עבור כל שורה i מתחתיה: חסר את השורה הראשונה כפול המקדם הפותח של השורה ה-i ממנה כך שהמקדם הפותח החדש שיתקבל יהיה שווה לאפס.
   4. בסוף התהליך עליך לקבל עמודה שבראשה 1 ומתחתיה אפסים.
   5. עבור לעמודה הבאה, j:=j+1, ועבור לשורה הבאה i:=i+1 .
4. בסוף שלב זה עליך לקבל מטריצה מדורגת, שבה המקדמים הפותחים הם 1 או 0.
5. עבור j=n עד j=1 בצע:
   1. חסר את השורה ה-i מהשורות שמעליה, על ידי הכפלת השורה ה-i במקדם שמופיע באותה עמודה בשורה שמעליה, כך שהחיסור ייתן 0 בעמודה זו.
   2. i=i-1.
   3. בשלב זה כל האיברים שמעל האיבר הפותח בשורה ה-j יהיו שווים ל-0.
6. בסוף שלב זה מתקבלת מטריצה מדורגת קנונית שממנה אפשר לקרוא ישירות את הפתרון למערכת.

i := 1 j := 1 while (i ≤ m and j ≤ n) do   Find pivot in column j, starting in row i:   maxi := i   for k := i+1 to m do     if abs(A[k,j]) > abs(A[maxi,j]) then       maxi := k     end if   end for   if A[maxi,j] ≠ 0 then     swap rows i and maxi, but do not change the value of i     Now A[i,j] will contain the old value of A[maxi,j].     divide each entry in row i by A[i,j]     Now A[i,j] will have the value 1.     for u := i+1 to m do       subtract A[u,j] * row i from row u       Now A[u,j] will be 0,        since A[u,j] - A[i,j] * A[u,j] = A[u,j] - 1 * A[u,j] = 0.     end for     i := i + 1   end if   j := j + 1 end while 

זמן הריצה של האלגוריתם הוא ${\displaystyle \ O(n^{3})}$. קיימות גרסאות יעילות יותר (אסימפטוטית) כגון זו של קופרסמיט-וינוגרד ${\displaystyle \ O(n^{2.376})}$. נכון ל-2018 הסיבוכיות המיטבית היא ${\displaystyle \ O(n^{2.373})}$.

נניח שלפנינו מערכת המשוואות הבאה:

${\displaystyle x+2y+z=1\quad (L_{1})}$

${\displaystyle x+3y+2z=2\quad (L_{2})}$

${\displaystyle 3x+y+z=0\quad (L_{3})}$

בהצגה מטריציאלית

${\displaystyle \left[{\begin{array}{ccc|c}1&2&1&1\\1&3&2&2\\3&1&1&0\end{array}}\right]}$

פעולה	נחסר את השורה הראשונה מהשורה השנייה, ונחסר 3 פעמים את השורה הראשונה מהשורה השלישית	נחבר 5 פעמים את השורה השנייה לשורה השלישית:	ננרמל את השורה השלישית (לקבלת מטריצת מדרגות משולשית)	נחסר את השורה השלישית פעם אחת מהשורה הראשונה, ופעם אחת מהשורה השנייה	נחסר את השורה השנייה פעמיים מהשורה הראשונה
מטריצה	${\displaystyle \left[{\begin{array}{ccc|c}1&2&1&1\\0&1&1&1\\0&-5&-2&-3\end{array}}\right]}$	${\displaystyle \left[{\begin{array}{ccc|c}1&2&1&1\\0&1&1&1\\0&0&3&2\end{array}}\right]}$	${\displaystyle \left[{\begin{array}{ccc|c}1&2&1&1\\0&1&1&1\\0&0&1&2/3\end{array}}\right]}$	${\displaystyle \left[{\begin{array}{ccc|c}1&2&0&1/3\\0&1&0&1/3\\0&0&1&2/3\end{array}}\right]}$	${\displaystyle \left[{\begin{array}{ccc|c}1&0&0&-1/3\\0&1&0&1/3\\0&0&1&2/3\end{array}}\right]}$

וקיבלנו את הצורה המדורגת קנונית ממנה אפשר לקרוא את הפתרון:

${\displaystyle \ x=-{\frac {1}{3}}\,\quad y={\frac {1}{3}}\,\quad z={\frac {2}{3}}}$

שיטת דירוג המטריצות, הידועה גם בשם אלימינציית גאוס-ז'ורדן, היא שיטה לפתרון מערכת משוואות ליניאריות. באלגברה ליניארית מוכיחים כי כל מטריצה ניתנת לדירוג עד להבאתה לצורתה הקנונית היחידה. לכן במסגרת שיטה זו מדרגים את המטריצה המתקבלת מהוספת וקטור המקדמים החופשיים למטריצת המקדמים, ומקבלים מטריצה מדורגת קנונית ממנה אפשר בקלות לקרוא את הפתרון. כאשר יש פתרון יחיד למערכת (המטריצה הפיכה) מגיעים לצורה

${\displaystyle (I|{\vec {b'}})}$

כאשר 'b הוא וקטור ובו איברים ההמתקבלים מצירופים ליניאריים של המקדמים החופשיים, ותלויים בפעולות הדירוג שנעשו על המטריצה. למשל, עבור מערכת של 2 משוואות ב-2 נעלמים מקבלים

${\displaystyle \ \left[{\begin{array}{cc|c}1&0&b'_{1}\ \\0&1&b'_{2}\ \end{array}}\right]}$

ממנה קוראים את הפתרון ${\displaystyle \ x_{1}=b'_{1}\,\ x_{2}=b'_{2}}$.

כדי למצוא את המטריצה ההפכית של מטריצה הפיכה A, יש ליצור מטריצה חדשה המורכבת מבלוקים A ו-I (מטריצת היחידה). כעת יש לדרג את A לצורת המדרגות הקנונית, כך ש-A תהפוך ל-I, ובמקביל לבצע את אותן הפעולות על I (כלומר: כל פעולה שעושים על שורות A עושים על השורות המקבילות ב-I). המטריצה המתקבלת היא המטריצה ההפכית (אם לא ניתן לדרג את המטריצה המקורית למטריצת היחידה, היא איננה הפיכה).

כדי למצוא דרגה של מטריצה יש לדרג אותה עד לצורה מדורגת (אין צורך להגיע לקנונית דווקא), ואז מספר השורות פחות מספר שורות האפסים שווה לדרגת המטריצה.

הדרך היעילה ביותר לחשב דטרמיננטה עבור מטריצות גדולות (למשל מסדר 4 ומעלה) היא לדרג את המטריצה עד אשר מגיעים למטריצה משולשית. הדטרמיננטה של מטריצה משולשית היא מכפלת איברי האלכסון של המטריצה המשולשית. כדי לקבל את הדטרמיננטה של המטריצה המקורית, יש לעקוב אחרי פעולות הדירוג שביצענו, ולתקן את ערך הדטרמיננטה בהתאם:

• פעולה של החלפת שורות היא ביצוע של חילוף אחד נוסף ולכן הסימן משתנה, ולכן יש לכפול את הדטרמיננטה במינוס אחד, ${\displaystyle |A_{\mathrm {new} }|=(-1)\cdot |A_{\mathrm {old} }|}$.^[1]
• מהעובדה שהדטרמינטה היא מולטי-ליניארית, נובע כי על פעולה של הכפלת שורה או עמודה בסקלר ${\displaystyle \lambda }$, הדטרמיננטה מוכפלת באותו סקלר, ${\displaystyle |A_{\mathrm {new} }|=\lambda \cdot |A_{\mathrm {old} }|}$
• על פעולה של הוספת שורה מוכפלת בסקלר, לשורה אחרת, ערך הדטרמיננטה לא משתנה, ${\displaystyle |A_{\mathrm {new} }|=|A_{\mathrm {old} }|}$

• דירוג מטריצות, באתר MathWorld (באנגלית)