矩陣論及其工程應(yīng)用圖書目錄

第1章代數(shù)與矩陣基礎(chǔ).1

1.1代數(shù)與矩陣的基本概念.1

1.1.1代數(shù)基本概念1

1.1.2矩陣與向量3

1.1.3矩陣的基本運算.4

1.2矩陣的初等變換.6

1.2.1初等行變換與階梯型矩陣.7

1.2.2初等行變換的兩個應(yīng)用9

1.2.3初等列變換.12

1.3矩陣的性能指標(biāo)13

1.3.1矩陣的行列式.13

1.3.2矩陣的二次型.14

1.3.3矩陣的特征值.14

1.3.4矩陣的跡15

1.3.5矩陣的秩16

1.4內(nèi)積與范數(shù).18

1.4.1向量的內(nèi)積與范數(shù)18

1.4.2矩陣的內(nèi)積與范數(shù)22

1.5矩陣和向量的應(yīng)用案例23

1.5.1模式識別與機器學(xué)習(xí)中向量的相似比較.23

1.5.2人臉識別的稀疏表示.25

本章小結(jié)26

習(xí)題.26

第2章特殊矩陣29

2.1置換矩陣、互換矩陣與選擇矩陣.29

2.1.1Hermitian矩陣.29

2.1.2置換矩陣與互換矩陣.30

2.1.3廣義置換矩陣與選擇矩陣32

2.1.4廣義置換矩陣在雞尾酒會問題中的應(yīng)用案例33

2.2正交矩陣與酉矩陣.34

2.4Vandermonde矩陣與Fourier矩陣37

2.4.1Vandermonde矩陣38

2.4.2Fourier矩陣40

2.5Hadamard矩陣.41

2.6Toeplitz矩陣與Hankel矩陣43

2.6.1Toeplitz矩陣43

2.6.2Hankel矩陣44

本章小結(jié)45

習(xí)題.45

第3章矩陣的相似化簡與特征分析48

3.1特征值分解.48

3.1.1矩陣的特征值分解48

3.1.2特征值的性質(zhì).50

3.1.3特征向量的性質(zhì)52

3.1.4特征值分解的計算53

3.2矩陣與矩陣多項式的相似化簡.54

3.2.1矩陣的相似變換54

3.2.2矩陣的相似化簡57

3.2.3矩陣多項式的相似化簡.60

3.3多項式矩陣及相抵化簡63

3.3.1多項式矩陣與相抵化簡的基本理論64

3.3.2多項式矩陣的相抵化簡方法66

3.3.3Jordan標(biāo)準(zhǔn)型與Smith標(biāo)準(zhǔn)型的相互轉(zhuǎn)換69

3.4Cayley-Hamilton定理及其應(yīng)用74

3.4.1Cayley-Hamilton定理.74

3.4.2在矩陣函數(shù)計算中的應(yīng)用75

3.5特征分析的應(yīng)用78

3.5.1Pisarenko諧波分解.78

3.5.2主成分分析.81

3.5.3基于特征臉的人臉識別.82

3.6廣義特征值分解87

3.6.1廣義特征值分解及其性質(zhì)87

3.6.2廣義特征值分解算法.89

3.6.3廣義特征分析的應(yīng)用.90

3.6.4相似變換在廣義特征值分解中的應(yīng)用92

本章小結(jié)95

習(xí)題.95

第4章奇異值分析.100

4.1數(shù)值穩(wěn)定性與條件數(shù).100

4.2奇異值分解.102

4.2.1奇異值分解及其解釋.102

4.2.2奇異值的性質(zhì).105

4.2.3矩陣的低秩逼近107

4.2.4奇異值分解的數(shù)值計算.108

4.3乘積奇異值分解111

4.3.1乘積奇異值分解問題.111

4.3.2乘積奇異值分解的精確計算112

4.4奇異值分解的工程應(yīng)用案列.114

4.4.1靜態(tài)系統(tǒng)的奇異值分解.114

4.4.2圖像壓縮115

4.4.3數(shù)字水印119

4.5廣義奇異值分解123

4.5.1廣義奇異值分解的定義與性質(zhì).123

4.5.2廣義奇異值分解的實際算法125

4.5.3廣義奇異值分解的應(yīng)用例子128

本章小結(jié)129

習(xí)題.129

第5章子空間分析.131

5.1子空間的一般理論.131

5.1.1子空間的基.131

5.1.2無交連、正交與正交補133

5.1.3子空間的正交投影與夾角135

5.2列空間、行空間與零空間.137

5.2.1矩陣的列空間、行空間與零空間137

5.2.2子空間基的構(gòu)造:初等變換法.140

5.2.3基本空間的標(biāo)準(zhǔn)正交基構(gòu)造:奇異值分解法142

5.3信號子空間與噪聲子空間144

5.4快速子空間跟蹤與分解147

5.4.1投影逼近子空間跟蹤.147

5.4.2快速子空間分解152

5.5子空間方法的應(yīng)用.156

5.5.1多重信號分類.156

5.5.2子空間白化.157

5.5.3盲信道估計的子空間方法158

本章小結(jié)164

習(xí)題.164

第6章廣義逆與矩陣方程求解.167

6.1廣義逆矩陣.167

6.1.1滿列秩和滿行秩矩陣的廣義逆矩陣167

6.1.2Moore-Penrose逆矩陣.168

6.2廣義逆矩陣的求取.172

6.2.1廣義逆矩陣與矩陣分解的關(guān)系.172

6.2.2Moore-Penrose逆矩陣的數(shù)值計算.173

6.3最小二乘方法175

6.3.1普通最小二乘方法176

6.3.2數(shù)據(jù)最小二乘.177

6.3.3Tikhonov正則化方法178

6.3.4交替最小二乘方法180

6.4總體最小二乘184

6.4.1總體最小二乘問題184

6.4.2總體最小二乘解185

6.4.3總體最小二乘解的性能.190

6.5約束總體最小二乘.190

6.5.1約束總體最小二乘方法.190

6.5.2最小二乘方法及其推廣的比較.192

6.6稀疏矩陣方程求解.193

6.6.1L1范數(shù)最小化194

6.6.2貪婪算法195

6.6.3同倫算法197

6.7三個應(yīng)用案例198

6.7.1惡劣天氣下的圖像恢復(fù).198

6.7.2總體最小二乘法在確定地震斷層面參數(shù)中的應(yīng)用.202

6.7.3諧波頻率估計.204

本章小結(jié)209

習(xí)題.210

第7章矩陣微分與梯度分析.213

7.1Jacobian矩陣與梯度矩陣213

7.1.1Jacobian矩陣.213

7.1.2梯度矩陣214

7.1.3梯度計算215

7.2一階實矩陣微分與Jacobian矩陣辨識217

7.2.1一階實矩陣微分217

7.2.2標(biāo)量函數(shù)的Jacobian矩陣辨識219

7.2.3矩陣微分的應(yīng)用舉例.226

7.3實變函數(shù)無約束優(yōu)化的梯度分析227

7.3.1單變量函數(shù)f(x)的平穩(wěn)點與極值點228

7.3.2多變量函數(shù)f(x)的平穩(wěn)點與極值點230

7.3.3多變量函數(shù)f(X)的平穩(wěn)點與極值點231

7.3.4實變函數(shù)的梯度分析.233

7.4平滑凸優(yōu)化的一階算法235

7.4.1凸集與凸函數(shù).235

7.4.2無約束凸優(yōu)化的一階算法237

7.5約束凸優(yōu)化算法243

7.5.1標(biāo)準(zhǔn)約束優(yōu)化問題243

7.5.2極小–極大化與極大–極小化方法.244

7.5.3Nesterov最優(yōu)梯度法.248

本章小結(jié)250

習(xí)題.250

參考文獻(xiàn)252

本書主要為全國工程碩士研究生學(xué)位課程"矩陣論"的教學(xué)所編寫。針對各工程領(lǐng)域?qū)仃囌撓嚓P(guān)內(nèi)容的實際應(yīng)用需求，確定了教材編寫的基本思想是"強調(diào)問題的工程背景、注重基本概念和原理、重點介紹常用的矩陣論方法、淡化理論推導(dǎo)、突出應(yīng)用案例"。

主要內(nèi)容包括:代數(shù)與矩陣的基本概念、特殊矩陣、矩陣的相似化簡與特征分析、奇異值分析、子空間分析、廣義逆及矩陣方程求解、矩陣微分與梯度分析等。

本書旨在主要介紹:

(1)矩陣的基本理論和方法

(2)主要結(jié)果的求解思路

(3)矩陣的應(yīng)用方法及有關(guān)應(yīng)用案例

本書適用于各相關(guān)工程領(lǐng)域的工程碩士研究生學(xué)位課程"矩陣論"作教學(xué)用書，也可作為工科各專業(yè)的大學(xué)本科生和研究生矩陣論課程的教學(xué)參考用書，還可供從事相關(guān)研究和開發(fā)工作的工程技術(shù)人員自學(xué)和參考。

隨著我國社會和經(jīng)濟(jì)發(fā)展進(jìn)入新的時期，高層次工程專業(yè)人才的需求越來越大。經(jīng)過認(rèn)真研究與分析，全國工程專業(yè)學(xué)位研究生教育指導(dǎo)委員會提出了工程碩士課程教學(xué)改革設(shè)想和指導(dǎo)性意見，即旨在提高工程碩士研究生工程應(yīng)用能力和職業(yè)能力，推動工程碩士的課程建設(shè)與教學(xué)改革，為社會培養(yǎng)更多高素質(zhì)的應(yīng)用型人才。針對工程碩士數(shù)學(xué)課程建設(shè)和教學(xué)內(nèi)容改革，教指委也提出了指導(dǎo)性意見，希望工程碩士應(yīng)具備運用數(shù)學(xué)方法和計算工具解決工程領(lǐng)域?qū)嶋H問題的能力，要求數(shù)學(xué)課程教學(xué)的改革與創(chuàng)新要緊緊圍繞這一核心目標(biāo)，注重數(shù)學(xué)在工程中的應(yīng)用案例教學(xué)，加強工程碩士研究生利用數(shù)學(xué)方法和計算機工具解決實際工程問題的能力培養(yǎng)。

矩陣論作為工程碩士研究生的一門重要的數(shù)學(xué)課程，在很多工程領(lǐng)域都有著廣泛的應(yīng)用。根據(jù)教指委的改革思路和總要求，同時考慮到各相關(guān)工程領(lǐng)域課程教學(xué)的實際需求，本教材以介紹矩陣論中的基本理論和實用算法為主線，強調(diào)問題的工程背景，注重基本概念和原理，重點介紹常用的矩陣論方法和應(yīng)用，淡化理論推導(dǎo)。這也是本教材與已有的其他矩陣論教材之間的最大區(qū)別。特別需要說明的是，矩陣?yán)碚摵头椒ň哂斜容^強的抽象性，往往使得工程碩士研究生難以理解。為了幫助學(xué)生更好地掌握相關(guān)的矩陣論方法及其應(yīng)用，編者在本教材中選入了十多個經(jīng)典的工程應(yīng)用例子，從應(yīng)用背景的介紹出發(fā)，引入所選用的矩陣論相關(guān)算法，分析了其應(yīng)用的效果，以有助于讀者能夠站在應(yīng)用的角度全面理解矩陣論相關(guān)算法的精髓與奧妙，培養(yǎng)工程應(yīng)用意識，提高解決工程領(lǐng)域?qū)嶋H問題的能力。

教材的主要內(nèi)容包括:代數(shù)與矩陣的基本概念、特殊矩陣、矩陣的相似化簡、特征分析、奇異值分析、子空間分析、廣義逆及矩陣方程求解、矩陣微分與梯度分析等。

本書的主要目的是介紹:

(1)矩陣的基本理論和方法

(2)主要結(jié)果的求解思路

(3)矩陣的應(yīng)用方法

建議任課教師在課程講授中注重實際應(yīng)用能力的培養(yǎng)，可以結(jié)合課程布置1~2個大作業(yè)或綜合訓(xùn)練，以加強理論聯(lián)系實踐，培養(yǎng)學(xué)生運用矩陣論解決工程實際問題的能力。

該教材主要是針對全國工程碩士相關(guān)工程領(lǐng)域?qū)I(yè)學(xué)位研究生的矩陣論課程編寫的，適用于相關(guān)的工程領(lǐng)域包括:

機械工程

材料工程

電氣工程

電子與通信工程

控制工程

軟件工程

建筑與土木工程

水利工程

測繪工程

地質(zhì)工程

礦業(yè)工程

冶金工程

石油工程

紡織工程

輕工技術(shù)與工程

交通運輸工程

船舶與海洋工程

安全工程

兵器工程

航空工程

農(nóng)業(yè)工程

林業(yè)工程

環(huán)境工程

化工工程

生物醫(yī)藥工程

食品工程

車輛工程

工業(yè)工程

工業(yè)設(shè)計工程

生物工程

項目管理

物流工程等

同時，該教材也適于作為工科各專業(yè)的本科生和研究生的矩陣論課程教學(xué)用書或參考教材，還可供從事相關(guān)研究工作的工程技術(shù)人員參考之用。由于不同高校和不同學(xué)科的培養(yǎng)方案有著很大的差別，建議任課

教師根據(jù)學(xué)時安排和學(xué)科領(lǐng)域的需求選擇相關(guān)內(nèi)容講授。我們也根據(jù)教材各章節(jié)內(nèi)容在主要工程領(lǐng)域中的應(yīng)用程度，在附錄中給出了各章節(jié)的重要性分級建議和學(xué)時分配建議，供任課教師和選課學(xué)時參考。

在本書編寫過程中，得到全國工程專業(yè)學(xué)位研究生教指委的領(lǐng)導(dǎo)和專家的大力支持與資助，特別是教指委副主任陳子辰教授、秘書處高彥芳主任和沈巖副主任提出了很多指導(dǎo)性意見;教指委數(shù)學(xué)組的專家華中科技大學(xué)齊歡教授、解放軍信息工程大學(xué)韓中庚教授、重慶大學(xué)易正俊教授、武漢大學(xué)李大美教授等也都對該教材提出了很多建設(shè)性意見;各相關(guān)工程領(lǐng)域的專家也都從不同的工程領(lǐng)域?qū)嶋H提出了很多好的建議.在該教材的編寫和編輯出版過程中，得到了清華大學(xué)出版社理工分社張秋玲社長與劉穎編輯的大力支持和幫助.在準(zhǔn)備應(yīng)用案例的過程中，清華大學(xué)自動化系研究生陳純杰、朱海洋、雷磊、安邦、肖馳洋、馬晨光等給予了很多支持和幫助。在此，編者謹(jǐn)以最誠摯的心情，對所有為該教材的編寫出版提供幫助和支持的領(lǐng)導(dǎo)、專家和學(xué)者一并表示衷心的感謝。

鑒于編者的水平有限，教材中定有錯漏和不當(dāng)之處，懇請各位專家、同行和熱心的讀者不吝賜教.

張賢達(dá)周杰謹(jǐn)識于清華大學(xué)

2015年5月