書馨卡幫你省薪 2024個人購書報(bào)告 2024中圖網(wǎng)年度報(bào)告
歡迎光臨中圖網(wǎng) 請 | 注冊
> >
機(jī)器學(xué)習(xí)中的一階與隨機(jī)優(yōu)化方法

機(jī)器學(xué)習(xí)中的一階與隨機(jī)優(yōu)化方法

出版社：機(jī)械工業(yè)出版社出版時間：2023-05-01
開本： 16開 頁數(shù)： 460
中 圖 價:¥113.2(6.7折) 定價  ¥169.0 登錄后可看到會員價
加入購物車 收藏
運(yùn)費(fèi)6元，滿39元免運(yùn)費(fèi)
?新疆、西藏除外
本類五星書更多>

機(jī)器學(xué)習(xí)中的一階與隨機(jī)優(yōu)化方法 版權(quán)信息

機(jī)器學(xué)習(xí)中的一階與隨機(jī)優(yōu)化方法 本書特色

優(yōu)化方法的研究面臨著數(shù)據(jù)的高維度、不確定性和非凸性等問題，同時，實(shí)時求解、分布式處理等需求的日益增多也給優(yōu)化方法的應(yīng)用帶來了困難。 近年來，優(yōu)化方法的研究已取得了重要進(jìn)展，本書對這些工作進(jìn)行了系統(tǒng)的梳理，旨在幫助讀者快速了解該領(lǐng)域的發(fā)展脈絡(luò)，掌握必要的基礎(chǔ)知識，進(jìn)而推進(jìn)前沿研究工作。 本書首先介紹流行的機(jī)器學(xué)習(xí)模式，對重要的優(yōu)化理論進(jìn)行回顧，接著重點(diǎn)討論已廣泛應(yīng)用于優(yōu)化的算法，以及有潛力應(yīng)用于大規(guī)模機(jī)器學(xué)習(xí)和數(shù)據(jù)分析的算法，包括一階方法、隨機(jī)優(yōu)化方法、隨機(jī)和分布式方法、非凸隨機(jī)優(yōu)化方法、無投影方法、算子滑動和分散方法等。全書從基礎(chǔ)知識開始講解，逐步進(jìn)階到為機(jī)器學(xué)習(xí)精心設(shè)計(jì)的復(fù)雜算法，涵蓋適用于不同場景的算法方案，適合對機(jī)器學(xué)習(xí)、人工智能和數(shù)學(xué)編程感興趣的讀者參考。

機(jī)器學(xué)習(xí)中的一階與隨機(jī)優(yōu)化方法 內(nèi)容簡介

本書對優(yōu)化算法的理論和研究進(jìn)展進(jìn)行了系統(tǒng)的梳理，旨在幫助讀者快速了解該領(lǐng)域的發(fā)展脈絡(luò)，掌握必要的基礎(chǔ)知識，進(jìn)而推進(jìn)前沿研究工作。本書首先介紹流行的機(jī)器學(xué)習(xí)模式，對重要的優(yōu)化理論進(jìn)行回顧，接著重點(diǎn)討論已廣泛應(yīng)用于優(yōu)化的算法，以及有潛力應(yīng)用于大規(guī)模機(jī)器學(xué)習(xí)和數(shù)據(jù)分析的算法，包括一階方法、隨機(jī)優(yōu)化方法、隨機(jī)和分布式方法、非凸隨機(jī)優(yōu)化方法、無投影方法、算子滑動和分散方法等。<br />本書適合對機(jī)器學(xué)習(xí)、人工智能和數(shù)學(xué)編程感興趣的讀者閱讀參考。

機(jī)器學(xué)習(xí)中的一階與隨機(jī)優(yōu)化方法 目錄

目　錄Firstorder and Stochastic Optimization Methods for Machine Learning譯者序
前言第1章　機(jī)器學(xué)習(xí)模型 1　1.1　線性回歸1
　1.2　邏輯回歸3
　1.3　廣義線性模型5
　　1.3.1　指數(shù)分布族5
　　1.3.2　模型構(gòu)建5
　1.4　支持向量機(jī)8
　1.5　正則化、Lasso回歸和
嶺回歸11
　1.6　群體風(fēng)險小化11
　1.7　神經(jīng)網(wǎng)絡(luò)12
　1.8　練習(xí)和注釋14第2章　凸優(yōu)化理論15　2.1　凸集15
　　2.1.1　定義和例子15
　　2.1.2　凸集上的投影16
　　2.1.3　分離定理17
　2.2　凸函數(shù)20
　　2.2.1　定義和例子20
　　2.2.2　可微凸函數(shù)21
　　2.2.3　不可微凸函數(shù)21
　　2.2.4　凸函數(shù)的Lipschitz
連續(xù)性23
　　2.2.5　凸優(yōu)化的性條件24
　　2.2.6　表示定理與核25
　2.3　拉格朗日對偶26
　　2.3.1　拉格朗日函數(shù)與
對偶性26
　　2.3.2　強(qiáng)對偶性的證明27
　　2.3.3　鞍點(diǎn)29
　　2.3.4　KarushKuhnTucker
條件29
　　2.3.5　對偶支持向量機(jī)31
　2.4　LegendreFenchel共軛對偶32
　　2.4.1　凸函數(shù)的閉包32
　　2.4.2　共軛函數(shù)33
　2.5　練習(xí)和注釋35第3章　確定性凸優(yōu)化37　3.1　次梯度下降法37
　　3.1.1　一般非光滑凸問題38
　　3.1.2　非光滑強(qiáng)凸問題39
　　3.1.3　光滑凸問題41
　　3.1.4　光滑強(qiáng)凸問題42
　3.2　鏡面下降法43
　3.3　加速梯度下降法46
　3.4　加速梯度下降法的博弈論
解釋50
　3.5　非光滑問題的光滑方案52
　3.6　鞍點(diǎn)優(yōu)化的原始-對偶方法54
　　3.6.1　一般雙線性鞍點(diǎn)問題57
　　3.6.2　光滑雙線性鞍點(diǎn)問題57
　　3.6.3　光滑強(qiáng)凸雙線性鞍點(diǎn)
問題58
　　3.6.4　線性約束問題59
　3.7　乘子交替方向法61
　3.8　變分不等式的鏡面-鄰近
方法63
　　3.8.1　單調(diào)變分不等式64
　　3.8.2　廣義單調(diào)變分不等式66
　3.9　加速水平法68
　　3.9.1　非光滑、光滑和弱光滑
問題68
　　3.9.2　鞍點(diǎn)問題76
　3.10　練習(xí)和注釋81第4章　隨機(jī)凸優(yōu)化83　4.1　隨機(jī)鏡面下降法83
　　4.1.1　一般非光滑凸函數(shù)84
　　4.1.2　光滑凸問題87
　　4.1.3　準(zhǔn)確性證書90
　4.2　隨機(jī)加速梯度下降法95
　　4.2.1　無強(qiáng)凸性問題100
　　4.2.2　非光滑強(qiáng)凸問題103
　　4.2.3　光滑強(qiáng)凸問題104
　　4.2.4　準(zhǔn)確性證書109
　4.3　隨機(jī)凹凸鞍點(diǎn)問題111
　　4.3.1　通用算法框架112
　　4.3.2　極小極大隨機(jī)問題115
　　4.3.3　雙線性矩陣博弈117
　4.4　隨機(jī)加速原始-對偶方法119
　　4.4.1　加速原始-對偶方法121
　　4.4.2　隨機(jī)雙線性鞍點(diǎn)問題129
　4.5　隨機(jī)加速鏡面-鄰近方法140
　　4.5.1　算法框架141
　　4.5.2　收斂性分析142
　4.6　隨機(jī)塊鏡面下降方法154
　　4.6.1　非光滑凸優(yōu)化155
　　4.6.2　凸復(fù)合優(yōu)化164
　4.7　練習(xí)和注釋171第5章　凸有限和及分布式
優(yōu)化173　5.1　隨機(jī)原始-對偶梯度法173
　　5.1.1　多人共軛空間博弈的
重新表述176
　　5.1.2　梯度計(jì)算的隨機(jī)化177
　　5.1.3　強(qiáng)凸問題的收斂性179
　　5.1.4　隨機(jī)化方法的復(fù)雜度
下界189
　　5.1.5　對非強(qiáng)凸性問題的
推廣193
　5.2　隨機(jī)梯度外插法197
　　5.2.1　梯度外插方法198
　　5.2.2　確定性有限和問題204
　　5.2.3　隨機(jī)有限和問題213
　　5.2.4　分布式實(shí)現(xiàn)218
　5.3　降低方差的鏡面下降法220
　　5.3.1　無強(qiáng)凸性的光滑問題223
　　5.3.2　光滑和強(qiáng)凸問題225
　5.4　降低方差加速梯度下降法226
　　5.4.1　無強(qiáng)凸性的光滑問題229
　　5.4.2　光滑和強(qiáng)凸問題233
　　5.4.3　滿足錯誤界條件的
問題238
　5.5　練習(xí)和注釋240第6章　非凸優(yōu)化241　6.1　無約束非凸隨機(jī)優(yōu)化法241
　　6.1.1　隨機(jī)一階方法243
　　6.1.2　隨機(jī)零階方法251
　6.2　非凸隨機(jī)復(fù)合優(yōu)化法260
　　6.2.1　鄰近映射的一些性質(zhì)261
　　6.2.2　非凸鏡面下降法263
　　6.2.3　非凸隨機(jī)鏡面下降法264
　　6.2.4　復(fù)合問題的隨機(jī)零階
方法275
　6.3　非凸隨機(jī)塊鏡面下降法279
　6.4　非凸隨機(jī)加速梯度下降法286
　　6.4.1　非凸加速梯度下降法287
　　6.4.2　隨機(jī)加速梯度下降法298
　6.5　非凸降低方差鏡面下降法310
　　6.5.1　確定性問題的基本
求解方案310
　　6.5.2　隨機(jī)優(yōu)化問題的推廣313
　6.6　隨機(jī)化加速鄰近點(diǎn)方法316
　　6.6.1　非凸有限和問題317
　　6.6.2　非凸多塊問題327
　6.7　練習(xí)和注釋337第7章　無投影方法 338　7.1　條件梯度法338
　　7.1.1　經(jīng)典條件梯度
展開全部

機(jī)器學(xué)習(xí)中的一階與隨機(jī)優(yōu)化方法 作者簡介

藍(lán)光輝（Guanghui Lan） 佐治亞理工學(xué)院工業(yè)與系統(tǒng)工程學(xué)院教授，之前曾任教于佛羅里達(dá)大學(xué)工業(yè)與系統(tǒng)工程系。研究方向?yàn)殡S機(jī)優(yōu)化和非線性規(guī)劃的理論、算法與應(yīng)用。曾獲NSF CAREER獎、INFORMS青年教師論文獎一等獎、INFORMS Computing Society（ICS）獎等。目前擔(dān)任Computational Optimization and Applications、Mathematical Programming和SIAM Journal on Optimization等期刊的副主編。博士畢業(yè)于佐治亞理工學(xué)院。

商品評論(0條)
暫無評論……
書友推薦
本類暢銷
編輯推薦
返回頂部
中圖網(wǎng)
在線客服