書馨卡幫你省薪 2024個(gè)人購書報(bào)告 2024中圖網(wǎng)年度報(bào)告
歡迎光臨中圖網(wǎng) 請(qǐng) | 注冊(cè)
> >
人機(jī)對(duì)齊

人機(jī)對(duì)齊

出版社：湖南科學(xué)技術(shù)出版社出版時(shí)間：2023-06-01
開本： 16開 頁數(shù)： 299頁
中 圖 價(jià):¥73.5(7.5折) 定價(jià)  ¥98.0 登錄后可看到會(huì)員價(jià)
加入購物車 收藏
運(yùn)費(fèi)6元，滿39元免運(yùn)費(fèi)
?新疆、西藏除外
本類五星書更多>
買過本商品的人還買了

人機(jī)對(duì)齊 版權(quán)信息

  • ISBN：9787571021733
  • 條形碼：9787571021733 ; 978-7-5710-2173-3
  • 裝幀：簡(jiǎn)裝本
  • 冊(cè)數(shù)：暫無
  • 重量：暫無
  • 所屬分類：>

人機(jī)對(duì)齊 本書特色

★ 暢銷書作家布萊恩克里斯汀的新作，普通人能看懂的AI入門書。

★ ;對(duì)齊問題，是關(guān)于人工智能我們zui迫切需要關(guān)注的問題。

★ 關(guān)于ChatGPT你應(yīng)該了解的真相：以ChatGPT為首的Generative AI爆火全球，也為我們敲響警鐘我們究竟該如何看待AI？如何避免AI失控？AI是否會(huì)取代我們甚至使人類滅絕？

★ 控制人工智能，;拔掉電源插頭就行了, 錯(cuò)了！過時(shí)了！

★ 閱讀本書，將幫助我們更深刻認(rèn)識(shí)人性的弱點(diǎn)，思考我們的社會(huì)、文化、教育和未來。

人機(jī)對(duì)齊 內(nèi)容簡(jiǎn)介

本書闡釋了AI與我們息息相關(guān)的問題。在書中，我們將認(rèn)識(shí)**批積極應(yīng)對(duì)對(duì)齊問題的學(xué)者，了解他們?yōu)榱吮苊釧I發(fā)展的局面失控，付出的卓絕努力和雄心勃勃的計(jì)劃。作者克里斯汀不僅描繪了機(jī)器學(xué)習(xí)的發(fā)展史，并且親自深入科研一線同科學(xué)家對(duì)話，準(zhǔn)確呈現(xiàn)了機(jī)器學(xué)習(xí)*前沿的進(jìn)展。

人機(jī)對(duì)齊 目錄

篇序篇
第二篇導(dǎo)言
第三篇預(yù)警
1.代表
2.公平
3.透明
第四篇自主
4.強(qiáng)化
5.塑造
6.好奇
第五篇示范
7.模仿
8.推斷
9.不定
結(jié)語
致謝
注釋
展開全部

人機(jī)對(duì)齊 節(jié)選

2013年夏天，一篇平平常常的帖子出現(xiàn)在谷歌的開源博客上，標(biāo)題是《學(xué)習(xí)詞匯背后的含義》。帖子中說：;目前計(jì)算機(jī)還不太擅長理解人類語言，雖然離這個(gè)目標(biāo)還有一段距離，但我們正在利用的機(jī)器學(xué)習(xí)和自然語言處理技術(shù)取得重大進(jìn)展。谷歌從紙媒和互聯(lián)網(wǎng)獲取了大量人類語言數(shù)據(jù)，比以前的數(shù)據(jù)集還大幾千倍，將數(shù)據(jù)集輸入一個(gè)受生物學(xué)啟發(fā)的;神經(jīng)網(wǎng)絡(luò)，并讓系統(tǒng)尋找詞語的相關(guān)性和聯(lián)系。借助所謂的;無監(jiān)督學(xué)習(xí)，這個(gè)系統(tǒng)開始發(fā)現(xiàn)模式。例如，它注意到詞語;北京與;中國的關(guān)系，同;莫斯科與;俄羅斯的關(guān)系一樣，不管詞語的意思是什么。能否說計(jì)算機(jī);理解了？這個(gè)問題只能讓哲學(xué)家來回答，但是很顯然系統(tǒng)已經(jīng)抓住了它;閱讀的內(nèi)容的某種本質(zhì)。谷歌將這個(gè)系統(tǒng)命名為;word2vec――意思是將詞匯轉(zhuǎn)換成數(shù)字向量――并將其開源。對(duì)數(shù)學(xué)家來說，向量有各種奇妙的性質(zhì)，你可以像處理簡(jiǎn)單的數(shù)一樣處理它們，進(jìn)行加、減、乘運(yùn)算。通過這種方式，研究人員很快發(fā)現(xiàn)了一些驚人的意想不到的東西。他們稱之為;連續(xù)空間詞匯表示中的語言規(guī)律，對(duì)它的解釋沒有聽起來那么難。word2vec把詞匯變成了向量，這樣你就能對(duì)詞匯做數(shù)學(xué)運(yùn)算。
例如，如果輸入中國 河流，就會(huì)得到長江。輸入巴黎 - 法國 意大利，就會(huì)得到羅馬。
輸入國王 - 男人 女人，就會(huì)得到女王。
結(jié)果很驚人。word2vec系統(tǒng)開始應(yīng)用于谷歌的機(jī)器翻譯和搜索引擎，業(yè)界也將其廣泛應(yīng)用于其他領(lǐng)域，例如招聘，它成了科學(xué)和工程界新一代數(shù)據(jù)驅(qū)動(dòng)的語言學(xué)家的工具。
兩年過去了，沒有人意識(shí)到存在問題。

這是一本關(guān)于機(jī)器學(xué)習(xí)與人類價(jià)值觀的書：關(guān)于不通過手工編程而是從數(shù)據(jù)中學(xué)習(xí)的系統(tǒng)，關(guān)于我們?nèi)绾谓趟鼈儯约敖淌裁础?
機(jī)器學(xué)習(xí)主要包括3個(gè)領(lǐng)域：無監(jiān)督學(xué)習(xí)，機(jī)器被直接給予一堆數(shù)據(jù)，就像word2vec系統(tǒng)一樣，目的是理解數(shù)據(jù)，找到模式、規(guī)律、有用的方式來提煉、 表示或可視化數(shù)據(jù)；監(jiān)督學(xué)習(xí)，系統(tǒng)被給予一堆已分類或標(biāo)記好的例子進(jìn)行學(xué)習(xí)，比如假釋犯是否再犯，然后用習(xí)得的模型對(duì)從未見過或尚不清楚基本事實(shí)的新例子進(jìn)行預(yù)測(cè)；強(qiáng)化學(xué)習(xí)，系統(tǒng)被置于一個(gè)有獎(jiǎng)懲的環(huán)境中，就像補(bǔ)能和危險(xiǎn)并存的賽艇賽道，目的是找出小化懲罰和化獎(jiǎng)勵(lì)的方法。
越來越多的人意識(shí)到，*正逐漸以各種方式依賴于機(jī)器學(xué)習(xí)領(lǐng)域給出的數(shù)學(xué)和計(jì)算模型。這些或簡(jiǎn)單或復(fù)雜的模型――一些只能算是電子表格，另一些則可被稱為AI――正逐步取代人類判斷和更傳統(tǒng)的顯式編程的程序。
這不僅發(fā)生在科技和商業(yè)領(lǐng)域，也發(fā)生在具有倫理和道德影響的領(lǐng)域。司法體系越來越廣泛地使用;風(fēng)險(xiǎn)評(píng)估軟件來決定保釋和假釋。道路上的車輛越來越多地自動(dòng)駕駛。我們的貸款申請(qǐng)、簡(jiǎn)歷和體檢結(jié)果逐漸不再由人類負(fù)責(zé) 評(píng)估。進(jìn)入21世紀(jì)，越來越多的人都在致力于讓*――在象征意義上和字面意義上――自動(dòng)駕駛。
近年來，兩個(gè)不同的群體敲響了警鐘。個(gè)群體關(guān)注當(dāng)前的技術(shù)倫理風(fēng)險(xiǎn)。如果面部識(shí)別系統(tǒng)對(duì)某個(gè)族群或性別特別不準(zhǔn)確，或者如果有人被未經(jīng)審核的統(tǒng)計(jì)模型判定不得保釋，而法庭上的所有人――包括法官、律師和被告――都不理解，這就存在問題。這樣的問題無法在傳統(tǒng)的學(xué)科領(lǐng)域內(nèi)解決，只能通過計(jì)算機(jī)科學(xué)家、社會(huì)學(xué)家、律師、政策專家和倫理學(xué)家的對(duì)話來解決。對(duì)話已經(jīng)開始。
還有一個(gè)群體擔(dān)憂的則是未來的危險(xiǎn)。隨著我們的系統(tǒng)越來越能靈活、實(shí)時(shí)地做決策，無論是在虛擬還是現(xiàn)實(shí)*都面臨這種危險(xiǎn)。毫無疑問，過去1*見證了AI和機(jī)器學(xué)習(xí)發(fā)展令人振奮但也突然令人擔(dān)憂的進(jìn)展。與此同時(shí)，一種無形的禁忌逐漸被打破，AI研究人員不再避諱討論安全問題。事實(shí)上，過去5年，在這個(gè)領(lǐng)域，這種擔(dān)憂已經(jīng)從邊緣變成了主流。
雖然對(duì)于應(yīng)優(yōu)先考慮眼前的問題還是長遠(yuǎn)問題，目前還存在爭(zhēng)議，但這兩個(gè)群體在大目標(biāo)上是一致的。隨著機(jī)器學(xué)習(xí)系統(tǒng)越來越普遍和強(qiáng)大，我們會(huì)發(fā)現(xiàn)自己越來越經(jīng)常地處于;魔法師學(xué)徒的境地：我們召喚出一種力量，給它一組指令，希望它自主但又完全順從，然后一旦我們意識(shí)到指令不準(zhǔn)確或不完整，又手忙腳亂地阻止，以免用我們的智慧召喚出某種可怕的東西。
如何防止這種災(zāi)難性的背離――如何確保這些模型捕捉到我們的規(guī)范和價(jià)值觀，理解我們的意思或意圖，重要的是，以我們想要的方式行事――已成為計(jì)算機(jī)科學(xué)領(lǐng)域核心、緊迫的問題之一。這個(gè)問題被稱為對(duì)齊問題（the alignment problem）。
隨著研究前沿越來越接近開發(fā)出所謂的;通用智能，現(xiàn)實(shí)*的機(jī)器學(xué)習(xí)系統(tǒng)越來越多地介入個(gè)人和大眾生活的道德倫理領(lǐng)域，對(duì)這一警告產(chǎn)生了一種突然的、充滿活力的反應(yīng)。一個(gè)多元化團(tuán)體正在跨越傳統(tǒng)的學(xué)科界限。非營利組織、智庫和研究所紛紛積極參與。越來越多的工業(yè)界和學(xué)術(shù)界領(lǐng)袖開始大聲疾呼，并相應(yīng)地增加研究經(jīng)費(fèi)。代專攻機(jī)器學(xué)習(xí)倫理和安全領(lǐng)域的研究生已經(jīng)入學(xué)。對(duì)齊問題的批應(yīng)對(duì)者已到達(dá)現(xiàn)場(chǎng)。
這本書是近100次正式采訪和數(shù)百次非正式談話的產(chǎn)物，歷時(shí)4年，行程數(shù)萬公里，來自這一年輕領(lǐng)域廣闊前沿的研究者和思想家。我發(fā)現(xiàn)的是正在一片荒原上開拓的進(jìn)程，既令人振奮，有時(shí)也令人恐懼。我原以為自己對(duì)這個(gè)故事很熟悉，結(jié)果卻發(fā)現(xiàn)這個(gè)故事比我曾認(rèn)為的更吸引人，更令人擔(dān)心，也更充滿希望。
機(jī)器學(xué)習(xí)表面上是技術(shù)問題，但越來越多地涉及人類問題。人類、社會(huì)和公眾難題正在變得技術(shù)化。技術(shù)難題正在變得人性化、社會(huì)化和公眾化。事實(shí)證明，我們?cè)谧屵@些系統(tǒng);以我們想要的方式行事方面的成功和失敗，為我們審視自我提供了一面真實(shí)的、啟示性的鏡子。
這個(gè)故事由3個(gè)不同部分組成。部分探討對(duì)齊問題的前沿：現(xiàn)有的系統(tǒng)已經(jīng)與我們的根本意圖不一致之處，以及在我們覺得有能力監(jiān)督的系統(tǒng)中嘗試掌控這些意圖的復(fù)雜性。第二部分將重點(diǎn)轉(zhuǎn)向強(qiáng)化學(xué)習(xí)，我們逐漸開始理解不僅能預(yù)測(cè)，而且能行動(dòng)的系統(tǒng)；其中有一些經(jīng)驗(yàn)可以幫助我們理解進(jìn)化、人類動(dòng)機(jī)和激勵(lì)的微妙之處，對(duì)商業(yè)和育兒都有啟發(fā)。第三部分將我們帶到AI安全研究的前沿，我們將了解目前好的一些想法，如何將復(fù)雜的自動(dòng)系統(tǒng)與過于微妙或復(fù)雜、無法明確的規(guī)范和價(jià)值觀相結(jié)合。
不管是好是壞，未來一個(gè)世紀(jì)的人類故事都很可能是建立并啟動(dòng)各種各樣的智能系統(tǒng)。就像魔法師的學(xué)徒一樣，我們會(huì)發(fā)現(xiàn)自己也只是在一個(gè)充斥著掃帚的*里的眾多自主體之一。
我們到底該怎么教它們？教什么？

人機(jī)對(duì)齊 作者簡(jiǎn)介

布萊恩克里斯汀（Brian Christian）暢銷書作家，他的《算法之美》（Algorithms to Live By，與Tom Griffiths合著），入選了亞馬遜年度z佳科學(xué)書籍和MIT技術(shù)*年度z佳書籍；《人機(jī)大戰(zhàn)》（The Most Human Human）廣受好評(píng)，入選了《紐約時(shí)報(bào)》編輯選書，也是《紐約客》年度z受歡迎書籍。他的作品贏得了多個(gè)獎(jiǎng)項(xiàng)，入選了《美國科學(xué)和自然寫作》，被譯成了19種語言？死锼雇碛胁祭蚀髮W(xué)和華盛頓大學(xué)的計(jì)算機(jī)科學(xué)、哲學(xué)和詩歌學(xué)位，是加州大學(xué)伯克利分校的訪問學(xué)者。

商品評(píng)論(0條)
暫無評(píng)論……
書友推薦
本類暢銷
編輯推薦
返回頂部
中圖網(wǎng)
在線客服