精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

從自編碼器到生成對(duì)抗網(wǎng)絡(luò):一文縱覽無(wú)監(jiān)督學(xué)習(xí)研究現(xiàn)狀

開(kāi)發(fā) 開(kāi)發(fā)工具
無(wú)監(jiān)督學(xué)習(xí)是深度學(xué)習(xí)的圣杯。它的目的是希望能夠用極少量且不需要標(biāo)注的數(shù)據(jù)訓(xùn)練通用系統(tǒng)。本文將從無(wú)監(jiān)督學(xué)習(xí)的基本概念開(kāi)始再進(jìn)一步簡(jiǎn)述無(wú)監(jiān)督學(xué)習(xí)的各個(gè)基礎(chǔ)算法及其優(yōu)缺點(diǎn)。

無(wú)監(jiān)督學(xué)習(xí)是深度學(xué)習(xí)的圣杯。它的目的是希望能夠用極少量且不需要標(biāo)注的數(shù)據(jù)訓(xùn)練通用系統(tǒng)。本文將從無(wú)監(jiān)督學(xué)習(xí)的基本概念開(kāi)始再進(jìn)一步簡(jiǎn)述無(wú)監(jiān)督學(xué)習(xí)的各個(gè)基礎(chǔ)算法及其優(yōu)缺點(diǎn)。

如今深度學(xué)習(xí)模型都需要在大規(guī)模的監(jiān)督數(shù)據(jù)集上訓(xùn)練。這意味著對(duì)于每一個(gè)數(shù)據(jù),都會(huì)有一個(gè)與之對(duì)應(yīng)的標(biāo)簽。在很流行的 ImageNet 數(shù)據(jù)集中,其共有一百萬(wàn)張帶人工標(biāo)注的圖片,即 1000 類中的每一類都有 1000 張。創(chuàng)建這么一個(gè)數(shù)據(jù)集是需要一番功夫的,可能需要很多人花數(shù)月的功夫完成。假定現(xiàn)在要?jiǎng)?chuàng)建一個(gè)有一百萬(wàn)類的數(shù)據(jù)集,那么就必須給總共 1 億幀視頻數(shù)據(jù)集中的每一幀做標(biāo)注,這基本是無(wú)法實(shí)現(xiàn)的。

現(xiàn)在,回想一下在你很小的時(shí)候,自己是如何得到教導(dǎo)的。沒(méi)錯(cuò),我們的確受到了一些監(jiān)督,但是當(dāng)你的父母告訴你這是一只「貓」之后,他們不會(huì)在日后的生活中每一次觀察到貓時(shí)都告訴你這是「貓」!而如今的監(jiān)督式學(xué)習(xí)是這樣的:我一次又一次地告訴你「貓」是什么樣的,也許會(huì)重復(fù)一百萬(wàn)次。然后你的深度學(xué)習(xí)模型就領(lǐng)會(huì)了關(guān)于貓的知識(shí)。

理想情況下,我們希望有一個(gè)更像我們的大腦一樣去運(yùn)行得模型。它僅僅需要很少的一些標(biāo)簽就能夠理解現(xiàn)實(shí)世界中的很多類事物。在現(xiàn)實(shí)世界中,我指的類是物體類別、動(dòng)作類別、環(huán)境類別、物體的部分的類別,諸如此類還有很多很多。

正如你會(huì)在這篇評(píng)論中看到的一樣,最成功的模型就是那些能夠預(yù)測(cè)視頻中即將出現(xiàn)的畫(huà)面的模型。很多這類技術(shù)面臨并正嘗試解決的一個(gè)問(wèn)題,即為了達(dá)到良好的全局表現(xiàn),訓(xùn)練要在視頻上進(jìn)行,而不是靜態(tài)的圖片上。這是將學(xué)習(xí)到的表征應(yīng)用在實(shí)際任務(wù)中的唯一途徑。

一、基本概念

無(wú)監(jiān)督學(xué)習(xí)研究的主要目標(biāo)就是要預(yù)訓(xùn)練出能夠用于其他任務(wù)的模型(即鑒別器或者編碼器)。編碼器的特點(diǎn)應(yīng)該盡可能的通用,以便可以用在分類任務(wù)中(如在 ImageNet 上進(jìn)行訓(xùn)練),并且提供盡可能像監(jiān)督模型一樣好的結(jié)果。

最新的監(jiān)督模型總是表現(xiàn)得比無(wú)監(jiān)督預(yù)訓(xùn)練模型更好。那是因?yàn)椋O(jiān)督會(huì)允許模型能夠更好的編碼數(shù)據(jù)集上的特征。但是當(dāng)模型應(yīng)用在其他的數(shù)據(jù)集上時(shí),監(jiān)督會(huì)衰減。在這方面,無(wú)監(jiān)督訓(xùn)練有希望提供更加通用的特性來(lái)執(zhí)行任何任務(wù)。

如果以實(shí)際生活中的應(yīng)用為目標(biāo),例如無(wú)人駕駛、動(dòng)作識(shí)別、目標(biāo)檢測(cè)和實(shí)時(shí)提取中的識(shí)別,那么算法需要在視頻上訓(xùn)練。

二、自編碼器

UC Davis 的 Bruno Olshausen 和康奈爾大學(xué)的 David Field 于 1996 年的發(fā)表的論文《Sparse Coding with an Overcomplete Basis Set: A Strategy by V1?》(論文鏈接:http://redwood.psych.cornell.edu/papers/olshausen_field_1997.pdf) 表明,編碼理論可以被用在視覺(jué)皮層的接收域中。他們證明了我們大腦中的基本視覺(jué)旋渦 (V1) 使用稀疏性原理來(lái)創(chuàng)建一個(gè)能夠被用于重建輸入圖像的基本功能的最小集合。

下面的鏈接是 2014 年倫敦微軟 Bing 團(tuán)隊(duì)的 Piotr Mirowski 關(guān)于自動(dòng)編碼器的一個(gè)很好的綜述。

鏈接:https://piotrmirowski.files.wordpress.com/2014/03/piotrmirowski_2014_reviewautoencoders.pdf

Yann LeCun 的團(tuán)隊(duì)也從事這個(gè)領(lǐng)域的研究。在鏈接網(wǎng)頁(yè)中的 demo 中,你可以看到像 V1 一樣的濾波器是如何學(xué)習(xí)的。(鏈接:http://www.cs.nyu.edu/~yann/research/deep/)

通過(guò)重復(fù)貪婪逐層訓(xùn)練的過(guò)程,堆棧式自編碼器(Stacked-auto encoder)也被使用了。

自動(dòng)編碼器方法也被稱為直接映射方法。

自動(dòng)編碼器/稀疏編碼/堆疊式自動(dòng)編碼的優(yōu)點(diǎn)和缺點(diǎn)

優(yōu)點(diǎn):

  • 簡(jiǎn)單的技術(shù):重建輸入
  • 多層可堆疊
  • 直觀和基于神經(jīng)科學(xué)的研究

缺點(diǎn)

  • 每一層都被貪婪地(greedily)訓(xùn)練
  • 沒(méi)有全局優(yōu)化
  • 比不上監(jiān)督學(xué)習(xí)地性能
  • 多層失效
  • 對(duì)通用目標(biāo)地表征而言,重建輸入可能不是理想的指標(biāo)

三、聚類學(xué)習(xí)

它是用 k-means 聚類在多層中學(xué)習(xí)濾波器的一種技術(shù)。

我們組把這項(xiàng)技術(shù)命名為:聚類學(xué)習(xí)(見(jiàn)論文:Clustering Learning for Robotic Vision)、聚類連接 (見(jiàn)論文:An Analysis of the Connections Between Layers of Deep Neural Networks),以及卷積聚類 (見(jiàn)論文:Convolutional Clustering for Unsupervised Learning)。就在最近,這項(xiàng)技術(shù)在流行地?zé)o監(jiān)督學(xué)習(xí)數(shù)據(jù)集 STL-10 上實(shí)現(xiàn)了非常好的結(jié)果。

我們?cè)谶@個(gè)領(lǐng)域的研究和 Adam Coates 與 Andrew Ng 在基于 k-means 學(xué)習(xí)特征表示 ( Learning Feature Representations with K-means ) 中發(fā)表的研究成果是獨(dú)立的。

眾所周知,由于在求解配分函數(shù)時(shí)的數(shù)值問(wèn)題,受限波爾茲曼機(jī)(RBM),深波爾茲曼機(jī)(DBM),深度信念網(wǎng)絡(luò)(DBN/參見(jiàn) Geoffrey E. Hinton 等人的研究:A fast learning algorithm for deep belief net)等模型已經(jīng)很難去訓(xùn)練了。因此,它們沒(méi)有廣泛應(yīng)用于解決問(wèn)題中。

聚類學(xué)習(xí)的優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • 簡(jiǎn)單的技術(shù):得到相似群集的輸出
  • 多層可堆疊
  • 直觀和基于神經(jīng)科學(xué)的研究

缺點(diǎn):

  • 每一層都被貪婪地訓(xùn)練
  • 沒(méi)有全局優(yōu)化
  • 在某些情況下可以和監(jiān)督學(xué)習(xí)的性能媲美
  • 多層遞增式失效==性能回報(bào)遞減

四、生成對(duì)抗網(wǎng)絡(luò)模型

生成對(duì)抗網(wǎng)絡(luò)嘗試通過(guò)鑒別器和生成器的對(duì)抗而得來(lái)一個(gè)優(yōu)良的生成模型,該網(wǎng)絡(luò)希望能夠生成足以騙過(guò)鑒別器的逼真圖像。生成模型這一領(lǐng)域近年來(lái)十分優(yōu)秀的生成對(duì)抗網(wǎng)絡(luò)正是由 Ian Goodfellow 和 Yoshua Bengio 等人在論文《Generative Adversarial Nets》中提出。這里還有 OpenAI 的研究員 Ian 在 2016 年底做的關(guān)于生成對(duì)抗網(wǎng)絡(luò) (GANS) 的總結(jié),視頻鏈接:

https://channel9.msdn.com/Events/Neural-Information-Processing-Systems-Conference/Neural-Information-Processing-Systems-Conference-NIPS-2016/Generative-Adversarial-Networks。

由 Alec Radford、 Luke Metz 以及 Soumith Chintala 等人實(shí)例化的一個(gè)被稱作 DCGAN 的生成對(duì)抗模型取得了非常好的結(jié)果。他們的研究發(fā)表在論文:

Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks。

Vincent Dumoulin 和 Ishmael Belghazi 等人對(duì)這個(gè)模型做了一個(gè)比較好的解釋(鏈接:https://ishmaelbelghazi.github.io/ALI/)。

DCGAN 鑒別器被設(shè)計(jì)來(lái)判斷一副輸入圖片是真實(shí)的(來(lái)源于某個(gè)數(shù)據(jù)集的真實(shí)圖片)或虛假的(來(lái)源于某個(gè)生成器)。生成器將隨機(jī)地噪聲向量(例如 1024 個(gè)數(shù)值)作為輸入,并生成一副圖片。

在 DCGAN 中,生成器網(wǎng)絡(luò)如下:

在 DCGAN 中,生成器網(wǎng)絡(luò)

盡管這個(gè)鑒別器是一個(gè)標(biāo)準(zhǔn)的神經(jīng)網(wǎng)絡(luò)。具體的細(xì)節(jié)可以參考下文提及的代碼。

關(guān)鍵是要并行地去訓(xùn)練這兩個(gè)網(wǎng)絡(luò),同時(shí)不要完全過(guò)擬合,因此才會(huì)復(fù)制數(shù)據(jù)集。學(xué)習(xí)到的特征需要泛化在未知的樣本上,所以學(xué)習(xí)數(shù)據(jù)集將不會(huì)有用。

在 Torch7 上訓(xùn)練 DCGAN 的代碼(https://github.com/soumith/dcgan.torch)也被提供了。這需要大量的實(shí)驗(yàn),相關(guān)內(nèi)容 Yann LeCun 在 Facebook 中也分享過(guò):

https://www.facebook.com/yann.lecun/posts/10153269667222143

當(dāng)生成器和鑒別器都被訓(xùn)練之后,你可以同時(shí)使用兩者。主要的目標(biāo)就是訓(xùn)練出一個(gè)能夠被用于其他任務(wù)的鑒別器網(wǎng)絡(luò),例如在其他數(shù)據(jù)集上可以分類。生成器可以用來(lái)從隨機(jī)向量中生成圖片。這些圖片有著非常有趣的屬性。首先,它們從輸入空間中提供了平滑的變換。如下所示的例子展示了在 9 個(gè)隨機(jī)輸入向量中移動(dòng)而生成的圖片:

9 個(gè)隨機(jī)輸入向量中移動(dòng)而生成的圖片

輸入向量空間也提供了數(shù)學(xué)屬性,證明學(xué)習(xí)到的特征是按照相似性來(lái)組織的,如下圖所示:

輸入向量空間也提供了數(shù)學(xué)屬性

生成器學(xué)習(xí)到的平滑空間啟示鑒別器也要有類似的屬性,這使得鑒別器在編碼圖像時(shí)成了一個(gè)很棒的通用特征提取器。這有助于解決 CNN 在訓(xùn)練不連續(xù)圖像的時(shí)候由于對(duì)抗噪聲而造成的失敗(詳見(jiàn) Christian Szegedy 等人的文章《Intriguing properties of neural networks》,https://arxiv.org/abs/1312.6199)。

GAN 最新的進(jìn)展,在僅有 1000 個(gè)標(biāo)簽樣本的 CIFAR-10 數(shù)據(jù)集上實(shí)現(xiàn)了 21% 的錯(cuò)誤率,參見(jiàn) OpenAI 的 Tim Salimans 等人的論文《Improved Techniques for Training GANs》,論文鏈接:https://arxiv.org/pdf/1606.03498v1.pdf。

最近關(guān)于 infoGAN 的論文《InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets》(鏈接:https://arxiv.org/abs/1606.03657)中,能夠產(chǎn)生特征非常清晰的圖像,并且這些圖像具有更加有趣的意義。然而,他們并沒(méi)有公布學(xué)習(xí)到的特征在某項(xiàng)任務(wù)或某個(gè)數(shù)據(jù)集中的性能對(duì)比。

在如下所示的博客和網(wǎng)站中也有關(guān)于生成對(duì)抗模型的總結(jié),參見(jiàn) OpenAI 的技術(shù)博客 https://blog.openai.com/generative-models/ 和網(wǎng)頁(yè)

https://code.facebook.com/posts/1587249151575490/a-path-to-unsupervised-learning-through-adversarial-networks/。

另一個(gè)非常有趣的例子如下,在例子中,作者用生成對(duì)抗訓(xùn)練去學(xué)習(xí)從文本描述中生成圖像。參見(jiàn)論文《Generative Adversarial Text to Image Synthesis》,鏈接:

https://arxiv.org/abs/1605.05396。

用生成對(duì)抗訓(xùn)練去學(xué)習(xí)從文本描述中生成圖像

我最欣賞這項(xiàng)工作的地方在于它所使用的網(wǎng)絡(luò)用文本描述作為生成器的輸入,而不是隨機(jī)向量,這樣就可以精確地控制生成器的輸出。網(wǎng)絡(luò)模型結(jié)構(gòu)如下圖所示:

網(wǎng)絡(luò)模型結(jié)構(gòu)

生成對(duì)抗模型的缺點(diǎn)和優(yōu)點(diǎn)

優(yōu)點(diǎn):

  • 對(duì)整個(gè)網(wǎng)絡(luò)的全局訓(xùn)練
  • 易于編程和實(shí)現(xiàn)

缺點(diǎn):

  • 難以訓(xùn)練和轉(zhuǎn)換問(wèn)題
  • 在某些情況下可以比得上監(jiān)督學(xué)習(xí)的性能
  • 需要提升可用性(這是所有無(wú)監(jiān)督學(xué)習(xí)算法面臨的問(wèn)題)

五、可以從數(shù)據(jù)中學(xué)習(xí)的模型

通過(guò)設(shè)計(jì)不需要標(biāo)簽的無(wú)監(jiān)督學(xué)習(xí)任務(wù)和旨在解決這些任務(wù)的學(xué)習(xí)算法,這些模型直接從無(wú)標(biāo)簽的數(shù)據(jù)中學(xué)習(xí)。

在視覺(jué)表征中通過(guò)解決拼圖問(wèn)題來(lái)進(jìn)行無(wú)監(jiān)督學(xué)習(xí)確實(shí)是一個(gè)聰明的技巧。作者將圖像分割成了拼圖,并且訓(xùn)練深度網(wǎng)絡(luò)來(lái)解決拼圖問(wèn)題。最終得到的網(wǎng)絡(luò)的表現(xiàn)足以比肩最好的預(yù)訓(xùn)練網(wǎng)絡(luò)。詳見(jiàn)論文《Unsupervised Learning of Visual Representations by Solving Jigsaw Puzzles》,鏈接:https://arxiv.org/abs/1603.09246

在視覺(jué)表征中通過(guò)圖像補(bǔ)丁和布局來(lái)進(jìn)行無(wú)監(jiān)督學(xué)習(xí)也是一個(gè)聰明的技巧。他們讓同一幅圖像上的兩個(gè)補(bǔ)丁緊密分布。這些補(bǔ)丁在統(tǒng)計(jì)上來(lái)講是同一個(gè)物體。第三個(gè)補(bǔ)丁選擇隨機(jī)的圖像,并且布局在隨機(jī)的位置,從統(tǒng)計(jì)上來(lái)講與前兩個(gè)補(bǔ)丁并不是同一類物體。然后訓(xùn)練一個(gè)深度網(wǎng)絡(luò)來(lái)區(qū)分兩個(gè)屬于同一類的補(bǔ)丁和另一個(gè)不同類別的補(bǔ)丁。最終得到的網(wǎng)絡(luò)具有和最高性能精調(diào)網(wǎng)絡(luò)之一相同的性能。詳情參見(jiàn)論文《Learning visual groups from co-occurrences in space and time》,鏈接:https://arxiv.org/abs/1511.06811。

從立體圖像重建中進(jìn)行的無(wú)監(jiān)督學(xué)習(xí)模型采用立體圖像作為輸入,例如圖像一幀的左半部分,然后重建出圖像的右半部分。雖然這項(xiàng)工作并不針對(duì)無(wú)監(jiān)督學(xué)習(xí),但是它可以用作無(wú)監(jiān)督學(xué)習(xí)。這種方法也可以用來(lái)從靜態(tài)圖片生成 3D 電影。參見(jiàn)論文《Deep3D: Fully Automatic 2D-to-3D Video Conversion with Deep Convolutional Neural Networks》,鏈接:

https://arxiv.org/abs/1604.03650,github 上的 Python 源碼:https://github.com/piiswrong/deep3d。

利用替代類別的無(wú)監(jiān)督學(xué)習(xí)視覺(jué)表征使用圖像不行來(lái)創(chuàng)建非常大的替代類。這些圖像補(bǔ)丁然后被增強(qiáng),然后被用來(lái)訓(xùn)練基于增強(qiáng)替代類的監(jiān)督網(wǎng)絡(luò)。這在無(wú)監(jiān)督特征學(xué)習(xí)中給出了最好的結(jié)果。詳情參見(jiàn)論文《Discriminative Unsupervised Feature Learning with Exemplar Convolutional Neural Networks》,鏈接:https://arxiv.org/abs/1406.6909。

使用視頻的無(wú)監(jiān)督學(xué)習(xí)視覺(jué)表征采用了基于 LSTM 的編碼器-解碼器對(duì)。編碼 LSTM 運(yùn)行在視頻幀的序列上以生成一個(gè)內(nèi)部表征。隨后這些表征通過(guò)另一個(gè) LSTM 被解碼以生成一個(gè)目標(biāo)序列。為了使這個(gè)變成無(wú)監(jiān)督的,一種方法是預(yù)測(cè)與輸入相同的序列。另一種方式是預(yù)測(cè)未來(lái)的幀。詳情參見(jiàn)論文《Unsupervised Learning of Visual Representations using Videos》,鏈接:https://arxiv.org/abs/1505.00687。

另一篇使用視頻的文章出自 MIT 的 Vondrick 和 Torralba 等人(http://arxiv.org/abs/1504.08023),有著非常惹人注目的結(jié)果。這項(xiàng)工作背后的思想是從視頻輸入中預(yù)測(cè)未來(lái)幀的表示。這是一種優(yōu)雅的方法。使用的模型如下:

從視頻輸入中預(yù)測(cè)未來(lái)幀的表示

這項(xiàng)技術(shù)的一個(gè)問(wèn)題就是:一個(gè)訓(xùn)練在靜態(tài)圖像幀上的神經(jīng)網(wǎng)絡(luò)被用來(lái)解釋視頻輸入。這種網(wǎng)絡(luò)不會(huì)學(xué)習(xí)到視頻的時(shí)間動(dòng)態(tài)變化以及在空間運(yùn)動(dòng)的物體的平滑變換。所以我們認(rèn)為這個(gè)網(wǎng)絡(luò)并不適合用來(lái)預(yù)測(cè)未來(lái)視頻中的畫(huà)面。

為了克服這個(gè)問(wèn)題,我們團(tuán)隊(duì)創(chuàng)建了一個(gè)大型的視頻數(shù)據(jù)集eVDS(https://engineering.purdue.edu/elab/eVDS/),可用來(lái)直接從視頻數(shù)據(jù)上訓(xùn)練新的(遞歸和反饋)網(wǎng)絡(luò)模型。

六、PredNet

PredNet 是被設(shè)計(jì)來(lái)預(yù)測(cè)視頻中未來(lái)幀的網(wǎng)絡(luò)。在這個(gè)博客中可以看到一些例子,博客鏈接:https://coxlab.github.io/prednet/。

PredNet 是一個(gè)非常聰明的神經(jīng)網(wǎng)絡(luò)型,在我們看來(lái),它將在將來(lái)的神經(jīng)網(wǎng)絡(luò)中起著重要的作用。PredNet 學(xué)習(xí)到了超越監(jiān)督式 CNN 中的單幀圖片的神經(jīng)表征。

PredNet 結(jié)合了生物啟發(fā)的雙向 [人腦模型](詳見(jiàn)論文《Unsupervised Pixel-prediction》,https://papers.nips.cc/paper/1083-unsupervised-pixel-prediction.pdf)。它使用了 [預(yù)測(cè)編碼和神經(jīng)模型中的反饋連接](詳見(jiàn)論文《Neural Encoding and Decoding with Deep Learning for Dynamic Natural Vision》,http://arxiv.org/abs/1608.03425)。下面是 PredNet 模型以及一個(gè)具有兩個(gè)堆疊層的例子:

PredNet 模型以及一個(gè)具有兩個(gè)堆疊層的例子

PredNet 結(jié)合了生物啟發(fā)的雙向人腦模型

這個(gè)模型有以下這幾個(gè)優(yōu)點(diǎn):

  • 可使用無(wú)標(biāo)簽的數(shù)據(jù)來(lái)訓(xùn)練
  • 在每一層嵌入了損失函數(shù)來(lái)計(jì)算誤差
  • 具有執(zhí)行在線學(xué)習(xí)的能力,通過(guò)監(jiān)控錯(cuò)誤信號(hào),當(dāng)模型不能預(yù)測(cè)輸出的時(shí)候,它會(huì)知道需要學(xué)習(xí)誤差信號(hào)

PredNet 存在的一個(gè)問(wèn)題是,對(duì)第一層的一些簡(jiǎn)單的基于運(yùn)動(dòng)的濾波器而言,預(yù)測(cè)未來(lái)輸入的幀是相對(duì)容易的。在我們所做的 PredNet 的實(shí)驗(yàn)中,PredNet 在重建輸入幀的時(shí)候?qū)W會(huì)了在重建輸入幀時(shí)達(dá)到很好的效果,但是更高層不會(huì)學(xué)到較好的表征。事實(shí)上,在實(shí)驗(yàn)中更高層連簡(jiǎn)單的分類任務(wù)都解決不了。

事實(shí)上,預(yù)測(cè)未來(lái)的幀是不必要的。我們?cè)敢庾龅木褪侨ヮA(yù)測(cè)下一幀的表征,就像 Carl Vondrick 做的一樣。詳見(jiàn)論文《Anticipating Visual Representations from Unlabeled Video》,鏈接:https://arxiv.org/abs/1504.08023。

七、通過(guò)觀察物體的運(yùn)動(dòng)來(lái)學(xué)習(xí)特征

最近的這篇論文通過(guò)觀察視頻中物體的運(yùn)動(dòng)來(lái)訓(xùn)練無(wú)監(jiān)督模型(《Learning Features by Watching Objects Move》,https://people.eecs.berkeley.edu/~pathak/unsupervised_video/)。運(yùn)動(dòng)以光流的形式被提取出來(lái),并被用作運(yùn)動(dòng)物體的分割模板。盡管光流信號(hào)并沒(méi)有提供任何一個(gè)接近良好的分割模板,但是在大規(guī)模數(shù)據(jù)集上的平均效果使得最終的網(wǎng)絡(luò)會(huì)表現(xiàn)良好。例子如下所示:

通過(guò)觀察物體的運(yùn)動(dòng)來(lái)學(xué)習(xí)特征

這項(xiàng)工作是非常激動(dòng)人心的,因?yàn)樗裱P(guān)于人類視覺(jué)皮層如何學(xué)習(xí)分割運(yùn)動(dòng)物體的神經(jīng)學(xué)理論。參見(jiàn)論文《Development of human visual function》,鏈接:

http://www.sciencedirect.com/science/article/pii/S004269891100068X。

未來(lái)

未來(lái)需要你們來(lái)創(chuàng)造。

無(wú)監(jiān)督訓(xùn)練仍然還是一個(gè)有待發(fā)展的主題,你可以通過(guò)以下方式做出較大的貢獻(xiàn):

  • 創(chuàng)建一個(gè)新的無(wú)監(jiān)督任務(wù)去訓(xùn)練網(wǎng)絡(luò),例如:解決拼圖問(wèn)題、對(duì)比圖像補(bǔ)丁、生成圖像等......
  • 想出能夠創(chuàng)造很棒的無(wú)監(jiān)督功能的任務(wù),例如:像我們?nèi)祟愐曈X(jué)系統(tǒng)的工作方式一樣,理解立體圖像和視頻中什么是物體、什么是背景。

本文作者為專注機(jī)器人與視覺(jué)研究的 e-Lab 的研究者 Eugenio Culurciello。

原文:https://medium.com/intuitionmachine/navigating-the-unsupervised-learning-landscape-951bd5842df9

【本文是51CTO專欄機(jī)構(gòu)機(jī)器之心的原創(chuàng)譯文,微信公眾號(hào)“機(jī)器之心( id: almosthuman2014)”】

戳這里,看該作者更多好文

責(zé)任編輯:趙寧寧 來(lái)源: 51CTO專欄
相關(guān)推薦

2020-04-26 11:26:02

人臉合成編碼器數(shù)據(jù)

2017-07-03 07:14:49

深度學(xué)習(xí)無(wú)監(jiān)督學(xué)習(xí)稀疏編碼

2021-03-22 10:52:13

人工智能深度學(xué)習(xí)自編碼器

2021-03-29 11:37:50

人工智能深度學(xué)習(xí)

2022-06-14 07:07:57

網(wǎng)絡(luò)威脅無(wú)監(jiān)督數(shù)據(jù)泄露

2017-06-12 14:04:45

深度學(xué)習(xí)人工智能

2021-02-20 20:57:16

深度學(xué)習(xí)編程人工智能

2024-08-09 08:12:35

深度學(xué)習(xí)VAEsGANs

2023-11-23 15:54:01

人工智能監(jiān)督學(xué)習(xí)無(wú)監(jiān)督學(xué)習(xí)

2020-04-28 17:26:04

監(jiān)督學(xué)習(xí)無(wú)監(jiān)督學(xué)習(xí)機(jī)器學(xué)習(xí)

2023-10-31 10:33:35

對(duì)抗網(wǎng)絡(luò)人工智能

2019-05-22 17:34:16

代碼開(kāi)發(fā)工具

2017-09-11 17:16:35

2024-06-18 08:52:50

LLM算法深度學(xué)習(xí)

2025-04-10 11:52:55

2017-11-10 12:45:16

TensorFlowPython神經(jīng)網(wǎng)絡(luò)

2022-04-26 10:27:52

機(jī)器算法KNN數(shù)據(jù)

2017-08-24 15:09:13

GAN神經(jīng)網(wǎng)絡(luò)無(wú)監(jiān)督學(xué)習(xí)

2022-09-20 08:00:00

暗數(shù)據(jù)機(jī)器學(xué)習(xí)數(shù)據(jù)

2025-04-25 08:00:00

點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

cao在线视频| 国产精彩视频在线观看| 成人在线免费电影网站| 中文字幕在线视频一区| 99九九视频| 在线天堂中文字幕| 日本午夜一区| 欧美精品一区二区三区久久久| 毛片在线视频播放| 免费在线观看av片| 国产麻豆精品theporn| 97视频在线观看播放| 白白色免费视频| 麻豆一区在线| 色婷婷国产精品综合在线观看| 精品国产无码在线| 深夜视频在线免费| 久久国产精品色婷婷| 欧美激情亚洲自拍| jizzjizz日本少妇| 任你弄精品视频免费观看| 欧美高清你懂得| 欧美成人免费高清视频| 日本无删减在线| 日本一区二区不卡视频| 国产精品一区免费观看| 国产精品一区二区三区在线免费观看| 一区二区激情| 欧美放荡办公室videos4k| 蜜桃视频最新网址| 女人av一区| 亚洲国产精品资源| 亚洲成人av免费观看| 亚洲日本在线观看视频| 精品久久久久久中文字幕| 天天在线免费视频| 香港伦理在线| 国产日韩欧美制服另类| 久久久久久精| 欧美特黄一级视频| 国产二区国产一区在线观看| 91精品久久久久久久久久另类| 国产嫩bbwbbw高潮| 性色av一区二区怡红| 91国自产精品中文字幕亚洲| 免费在线观看黄视频| 天天做天天爱天天综合网| 中文字幕亚洲综合久久筱田步美| 女女互磨互喷水高潮les呻吟| 精品国产乱子伦一区二区| 日韩欧美中文一区二区| 午夜视频在线观| 久久精品资源| 91超碰这里只有精品国产| 一区二区三区网址| 怡红院成人在线| 色综合久久99| 成人免费毛片播放| 国产精品第一| 欧美狂野另类xxxxoooo| www.成人黄色| 日本精品在线观看| 欧美mv日韩mv国产网站| 91人人澡人人爽| 国产成人高清精品免费5388| 欧美精品一区男女天堂| 一级特级黄色片| 久久99久久人婷婷精品综合 | 少妇高潮一区二区三区69| 成人禁用看黄a在线| 久久99精品久久久久久久久久| 午夜黄色小视频| 国产亚洲精品久| 亚洲一区三区在线观看| 成人在线观看免费网站| 亚洲一卡二卡三卡四卡无卡久久 | 337p日本欧洲亚洲大胆色噜噜| 稀缺小u女呦精品呦| 日韩精品丝袜美腿| 综合av色偷偷网| www青青草原| 99精品视频免费观看视频| 日韩av日韩在线观看| 亚洲一区二区视频在线播放| 国产激情一区二区三区| 精品国产综合久久| 第一视频专区在线| 一区二区三区自拍| 成人av一级片| 欧美性www| 亚洲成人三级在线| 国产日产欧美视频| 天堂久久午夜av| 欧美一区二区三区在线视频| www.超碰在线观看| 少妇淫片在线影院| 欧美视频在线一区| 久久久久无码精品| 伊人久久大香线蕉| 日韩一区二区精品视频| 精品午夜福利在线观看| 欧美中文日韩| 精品人妻一区二区三区免费| 激情视频在线观看免费| 国产精品久久久爽爽爽麻豆色哟哟| 亚洲国产精品女人| 亚洲色图官网| 日韩欧美一卡二卡| av黄色免费网站| 欧美激情成人在线| 一区二区三区日本| 9色视频在线观看| 成人影院av| 精品奇米国产一区二区三区| 国产一区二区三区四区在线| 伊人久久成人| 91深夜福利视频| 狠狠v欧美ⅴ日韩v亚洲v大胸 | 免费高清一区二区三区| 黄色片在线免费观看| 亚洲精品国产第一综合99久久 | 久久久久欧美精品| 亚洲最大av网| 天堂资源在线中文| 色偷偷久久一区二区三区| 无码人妻丰满熟妇啪啪网站| 亚洲不卡在线观看| 日韩精品一区二区三区外面| 黄网在线免费看| 欧美另类高清zo欧美| 亚洲天堂av网站| 欧美日韩精品一本二本三本| 国产精品国产福利国产秒拍| 婷婷开心激情网| 在线电影欧美日韩一区二区私密| 成人在线免费播放视频| 91蜜桃臀久久一区二区| 日韩在线观看视频免费| 成人在线免费看视频| 粉嫩久久99精品久久久久久夜| 亚洲午夜精品一区二区| 偷拍精品精品一区二区三区| 亚洲精品99久久久久| 就去色蜜桃综合| 99色在线观看| 精品国产乱码久久久久久1区2区| 顶臀精品视频www| 久久99国产精品尤物| 亚洲精品乱码久久久久久蜜桃91| japanese23hdxxxx日韩| 亚洲美女av网站| 欧美一级视频免费观看| www.日韩在线| 少妇高潮毛片色欲ava片| 国产一级成人av| 久久久视频免费观看| 国模无码一区二区三区| 日韩一级免费观看| 污污网站免费观看| 国内精品视频在线观看| 日本精品免费一区二区三区| 日韩资源在线| 色婷婷精品大视频在线蜜桃视频| 在线观看国产精品一区| 久久一二三区| 亚洲一区二区精品久久av| 国产精品入口免费视频一| 青青草超碰在线| 欧美视频13p| 亚洲精品国产91| 美女网站在线免费欧美精品| 色一情一乱一伦一区二区三欧美| 国产精品字幕| 91亚洲资源网| 国产成人永久免费视频| 国产精品久久久久av蜜臀 | 先锋成人av| 精品免费日韩av| 国产精品国产三级国产专区52| 99精品国产热久久91蜜凸| 国产极品美女高潮无套久久久| 欧美天天综合| 亚洲一区二区三区777| 成人高潮aa毛片免费| 亚洲欧美另类国产| 91美女精品网站| 亚洲一区二区影院| 日韩中文字幕电影| 国产在线乱码一区二区三区| 亚洲色成人www永久在线观看| 亚欧洲精品视频在线观看| 国产精品久久久久久久久男| 午夜dj在线观看高清视频完整版 | 在线亚洲免费视频| 日本中文字幕免费在线观看| 26uuu国产一区二区三区| 无尽裸体动漫2d在线观看| 在线免费观看欧美| 夜夜爽99久久国产综合精品女不卡 | 国产高清自拍视频在线观看| 日韩一级完整毛片| 丁香社区五月天| 亚洲另类色综合网站| 丰满少妇一区二区| 国产原创一区二区| 97视频在线免费播放| 欧美人成网站| 亚洲乱码一区二区三区| 久久香蕉精品香蕉| 91在线免费视频| 三上悠亚一区二区| 午夜精品在线视频| 国产激情在线视频| 国产亚洲a∨片在线观看| 亚洲精品久久久久久无码色欲四季 | 77777少妇光屁股久久一区| a天堂中文在线88| 亚洲激情第一页| 99久久久久久久| 欧美亚洲日本一区| 91精品国产乱码久久久张津瑜| 中文字幕第一区综合| 99久久人妻无码中文字幕系列| 国产最新精品免费| 国产精品v日韩精品v在线观看| 先锋亚洲精品| 尤物av无码色av无码| 国产精品www.| 男人草女人视频| 亚洲午夜精品一区二区国产| 色乱码一区二区三在线看| 亚洲肉体裸体xxxx137| 国产无套精品一区二区| 97久久超碰| 成人av网站观看| 久久久久久亚洲精品美女| 国产精品最新在线观看| 日韩av一级| 国产精品色视频| 小黄鸭精品aⅴ导航网站入口| 国产91精品黑色丝袜高跟鞋| 91白丝在线| 欧美精品电影在线| 国产在线xxx| 欧美激情精品久久久久久黑人 | 亚洲国产精品久久久天堂| 日本不卡二区| 欧美日本成人| 日韩久久不卡| 欧美伦理在线视频| 日韩在线电影一区| 香蕉视频免费在线播放| 亚洲不卡av一区二区三区| 色婷婷在线视频观看| 国产精品久久久久久久久晋中| 日本二区在线观看| 四虎在线视频免费观看| 制服.丝袜.亚洲.中文.综合| 中文字幕资源网| 欧美日韩成人一区| 96日本xxxxxⅹxxx17| 欧美欧美欧美欧美| 国产精品国产三级国产普通话对白 | 欧美sm一区| 欧美一级电影免费在线观看| 欧美电影h版| 国产精品亚洲一区二区三区| 亚洲二区av| 亚洲r级在线观看| 精品中国亚洲| 日韩精品资源| 天天做天天爱天天综合网| 少妇高潮大叫好爽喷水| 黄色av一区| aaa毛片在线观看| 久久精品国产77777蜜臀| 国产区精品视频| 成人影院网站ww555久久精品| 成人久久18免费网站漫画| 欧美综合自拍| 国产精品久久激情| 免费精品一区| 蜜桃传媒一区二区| 欧美丰满老妇| 日韩a∨精品日韩在线观看| 日韩av不卡在线观看| 18深夜在线观看免费视频| 91在线观看下载| 三上悠亚在线观看视频| 亚洲1区2区3区4区| 欧美男人天堂网| 日韩精品一区二区三区视频在线观看| 神马亚洲视频| 欧美精品一区在线播放| 在线高清av| 5566av亚洲| 久久91麻豆精品一区| 黄色网在线视频| 日韩激情在线观看| 国产51自产区| 国产精品久久久爽爽爽麻豆色哟哟 | 国产精品aaa| 999精品视频在这里| 日韩欧美99| 亚洲区国产区| 色婷婷一区二区三区在线观看| 久久亚区不卡日本| 九九热精品免费视频| 色猫猫国产区一区二在线视频| 国产精品怡红院| 夜夜嗨av色一区二区不卡| 成人在线高清免费| 91在线无精精品一区二区| 国产精品片aa在线观看| 青青草精品视频在线| 国产美女一区二区| 91导航在线观看| 日本韩国欧美三级| 少妇高潮久久久| 欧美精品video| 国产一区二区av在线| 亚洲精品永久www嫩草| 久久精品一区二区国产| 久久久久国产精品无码免费看| 亚洲乱码一区二区三区在线观看| 中文字幕第三页| 亚洲视频在线观看| 日本不良网站在线观看| 国产精品久久久久av福利动漫| 在线精品视频在线观看高清| 中文字幕成人在线视频| 国产三级精品视频| 91视频久久久| 亚洲天堂免费在线| 亚洲欧美日韩一二三区| 成人免费看视频| 久久久久久久久毛片| 欧美一区二区三区四区高清| 免费网站成人| 日韩电影在线一区二区三区| 亚洲成人av免费观看| 日韩理论片在线| 91精品人妻一区二区三区果冻| 在线看福利67194| 国产一区二区主播在线| 色一情一区二区三区四区| 日本怡春院一区二区| 99精品欧美一区二区| 在线看国产一区| 波多野结衣在线网站| 国产精品视频999| 欧美高清在线| 亚洲一区二区图片| 亚洲黄网站在线观看| 亚洲av无码乱码国产麻豆| 中文字幕亚洲在线| 国产精品免费精品自在线观看| 亚洲图色在线| 韩国精品一区二区| 免费视频一二三区| 欧美一区二区三区男人的天堂 | 欧美黄色性视频| 亚洲一级大片| 欧美黄网站在线观看| 久久久www成人免费毛片麻豆 | 大菠萝精品导航| 亚洲最大的av网站| 最新国产乱人伦偷精品免费网站| 色哟哟视频在线| 一本大道综合伊人精品热热| eeuss影院www在线播放| 91成人免费在线观看| 亚洲三级毛片| 极品人妻videosss人妻| 欧美精品少妇一区二区三区| 国产一线二线在线观看| 精品伦精品一区二区三区视频| 丝袜亚洲精品中文字幕一区| 亚洲精品电影院| 亚洲成人精品久久久| 欧美最新精品| 日本免费在线视频观看| 不卡的av网站| 中文字幕在线播放不卡| 欧美国产亚洲视频| 国产成人1区| 原创真实夫妻啪啪av| 色综合天天综合狠狠| 激情在线小视频| 久久天堂国产精品| 精品一区二区三区影院在线午夜 | 国产精品久久久一区二区三区| 久久久www| 精品99久久久久成人网站免费| 亚洲欧美日韩视频一区| 日韩一级淫片| 天天色综合社区| 午夜精品成人在线视频| 蜜芽在线免费观看| 好看的日韩精品|