不幸的是,在挪動設(shè)備上運行神經(jīng)網(wǎng)絡(luò)并不簡陋。事實上,固然智內(nèi)行機變得越來越寬大,它們?nèi)绻示哂杏邢薜拇Ф缺臼?、電池壽命和可用磁盤空間,尤其是關(guān)于你們意向僵持盡可以輕的利用序次。這樣做可以大概完成更速的下載速率、更小的糾正時間和更長的電池使用時期,這些都是用戶所瀏覽的。
為了將網(wǎng)絡(luò)生存在磁盤上,我們需要記載收集中每個單一權(quán)浸的值。這意味著為每個參數(shù)生存一個浮點數(shù),這代表了磁盤上占用的大量空間。舉動參考,在C中,一個浮點占用4個字節(jié),即32個比特。一個參數(shù)在數(shù)億的網(wǎng)絡(luò)(好比GoogLe-Net或VGG-16)可以大概輕松到達數(shù)百兆,這在挪動裝備上是不行接管的。
為了周旋網(wǎng)絡(luò)影跡盡可能小,一種方式是體驗量化它們來普及權(quán)浸的訣別率。在這個歷程中,他們起色了數(shù)字的出現(xiàn)形態(tài),使其不再可能取得任何價格,預(yù)測分析的例子但極度受限于一局部數(shù)值。這使他們只能生活一次量化值,然后參考網(wǎng)絡(luò)的權(quán)浸。
全班人們將再次履歷搜尋脹和點來確信要利用幾多個值。更多的值意味著更高的正確性,但也是更大的累積空間。使神經(jīng)收集在智妙上實時運比方,通過使用256個量化值,每個權(quán)浸可以大概僅使用1個字節(jié) 即 8個比特來引用。與之前(32位)相比,所有人已將巨細除以4!預(yù)測分析的例子
所有人仍然處分了對待權(quán)浸的一些事務(wù),可是全班人可以大概進一步校勘收集!這個本事依據(jù)于權(quán)浸不服均漫衍的事實。一旦量化,全班人就沒有類似數(shù)量的權(quán)值來承載每個量化值。這意味著在各人的模型再現(xiàn)中,一些引用會比其各人引用更頻頻地映現(xiàn),所有人可以大概使用它!
縱然智內(nèi)行機不周備老式桌面揣摸機的磁盤空間、預(yù)計能力或電池壽命,但它們依舊是深度進修使用次第相等好的目的。借助少數(shù)本事,預(yù)測分析的例子并以幾個百分點的精度為價格,現(xiàn)在可以大概在這些多功內(nèi)行持設(shè)備上運行龐大的神經(jīng)網(wǎng)絡(luò)。這為數(shù)以千計的激動民心的應(yīng)用打開了大門。行的手藝—量化分析 pdf使神經(jīng)收集在智妙上實時運行的手藝—量化分析 pdf。