久久久91-久久久91精品国产一区二区-久久久91精品国产一区二区三区-久久久999国产精品-久久久999久久久精品

凌云光技術(shù)股份有限公司深度學(xué)習(xí)算法部負責(zé)人 朱中洋博士

1　背景

2012年，神經(jīng)網(wǎng)絡(luò)之父Geoffrey Hinton的學(xué)生Alex Krizhevsky，通過改進的LeNet在視覺領(lǐng)域競賽ILSVRC 2012中摘下桂冠。在百萬量級的ImageNet數(shù)據(jù)集合上，改進的LeNet效果大幅度超過傳統(tǒng)方法，從此引爆深度學(xué)習(xí)在各個場景中的應(yīng)用。

此后，Google、Facebook和NVIDIA等強ToC背景企業(yè)，逐步引領(lǐng)深度學(xué)習(xí)在ToC領(lǐng)域落地實施并率先取得成功。深度學(xué)習(xí)在購物推薦、廣告推薦、路徑規(guī)劃和喜好挖掘等領(lǐng)域得到廣泛應(yīng)用，更通過植入到手機等終端設(shè)備的方式走到每個人身邊。

2　深度學(xué)習(xí)與工業(yè)場景之間的“語義鴻溝”

既然深度學(xué)習(xí)性能這么好，能不能把它應(yīng)用在工業(yè)場景，重復(fù)、有效、可靠地解決問題？能否應(yīng)用在瑕疵檢測、缺陷分級和根因分析上？如果簡單地把它移植過來，會出現(xiàn)哪些鴻溝和問題？

第一個鴻溝：深度學(xué)習(xí)平臺

大家熟知的AI頭部公司多有自己的深度學(xué)習(xí)平臺，包含整合的算力、存儲、數(shù)據(jù)、數(shù)據(jù)標注、模型訓(xùn)練和模型部署等功能。這類平臺只適合于具有少高效應(yīng)（項目數(shù)量少、樣本量大且算力需求大）的公司，如互聯(lián)網(wǎng)企業(yè)。而工業(yè)場景中的項目卻以長尾效應(yīng)（項目數(shù)量多、樣本量小且算力需求小）為主，如工業(yè)質(zhì)檢行業(yè)。云模式是否適用于工業(yè)質(zhì)檢行業(yè)？將花費高代價整合出來的算力和存儲根據(jù)項目分割，是否是最優(yōu)選擇？

第二個鴻溝：預(yù)訓(xùn)練

做工業(yè)質(zhì)檢時，即使在算法層面上開發(fā)相應(yīng)的框架形成自己的平臺，最常用的基本上還是一些非常頂尖的ToC企業(yè)發(fā)布的框架網(wǎng)絡(luò)，如ImageNet的預(yù)訓(xùn)練權(quán)重。但在實踐過程中我們發(fā)現(xiàn)，雖然ImageNet的圖片和工業(yè)圖片之間的鴻溝非常大，但仍然可以提升模型的性能。這樣就引出了第二個鴻溝，是不是可以有屬于自己、圖片完全來源于工業(yè)領(lǐng)域的預(yù)訓(xùn)練模型？

第三個鴻溝：小樣本

在工業(yè)人工智能領(lǐng)域，隨著產(chǎn)品良率和產(chǎn)能的提升，缺陷瑕疵的數(shù)量必然會越來越少，深度學(xué)習(xí)在工業(yè)中的使用場景會逐漸收斂為小樣本的場景，小樣本深度學(xué)習(xí)未來是工業(yè)人工智能核心。2018年之后，出現(xiàn)了很多小樣本相關(guān)的論文，但不難發(fā)現(xiàn)，這些頂尖的小樣本深度學(xué)習(xí)算法并不是為工業(yè)量身打造，將學(xué)術(shù)界提出的小樣本識別方法直接應(yīng)用在工業(yè)中，往往是不能立刻見效的。

3　凌云光深度學(xué)習(xí)平臺

深度學(xué)習(xí)有三個很重要的因素，即平臺、數(shù)據(jù)和算法。凌云光大膽創(chuàng)新，提出了全新的深度學(xué)習(xí)平臺、數(shù)據(jù)預(yù)訓(xùn)練及改進算法，從而使深度學(xué)習(xí)契合工業(yè)界的發(fā)展和需求。

（1）建立統(tǒng)一規(guī)格的多維度深度學(xué)習(xí)平臺

凌云光深度學(xué)習(xí)平臺包含三個維度，分別是超輕型的深度學(xué)習(xí)平臺、服務(wù)器的深度學(xué)習(xí)平臺、云端的深度學(xué)習(xí)平臺。超輕型的深度學(xué)習(xí)平臺針對的是邊端保密項目，這類項目往往數(shù)量少，邊端無法聯(lián)網(wǎng)，這種情況下，超輕型的便攜式深度學(xué)習(xí)算力平臺就十分有優(yōu)勢。對于各個邊端可以進行聯(lián)網(wǎng)互聯(lián)，數(shù)據(jù)量在服務(wù)器算力承受范圍之內(nèi)的產(chǎn)線級客戶來說，服務(wù)器的深度學(xué)習(xí)平臺才是最佳選擇。而針對數(shù)據(jù)量大，沒有保密需求的客戶，需要云級別的算力，則可以使用云端的算力平臺。凌云光以多維度算力平臺，滿足不同的客戶需求，提升客戶服務(wù)能力。

（2）數(shù)據(jù)層

充分利用扎根工業(yè)領(lǐng)域多年的優(yōu)勢，凌云光收集大量的缺陷樣本數(shù)據(jù)，并對樣本進行清洗和標注，形成數(shù)據(jù)資源。此外，還對過往樣本的缺陷和根因也進行標注，便于在未來進行數(shù)據(jù)挖掘和根因分析，從而從根本上提高工廠的檢測效率，進而提高工廠產(chǎn)品良率。

（3）算法層

凌云光深度剖析開源深度學(xué)習(xí)算法，構(gòu)建屬于工業(yè)人工智能深度學(xué)習(xí)的頂尖算法研究方向，包括小樣本、超低耗時的模型研發(fā)等。比如在印刷質(zhì)量檢測領(lǐng)域，幅寬一米的印刷品，速度要達到120米/分鐘，常規(guī)的深度學(xué)習(xí)模型是行不通的。此外，我們還深入研究了深度預(yù)適應(yīng)算法、Open Set Learning、零樣本學(xué)習(xí)方法、細粒度圖像的分類方法、工業(yè)的知識圖譜等。

4　小結(jié)

小樣本深度學(xué)習(xí)未來將成為一個體系，會有多種多樣的方法。例如，可以使用模型微調(diào)的方法、數(shù)據(jù)增強的方法、遷移學(xué)習(xí)的方法等。凌云光正在研發(fā)的下一代真正適用于工業(yè)的小樣本深度學(xué)習(xí)就融合了這些方法。

回顧工業(yè)人工智能的發(fā)展過程不難發(fā)現(xiàn)，直接套用國外已有的開源模型，很難滿足實際需求，在前人的基礎(chǔ)上，必須有所創(chuàng)新，去適應(yīng)工業(yè)中的小而多的應(yīng)用場景。我們在工業(yè)人工智能領(lǐng)域，必須通過自主研發(fā)，成為行業(yè)參與者、引領(lǐng)者，進而構(gòu)建真正的智慧工廠。

摘自《自動化博覽》2021年12月刊