摘要:近年來,深度學(xué)習(xí)促進(jìn)了人工智能的快速發(fā)展,并逐漸滲透到各行各業(yè)。然而人工智能訓(xùn)練和推理所需的大量數(shù)據(jù)傳輸、算力資源調(diào)用會(huì)影響到系統(tǒng)的實(shí)時(shí)性能,從而導(dǎo)致該技術(shù)在工業(yè)應(yīng)用中存在困難。眾所周知,實(shí)時(shí)性是工業(yè)自動(dòng)化的一項(xiàng)指標(biāo),特別是在運(yùn)動(dòng)控制和自動(dòng)駕駛方面更為重要。如果因人工智能而使得工業(yè)系統(tǒng)接收和發(fā)送數(shù)據(jù)、指令響應(yīng)緩慢,那么工廠生產(chǎn)終將難以實(shí)現(xiàn)智能化突破,阻礙了人工智能在工業(yè)自動(dòng)化中的普及。基于此,本文提出一種三實(shí)時(shí)架構(gòu),它涉及實(shí)時(shí)網(wǎng)絡(luò)、實(shí)時(shí)操作系統(tǒng)和實(shí)時(shí)調(diào)度,希望通過提出該架構(gòu)引起業(yè)界廣泛的研究熱潮。
關(guān)鍵詞:三實(shí)時(shí)架構(gòu);邊緣計(jì)算;人工智能;工業(yè)自動(dòng)化
1 引言
在過去的三次工業(yè)革命中都無一例外地淘汰了一些舊技術(shù),出現(xiàn)了一些新技術(shù)。正如內(nèi)燃機(jī)取代蒸汽機(jī),電力能源解決燃料能源傳送效率低下的問題, 可編程邏輯控制器(Program Logic Controller, PLC)替換繼電器提升自動(dòng)化水平……在不久的將來,一種更先進(jìn)的智能化控制器也會(huì)出現(xiàn),邊緣計(jì)算或許是優(yōu)選的平臺(tái)。
PLC是工業(yè)自動(dòng)化(Industrial Automation, IA)行業(yè)的專用計(jì)算機(jī),能夠在惡劣環(huán)境下運(yùn)行,具有寬溫、防灰、防塵、防潮和防電磁干擾的能力。相較于通用型計(jì)算機(jī),PLC具有更高的實(shí)時(shí)和穩(wěn)定特性,但計(jì)算速度卻遠(yuǎn)遠(yuǎn)不如個(gè)人電腦或者服務(wù)器,更不能像圖形處理器(Graphics Processing Unit,GPU)一樣并行計(jì)算[1],所以無法滿足人工智能(Artificial Intelligence, AI)的算力要求。雖然軟件型PLC可以部署在云計(jì)算中,這樣便能與AI更好地融合[2],但是這種基于云平臺(tái)的軟件架構(gòu)在和現(xiàn)場(chǎng)設(shè)備交互時(shí)存在著延遲問題。
2 三實(shí)時(shí)架構(gòu)的提出
2.1 延遲的原因分析
造成延遲的原因有三方面:一是,云計(jì)算與終端設(shè)備間的多級(jí)網(wǎng)絡(luò);二是,過多的操作系統(tǒng)任務(wù);三是,算力資源的分派與調(diào)度。顯然延遲已經(jīng)成為研究人工智能AI與工業(yè)自動(dòng)化IA 融合的重要方向(以下簡(jiǎn)稱:IA&AI)。目前,AI技術(shù)主要集中在人臉識(shí)別、語音識(shí)別和信號(hào)處理特征提取等應(yīng)用場(chǎng)景;IA技術(shù)依托高實(shí)時(shí)、可靠和確定性普遍應(yīng)用于工業(yè)自動(dòng)化的各行各業(yè),如圖1所示。在我國(guó)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)背景下,IA擁抱AI突破智能制造難題,首先要解決的就是“實(shí)時(shí)”問題。
圖1 IA&AI融合問題
2.2 三實(shí)時(shí)架構(gòu)的形成
首先,載波偵聽多路訪問/沖突檢測(cè)(Carrier Sense Multiple Access with Collision Detection, CSMA/CD)是以太網(wǎng)通信中常用的協(xié)議,其沖突檢測(cè)方式造成的延遲不確定性已成為工業(yè)控制的主要障礙[3,4];第二,實(shí)時(shí)計(jì)算的目標(biāo)是滿足每個(gè)任務(wù)的時(shí)序要求,而不僅僅是速度快,實(shí)時(shí)系統(tǒng)的最重要屬性應(yīng)該是可預(yù)測(cè)性[5];第 三,由于AI算法正朝著更高實(shí)時(shí)響應(yīng)的領(lǐng)域發(fā)展,IA 則需要智能行為更加復(fù)雜的應(yīng)用程序開發(fā),“調(diào)度” 成為邊緣計(jì)算平臺(tái)對(duì)算力資源進(jìn)行整合與分配的有效手段[6]。深度學(xué)習(xí)(Deep Learning, DL)作為AI的前沿,需要更為強(qiáng)大的并行計(jì)算、數(shù)據(jù)存儲(chǔ)和處理能力, 只有通過資源的有效調(diào)度才能更好地助力工業(yè)發(fā)展[7]。 因此,網(wǎng)絡(luò)、系統(tǒng)和調(diào)度成為了三項(xiàng)重要組成,三實(shí)時(shí)架構(gòu)如圖2所示。
圖2 三實(shí)時(shí)架構(gòu)金字塔
為了完整地描述基于邊緣計(jì)算的三實(shí)時(shí)架構(gòu),后文將繼續(xù)闡述三實(shí)時(shí)架構(gòu)的主要技術(shù)構(gòu)成,展望云、邊、端互補(bǔ)優(yōu)勢(shì)和我中心基于該平臺(tái)的未來主要研究工作。
3 三實(shí)時(shí)架構(gòu)的主要技術(shù)構(gòu)成
3.1 實(shí)時(shí)以太網(wǎng)
實(shí)時(shí)以太網(wǎng)(Real-Time Ethernet, RTE)可按交互時(shí)間分為三類[8]:
(1)人機(jī)控制:人機(jī)交互響應(yīng)時(shí)間約100ms,該類控制屬于低速控制。由于人類的視覺暫留停頓效應(yīng), 其響應(yīng)速度已經(jīng)能夠滿足人機(jī)交互要求,幾乎所有的TCP/IP網(wǎng)絡(luò)都能夠輕松達(dá)到。
(2)過程控制:設(shè)備與設(shè)備間的交互時(shí)間在10ms 以內(nèi)。這是大多數(shù)生產(chǎn)線、機(jī)床控制系統(tǒng)的實(shí)時(shí)響應(yīng)要求。在工業(yè)以太網(wǎng)出現(xiàn)之前,現(xiàn)場(chǎng)總線一直是過程控制的主流通信網(wǎng)絡(luò),常用于PLC與輸入/輸出(Input/ Output, I/O)模塊間的通信。
(3)運(yùn)動(dòng)控制:設(shè)備與設(shè)備間的交互時(shí)間低于1ms。主要用于伺服電機(jī)控制和自動(dòng)駕駛控制,其特點(diǎn)是速度快、精度高,對(duì)于網(wǎng)絡(luò)的實(shí)時(shí)性能要求非常高。信號(hào)在網(wǎng)絡(luò)中傳輸?shù)乃俣群痛_定性,決定了實(shí)時(shí)網(wǎng)絡(luò)的性能表現(xiàn)。在上述三種模式中,人機(jī)控制對(duì)速度的要求最低,但由于它屬于工業(yè)場(chǎng)合,必須無條件服從信號(hào)傳輸?shù)拇_定性,比如控制電機(jī)啟動(dòng)/停止命令不能因 網(wǎng)絡(luò)丟包或延時(shí)而失效。因此,即使在人機(jī)控制的低速要求模式下,也應(yīng)當(dāng)使用具有確定性保障機(jī)制的工業(yè)通信網(wǎng)絡(luò)進(jìn)行信號(hào)傳送。
RTE網(wǎng)絡(luò)的一個(gè)重要特征便是引入了時(shí)間敏感網(wǎng)絡(luò)(Time-Sensitive Networking, TSN)的技術(shù)。 IEEE-1588協(xié)議用于網(wǎng)絡(luò)測(cè)量和控制系統(tǒng)的精確時(shí)鐘同步協(xié)議的標(biāo)準(zhǔn),它根據(jù)需要以特定間隔發(fā)送特殊電報(bào), 以避免時(shí)鐘偏離超出規(guī)定的限制。一方面,高精度時(shí)間同步可以有效提高頻譜利用率,另一方面,時(shí)間同步可以通過軟件使用PTPD實(shí)現(xiàn)(開源的IEEE-1588實(shí) 現(xiàn)),這為三實(shí)時(shí)架構(gòu)的上下層銜接,即實(shí)時(shí)操作系統(tǒng)與實(shí)時(shí)通信層之間的協(xié)作創(chuàng)造了條件。
通過文獻(xiàn)檢索,本文列出了國(guó)內(nèi)外部分有線和無線RTE協(xié)議,如表1所示。
表1 國(guó)內(nèi)外部分工業(yè)實(shí)時(shí)網(wǎng)絡(luò)
需要注意的是,當(dāng)前5G得到了高速發(fā)展,6G 的研究也在如火如荼地進(jìn)行中。但是在I A行業(yè), 許多自動(dòng)化制造商或國(guó)際組織都擁有自己的工業(yè)以太網(wǎng)協(xié)議,從功能上來看5G和6G解決的是信息與通信技術(shù)(Information and Communications Technology, ICT)層面的問題,而表1羅列的通信協(xié)議則是解決操作技術(shù)(Operational Technology, OT)層面的問題,對(duì)于邊緣計(jì)算終端的操作與數(shù)據(jù)的交互同樣重要。
3.2 實(shí)時(shí)操作系統(tǒng)
一般來說,操作系統(tǒng)(Operating System, OS)負(fù)責(zé)管理計(jì)算機(jī)的硬件資源,并運(yùn)行托管在計(jì)算機(jī)上的應(yīng)用程序,在非工業(yè)環(huán)境中,實(shí)時(shí)性并不那么重要。實(shí)時(shí)操作系統(tǒng)(Real-Time Operating System, RTOS)是專門為滿足嚴(yán)格的時(shí)間限制而設(shè)計(jì)的。大多數(shù)實(shí)時(shí)操作系統(tǒng)經(jīng)常出現(xiàn)在嵌入式系統(tǒng)中,普通用戶一般不會(huì)注意到它們。RTOS是一個(gè)具有時(shí)空分區(qū)的操作系統(tǒng),每個(gè)關(guān)鍵的操作都必須有已知的最長(zhǎng)時(shí)間,它有硬實(shí)時(shí)和軟實(shí)時(shí)兩種類別。硬實(shí)時(shí)系統(tǒng)能夠保證操作最長(zhǎng)時(shí)間的絕對(duì)性,而軟實(shí)時(shí)系統(tǒng)則允許丟失少量的數(shù)據(jù)。因此,在數(shù)據(jù)輪詢采集的過程中可以應(yīng)用軟實(shí)時(shí)系統(tǒng),但在對(duì)設(shè)備發(fā)出控制指令,要求設(shè)備進(jìn)行時(shí)間同步操作時(shí),就應(yīng)當(dāng)采用硬實(shí)時(shí)操作系統(tǒng)。
與Windows操作系統(tǒng)一樣,RTOS用來維護(hù)用戶對(duì)眾多進(jìn)程的響應(yīng)。但是Windows并不需要精確計(jì)時(shí)或延長(zhǎng)阻塞時(shí)間準(zhǔn)點(diǎn)發(fā)送控制指令。然而RTOS 是為了可靠地運(yùn)行關(guān)鍵應(yīng)用程序而設(shè)計(jì),這種可靠性包含了精確和可預(yù)測(cè)的時(shí)間。如果用戶編程正確, RTOS可以保證程序以預(yù)先設(shè)計(jì)的絕對(duì)一致時(shí)間運(yùn)行,并且不會(huì)越過最終截止時(shí)間線(Deadline)。顯然基于邊緣計(jì)算構(gòu)建IA&AI架構(gòu)應(yīng)當(dāng)采用RTOS才能滿足工業(yè)控制指令下發(fā)的確定性。表2列出了部分RTOS和官方網(wǎng)站。
表2 國(guó)內(nèi)外部分RTOS
RTOS具有高精度定時(shí)、多級(jí)中斷和實(shí)時(shí)調(diào)度等特點(diǎn)。目前,很多操作系統(tǒng)忽略了實(shí)時(shí)性能,源于民用場(chǎng)合的要求相對(duì)較低,通常以提高吞吐能力運(yùn)行更多任務(wù)為目標(biāo),導(dǎo)致了對(duì)硬件的極致需求。
3.3 實(shí)時(shí)調(diào)度
事實(shí)上,實(shí)時(shí)與吞吐是一對(duì)矛盾關(guān)系,為了實(shí)現(xiàn)負(fù)載均衡,內(nèi)容分發(fā)網(wǎng)絡(luò)(Content Delivery Net work, CDN)是一種提高互聯(lián)網(wǎng)服務(wù)質(zhì)量的有效途徑[ 1 7 ] 。 C D N 能夠?qū)?nèi)容從來源地復(fù)制到副本服務(wù)器提高訪問的響應(yīng)速度。軟件定義網(wǎng)絡(luò)(Software Defined Network,SDN)則把網(wǎng)絡(luò)變?yōu)榱斯艿溃沟脭?shù)據(jù)流轉(zhuǎn)變得更加智能[18]。依靠CDN和SDN在不同設(shè)備間的程序調(diào)度不再變得那么困難,基于嵌入式的輕量級(jí)容器技術(shù)[19]則更進(jìn)一步地推動(dòng)了實(shí)現(xiàn)該平臺(tái)的難度。基于此,如圖3所示,采用RTOS構(gòu)建虛擬計(jì)算,在滿足系統(tǒng)的單機(jī)實(shí)時(shí)性能要求的同時(shí),把剩余的算力提取出來幫助其它計(jì)算能力相對(duì)較弱或計(jì)算繁忙的設(shè)備分擔(dān)計(jì)算任務(wù),那么邊緣計(jì)算將變成可橫向擴(kuò)展算力的新型架構(gòu)。
圖3 三實(shí)時(shí)IA&AI軟硬件架構(gòu)
圖3可以是一個(gè)可擴(kuò)展平臺(tái),能夠在邊緣側(cè)完成自和智能控制。所有的I/O模塊通過RTE與上層硬件
連接,然而具體生產(chǎn)程序在哪一個(gè)RTOS上運(yùn)行卻不確定,這與云計(jì)算的方法一致。此外,右側(cè)的GPU服務(wù)器可以增強(qiáng)深度學(xué)習(xí)的訓(xùn)練和推理能力。
三實(shí)時(shí)IA&AI邊緣計(jì)算架構(gòu)應(yīng)具有以下特點(diǎn):
(1) 確定性:信號(hào)傳送確定性、計(jì)算任務(wù)確定性;
(2) 可擴(kuò)展性:可不改變?cè)瓉斫泳€動(dòng)態(tài)增加算力;
(3)靈活性:可柔性調(diào)用不同的程序完成生產(chǎn);
(4)兼容性:兼容PLC編程方法;
(5)穩(wěn)定性:達(dá)到工業(yè)級(jí)別穩(wěn)定性要求;
(6)高速性:達(dá)到時(shí)運(yùn)動(dòng)控制實(shí)時(shí)響應(yīng)要求;
(7)融合性:實(shí)現(xiàn)自動(dòng)化與人工智能的平臺(tái)融合。
4 三實(shí)時(shí)架構(gòu)的云邊端互補(bǔ)
邊緣計(jì)算不是云計(jì)算的替代品,相反,它是云計(jì)算的補(bǔ)充,但是依靠實(shí)時(shí)邊緣計(jì)算卻完全可以取代傳統(tǒng)的工業(yè)自動(dòng)化控制器。事實(shí)上,在過去的30年里, PLC的性能變化不大,邊緣計(jì)算正好可以補(bǔ)足PLC的缺點(diǎn)。因此,本文的研究依托云南省高校邊緣計(jì)算網(wǎng)絡(luò)工程研究中心,建設(shè)三實(shí)時(shí)IA&AI邊緣計(jì)算平臺(tái)并命名為工業(yè)物理信息智能控制操作系統(tǒng)(Industrial Cyber Intelligent Control Operating System, ICICOS)[20]。該平臺(tái)擬通過整合物理I/O、邊緣計(jì)算平臺(tái)、云計(jì)算平臺(tái),實(shí)現(xiàn)對(duì)工業(yè)的智能化升級(jí)改造, 如圖4所示。
圖4 工業(yè)物理信息智能控制操作系統(tǒng)
5 總結(jié)與展望
本文提出了一種基于邊緣計(jì)算的三實(shí)時(shí)IA&AI體系架構(gòu),通過對(duì)邊緣計(jì)算、IA、AI等梳理,給出了工業(yè)自動(dòng)化向智能化轉(zhuǎn)型升級(jí)的思路。希望對(duì)該架構(gòu)的研究引起業(yè)界的廣泛關(guān)注。展望未來,我們將依托工程研究中心聚集國(guó)內(nèi)外優(yōu)秀人才,共同建設(shè)ICICOS邊緣計(jì)算平臺(tái),開展實(shí)時(shí)算法、工業(yè)控制器虛擬化、嵌入式AI、人工智能訓(xùn)練和推理等研究工作。
★基金項(xiàng)目:云南省第七批高校重點(diǎn)實(shí)驗(yàn)室和工程研究中心建設(shè)項(xiàng)目——云南省高校邊緣計(jì)算網(wǎng)絡(luò)工程研究中心;云南省教育廳科學(xué)研究基金項(xiàng)目(2021J0893)。
作者簡(jiǎn)介:
蘇為斌(1983-),男,云南通海人,副教授,碩士,現(xiàn)就職于云南工商學(xué)院智能科學(xué)與工程學(xué)院,擔(dān)任云南省高校邊緣計(jì)算網(wǎng)絡(luò)工程研究中心負(fù)責(zé)人,主要研究方向?yàn)檫吘売?jì)算、工業(yè)自動(dòng)化、人工智能等。
潘明波(1984-),男,江蘇鎮(zhèn)江人,副教授,碩士, 現(xiàn)任云南工商學(xué)院智能科學(xué)與工程學(xué)院院長(zhǎng),主要研究方向?yàn)檫吘売?jì)算、計(jì)算機(jī)科學(xué)等。
徐 剛(1978-),男,湖北宜昌人,副教授,碩士,現(xiàn)就職于云南工商學(xué)院智能科學(xué)與工程學(xué)院,主要研究方向?yàn)榫W(wǎng)絡(luò)工程、云計(jì)算、創(chuàng)新創(chuàng)業(yè)等。
董家瑞(1983-),男,云南通海人,工程師,學(xué)士,現(xiàn)就職于云南云創(chuàng)數(shù)字生態(tài)科技有限公司,主要研究方向?yàn)閿?shù)據(jù)通信、區(qū)塊鏈、數(shù)據(jù)應(yīng)用等。
參考文獻(xiàn):
[1] Li-Yung Ho, Jan-Jan Wu, Pangfeng Liu. Adaptive communication for distributed deep learning on commodity GPU cluster[P]. Cluster, Cloud and Grid Computing, 2018.
[2] Goldschmidt T, Murugaiah M K, Sonntag C, et al. Cloud-Based Control: A Multi-tenant, Horizontally Scalable Soft PLC[C]. IEEE International Conference on Cloud Computing. IEEE, 2015.
[3] Lin C L, Chen C H, Huang H C. Stabilizing control of networks with uncertain time varying communication delays[J]. Control Engineering Practice, 2008, 16 (1) : 56 - 66.
[4] Jiqiang X, Quan C, Ronggang B. Modeling and quantitative real-time analysis of Ethernet based on CSMA/CD[C]. IEEE Conference Anthology. IEEE, 2014.
[5] Stankovic J A. Misconceptions about real-time computing: a serious problem for next-generation systems[J]. Computer, 1988, 21 (10) : 10 - 19.
[6] Huangke Chen, Xiaomin Zhu, Hui Guo, Jianghan Zhu, Xiao Qin, Jianhong Wu. Towards energy-efficient scheduling for real-time tasks under uncertain cloud computing environment[J]. The Journal of Systems & Software, 2015, (8) : 99.
[7] Dharinya S S, Ephzibah E P. Machine Intelligence and Automation: Deep Learning Concepts Aiding Industrial Applications[M]. Internet of Things for Industry 4.0. 2020.
[8] Felser M. Real-Time Ethernet - Industry Prospective[J]. Proceedings of the IEEE, 2005, 93 (6) : 1118 - 1129.
[9] Li Lu, Dong-qin Feng, Jian Chu. Improving the real-time performance of Ethernet for plant automation (EPA) based industrial networks[J]. Journal of Zhejiang University SCIENCE C, 2013, 14 (6).
[10] 邵枝暉, 康良川, 黃易, 薛百華, 朱瑩. AUTBUS高速工業(yè)現(xiàn)場(chǎng)總線[J]. 儀器儀表標(biāo)準(zhǔn)化與計(jì)量, 2020, (02) : 9 - 12.
[11] Ferrari P, Flammini A, Rinaldi S, et al. On the Seamless Interconnection of IEEE1588-Based Devices Using a PROFINET IO Infrastructure[J]. IEEE Transactions on Industrial Informatics, 2010, 6 (3) : 381 - 392.
[12] Limal S, Stéphane Potier, Denis B, et al. Formal verification of redundant media extension of Ethernet PowerLink[C]. IEEE Conference on Emerging Technologies & Factory Automation. IEEE, 2009.
[13] Evaluation of EtherCAT Clock Synchronization in Distributed Control Systems[J]. A, 2014, 38 (7).
[14] Depari A, Ferrari P, Flammini A, et al. Design and performance evaluation of a distributed WirelessHART sniffer based on IEEE1588[C]. Precision Clock Synchronization for Measurement, Control and Communication, 2009. International Symposium on. IEEE, 2009.
[15] 王平, 劉其琛, 王恒, 李同波. 一種適用于ISA100.11a工業(yè)無線網(wǎng)絡(luò)的通信調(diào)度方法[J]. 儀器儀表學(xué)報(bào), 2011, 32 (05) : 1189 - 1195.
[16] 曾鵬, 等. 面向工業(yè)無線網(wǎng)絡(luò)協(xié)議WIA-PA的網(wǎng)絡(luò)設(shè)備研發(fā)及應(yīng)用(大規(guī)模應(yīng)用)[Z]. 2015.
[17] 趙紅. CDN內(nèi)容分發(fā)網(wǎng)絡(luò)技術(shù)原理[A]. 建筑科技與管理學(xué)術(shù)交流會(huì)論文集[C]. 2017.
[18] 李藝, 唐宏, 馬樞清. 軟件定義網(wǎng)絡(luò)基于分段路由的多路徑調(diào)度算法[J]. 計(jì)算機(jī)應(yīng)用研究, 2021.
[19] 彭博, 楊鵬, 馬志程, 等. Performace measurement and analysis of ARM embedded platform using Docker container[J]. 計(jì)算機(jī)應(yīng)用, 2017, 037 (s1) : 325 - 330.
[20] 蘇為斌. ICICOS工業(yè)云智能控制系統(tǒng)的研究與開發(fā)[D]. 濟(jì)南: 山東大學(xué), 2020.
摘自《自動(dòng)化博覽》2021年2月刊