在機(jī)器學(xué)習(xí)中，隨著時(shí)間的推移，預(yù)測(cè)維修的話題變得越來(lái)越流行。
在本文中，我們將看一個(gè)分類問(wèn)題。我們將使用Keras創(chuàng)建一個(gè)卷積神經(jīng)網(wǎng)絡(luò)（CNN）模型，并嘗試對(duì)結(jié)果進(jìn)行直觀的解釋。
數(shù)據(jù)集
我決定從evergreen UCI repository（液壓系統(tǒng)的狀態(tài)監(jiān)測(cè)）中獲取機(jī)器學(xué)習(xí)數(shù)據(jù)集(https://archive.ics.uci.edu/ml/datasets/Condition+monitoring+of+hydraulic+systems#)。
該試驗(yàn)臺(tái)由一次工作回路和二級(jí)冷卻過(guò)濾回路組成，通過(guò)油箱連接。系統(tǒng)循環(huán)重復(fù)恒定負(fù)載循環(huán)（持續(xù)時(shí)間60秒）并測(cè)量過(guò)程值，例如壓力，體積流量和溫度，同時(shí)定量地改變四個(gè)液壓元件(冷卻器、閥門、泵和蓄能器)的狀態(tài)。
我們可以想象有一個(gè)液壓管道系統(tǒng)，該系統(tǒng)周期性地接收到由于管道內(nèi)某種液體的轉(zhuǎn)變而產(chǎn)生的脈沖。此現(xiàn)象持續(xù)60秒，采用不同Hz頻率的傳感器（傳感器物理量單位采樣率，PS1 Pressure bar, PS2 Pressure bar, PS3 Pressure bar, PS4 Pressure bar, PS5 Pressure bar, PS6 Pressure bar, EPS1電機(jī)功率, FS1體積流量, FS2體積流量, TS1溫度, TS2溫度, TS3溫度, TS4溫度, VS1振動(dòng), VS1振動(dòng)、CE冷卻效率、CP冷卻功率、SE效率系數(shù)）進(jìn)行測(cè)量。
我們的目的是預(yù)測(cè)組成管道的四個(gè)液壓元件的狀況。這些目標(biāo)條件值以整數(shù)值的形式注釋（易于編碼），并告訴我們每個(gè)周期特定組件是否接近失敗。
讀取數(shù)據(jù)
每個(gè)傳感器測(cè)量的值在特定的txt文件中可用，其中每一行以時(shí)間序列的形式占用一個(gè)周期。
我決定考慮來(lái)自溫度傳感器(TS1、TS2、TS3、TS4)的數(shù)據(jù)，該傳感器的測(cè)量頻率為1 Hz(每一個(gè)cicle進(jìn)行60次觀察)。
- label = pd.read_csv('profile.txt', sep=' ', header=None)
- data = ['TS1.txt','TS2.txt','TS3.txt','TS4.txt']
- df = pd.DataFrame()
- #read and concat data
- for txt in data:
- read_df = pd.read_csv(txt, sep=' ', header=None)
- df = df.append(read_df)
- #scale data
- def scale(df):
- return (df - df.mean(axis=0))/df.std(axis=0)
- df = df.apply(scale)
對(duì)于第一個(gè)周期，我們從溫度傳感器得到這些時(shí)間序列:
Temperature Series for cicle1 from TS1 TS2 TS3 TS4
機(jī)器學(xué)習(xí)模型
為了捕捉有趣的特征和不明顯的相關(guān)性，我們決定采用一維卷積神經(jīng)網(wǎng)絡(luò)（CNN）。這種機(jī)器學(xué)習(xí)模型非常適合對(duì)傳感器的時(shí)間序列進(jìn)行分析，并強(qiáng)制在短的固定長(zhǎng)度段中重塑數(shù)據(jù)。
我選擇了Keras網(wǎng)站上描述的卷積神經(jīng)網(wǎng)絡(luò)（CNN），并更新了參數(shù)。該機(jī)器學(xué)習(xí)模型的建立是為了對(duì)制冷元件的狀態(tài)進(jìn)行分類，僅對(duì)給出溫度時(shí)間序列的數(shù)組形式(t_period x n_sensor for each single cycle)作為輸入。
- n_sensors, t_periods = 4, 60
- model = Sequential()
- model.add(Conv1D(100, 6, activation='relu', input_shape=(t_periods, n_sensors)))
- model.add(Conv1D(100, 6, activation='relu'))
- model.add(MaxPooling1D(3))
- model.add(Conv1D(160, 6, activation='relu'))
- model.add(Conv1D(160, 6, activation='relu'))
- model.add(GlobalAveragePooling1D())
- model.add(Dropout(0.5))
- model.add(Dense(3, activation='softmax'))
- model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])
- BATCH_SIZE, EPOCHS = 16, 10
- history = model.fit(X_train, y_train, batch_size=BATCH_SIZE,
- epochs=EPOCHS, validation_split=0.2, verbose=1)
在這種情況下只有10個(gè)epochs，我們能夠取得驚人的成果！
對(duì)測(cè)試數(shù)據(jù)進(jìn)行預(yù)測(cè)，機(jī)器學(xué)習(xí)模型達(dá)到0.9909的準(zhǔn)確度
因?yàn)橥ㄟ^(guò)這種方式，我們能夠檢測(cè)并防止系統(tǒng)中可能出現(xiàn)的故障。
可視化結(jié)果
如果我們想要對(duì)系統(tǒng)狀態(tài)有一個(gè)總體的了解，那么查看圖形表示可能會(huì)很有用。為了達(dá)到這一目標(biāo)，我們重新利用我們?cè)谏厦鏄?gòu)建的卷積神經(jīng)網(wǎng)絡(luò)（CNN）來(lái)制作一個(gè)解碼器，并從每個(gè)周期的時(shí)間序列中提取特征。使用keras，這可以在一行Python代碼中實(shí)現(xiàn)：
- emb_model = Model(inputs=model.input, outputs=model.get_layer('global_average_pooling1d_1').output)
新模型是一個(gè)解碼器，它接收與分類任務(wù)中使用的NN格式相同的輸入數(shù)據(jù)(t_period x n_sensor for each single cycle)，并以嵌入形式返回“預(yù)測(cè)”，嵌入形式來(lái)自具有相對(duì)維數(shù)的GlobalAveragePooling1D層(每一個(gè)循環(huán)有160個(gè)嵌入變量)。
使用我們的編碼器在測(cè)試數(shù)據(jù)上計(jì)算預(yù)測(cè)，采用技術(shù)來(lái)減小尺寸（如PCA或T-SNE）并繪制結(jié)果，我們可以看到：
- tsne = TSNE(n_components=2, random_state=42, n_iter=300, perplexity=5)
- T = tsne.fit_transform(test_cycle_emb)
- fig, ax = plt.subplots(figsize=(16,9))
- colors = {0:'red', 1:'blue', 2:'yellow'}
- ax.scatter(T.T[0], T.T[1], c=[colors[i] for i in y_test])
- plt.show()
TSNE用于測(cè)試數(shù)據(jù)的循環(huán)嵌入
每個(gè)點(diǎn)都表示測(cè)試集中的一個(gè)循環(huán)，相對(duì)顏色是Cooler條件的目標(biāo)類。可以看出如何很好地定義冷卻器組件的目標(biāo)值之間的區(qū)別。這種方法是我們模型性能的關(guān)鍵指標(biāo)。
