基于PSO-BP網絡的學習成績預測研究

王 芮

(阜陽幼兒師范高等?？茖W校，安徽 阜陽 236015)

0 引言

信息化時代背景下，傳統的課堂變成了以電腦、手機及移動終端為輔助的網絡課堂，學生可以隨時隨地學習。對學生學習成績的預測是教師及時了解學生學習情況，有的放矢地調整教學方案，制定更加具有針對性學習方案的關鍵所在。神經網絡是采用一種類似于大腦神經突觸連接結構的信息處理模型，目前被廣泛應用于成績預測中。BP(back propagation)神經網絡是一種按照誤差逆向傳播算法訓練的多層前饋神經網絡，在實際使用過程中存在算法收斂速度慢、效率低下等問題。粒子群優化算法(particle swarm optimization)，簡稱PSO算法，是一種通過模擬鳥群覓食行為發展起來的隨機搜索算法，將PSO算法對BP神經網絡初始化權重系數進行優化可以達到提高網絡收斂速度的目的[1]?；诖?，本文采用PSO-BP網絡對學習成績的預測問題進行研究。

1 PSO-BP網絡

1.1 BP神經網絡

BP神經網絡是按照誤差逆向傳播算法訓練的多層前饋神經網絡，由Rumelhart提出，在實際工程中具有廣泛的應用。典型的BP神經網絡共包含三層，分別為輸入層、隱含層和輸出層，具體如圖1所示[2]。

圖1 典型BP神經網絡結構

BP網絡計算包括正向傳播和誤差逆向傳播兩個過程，正向傳播過程為x從輸入層傳遞到隱含層，同時從隱含層傳遞到輸出層。如果輸出層的輸出數據y和期望值不匹配，那么就會進入到誤差反向傳播階段。通過誤差反向傳播來不斷地修正連接的權重，從而達到誤差逐漸減少的目的。設BP網絡從輸入層到隱含層的權值矩陣為ω1，偏差矩陣為b1；從隱含層到輸出層的權值矩陣為ω2，偏差矩陣為b2；從輸入層到隱含層的神經元傳輸函數為f1，從隱含層到輸出層的神經元傳輸函數為f2，那么

y=f2(ω1f1(ω1x-b1)-b2)

(1)

采用梯度下降法對所建立的BP神經網絡進行不斷地學習和訓練使得網絡的權值和閾值調整，最終達到網絡輸出值和期望輸出值之間的均方根誤差達到最小值。

1.2 PSO優化算法

PSO優化算法是根據鳥類覓食的自然現象提出的。在鳥兒覓食的開始階段，每一只鳥的位置都是獨立的，覓食方向是隨機不確定的。在鳥兒覓食的過程中，已經尋找到食物的鳥兒通過和其他尚未尋找到食物的鳥兒進行信息交換，那么整個鳥群中鳥覓食的方向就會向目標位置靠近。在整個鳥群中，每一只鳥都會結合系統中距離食物最近的鳥兒的位置和隨后的覓食方向進行優化處理。

PSO優化算法是在搜索空間初始化一組隨機粒子，通過迭代找到最優解。在粒子群中，每一個隨機粒子都有自己的位置、速度和適應度值，采用適應度函數來計算粒子的適應度值，每一個粒子個體的位置都有個體的極值和群體的極值進行更新。假定在D維空間中有N個粒子，PSO算法的基本參數定義如下：

粒子i的位置為xi=(xi1,xi2,……,xiD)，粒子i的速度為vi=(vi1,vi2,……,viD)，粒子經歷過的最佳位置為pi=(pi1,pi2,……,piD)，種群經歷過的最佳位置為pg=(pg1,pg2,……,pgD)，那么速度更新公式和位置更新公式分別為

vid(k+1)=wvid(k)+c1randid(·)[pid(k)-xid(k)]+c2randid(·)[pgl(k)-xid(k)]

(2)

vid(k+1)=xid(k)+vid(k+1)

(3)

其中，w為慣性權重，c1和c2為加速學習系數，k為當前迭代次數，rand(·)為隨機函數。

由公式(2)可知，速度更新公式包含了三個部分，第一部分為粒子自身的運動，其取決于粒子自身初始速度和慣性權重w；第二部分為粒子對自身位置和其在全局最優位置之間距離的判斷，是粒子不斷認知的過程；第三部分為粒子自身位置和全局最優位置之間的判斷，是社會的影響過程。PSO算法流程圖如圖2所示。

圖2 PSO算法流程圖

1.3 PSO-BP神經網絡

BP神經網絡采用梯度下降法進行學習訓練，其速度比較慢，同時網絡的初始權值和初始閾值對輸出的結果具有比較大的影響，如果選擇不當容易在學習訓練的過程中陷入局部最優的狀態。采用PSO算法對BP網絡進行優化，得到PSO-BP神經網絡，PSO-BP流程圖如圖3所示[3]。

圖3 PSO-BP網絡流程圖

由圖3可知，采用PSO-BP網絡進行學習成績的預測首先需要確定BP網絡的結構，對粒子的位置和速度進行初始化處理。由于對不同的數據采用的計算方法存在差別，因此要對原始的輸入數據進行歸一化處理，歸一化處理的公式為[4]

(4)

其中，x′表示歸一化的數據，xmin表示原始數據的最小值，xmax表示原始數據的最大值。

采用初始化的數據進行網絡訓練，同時將訓練的誤差作為粒子的適應度值，選擇粒子個體的最優位置作為全局最優位置。按照粒子位置和速度更新公式進行粒子位置和速度的更新，同時計算更新之后的粒子適應度。比較粒子群中的每一個粒子最好位置所對應的適應度，將適應度最小的粒子作為全局最優位置，同時判斷是否達到了全局最優位置或是否達到了最大的迭代次數。如果達到了全局最優位置或者達到了最大的迭代次數，那么停止迭代，將PSO優化后的解作為BP神經網絡的初始權值，同時進行網絡的訓練，將訓練好的BP網絡用于數據的預測。

2 學習成績預測

2.1 數據預處理

在智慧校園背景下，學生的學習成績數據可以通過學校的網絡中心獲得。本文對某省屬重點大學的學生成績進行預測，所獲取的數據包括學生的姓名、學號、課程名稱、課程性質、課程代碼等。對于所獲得的原始數據要進行預處理，即將缺考學生、補考學生、非正?？荚図?、課程名稱進行刪除，得到預處理的數據，其格式如表1所示。

不同的課程之間有的存在比較高的相關度，有的存在比較低的相關度，采用比較多的課程成績對目標課程成績進行預測會使得算法參數變得

表1 預處理后學生數據

十分復雜，收斂的速度變慢，同時部分的課程成績對目標課程成績的預測是干擾項，影響了目標課程成績預測結果。本文采用Apriori算法計算課程成績和目標課程成績之間的相關度，按照相關度的大小選擇四門相關度比較強的課程對目標課程進行成績預測[5]。通過對大量原始數據的處理將其簡化為只包含四門相關課程和一門目標課程的成績數據表，保存一部分數據作為訓練數據，同時另外一部分作為檢測預測結果的數據。

2.2 模型訓練與成績預測

采用PSO優化算法對BP神經網絡的初始化權值和閾值進行優化處理。PSO算法的參數選擇對優化的結果具有比較大的影響，通過試驗得到PSO算法的較優參數設置結果，即學習因子c1=1.46，c2=1.48，最大迭代次數Tmax=60，種群規模N=10，慣性權重ωmax=0.9，ωmin=0.3，初始化速度在閉區間[-1,1]。采用MATLAB軟件編制PSO-BP程序，得到均方根誤差變化曲線圖如圖4所示。

圖4 均方根誤差變化曲線圖

將PSO-BP網絡用于目標課程學習成績的預測中，同時為了對比PSO-BP網絡和BP網絡對目標課程學習成績的預測精度，采用BP網絡對目標課程學習成績進行預測，對比結果如表2所示。

表2 目標課程成績預測結果對比

由表2可知，不論是采用BP網絡還是采用PSO-BP網絡，其對目標課程成績的預測相對誤差均在5.0%以內，同時PSO-BP網絡對目標課程成績的預測精度更高，相對誤差在2.0%以內。按照[90,100]為優、[80,90)為良、[70,80)為中、[60,70)為差、[0,60)為不及格的規則對目標課程成績進行劃分，很明顯采用BP神經網絡去預測實際成績為81、73、61三名學生的成績時出現了錯誤。

2.3 學習成績預測建議

分別采用BP神經網絡和PSO-BP神經網絡對目標課程學習成績進行預測，結果表明采用PSO-BP神經網絡對目標課程學習成績預測的精度比較高，但是采用神經網絡對目標課程成績的預測不宜采用等級規則對學生的學習成績進行預測，這因為在90分左右、80分左右、70分左右以及60左右的學生很容易被誤判，如本應該是及格而采用神經網絡預測的結果為不及格，這明顯是錯誤的，也不利于更加客觀地對學生的該門課程進行評價。智慧課堂背景下，基于PSO-BP網絡的學習成績預測可以比較精確地給出課程的分數，這有助于教師按照學習成績的預測結果更加具有針對性地去調整教學方案、優化課程資源、不斷地提高教學質量和教學效率。

3 結論

智慧課堂背景下對學習成績的預測至關重要，可以及時調整教學方案、優化教學資源、提高教學質量，本文采用PSO-BP網絡搭建了學習成績預測模型，對原始數據進行預處理，同時采用Apriori算法計算課程成績和目標課程成績之間的相關度，通過相關度的大小選擇四門相關度比較強的課程來對目標課程成績進行預測，同時采用BP網絡對目標課程成績進行預測對比。結果表明PSO-BP網絡對學習成績的預測精度比較高，而采用BP網絡預測的成績如果采用等級評價法，其評價的結果出現了錯誤。本文的研究對目標課程學習成績的預測具有一定的參考價值，同時也是對教學資源優化配置的重要參考。