項目:專注力輔助訓練裝備
作品背景
線上教育日益發展、網絡教育資源日益優化的當今,如何提高學生在無人監督環境下的專注力水平,以及實現師生有效交流,成為了線上教育進一步發展的必要需求。本項目針對該問題提出了一個解決方案,即以學生的姿態及面部信息為基礎,通過檢測、判斷、識別等手段,為教育平台提供一定的反饋,例如捕獲學生的疑惑表情以及相應動作,給老師傳遞即時信息,促進師生的交流。同時,若能夠將項目進一步延伸,線下授課以及考試等同樣有其功能,特別是涉及到高考等規格高、規模大的考試,實現人工智能監考。
作品功能
以圖像識別,姿勢識別,面部神態識別為基礎,對學生學習的專注力水平進行評定,得到的專注力信息以及專注力谷峰對應的視頻剪輯結果通過藍牙傳送給手機APP或者電腦軟件,APP或者軟件對信息進行處理,對學生進行監督提醒,對老師進行反饋。從而提高授課效率以及學生專注力的訓練。
技術實現
綜上所述,該系統的工作分為三個階段,即專注力收集,專注力分析以及視頻剪輯,應用端對老師學生進行反饋。
目前各個功能的實現方案:
姿勢識別:自己復現現有模型以及使用數據集識別出人體的關節,數據集方面將網上現有的數據集進行重新標注,加上自己收集的數據集,將輸出作為專注力評分的標准之一。例如商湯的視覺處理開源項目openmmlab便是一個比較好的參考對象。
神態識別:閱讀相關論文和項目實現,收集數據集,使用深度學習方法對人臉的神態進行識別,並且將模型輸出作為專注力評分的標准之一。目前的難點在於如何實現精細化的識別,因為人類的面部動作及其微妙,這因此也是我們需要克服的一個方面。分為兩個階段,第一個階段是識別人臉,使用mtcnn和facenet可以解決,第二階段打算復現論文中的模型,使用數據集CK+來實現這一功能。
專注力分析:使用mysql語言存儲收集到的各個時段的專注力信息以及得分,然后使用這些信息自己建立數學模型對專注力進行評分,並且對特定的視頻片段進行剪輯。將剪輯好的視頻和信息通過藍牙傳輸到應用端。
AI剪輯方法:根據數據庫中專注力的高峰時段,以此為依據進行視頻的挑選,使用python的moviepy庫對對采集到的視頻進行剪輯,添加字幕等操作。
反饋:使用QT軟件制作手機APP,實現彈出提醒信息,必要時候可以鎖機,並且實現專注力高峰低谷點播功能。