安科瑞 陳聰

摘要:大量電動(dòng)汽車(chē)(EV)用戶(hù)的無(wú)序充電可能造成電網(wǎng)負荷劇烈波動(dòng),危及電網(wǎng)的安全穩定。隨著(zhù)EV入網(wǎng)(V2C)技術(shù)的應用,將EV充電站及其周邊的分布式新能源發(fā)電聚合為虛擬電廠(chǎng)(VPP)后進(jìn)行優(yōu)化調度,有助于改善EV用戶(hù)充放電的經(jīng)濟性及滿(mǎn)意度,同時(shí)提高分布式新能源的利用率,平抑電網(wǎng)負荷波動(dòng),但EV充電站的整體充放電負荷是大量個(gè)體EV用戶(hù)隨機行為的聚合,難以用數學(xué)模型精確描述。針對包含EV的VPP,提出一種基于深度強化學(xué)習的交互式調度框架,以*大化VPP內EV用戶(hù)的總效益。VPP控制中心作為智能體決策EV個(gè)體的充放電動(dòng)作,無(wú)需掌握個(gè)體詳細模型,而是通過(guò)與區域電網(wǎng)環(huán)境的交互,不斷學(xué)習和更新動(dòng)作策略,從而克服集中式優(yōu)化方法的局限性。該優(yōu)化調度框架采用深度確定性策略梯度(DDPG)算法進(jìn)行求解。仿真結果表明,與集中式優(yōu)化方法相比,該優(yōu)化算法提高了各EV用戶(hù)的效益,并使EV充放電負荷與分布式新能源發(fā)電協(xié)調配合實(shí)現削峰填谷，改善了VPP的整體運行性能。

關(guān)鍵詞:虛擬電廠(chǎng);電動(dòng)汽車(chē);V2G;分布式新能源;深度確定性策略梯度算法;優(yōu)化調度;強化學(xué)習

一、引言

大量電動(dòng)汽車(chē)(Electric Vehicle,EV)的無(wú)序充電不僅會(huì )影響電網(wǎng)的安全穩定運行,而且會(huì )給用戶(hù)造成經(jīng)濟損失。事實(shí)上,EV充電負荷不僅具有較大的調節彈性,而且可以基于E人網(wǎng)(Vehicle toGrid,V2G)技術(shù)實(shí)現發(fā)電和用電側的角色轉換,具備很大的優(yōu)化調度潛力。通過(guò)搭建虛擬電廠(chǎng)(Virtual Power Plant,VPP)整合區域配電網(wǎng)中的EV充放電負荷及分布式新能源發(fā)電資源,合理引導EV用戶(hù)的充放電行為,不但可以降低EV車(chē)主的充電費用,提高充電需求滿(mǎn)足程度,同時(shí)可使EV充放電負荷與分布式新能源發(fā)電協(xié)調配合,提高新能源利用率,平抑 VPP整體負荷的波動(dòng)。VPP是電力系統中智能配電網(wǎng)運行的重要技術(shù),通過(guò)創(chuàng )建一個(gè) VPP控制中心,可以將配電網(wǎng)中的EV充放電負荷與分布式新能源聚合為一個(gè)整體參與電網(wǎng)運行,更好地發(fā)掘EV充放電負荷與分布式新能源的價(jià)值和效益。

然而,在上述包含EV充放電負荷及分布式新能源的VPP中,EV充電站的總負荷特性是大量個(gè)體EV用戶(hù)隨機充放電行為的聚合,難以對其進(jìn)行精確的數學(xué)建模和準確預測,這給傳統的基于負荷預測進(jìn)行優(yōu)化計算的集中式調度模式帶來(lái)了挑戰。解決這一難點(diǎn)的一種有效途徑是采用基于強化學(xué)習(Reinforcement Leaming,RL)方法的交互式優(yōu)化調度模式。該模式中,VPP控制中心作為智能體,包含EV個(gè)體用戶(hù)及分布式新能源的區域電網(wǎng)為智能體所在的環(huán)境。VPP控制中心在不掌握EV個(gè)體用戶(hù)詳細模型的情況下給出EV個(gè)體的充放電動(dòng)作決策,并通過(guò)與區域電網(wǎng)的交互評估當前決策的性能,不斷學(xué)習和更新動(dòng)作策略,直至得到令人滿(mǎn)意的優(yōu)化決策?；谥悄荏w與環(huán)境之間信息交互的RL方法可以在缺乏精確數學(xué)模型的情況下模擬順序決策問(wèn)題并獲得對環(huán)境的精準響應。這種基于R的交互式調度模式克服了傳統集中式調度的局限性,有望在 VPP 優(yōu)化調度中得到應用。

二、含 EV的 VPP 優(yōu)化調度模型

考慮一個(gè)VPP,其中包含EV充電站及分布式新能源發(fā)電2類(lèi)對象。對該VPP在T=24h范圍內進(jìn)行優(yōu)化調度,時(shí)間段表示為t=,決策間隔Δt=1 h。

假設 VPP中充電站內有足夠多的充電樁,在T時(shí)間范圍內共有I輛EV隨機進(jìn)入充電站,每輛EV進(jìn)站后即連接到充電樁變?yōu)樯暇€(xiàn)狀態(tài);當EV的電池荷電狀態(tài)(State of Charge,S0C)達到充電上限后即自動(dòng)斷開(kāi)充電樁連接,變?yōu)殡x線(xiàn)狀態(tài)。第i輛E在充電站內的在線(xiàn)時(shí)段表示為集合T_i^on={t_i^on,…,t_i^out},其中t_i^on和t_i^out分別為上線(xiàn)和離線(xiàn)時(shí)間。VPP控制中心作為智能體,在T_i^on時(shí)段內可以通過(guò)對充電樁的智能控制,決策第i輛EV的充放電功率，而在其他時(shí)段該EV不進(jìn)行任何充放電行為。

VPP中的分布式新能源發(fā)電資源由若干分布式風(fēng)機單元和分布式光伏板單元組成,VPP控制中心在分布式發(fā)電資源的可發(fā)電功率范圍內決策其實(shí)際出力。

三、基于RL的VPP優(yōu)化調度方法

傳統的集中調度模式難以對EV個(gè)體用戶(hù)充放電負荷做出精確預測,因此,本節基于方法,提出一種交互式的 VPP優(yōu)化調度框架。VPP控制中心作為一個(gè)智能體,不需要事先掌握EV個(gè)體用戶(hù)及分布式新能源的精確模型及負荷預測,而是通過(guò)充電樁與EV個(gè)體用戶(hù)交互,即下發(fā)充放電動(dòng)作和獲取用戶(hù)獎勵值,經(jīng)R逐步得到令人滿(mǎn)意的調度策略。

RL是一個(gè)包含(S,A,P,R,γ)5個(gè)元素的馬爾可夫決策過(guò)程,其中:S為智能體的狀態(tài)空間;A為智能體的動(dòng)作空間;P為狀態(tài)轉移概率;R為獎勵函數;γ為折扣因子。本文建立的 VPP優(yōu)化調度模型可描述為圖1所示的 RL框架,其中VPP控制中心為智能體(Agent),VPP區域電網(wǎng)為環(huán)境(Environment),包括狀態(tài)(State)、動(dòng)作(Action)和獎勵(Reward)三大要素。

圖1 用于VPP優(yōu)化調度的RL框架

四、解決方案

圖2 平臺結構圖

充電運營(yíng)管理平臺是基于物聯(lián)網(wǎng)和大數據技術(shù)的充電設施管理系統，可以實(shí)現對充電樁的監控、調度和管理，提高充電樁的利用率和充電效率，提升用戶(hù)的充電體驗和服務(wù)質(zhì)量。用戶(hù)可以通過(guò)APP或小程序提前預約充電，避免在充電站排隊等待的情況，同時(shí)也能為充電站提供更準確的充電需求數據，方便后續的調度和管理。通過(guò)平臺可對充電樁的功率、電壓、電流等參數進(jìn)行實(shí)時(shí)監控，及時(shí)發(fā)現和處理充電樁故障和異常情況對充電樁的功率進(jìn)行控制和管理，確保充電樁在合理的功率范圍內充電，避免對電網(wǎng)造成過(guò)大的負荷。

五、安科瑞充電樁云平臺具體的功能

平臺除了對充電樁的監控外，還對充電站的光伏發(fā)電系統、儲能系統以及供電系統進(jìn)行集中監控和統一協(xié)調管理，提高充電站的運行可靠性，降低運營(yíng)成本，平臺系統架構如圖3所示。

圖3 充電樁運營(yíng)管理平臺系統架構

大屏顯示：展示充電站設備統計、使用率排行、運營(yíng)統計圖表、節碳量統計等數據。

圖4 大屏展示界面

站點(diǎn)監控：顯示設備實(shí)時(shí)狀態(tài)、設備列表、設備日志、設備狀態(tài)統計等功能。

圖5 站點(diǎn)監控界面

設備監控：顯示設備實(shí)時(shí)信息、配套設備狀態(tài)、設備實(shí)時(shí)曲線(xiàn)、關(guān)聯(lián)訂單信息、充電功率曲線(xiàn)等。

圖6 設備監控界面

運營(yíng)趨勢統計：顯示運營(yíng)信息查詢(xún)、站點(diǎn)對比曲線(xiàn)、日月年報表、站點(diǎn)對比列表等功能。

圖7 運營(yíng)趨勢界面

收益查詢(xún)：提供收益匯總、實(shí)際收益報表、收益變化曲線(xiàn)、支付方式占比等功能。

圖8 收益查詢(xún)界面

故障分析：提供故障匯總、故障狀態(tài)餅圖、故障趨勢分析、故障類(lèi)型餅圖等功能。

圖9 故障分析界面

訂單記錄：提供實(shí)時(shí)/歷史訂單查詢(xún)、訂單終止、訂單詳情、訂單導出、運營(yíng)商應收信息、充電明細、交易流水查詢(xún)、充值余額明細等功能。

圖10 訂單查詢(xún)界面

六、產(chǎn)品選型

安科瑞為廣大用戶(hù)提供慢充和快充兩種充電方式，便攜式、壁掛式、落地式等多種類(lèi)型的充電樁，包含智能7kw/21kw交流充電樁，30kw直流充電樁，60kw/80kw/120kw/180kw直流一體式充電樁來(lái)滿(mǎn)足新能源汽車(chē)行業(yè)快速、經(jīng)濟、智能運營(yíng)管理的市場(chǎng)需求。實(shí)現對動(dòng)力電池快速、高效、安全、合理的電量補給，同時(shí)為提高公共充電樁的效率和實(shí)用性，具有有智能監測：充電樁智能控制器對充電樁具備測量、控制與保護的功能；智能計量：輸出配置智能電能表，進(jìn)行充電計量，具備完善的通信功能；云平臺：具備連接云平臺的功能，可以實(shí)現實(shí)時(shí)監控，財務(wù)報表分析等等；遠程升級：具備完善的通訊功能，可遠程對設備軟件進(jìn)行升級；保護功能：具備防雷保護、過(guò)載保護、短路保護，漏電保護和接地保護等功能；適配車(chē)型：滿(mǎn)足國標充電接口，適配所有符合國標的電動(dòng)汽車(chē)，適應不同車(chē)型的不同功率。下面是具體產(chǎn)品的型號和技術(shù)參數。

七、現場(chǎng)圖片

八、結論

本文基于R框架,研究了含EV充放電負荷與分布式新能源發(fā)電的 VPP優(yōu)化調度問(wèn)題,以*大化VPP 運行總效益為目標。針對上述VPP,提出了基于R的交互式調度框架。交互式調度幫助EV用戶(hù)實(shí)現了較低的充電費用和較高的充電滿(mǎn)意度。后續會(huì )對電價(jià)動(dòng)態(tài)變化機制下含EV充放電負荷的 VPP優(yōu)化調度問(wèn)題進(jìn)行研究,將在 VPP 中加入儲能單元,與EV充放電負荷和分布式新能源發(fā)電配合,進(jìn)一步改善 VPP運行性能。