基于深度时空卷积网络的民航需求预测

引用本文

林友芳, 康友隐, 万怀宇, 吴丽娜, 张宇翔. 基于深度时空卷积网络的民航需求预测[J]. 北京交通大学学报, 2018,42(2): 1-8.
LIN Youfang, KANG Youyin, WAN Huaiyu, WU Lina, ZHANG Yuxiang. Deep spatio-temporal convolutional networks for flight requirements prediction[J]. JOURNAL OF BEIJING JIAOTONG UNIVERSITY, 2018,42(2): 1-8.
Doi:10.11860/j.issn.1673-0291.2018.02.001 复制到剪切板

Permissions

北京交通大学学报编辑部所有

基于深度时空卷积网络的民航需求预测

林友芳², 康友隐, 万怀宇², 吴丽娜², 张宇翔³

1.北京交通大学 a.计算机与信息技术学院,北京100044;b.交通数据分析与挖掘北京市重点实验室,北京 100044

2.民航旅客服务智能化应用技术重点实验室,北京 101318

3.中国民航大学计算机科学与技术学院,天津 300300

通讯作者：万怀宇(1981—),男,湖北宣恩人,副教授,博士,博士生导师. email:hywan@bjtu.edu.cn.

第一作者:林友芳(1971—),男,福建龙岩人,教授,博士,博士生导师. 研究方向为网络科学与智能系统.email:yflin@bjtu.edu.cn.

收稿日期: 2017-09-05

基金: 国家自然科学基金(61603028,U1533104)

摘要

在线机票预订网站上的用户查询量变化是真实的民航市场需求变化的反映.通过对机票查询数据进行分析,可以准确地预测航班需求,以利于民航业做出快速的市场反应.提出了一种基于深度时空卷积神经网络的民航需求预测模型(DSTCN-FRP),将用户查询量时间序列数据转换成航线网格图,设计多层卷积神经网络来捕捉用户需求与查询数据之间的时间和空间依赖,同时加入节假日等外部因素,最后得到未来一段时间内的民航需求量.在某在线订票网站的真实查询数据集上进行了实验,结果表明:DSTCN-FRP模型优于其他现有的预测方法,其MAE比其他方法降低了15%~50%,RMSE降低了12%~28%.

关键词: 民航需求预测; 在线机票查询; 时间序列曲线; 卷积神经网络

中图分类号:TP182 文献标志码:A 文章编号:1673-0291(2018)02-0001-08

Deep spatio-temporal convolutional networks for flight requirements prediction

LIN Youfang², KANG Youyin, WAN Huaiyu², WU Lina², ZHANG Yuxiang³

1a.School of Computer and Information Technology, Beijing Jiaotong University, Beijing 100044, China;1b. Beijing Key Lab of Traffic Data Analysis and Mining, Beijing 100044, China

2. CAAC Key Lab of Intelligent Passenger Service of Civil Aviation, Beijing 101318, China

3. School of Computer Science and Technology, Civil Aviation University of China, Tianjin 300300, China

Fund:National Natural Science Foundation of China(61603028,U1533104)

Abstract

The changes of users’ query volume in online fight ticketing systems indicate the changes of requirements in civil aviation market. By analyzing users’ online query behaviors, we can accurately predict flight requirements, which is very conducive for airlines and agencies to take effective marketing actions immediately. In this paper, we propose a deep-learning-based approach, called DSTCN-FRP, to forecast flight requirements.We first transform time series data of users’ query volumes into grid map, then design multi-layer convolution neural network to capture the time and space dependency between user requirements and query data. In addition, we further add external factors, such as weather and day of the week, to predict a period of time series of flight requirements in the future. Experiments on a real-world users’ query dataset collected from an online ticketing site demonstrate that the proposed DSTCN-FRP outperforms other existing forecasting methods, where its MAE falls by 15% to 50% than other methods and RMSE falls by 12% to 28%.

Keyword: flight requirement prediction; online flight ticket query; time series curve; convolutional neural networks

文章图片

从2011年到2016年, 我国民航旅客运输量从2.93亿人次增加到4.88亿人次, 增加了66.55%, 年均增长达到13.31%^[1].随着民航市场的持续增长, 航班需求预测越来越受到航空公司、机场、机票代理等民航相关企业的关注.航班需求预测的准确性对民航收益管理有很大的影响, 有研究表明:如果需求预测准确率提高10%, 收益将会增加50%^[2].如果民航市场从业者能准确预测航班需求, 那么对民航业提前感知市场需求、提高企业收益管理水平、为各级运营部门提供决策支持都具有十分重大的意义.

一般情况下, 当人们需要坐飞机出行时, 通常会提前一段时间进行机票查询.因此, 机票查询量变化在很大程度上能够反映真实的民航市场需求变化.随着互联网和移动智能终端技术的快速发展, 用户查询机票占的比例越来越高, 为采集和分析用户查询数据提供了良好的基础.本文基于已知的历史查询量数据预测未来一段时间内的机票查询量以反映民航市场需求.

由于航班销售过程受诸多因素的影响, 历史查询规律和趋势变得非常复杂.因此, 民航需求预测具有一定的挑战性, 主要原因如下:1)机票查询数据既在时间维度上呈现趋势性和周期性, 又在空间维度上受到相同航线不同出发日期和相同出发日期其他航线的影响, 如何设计预测模型同时捕获数据在时间和空间维度上的依赖关系具有很大难度; 2)机票查询还会受到天气状态、节假日和突发性事件等外部因素的影响, 如何在模型中加入这些外部因素也是一个需要解决的问题.

目前, 交通领域的时间序列数据预测模型主要分为两大类.1)利用经典的时间序列分析及其改进方法^[3], 如历史平均模型(HA)^[4]、自回归滑动平均模型(Autoregressive Integrated Moving Average Model, ARIMA)^[5]和向量自回归模型(VAR)^[6]等.但这类模型都重点关注了数据在时间维度上的变化特点, 而无法捕获交通数据的空间依赖关系, 也不能有效描述节假日等外部因素带来的干扰.2)利用机器学习针对交通数据复杂多变的特点进行建模.近年来, 卷积神经网络(CNN)被广泛地应用到处理具有空间特点的数据(如图像、视频等)中^[7].很多学者受此启发, 将CNN深度模型应用到交通数据分析与挖掘领域, 例如, 文献[8]提出深度卷积神经网络(DCNN)预测交通流量, 有效捕获了交通数据之间的空间依赖关系.文献[9]也利用DCNN提取了交通网络流量的空间相关性.文献[10, 11]提出深度残差卷积神经网络模型(ST-ResNet)预测城市区域人口流量.该模型首先将整个城市区域进行网格化表示, 然后利用卷积神经网络挖掘城市内局部区域与其周围区域之间的关系, 同时加入了天气状态等外部因素.

综上所述, 传统的时间序列预测方法主要针对单个时间序列进行分析, 不同的方法都有其特定的适用场景.由于各航线的查询量曲线之间存在一定的相关性, 实验表明, 直接将现有的方法应用于民航机票查询量时间序列预测难以取得理想的效果.幸运的是, CNN的广泛应用为从整个航线网络而非单个时间序列的视角进行预测提供了借鉴.本文作者将机票查询量时间序列数据转化成具有空间特点的网格图, 基于这些网格图, 提出了一种新颖的基于深度时空卷积神经网络的民航需求预测模型(Deep Spatio-Temporal Convolutional Networks for Flight Requirements Prediction, DSTCN-FRP).本模型综合考虑了用户需求与查询数据之间的时间和空间依赖关系, 并加入节假日等外部因素, 最后得到未来一段时间内的民航需求量.在某在线订票网站提供的真实查询数据集上的实验结果证明:本文提出的DSTCN-FRP模型优于其他5种基本方法, 极大地提高了准确率.

1 问题定义

大量用户在一段时间内对某些航线在未来不同出发日期的查询量, 构成了多条时间序列曲线.如图1所示, 图1(a)展示了2015年5月20日至5月29日10天内用户对多条航线出发日期为2015年6月2日的每小时查询量; 图1(b)是对昆明— 长沙航线不同出发日期的每小时查询量.

	Figure Option View Download New Window
	图1 用户在线机票查询量时间序列曲线示例Fig.1 Illusion of time series of users' query volumes

传统的时间序列预测方法通常是对一条单独时间序列曲线进行分析, 捕获其趋势性和周期性, 如图1(a)所示, 北京— 青岛、北京— 厦门及上海— 北京这3条航线的每小时查询量都呈现出一定的规律和趋势. 而在民航领域, 除了查询曲线本身具有的特征外, 同一航线不同出发日期的查询曲线之间也具有较强的相关性, 如图1(b)所示, 昆明— 长沙航线不同出发日期的查询曲线在查询日期距离出发日期间隔相等的位置具有较强的相似性.此外, 如果某个城市未来有重大社会事件发生, 将会导致同一出发日期的若干相关航线都产生需求变化, 如图2所示, 假设城市C是社会事件发生地, 因航线AC的机票售罄, 城市A的旅客只能通过转机城市B才能到达城市C, 从而增加了航线AB的需求.要发现这种转机需求, 需要从整个航线网络的角度去分析航线之间的相互关联.

	Figure Option View Download New Window
	图2 航线网络转机影响示例Fig.2 Example of connecting influence in the route network

从上述分析可以看出航班需求受诸多因素的影响, 为了在预测中能同时捕获这些影响因素, 本文将多条查询量时间序列转换成航线网格图序列, 作为DSTCN-FRP模型的输入.对其中一些相关概念给出如下定义:

定义1 查询:用户在线查询机票所对应的查询对象一般是某个产品集(如某日期出发的所有航班).定义查询对象:出发地、目的地、出发日期.采用 $C = \{c_{1}, c_{2}, \dots c_{N}\}$ 表示全国有机场的城市集合, 用 $< o, d, f_{d} >$ 表示一个航班产品集, 其中: $o \in C$ 表示出发地; $d \in C$ 表示目的地; $f_{d}$ 表示出发日期.

定义2 查询量时间序列:用 $\begin{array}{l} Q^{< o, d, f_{d} >} = \\ \{q_{1}^{< o, d, f_{d} >}, q_{2}^{< o, d, f_{d} >}, \dots, q_{n}^{< o, d, f_{d} >}\} \end{array}$ 表示过去一段时间内, 某个订票网站所有用户每小时对航班产品集 $< o, d, f_{d} >$ 的机票查询量形成的时间序列, 其中 $q_{i}^{< o, d, f_{d} >}$ 表示时间序列上的第 $i$ 个点, 即用户在第 $i$ 小时对航班产品集 $< o, d, f_{d} >$ 的机票查询量.如图3上部分所示.

	Figure Option View Download New Window
	图3 航线网格图构造过程Fig.3 Construction process of airline route grid

定义3 航线网格图:假设数据集中的机场个数为 $N$ , 出发日期 $f_{d}$ 固定, 用二维张量 $X^{f_{d}} \in R^{N \times N}$ 表示用户在任意小时对出发日期为 $f_{d}$ 的全国所有航线的机票查询量网格图, $X_{t}^{f_{d}}$ 中任意一个格子 $(i, j)$ 位置的值 $X_{t}^{f_{d}, i, j}$ 表示 $q_{t}^{< c_{i}, c_{j}, f_{d} >}$ , 即用户在第 $t$ 小时对航班产品集 $< c_{i}, c_{j}, f_{d} >$ 的机票查询量.航线网格图构造过程如图3所示.

问题定义民航需求预测:出发日期 $f_{d}$ 固定, 已知 $n$ 个观测值 $X_{N}^{f_{d}} = \{X_{t}^{f_{d}} | t = 1, 2, \dots, n\}$ , 预测未来 $k$ 个预测值

$X_{K}^{f_{d}} = \{X_{t}^{f_{d}} | t = n + 1, n + 2, \dots, n + k\} .$

2 DSTCN-FRP模型

2.1 DSTCN-FRP模型整体框架

假设当前查询的航班产品集对应的出发日期为 $f_{d}$ , 如图4所示, DSTCN-FRP模型主要由5部分组成, 包括查询日期维度上的临近性(qc, querydate_closeness)和周期性(qp, querydate_periodicity); 出发日期维度上的临近性(fc, flightdate_closeness)和周期性(fp, flightdate_periodicity); 外部影响因素.

	Figure Option View Download New Window
	图4 DSTCN-FRP模型框架Fig.4 Framework of DSTCN-FRP model

1)提取时间片段.如图4右上部分所示, 在查询时间轴上, 根据定义2和定义3, 分别以1 h为时间间隔, 在每个查询时刻提取一张对应的航线网格图.然后根据给定的预测时间段, 在查询日期维度上提取出2个时间片段:临近片段 $X_{qc}^{f_{d}} = [X_{t - l_{qc}}^{f_{d}}, X_{t - {(l}_{qc} - 1)}^{f_{d}}, \dots, X_{t - 1}^{f_{d}}]$ 和周期片段 $X_{qp}^{f_{d}} = [X_{t - 7 * 24}^{f_{d}}, X_{t - 7 * 24 + (k - 1)}^{f_{d}}, \dots, X_{t - l_{qp} * 7 * 24}^{f_{d}}, X_{t - l_{qp} * 7 * 24 + (k - 1)}^{f_{d}}], l_{qc}$ 表示qc序列的长度; $l_{qp}$ 表示qp序列的跨度; $k$ 表示预测时间段的长度.同理, 查询日期与出发日期的时间间隔固定, 在出发日期维度上也提取出2个时间片段:临近片段 $X_{fc}^{f_{d}} = [X_{t - 24}^{f_{d} - 1}, X_{t - 24 + (k - 1)}^{f_{d} - 1}, \dots, X_{t - l_{fp} \cdot 24}^{f_{d} - l_{fc}}, X_{t - l_{fp} * 24 + (k - 1)}^{f_{d} - l_{fc}}]$ 和周期片段 $X_{fp}^{f_{d}}$ =[ $X_{t - 7 * 24}^{f_{d} - 7}$ , $X_{t - 7 * 24 + (k - 1)}^{f_{d} - 7}$ , …, $X_{t - l_{fp} * 7 * 24}^{f_{d} - l_{fp} * 7}$ , $X_{t - l_{fp} * 7 * 24 + (k - 1)}^{f_{d} - l_{fp} * 7}$ ], 其中: $l_{fc}$ 表示fc序列的跨度; $l_{fp}$ 表示fp序列的跨度.

2)构建卷积网络.首先, 基于第1步提取的时间片段, 分别构建卷积神经网络以捕获在时间维度上的依赖关系, 即qc、qp、fc和fp.同时该网络结构中的多层卷积能够捕获航线网格图中所有航线在空间维度上的相互依赖关系.在本文中, DSTCN-FRP模型前4部分元素使用同一个卷积神经网络结构.然后构造系数矩阵, 给每一部分的输出结果分配不同的权值并进行融合, 从而得到一个融合后的输出结果 $X_{Res}^{f_{d}}$ .

3)加入外部因素.如图4左上部分所示, 首先, 人工地从外部提取一些特征 $E_{t}^{f_{d}}$ (如出发日期的星期属性、工作日属性和节假日属性等), 然后将这些特征输入到一个两层的全连接神经网络中, 得到的输出结果为 $X_{Ext}^{f_{d}}$ .

4)聚合获取结果.将第2步得到的输出结果 $X_{Res}^{f_{d}}$ 和第3步得到的输出结果 $X_{Ext}^{f_{d}}$ 通过tanh函数聚合映射到 $[- 1, 1]$ 之间, 从而得到最终的预测结果 $X_{K}^{f_{d}}$ .

2.2 卷积神经网络结构

在航线网络中, 很多航线之间通常存在复杂的相互影响关系.而在一张航线网格图中, 许多有关系的航线格子处在不同的位置中, 有的可能距离比较远.我们希望能捕获网格中所有航线间的空间依赖关系.初始的航线网格图经过一些相连的卷积操作后能获得多种不同层次的特征图, 高层特征图中的一个节点取决于中层特征图的多个节点, 而这些特征节点又是从低层特征图中所有节点卷积得到的.这表明一个卷积只能捕捉到相邻区域的空间依赖, 而多层卷积可以捕捉到更远距离的空间依赖.所以需要设计一个多层卷积神经网络.

用 ${(X_{qc}^{f_{d}})}^{(0)} = X_{qc}^{f_{d}} R^{l_{qc} \times N \times N}$ 表示图4中qc部分的临近相关序列, 然后通过图4中的卷积 $C_{1}$ 将 ${(X_{qc}^{f_{d}})}^{(0)}$ 转换成一个新的张量 ${(X_{qc}^{f_{d}})}^{(1)} \in R^{l_{qc} \times N \times N}$ , 转换公式如下

${(X_{qc}^{f_{d}})}^{(1)} = f (W_{qc}^{(1)} * {(X_{qc}^{f_{d}})}^{(0)} + b_{qc}^{(1)}) (1)$

其中:* 表示卷积:为了确保卷积操作后的输出与输入张量的大小一致, 在输入张量的周围填补上零值; $W_{qc}^{(1)}$ 和 $b_{qc}^{(1)}$ 是第1层卷积的学习参数; $f$ 表示激活函数, 在这里使用修正线性单元ReLU^[12], 即 $f (x) = \max (x, 0)$ .

在卷积 $C_{1}$ 操作之后按照式(1)继续加入 $(L - 1)$ 层卷积, 在第 $L$ 层卷积之后, 还设计加入了一个卷积 $C_{F} .$ 经过整个卷积神经网络计算后就得到了图4中qc部分的输出结果 ${(X_{qc}^{f_{d}})}^{(L + 1)}$ .

同理, 用上述同样操作构建qp、fc和fp3部分的网络, 经各卷积神经网络计算后可得到qp、fc和fp三部分的输出结果分别为 ${(X_{qp}^{f_{d}})}^{(L + 1)}$ 、 ${(X_{fc}^{f_{d}})}^{(L + 1)}$ 、 ${(X_{fp}^{f_{d}})}^{(L + 1)}$ .

2.3 外部因素网络结构

航班需求通常会受到很多复杂的外部因素影响, 如节假日等.在本模型中, 结合民航背景, 加入出发日期星期属性/是否工作日/是否节假日、查询日期与出发日期之间的时间间隔这4个重要特征.

假设预测时刻为 $t$ , 用特征向量 $E_{t}^{f_{d}}$ 表示外部因素.在这里, 设计了一个两层的全连接神经网络作为外部因素网络.第1层可被视为嵌入层, 主要作用是综合考虑这些外部特征, 将它们从高维映射到低维.第2层的作用是将第1层得到的低维特征映射到高维张量, 其大小和 $X_{t}^{f_{d}}$ 一致.经过这两层全连接神经网络计算得到的输出结果定义为 $X_{Ext}^{f_{d}}$ .

2.4 融合结构

基于上述各部分计算得到的结果, 首先融合qc、qp、fc和fp四部分, 公式如下

式中:。表示Hadamardproduct; $W_{qc}^{f_{d}}$ 、 $W_{qp}^{f_{d}}$ 、 $W_{fc}^{f_{d}}$ 和 $W_{fp}^{f_{d}}$ 表示学习参数.

然后, 将式(2)计算后的结果 $X_{Res}^{f_{d}}$ 和外部因素部分得到的输出结果 $X_{Ext}^{f_{d}}$ 通过tanh函数聚合映射到 $[- 1, 1]$ 之间, 从而得到最终的预测结果 $X_{K}^{f_{d}}$ .具体计算公式如下

$X_{K}^{f_{d}} = \tanh (X_{Res}^{f_{d}} + X_{Ext}^{f_{d}}) (3)$

DSTCN-FRP模型通过最小化预测值矩阵 $X_{K}^{f_{d}}$ 和真实值矩阵 ${\overset{\land}{X}}_{K}^{f_{d}}$ 之间的均方误差来训练模型, 具体公式如下

$L (θ) = {(X_{K}^{f_{d}} - {\overset{\land}{X}}_{K}^{f_{d}})}_{2}^{2} (4)$

式中: $θ$ 表示DSTCN-FRP模型中的所有学习参数.

2.5 算法与优化

算法1概括描述了DSTCN-FRP模型的训练过程.第1~11行分析了将原始数据构建成模型训练需要的输入实例这一过程.第12~16行中DSTCN-FRP模型通过反向传播和Adam^[13]优化器进行训练.

算法1.DSTCN-FRP训练算法

Input:历史观测值: $\{X_{1}^{f_{d}}, \dots, X_{n}^{f_{d}}\}$ ; 预测时间段长度: $k$ ; qc序列长度: $l_{qc}$ ; 外部特征: $\{E_{1}^{f_{d}}, \dots, E_{n - k + 1}^{f_{d}}\}$ ; qp、fc和fp的跨度: $l_{qp} 、 l_{fc} 、 l_{fp}$ ;

Output:训练完成的DSTCN-FRP模型

//构建训练实例

1 $D \leftarrow ϕ$ ;

2 for 出发日期 $f_{d} (1 \leq f_{d}$ ≤ End)do{

3 for可预测的时间点 $t (1 \leq t \leq n - k + 1)$ do{

4 $S_{qc} = [X_{t - l_{qc}}^{f_{d}}, X_{t - {(l}_{qc} - 1)}^{f_{d}}, \dots, X_{t - 1}^{f_{d}}]$ ;

5 $S_{qp} = [X_{t - 7 * 24}^{f_{d}}, X_{t - 7 * 24 + (k - 1)}^{f_{d}}, \dots, X_{t - l_{qp} * 7 * 24}^{f_{d}}, X_{t - l_{qp} * 7 * 24 + (k - 1)}^{f_{d}}]$ ;

6 $S_{fc} = [X_{t - 24}^{f_{d} - 1}, X_{t - 24 + (k - 1)}^{f_{d} - 1}, \dots, X_{t - l_{fc} * 24}^{f_{d} - l_{fc}}, X_{t - l_{fc} * 24 + (k - 1)}^{f_{d} - l_{fc}}]$ ;

7 $S_{fp} = [X_{t - 7 * 24}^{f_{d} - 7}, X_{t - 7 * 24 + (k - 1)}^{f_{d} - 7}, \dots, X_{t - l_{fp} * 7 * 24}^{f_{d} - l_{fp} * 7}, X_{t - l_{fp} * 7 * 24 + (k - 1)}^{f_{d} - l_{fp} * 7}]$ ;

8 $X_{K}^{f_{d}} = [X_{t}^{f_{d}}, X_{t + 1}^{f_{d}}, \dots, X_{t + (k + 1)}^{f_{d}}]$ ;

9 构建一个训练实例 $({S_{qc}, S_{qp}, S_{fc}, S_{fp}, E_{t}^{f_{d}}}, X_{K}^{f_{d}})$ , 并存入 $D$ ;

10 }

11 }

//模型训练

12 初始化模型的所有学习参数 $θ$ ;

13 do{

14 从 $D$ 中随机选出一批训练实例 $D_{batch}$ ;

15 用 $D_{batch}$ 训练模型以最小化目标函数式(4), 并更新 $θ$ ;

16 }until (满足所有停止条件);

3 实验及结果分析

3.1 数据集

本文使用的数据来自某在线订票网站提供的真实机票查询数据集, 数据中包含的信息包括航线(即出发地和目的地)、出发日期、查询日期、查询小时及查询次数(即查询量).

数据集中一共涉及到了国内26个有机场的重点城市(北京、上海、深圳、成都、广州、重庆、西宁、郑州、乌鲁木齐、昆明、青岛、香港、杭州、西安、厦门、哈尔滨、海口、沈阳、福州、南京、银川、武汉、长沙、天津、石家庄、贵阳), 包含676(26× 26)条航线, 构成全国范围的航线网络.我们选取查询日期区间为2014/12/17-2015/5/16(共151 d)对676条航线的查询数据作为本文的实验数据集, 并从中选取出发日期区间为2015/1/2-2015/5/2(共121 d)的查询数据作为训练集, 出发日期区间为2015/5/3-2015/5/16(共14 d)的查询数据作为测试集.查询时间间隔为1 h.

在本文的实验中设置每一个样本的预测时间长度为24 h, 对于每一个出发日期 $f_{d}$ , 用< 查询日期_小时:00> 表示查询时刻, 第1个预测查询时间段为( $f_{d}$ -2)_0:00到( $f_{d}$ -2)_23:00, 其中( $f_{d}$ -2)表示与出发日期间隔两天的查询日期, 然后按每小时一次滑动构建新的预测查询时间段, 最后一个预测查询时间段为 $f_{d}$ _0:00到 $f_{d}$ _23:00, 根据上述操作, 每一个出发日期能构建49个样本, 实验数据共有49 $\times$ 135=6 615个样本, 其中训练集样本数5 929, 测试集样本数686.

3.2 实验设置

1) 数据处理.

本文采用最大最小归一化方法将原始查询数据归一到 $[- 1, 1]$ 之间.最后评价模型时, 将预测值反归一回正常值, 然后再与真实值进行比较.

对于外部输入数据, 本文采用独热码(one-hot code)分别来转换出发日期星期属性/是否工作日/是否节假日这3个特征, 前7位分别对应周一到周日, 第8位表示是否工作日, 第9位表示是否节假日, 如出发日期星期一/工作日/节假日转换为 $[1, 0, 0, 0, 0, 0, 0, 1, 0]$ .查询日期与出发日期的时间间隔特征采用最大最小归一化方法归一到 $[0, 1]$ 之间.

2) 参数设置.

在DSTCN-FRP模型中, 前 $L$ 层卷积均采用64个 $3 \times 3$ 的filter进行卷积, 卷积CF使用24个 $3 \times 3$ 的filter, 本实验 $L$ 取11.算法1输入参数设置:预测时间段长度 $k = 24$ ; qc序列长度 $l_{qc} \in {24, 48, 72}$ ; qp、fc和fp的跨度: $l_{qp} \in {1, 2}$ , $l_{fc} \in {1, 2, 3}$ , $l_{fp} \in {1, 2}$ .

3)方法比较.

本文采用以下5种基本方法与DSTCN-FRP模型进行对比:

①Pre:直接用前一天同时间段的值作为预测时间段的预测值.

②HA_qd(查询日期维度平均):采用历史查询日期同时间段的平均值作为预测时间段的预测值, 例如, 预测2015/5/8_8:00到2015/5/9_7:00时间段对航班产品集(北京, 上海, 2015/5/10)的小时查询量, 将最近1个星期每天同小时段查询该航班产品集(北京, 上海, 2015/5/10)求平均, 作为预测时间段的预测值.

③HA_fd(出发日期维度平均):采用历史同航线不同出发日期同位置时间段的平均值作为预测时间段的预测值, 例如, 预测2015/5/8_8:00到2015/5/9_7:00时间段对航班产品集(北京, 上海, 2015/5/10)的小时查询量, 将最近3个月( $f_{d}$ -2)_8:00到( $f_{d}$ -1)_7:00时间段对航班产品集(北京, 上海, $f_{d} \in [2015 / 2 / 9, 2015 / 5 / 9]$ )的小时查询量求平均, 作为预测时间段的预测值.

④ARIMA:自回归移动平均模型是一种时间序列预测方法, 其优势在于短期预测.

⑤LSTM:长短时记忆神经网络(Long Short Term Memory Network, LSTM)是一种时间递归神经网络, 适合于处理和预测时间序列中间隔和延迟相对较长的重要事件.

4) 评价指标.

本文采用平均绝对误差(MAE)和均方根误差(RMSE)作为评价指标, 计算公式如下

$\begin{array}{l} MAE = \frac{1}{n} \overset{n}{\sum_{i}} |x_{i} - {\overset{\land}{x}}_{i}| (5) \\ RMSE = \sqrt[]{{(x_{i} - {\overset{\land}{x}}_{i})}^{2}} (6) \end{array}$

式中: $x_{i}$ 和 ${\overset{\land}{x}}_{i}$ 分别表示预测值和真实值; $n$ 表示预测值个数.

3.3 结果对比分析

表1给出了本文提出的DSTCN-FRP模型与5种基本方法的MAE和RMSE平均值对比, 从表1可以看出, DSTCN-FRP模型的MAE比其他方法降低了15%~50%, RMSE降低了12%~28%, 说明本文提出的模型在民航需求预测任务上明显优于其他方法.

表1 不同方法的预测结果对比 Tab.1 Comparison of experiment results of 6 prediction models

图5给出了DSTCN-FRP模型与5种方法在24 h内每个小时的MAE和RMSE对比结果.从图5可以看出, 除了ARIMA方法在最近3 h的短期预测有优势外, 本DSTCN-FRP模型明显优于其他方法, 而且随着预测时间的增大, ARIMA、LSTM和Pre方法的误差呈现出急剧上升的趋势, 而DSTCN-FRP模型的误差上升速度相对缓慢.由于不同出发日期的查询曲线在查询日期距离出发日期间隔相等的位置具有较强的相似性, HA_fd方法相较于ARIMA、LSTM和Pre方法也具有一定优势, 且随着预测时间的增大, 它的误差上升趋势相对平缓.这些实验结果表明, 本文提出的DSTCN-FRP模型预测未来较长一段时间的民航需求是行之有效的.

	Figure Option View Download New Window
	图5 6种预测模型的MAE、RMSE对比Fig.5 Comparison of MAE and RMSE of 6 prediction models

4 结论

1)研究了民航领域的航班需求预测问题, 提出了一种基于深度时空卷积神经网络的民航需求预测模型, 综合考虑用户需求与查询数据之间的时间和空间依赖关系, 并加入出发日期星期属性/是否工作日/是否节假日等外部因素.

2)在某在线订票网站提供的真实查询数据集上的实验结果证明, DSTCN-FRP模型优于其他5种基本方法, 极大地提高了准确率, 从而有助于民航相关企业准确地掌握民航市场需求的变化, 及时采取相应的市场对策, 提高服务质量和收益水平, 改善用户出行体验, 同时为未来航空、铁路、公路等交通领域的需求建模问题提供了新的思路.

The authors have declared that no competing interests exist.

参考文献

文献列表

[1]	中国民用航空局. 2016年民航行业发展统计公报[R]. 2017. Civil Aviation Administration of China. Statistical bulletin of the civil aviation industry development in 2016[R]. 2017. (in Chinese) [本文引用:1]
[2]	VISWABATHAN V A. Revenue management[J]. The SABRE Group, 1999, 8(6): 8-14. [本文引用:1]
[3]	CRYER J D, CHAN K S. Time series analysis[J]. Springer Texts in Statistics, 2011, 29: 355-377. [本文引用:1]
[4]	刘静, 关伟. 交通流预测方法综述[J]. 公路交通科技, 2004, 21(3): 82-85. LIU Jing, GUAN Wei. A summary of traffic flow forecasting methods[J]. Journal of Highway and Transportation Research and Development, 2004, 21(3): 82-85. (in Chinese) [本文引用:1]
[5]	LIU C, HOI S C H, ZHAO P, et al. Online ARIMA algorithms for time series prediction[C]//Thirtieth AAAI Conference on Artificial Intelligence, 2016: 1867-1873. [本文引用:1]
[6]	WANG L, YUAN X, TING M, et al. Predicting summer arctic sea ice concentration intraseasonal variability using a vector autoregressive model[J]. Journal of Climate, 2016, 29(4): 1529-1543. [本文引用:1]
[7]	LECUN Y, BENGIO Y, HINTON G. Deep learning[J]. Nature, 2015, 521(7553): 436-444. [本文引用:1]
[8]	FOULADGAR M, PARCHAMI M, ELMASRI R, et al. Scalable deep traffic flow neural networks for urban traffic congestion prediction[C]// 2017 International Joint Conference on Neural Network, 2017: 2251-2258. [本文引用:1]
[9]	YU H, WU Z, WANG S, et al. Spatiotemporal recurrent convolutional networks for traffic prediction in transportation networks[J]. Sensors, 2017, 17(1): 1501. [本文引用:1]
[10]	ZHANG J, ZHENG Y, QI D. Deep spatio-temporal residual networks for citywide crowd flows prediction[C]//Thirty-first AAAI Conference on Artificial Intelligence Press, 2017: 1655-1661. [本文引用:1]
[11]	ZHANG J, ZHENG Y, QI D, et al. Predicting citywide crowd flows using deep spatio-temporal residual networks [EB/OL]. (2017-01-10[2017-09-05]. https://arxiv.org/abs/1701. 02543. [本文引用:1]
[12]	KRIZHEVSKY A, SUTSKEVER I, HINTON G E. ImageNet classification with deep convolutional neural networks[C]//International Conference on Neural Information Processing Systems, 2012: 1097-1105. [本文引用:1]
[13]	KINGMA D P, BA J. Adam: a method for stochastic optimization[J]. Computer Science, 2014. [本文引用:1]

2017

0.0

... 31%^[1] ...

1999

0.0

... 航班需求预测的准确性对民航收益管理有很大的影响,有研究表明:如果需求预测准确率提高10%,收益将会增加50%^[2] ...

2011

0.0

... 1)利用经典的时间序列分析及其改进方法^[3],如历史平均模型(HA)^[4]、自回归滑动平均模型(Autoregressive Integrated Moving Average Model,ARIMA)^[5]和向量自回归模型(VAR)^[6]等 ...

2004

0.0

刘静, 关伟. 交通流预测方法综述[J]. 公路交通科技, 2004, 21(3): 82-85.

LIU

Jing

, GUAN

Wei

. A summary of traffic flow forecasting methods[J]. Journal of Highway and Transportation Research and Development, 2004, 21(3): 82-85. (in Chinese)

Real-time traffic flow forecasting is one of important issues of ITS research.Some forecasting models including history average, time-series, Kalman filtering, non-parametric regression, neural networks and synthetic model, etc, have been established.Review of these existing forecasting models, and probable frequency of traffic flow forecasting research field is presented.

实时交通流预测是智能运输系统研究的一个重要问题。为此,建立了许多预测模型,有历史平均模型、时间序列模型、卡尔曼滤波模型、非参数回归模型、神经网络模型和组合模型等。总结评述现存的各类模型,提出交通流预测研究领域今后可能的发展趋势。

2016

0.0

2016

0.0

2015

0.0

... 近年来,卷积神经网络(CNN)被广泛地应用到处理具有空间特点的数据(如图像、视频等)中^[7] ...

2017

0.0

... 很多学者受此启发,将CNN深度模型应用到交通数据分析与挖掘领域,例如,文献[8]提出深度卷积神经网络(DCNN)预测交通流量,有效捕获了交通数据之间的空间依赖关系 ...

2017

0.0

... 文献[9]也利用DCNN提取了交通网络流量的空间相关性 ...

2017

0.0

... 文献[10,11]提出深度残差卷积神经网络模型(ST-ResNet)预测城市区域人口流量 ...

2017

0.0

... 文献[10,11]提出深度残差卷积神经网络模型(ST-ResNet)预测城市区域人口流量 ...

2012

0.0

... f表示激活函数,在这里使用修正线性单元ReLU^[12],即 fx=max(x,0) ...

2014

0.0

... 第12~16行中DSTCN-FRP模型通过反向传播和Adam^[13]优化器进行训练 ...