CN108959608A - 历史交易信息查询方法以及装置 - Google Patents

历史交易信息查询方法以及装置 Download PDF

Info

Publication number
CN108959608A
CN108959608A CN201810775743.4A CN201810775743A CN108959608A CN 108959608 A CN108959608 A CN 108959608A CN 201810775743 A CN201810775743 A CN 201810775743A CN 108959608 A CN108959608 A CN 108959608A
Authority
CN
China
Prior art keywords
fund
data
information
user data
rdd
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810775743.4A
Other languages
English (en)
Inventor
李杨
梁彬彬
冯瑞飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Construction Bank Corp
Original Assignee
China Construction Bank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Construction Bank Corp filed Critical China Construction Bank Corp
Priority to CN201810775743.4A priority Critical patent/CN108959608A/zh
Publication of CN108959608A publication Critical patent/CN108959608A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

本发明提供了一种历史交易信息查询方法以及装置,通过hadoop的历史交易明细查询,通过汇集代理基金***主库中的基金交易申请历史、产品信息、产品特征信息等,通过hadoop批量加工出业务需要的按客户维度的历史交易明细详情数据,然后将加工结果数据导入hadoop hbase集群,以提供大规模数据下的长时间内联机实时查询。

Description

历史交易信息查询方法以及装置
技术领域
本发明涉及数据查询领域,具体而言,涉及一种历史交易信息查询方法以及装置。
背景技术
随着银行业务的快速发展,银行内的交易数据也越来越庞大。然而在实际环境下,往往需要后台***具有能够提供全量的客户基金历史交易明细联机查询的能力。由于历史交易明细的数据量庞大,现状***只支持5年内的历史交易明细查询,不能满足用户的需求。
发明内容
有鉴于此,本发明实施例的目的在于提供一种历史交易信息查询方法以及装置,以缓解上述问题。
第一方面,本发明实施例提供了一种历史交易信息查询方法,所述方法包括:在每日的预设时间,从代理基金***获取当日的基金数据保存在数据库;在每日的所述预设时间,从客户信息***获取用户数据保存在所述数据库;将所述基金数据以及所述用户数据加载到hadoop hdfs,在所述hadoop hdfs内形成完整的基金交易申请历史明细的记录。
第二方面,本发明实施例提供了一种历史交易信息查询装置,所述装置包括:获取模块,用于在每日的预设时间,从代理基金***获取当日的基金数据保存在数据库;所述获取模块,还用于在每日的所述预设时间,从客户信息***获取用户数据保存在所述数据库;加载模块,用于将所述基金数据以及所述用户数据加载到hadoop hdfs,在所述hadoophdfs内形成完整的基金交易申请历史明细的记录。
与现有技术相比,本发明各实施例提出的历史交易信息查询方法以及装置的有益效果是:通过hadoop的历史交易明细查询,通过汇集代理基金***主库中的基金交易申请历史、产品信息、产品特征信息等,通过hadoop批量加工出业务需要的按客户维度的历史交易明细详情数据,然后将加工结果数据导入hadoop hbase集群,以提供大规模数据下的长时间内联机实时查询。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明实施例提供的电子设备的结构框图;
图2为本发明第一实施例提供的一种历史交易信息查询方法的流程图;
图3为本发明第一实施例提供的另一种历史交易信息查询方法的流程图;
图4为本发明第二实施例提供的一种历史交易信息查询装置的结构框图;
图5为本发明第二实施例提供的一种历史交易信息查询装置的结构框图。
具体实施方式
下面将结合本发明实施例中附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本发明的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
如图1所示,是所述电子设备100的方框示意图,所述电子设备100可以是个人电脑(personal computer,PC)、平板电脑、智能手机、个人数字助理(personal digitalassistant,PDA)等。
其中,所述电子设备100包括:历史交易信息查询装置、存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160、显示单元170。
所述存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160以及显示单元170各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述历史交易信息查询装置包括至少一个可以软件或固件(firmware)的形式存储于所述存储器110中或固化在客户端设备的操作***(operating system,OS)中的软件功能模块。所述处理器130用于执行存储器110中存储的可执行模块,例如所述历史交易信息查询装置包括的软件功能模块或计算机程序。
其中,存储器110可以是,但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-OnlyMemory,PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,EEPROM)等。其中,存储器110用于存储程序,所述处理器130在接收到执行指令后,执行所述程序,前述本发明实施例任一实施例揭示的流程定义的电子设备100所执行的方法可以应用于处理器130中,或者由处理器130实现。
处理器130可能是一种集成电路芯片,具有信号的处理能力。上述的处理器130可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述外设接口140将各种输入/输出装置耦合至处理器130以及存储器110。在一些实施例中,外设接口140,处理器130以及存储控制器120可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
输入输出单元150用于提供给用户输入数据实现用户与电子设备100的交互。所述输入输出单元150可以是,但不限于,鼠标和键盘等。
音频单元160向用户提供音频接口,其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。
显示单元170在电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中,所述显示单元170可以是液晶显示器或触控显示器。若为触控显示器,其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作,并将该感应到的触控操作交由处理器130进行计算和处理。
第一实施例
请参照图2,图2是本发明第一实施例提供的一种历史交易信息查询方法的流程图,所述方法应用于电子设备。下面将对图2所示的流程进行详细阐述,所述方法包括:
步骤S110:在每日的预设时间,从代理基金***获取当日的基金数据保存在数据库。
其中,所述每日的预设时间可以是每日的固定下班时间,也可以是每日的凌晨24点。
从代理基金***获取当日的基金数据保存在数据库,所述基金数据包括:证券交易委托申请历史、基金基本信息、基金特征属性、基金产品控制信息、交易时间控制信息、证券交易码信息、证券交易市场信息。
上述基金数据统一传输至数据仓库***后,由数据仓库统一转发至Hadoop***。
其中,Hadoop是一个由Apache基金会所开发的分布式***基础架构。
可选的,上述基金数据需要按照规定的文件格式,通过文件传输***发送至数据仓库***。
步骤S120:在每日的所述预设时间,从客户信息***获取用户数据保存在所述数据库。
从客户信息***获取当日用户数据保存在所述数据库,所述用户数据包括:当日新开户用户信息、用户变更信息。
其中,新开户用户信息和用户变更信息,生成当日用户信息增量数据文件,传输至数据仓库***指定路径下。
步骤S130:将所述基金数据以及所述用户数据加载到hadoop hdfs,在所述hadoophdfs内形成完整的基金交易申请历史明细的记录。
各***的数据文件传输完毕后,hadoop需要从数据仓库***中获取数据,并加载至hdfs。
可选的,可以在所述hadoop hdfs内加载所述用户数据,并映射为用户数据表RDD;在所述hadoop hdfs内加载所述基金数据,并映射为证券交易申请历史表RDD和产品信息特征维度表RDD;将所述用户数据表RDD、证券交易申请历史表RDD和产品信息特征维度表RDD转换为dataframe,基于spark sql处理后,生成完整的基金交易申请历史明细的记录。
作为一种可选的实施方式,请参看图3,所述方法还可以包括:
步骤S140:将数据通过hbase bulk load导入至HBase表中,由HBase联机交易对外提供历史交易明细查询。
第二实施例
请参照图4,图4是本发明第五实施例提供的一种历史交易信息查询装置400的结构框图。下面将对图4所示的结构框图进行阐述,所示装置包括:
获取模块410,用于在每日的预设时间,从代理基金***获取当日的基金数据保存在数据库;
所述获取模块410,还用于在每日的所述预设时间,从客户信息***获取用户数据保存在所述数据库;
加载模块420,用于将所述基金数据以及所述用户数据加载到hadoop hdfs,在所述hadoop hdfs内形成完整的基金交易申请历史明细的记录。
可选的,所述获取模块410,具体用于:
从代理基金***获取当日的基金数据保存在数据库,所述基金数据包括:证券交易委托申请历史、基金基本信息、基金特征属性、基金产品控制信息、交易时间控制信息、证券交易码信息、证券交易市场信息。
可选的,所述获取模块410,具体用于:
从客户信息***获取当日用户数据保存在所述数据库,所述用户数据包括:当日新开户用户信息、用户变更信息。
可选的,所述加载模块420,具体用于:
在所述hadoop hdfs内加载所述用户数据,并映射为用户数据表RDD;在所述hadoop hdfs内加载所述基金数据,并映射为证券交易申请历史表RDD和产品信息特征维度表RDD;将所述用户数据表RDD、证券交易申请历史表RDD和产品信息特征维度表RDD转换为dataframe,基于spark sql处理后,生成完整的基金交易申请历史明细的记录。
可选的,请参看图5,所述装置还可以包括:
导入模块430,用于将数据通过hbase bulk load导入至HBase表中,由HBase联机交易对外提供历史交易明细查询。
本实施例对历史交易信息查询的装置400的各功能模块实现各自功能的过程,请参见上述图1至图3所示实施例中描述的内容,此处不再赘述。
综上所述,本发明实施例提出的历史交易信息查询方法以及装置,通过hadoop的历史交易明细查询,通过汇集代理基金***主库中的基金交易申请历史、产品信息、产品特征信息等,通过hadoop批量加工出业务需要的按客户维度的历史交易明细详情数据,然后将加工结果数据导入hadoop hbase集群,以提供大规模数据下的长时间内联机实时查询。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种历史交易信息查询方法,其特征在于,所述方法包括:
在每日的预设时间,从代理基金***获取当日的基金数据保存在数据库;
在每日的所述预设时间,从客户信息***获取用户数据保存在所述数据库;
将所述基金数据以及所述用户数据加载到hadoop hdfs,在所述hadoophdfs内形成完整的基金交易申请历史明细的记录。
2.根据权利要求1所述的方法,其特征在于,所述从代理基金***获取当日的基金数据保存在数据库,包括:
从代理基金***获取当日的基金数据保存在数据库,所述基金数据包括:证券交易委托申请历史、基金基本信息、基金特征属性、基金产品控制信息、交易时间控制信息、证券交易码信息、证券交易市场信息。
3.根据权利要求2所述的方法,其特征在于,所述从客户信息***获取当日用户数据保存在所述数据库,包括:
从客户信息***获取当日用户数据保存在所述数据库,所述用户数据包括:当日新开户用户信息、用户变更信息。
4.根据权利要求1所述的方法,其特征在于,在所述hadoop hdfs内形成完整的基金交易申请历史明细的记录,包括:
在所述hadoop hdfs内加载所述用户数据,并映射为用户数据表RDD;
在所述hadoop hdfs内加载所述基金数据,并映射为证券交易申请历史表RDD和产品信息特征维度表RDD;
将所述用户数据表RDD、证券交易申请历史表RDD和产品信息特征维度表RDD转换为dataframe,基于spark sql处理后,生成完整的基金交易申请历史明细的记录。
5.根据权利要求1所述的方法,其特征在于,所述将所述基金数据以及所述用户数据加载到hadoop hdfs,在所述hadoop hdfs内形成完整的基金交易申请历史明细的记录之后,所述方法还包括:
将数据通过hbase bulk load导入至HBase表中,由HBase联机交易对外提供历史交易明细查询。
6.一种历史交易信息查询装置,其特征在于,所述装置包括:
获取模块,用于在每日的预设时间,从代理基金***获取当日的基金数据保存在数据库;
所述获取模块,还用于在每日的所述预设时间,从客户信息***获取用户数据保存在所述数据库;
加载模块,用于将所述基金数据以及所述用户数据加载到hadoop hdfs,在所述hadoophdfs内形成完整的基金交易申请历史明细的记录。
7.根据权利要求6所述的装置,其特征在于,所述获取模块,用于:
从代理基金***获取当日的基金数据保存在数据库,所述基金数据包括:证券交易委托申请历史、基金基本信息、基金特征属性、基金产品控制信息、交易时间控制信息、证券交易码信息、证券交易市场信息。
8.根据权利要求7所述的装置,其特征在于,所述获取模块,用于:
从客户信息***获取当日用户数据保存在所述数据库,所述用户数据包括:当日新开户用户信息、用户变更信息。
9.根据权利要求6所述的装置,其特征在于,所述加载模块,用于:
在所述hadoop hdfs内加载所述用户数据,并映射为用户数据表RDD;在所述hadoophdfs内加载所述基金数据,并映射为证券交易申请历史表RDD和产品信息特征维度表RDD;将所述用户数据表RDD、证券交易申请历史表RDD和产品信息特征维度表RDD转换为dataframe,基于spark sql处理后,生成完整的基金交易申请历史明细的记录。
10.根据权利要求6所述的装置,其特征在于,所述装置还包括:
导入模块,用于将数据通过hbase bulk load导入至HBase表中,由HBase联机交易对外提供历史交易明细查询。
CN201810775743.4A 2018-07-13 2018-07-13 历史交易信息查询方法以及装置 Pending CN108959608A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810775743.4A CN108959608A (zh) 2018-07-13 2018-07-13 历史交易信息查询方法以及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810775743.4A CN108959608A (zh) 2018-07-13 2018-07-13 历史交易信息查询方法以及装置

Publications (1)

Publication Number Publication Date
CN108959608A true CN108959608A (zh) 2018-12-07

Family

ID=64481686

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810775743.4A Pending CN108959608A (zh) 2018-07-13 2018-07-13 历史交易信息查询方法以及装置

Country Status (1)

Country Link
CN (1) CN108959608A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110362631A (zh) * 2019-07-22 2019-10-22 阿里巴巴集团控股有限公司 一种同步数据的方法和***
CN114168595A (zh) * 2021-12-09 2022-03-11 中国建设银行股份有限公司 一种数据分析方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104820670A (zh) * 2015-03-13 2015-08-05 国家电网公司 一种电力信息大数据的采集和存储方法
CN105512336A (zh) * 2015-12-29 2016-04-20 中国建设银行股份有限公司 一种基于Hadoop的海量数据处理方法和装置
CN106326361A (zh) * 2016-08-10 2017-01-11 中国农业银行股份有限公司 一种基于HBase数据库的数据查询方法及装置
CN106897362A (zh) * 2017-01-11 2017-06-27 中国建设银行股份有限公司 用于数据存储、查询的方法及***

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104820670A (zh) * 2015-03-13 2015-08-05 国家电网公司 一种电力信息大数据的采集和存储方法
CN105512336A (zh) * 2015-12-29 2016-04-20 中国建设银行股份有限公司 一种基于Hadoop的海量数据处理方法和装置
CN106326361A (zh) * 2016-08-10 2017-01-11 中国农业银行股份有限公司 一种基于HBase数据库的数据查询方法及装置
CN106897362A (zh) * 2017-01-11 2017-06-27 中国建设银行股份有限公司 用于数据存储、查询的方法及***

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
周国亮等: "实时大数据处理技术在状态监测领域中的应用", 《电工技术学报》 *
魏家宾: "基于Hadoop的海量交易记录查询***研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110362631A (zh) * 2019-07-22 2019-10-22 阿里巴巴集团控股有限公司 一种同步数据的方法和***
CN114168595A (zh) * 2021-12-09 2022-03-11 中国建设银行股份有限公司 一种数据分析方法及装置

Similar Documents

Publication Publication Date Title
TWI698108B (zh) 基於區塊鏈的資料處理方法和裝置
US10504120B2 (en) Determining a temporary transaction limit
US10713090B2 (en) Context aware prioritization in a distributed environment using tiered queue allocation
US10521446B2 (en) System and method for dynamically refactoring business data objects
US10636086B2 (en) XBRL comparative reporting
US11522976B1 (en) Method, apparatus and system for subscription management
WO2010144329A1 (en) Systems and methods for metadata driven dynamic web services
CN108053105A (zh) 客源分配方法以及装置
US20210037086A1 (en) System for data consolidation across disparate namespaces
EP3451271A1 (en) Systems and methods for expediting rule-based data processing
US20240211456A1 (en) Index data structures and graphical user interface
US20190303494A1 (en) Node linkage in entity graphs
US11061934B1 (en) Method and system for characterizing time series
WO2019143370A1 (en) Method, system, and computer program product for real-time data aggregation
CN111881329A (zh) 一种账户余额管理方法和***
CN108959608A (zh) 历史交易信息查询方法以及装置
CN108153795A (zh) 一种电子红包的数据处理方法、***和装置
CN114003614A (zh) 一种数据同步装置、方法、网上交易***、计算机设备和存储介质
CN115545639B (zh) 金融业务处理方法、装置、电子设备及存储介质
CN108985908A (zh) 不动产信息共享方法、装置、计算机可读存储介质
US11681742B2 (en) Dynamic query adjustment based on data protection configurations
CN108280111A (zh) 页面处理方法、装置、用户终端以及存储介质
CN108762637A (zh) 控制方法、装置及***
KR20010092555A (ko) 금융 상품 다중 비교 시스템 및 그 금융 상품 정보 제공방법
CN111026981A (zh) 热点话题的可视化展示方法、装置和设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20181207