JP6360628B2 - 情報処理装置およびグラフデータの書き込み装置 - Google Patents
情報処理装置およびグラフデータの書き込み装置 Download PDFInfo
- Publication number
- JP6360628B2 JP6360628B2 JP2017521472A JP2017521472A JP6360628B2 JP 6360628 B2 JP6360628 B2 JP 6360628B2 JP 2017521472 A JP2017521472 A JP 2017521472A JP 2017521472 A JP2017521472 A JP 2017521472A JP 6360628 B2 JP6360628 B2 JP 6360628B2
- Authority
- JP
- Japan
- Prior art keywords
- vertex
- memory
- data
- information
- graph data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000010365 information processing Effects 0.000 title claims description 34
- 230000015654 memory Effects 0.000 claims description 254
- 238000000034 method Methods 0.000 claims description 97
- 230000008569 process Effects 0.000 claims description 77
- 238000012545 processing Methods 0.000 claims description 73
- 238000004458 analytical method Methods 0.000 claims description 58
- 230000008859 change Effects 0.000 claims description 7
- 238000004891 communication Methods 0.000 claims description 7
- 238000007726 management method Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 14
- 238000007405 data analysis Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 6
- 238000012546 transfer Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 102100021753 Cardiolipin synthase (CMP-forming) Human genes 0.000 description 1
- 101000895518 Homo sapiens Cardiolipin synthase (CMP-forming) Proteins 0.000 description 1
- 101100385368 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) CSG2 gene Proteins 0.000 description 1
- 101150115304 cls-2 gene Proteins 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000005206 flow analysis Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/06—Addressing a physical block of locations, e.g. base addressing, module addressing, memory dedication
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Memory System (AREA)
Description
まず、サーバ(SVR)の構成について、図1と図2を用いて説明する。
図3を用いて、サーバで解析するグラフデータに関して説明する。グラフデータの「グラフ」とは、データ構造の一種を表し、グラフデータは頂点(Vertex)と辺(Edge)から構成される。頂点はそれぞれIDを有しており、図では番号が振られている。関係性のある2つの頂点は、辺で結ばれる。
図6は、メモリサブシステム内の不揮発性メモリに格納されたデータの読み出し動作を説明する図である。不揮発性メモリには、データの読み出し最小単位が存在する。この読み出し最小単位を以下ページ(図中A、Page)と呼ぶ。
図10〜12を用いて、グラフデータ再構築書き込み処理を図1のホスト(HOST)で実行した場合における本処理の全体フローの一例を説明する。
(1)次数解析を用いたグラフデータ再構築書き込み処理
図15〜図17を用いて、グラフデータ再構築書き込み処理の詳細フローの一例である次数解析を説明する。
図18〜図20を用いて、クラスタリングを用いたグラフデータ再構築書き込み処理に関して説明する。
本願で用いるグラフデータのフォーマット及び付加情報の一例を、図21、図22を用いて説明する。
(1)サーバへの適用例
図23を用いて、本発明の第二の実施例であるサーバー(SVR)を説明する。
図24は、グラフデータの書き込み先として、DRAMを適用した場合の一例を示す。DRAMは通常DIMMの形態で情報処理回路(CPU)に接続される。DIMMは複数のDRAM chipから構成され、データを高速に読み出す際は、複数のchipを並列動作させる。このため、図中Aで示される並列読み出しの単位内に、距離の近い頂点を書き込むことで、グラフ解析を高速化することができる。
以上説明した実施例によって得られる主な効果は以下の通りである。
Host・・・ホスト
Interconnect・・・インターコネクト
MSS・・・メモリサブシステム
CPU・・・情報処理回路
Controller・・・メモリサブシステム制御回路
NVM・・・不揮発性メモリ
Storage・・・外部記憶装置
Interface・・・インターフェース
RG・・・データレジスタ
UPDT_GRAPH・・・グラフデータ再構築書き込み処理ブロック
RW_GRAPH・・・グラフデータ読み書きブロック
ANALYZE・・・グラフデータ解析ブロック
RC・・・データ再構築ブロック
NVMC・・・不揮発性メモリ制御回路
DRAMC ・・・DRAM制御回路
Ch・・・チャネル(1〜i)
Way・・・ウェイ(1〜j)
RY/BY・・・レディービジー線
I/O・・・データ転送バス
Vertex・・・頂点
Edge・・・辺
Page・・・ページ
VTX・・・頂点情報
V_ID・・・頂点のID
E_ID・・・辺のID
VAL・・・辺の重み
PTR・・・ポインタ
RC INF・・・再構築情報管理テーブル
LPA・・・論理ページアドレス
FLG・・・距離の近さを表すフラグ
DG Table・・・次数テーブル
CLS・・・クラスタ
CLS LIST・・・クラスタ毎のクラスタ係数及び頂点IDテーブル
CSR・・・Compressed Sparse Row
HUB VTX LIST・・・頂点毎の次数テーブル
DEGREE DISTRIBUTION・・・次数毎の頂点数テーブル
ORDER LIST・・・頂点毎の探索順テーブル
AVERAGE・・・グラフデータ全体平均値
NVM−DIMM・・・不揮発性メモリDIMM
DIMM CTL・・・不揮発性メモリDIMM制御回路
Claims (10)
- ホストとコントローラとメモリとを備えた情報処理装置であって、
前記ホストは、グラフデータに対して処理を実行し、前記コントローラもしくは前記メモリとの間でデータ通信を行い、
前記グラフデータは、少なくとも2つ以上の頂点の情報から構成され、
前記頂点の情報は、当該頂点と関連性のある頂点のIDもしくは当該頂点と関連性のある頂点の情報が記録されている前記メモリ上の位置を含み、
前記メモリは、データの読み出し単位を有し、
前記コントローラは、前記メモリからのデータ読み出し及び前記メモリへのデータ書き込みを行い、
前記ホストもしくは前記コントローラは、前記グラフデータに対して再構築書き込み処理を実行することにより、互いの距離が閾値よりも小さい前記頂点の情報を抽出し、抽出された互いの距離が閾値よりも小さい前記頂点の情報を、前記メモリの同一読み出し単位に書き込み、
前記距離は、最短経路探索における2つの頂点間を結ぶリンクの数を表すことを特徴とする情報処理装置。 - 前記再構築書き込み処理において、前記グラフデータの次数解析もしくは、前記グラフデータのクラスタリングを用いることを特徴とする、
請求項1に記載の情報処理装置。 - 前記ホストもしくは前記コントローラは、前記再構築書き込み処理によって、付加情報を生成し、前記付加情報は、異なる2つの頂点間の距離、頂点ごとの次数、頂点ごとの探索順、当該グラフデータ全体の次数の分布、頂点クラストごとのクラスタ係数もしくは頂点ID、平均次数もしくは平均距離、のいずれか少なくとも1つを含むことを特徴とする、
請求項1に記載の情報処理装置。 - 前記ホストもしくは前記コントローラは、前記再構築書き込み処理によって抽出された互いの距離が閾値よりも小さい前記頂点の情報を、前記メモリの異なるチップに書き込み、
異なる前記チップの前記同一読み出し単位に書き込まれたデータを、同時並列に読み出すことができることを特徴とする、
請求項1に記載の情報処理装置。 - 前記ホストは、互いの距離が閾値よりも小さい複数の頂点の情報が含まれることを示すフラグを前記グラフデータに付加し、前記コントローラにデータ書き込み要求を発行することを特徴とする、
請求項4に記載の情報処理装置。 - 前記コントローラは、前記グラフデータに付加された前記フラグを参照し、同じフラグが付加された前記グラフデータを、前記メモリの異なるチップに書き込み、
異なる前記チップに書き込まれた前記グラフデータを、同時並列に読み出すことができることを特徴とする、
請求項5に記載の情報処理装置。 - 前記メモリとして、NAND型フラッシュメモリ、相変化メモリ、ReRAMのいずれかを用いることを特徴とする、
請求項1に記載の情報処理装置。 - グラフデータの書き込み装置であって、当該装置内にメモリを含み、前記メモリにグラフデータを書き込むことができ、前記メモリから前記グラフデータを読み出すことができ、
前記グラフデータは、少なくとも2つ以上の頂点の情報から構成され、
前記頂点の情報は、当該頂点と関連性のある頂点のIDもしくは当該頂点と関連性のある頂点の情報が記録されている前記メモリ上の位置を含み、
前記メモリは、データの読み出し単位を有し、
前記グラフデータに対して再構築書き込み処理を実行することにより、互いの距離が閾値よりも小さい前記頂点の情報を抽出し、抽出された互いの距離が閾値よりも小さい前記頂点の情報を、前記メモリの同一読み出し単位に書き込み、
前記距離は、最短経路探索における2つの頂点間を結ぶリンクの数を表すことを特徴とする、
グラフデータの書き込み装置。 - 前記再構築書き込み処理において、前記グラフデータの次数解析もしくは、前記グラフデータのクラスタリングを用いることを特徴とする、
請求項8記載のグラフデータの書き込み装置。 - 前記再構築書き込み処理によって抽出された互いの距離が閾値よりも小さい複数の前記頂点の情報を、前記メモリの異なるチップに書き込み、異なる前記チップの前記同一読み出し単位に書き込まれたデータを、同時並列に読み出すことを特徴とする、
請求項8に記載のグラフデータの書き込み装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2015/066346 WO2016194224A1 (ja) | 2015-06-05 | 2015-06-05 | 情報処理装置およびグラフデータの書き込み装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016194224A1 JPWO2016194224A1 (ja) | 2018-02-08 |
JP6360628B2 true JP6360628B2 (ja) | 2018-07-18 |
Family
ID=57441901
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017521472A Expired - Fee Related JP6360628B2 (ja) | 2015-06-05 | 2015-06-05 | 情報処理装置およびグラフデータの書き込み装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6360628B2 (ja) |
WO (1) | WO2016194224A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110149234B (zh) * | 2019-05-27 | 2021-10-08 | 腾讯科技(深圳)有限公司 | 图数据压缩方法、装置、服务器及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5032602B2 (ja) * | 2010-01-21 | 2012-09-26 | 株式会社東芝 | 認識装置 |
-
2015
- 2015-06-05 WO PCT/JP2015/066346 patent/WO2016194224A1/ja active Application Filing
- 2015-06-05 JP JP2017521472A patent/JP6360628B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
WO2016194224A1 (ja) | 2016-12-08 |
JPWO2016194224A1 (ja) | 2018-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10969963B2 (en) | Namespaces allocation in non-volatile memory devices | |
US9594524B2 (en) | System and method for distributed computing in non-volatile memory | |
CN109791519A (zh) | 具有集成计算引擎的非易失性存储***和本地快速存储器的优化用途 | |
US11287978B2 (en) | Data storage devices, having scale-out devices to map and control groups on non-volatile memory devices | |
CN107229417A (zh) | 数据存储设备及其操作方法 | |
US10216418B2 (en) | Storage apparatus and method for autonomous space compaction | |
US10296250B2 (en) | Method and apparatus for improving performance of sequential logging in a storage device | |
CN110007852A (zh) | 基于逻辑区域的流分类 | |
CN104575595B (zh) | 非易失性随机存取的存储装置 | |
CN104461387A (zh) | 一种提高固态硬盘对未映射区域的读性能的方法 | |
US11042328B2 (en) | Storage apparatus and method for autonomous space compaction | |
CN103914483A (zh) | 文件存储方法、装置及文件读取方法、装置 | |
CN103488523A (zh) | 一种页的访问方法和页的访问装置、服务器 | |
CN102810116A (zh) | 一种基于数据库连接的自动路由和负载均衡的方法及*** | |
EP4202704A1 (en) | Interleaving of heterogeneous memory targets | |
CN115756312A (zh) | 数据访问***、数据访问方法和存储介质 | |
JP6360628B2 (ja) | 情報処理装置およびグラフデータの書き込み装置 | |
CN115793957A (zh) | 写数据的方法、装置及计算机存储介质 | |
JP6100927B2 (ja) | 情報処理装置 | |
US9823862B2 (en) | Storage system | |
US9507794B2 (en) | Method and apparatus for distributed processing of file | |
EP3846037B1 (en) | Storage device configured to support multi-streams and operation method thereof | |
US9183435B2 (en) | Feature generalization using topological model | |
CN111026890A (zh) | 基于索引表的图片数据存储方法、***、装置和存储介质 | |
US10108377B2 (en) | Storage processing unit arrays and methods of use |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171011 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180417 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180530 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180612 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180622 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6360628 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |