CN102163226A - 基于映射-化简和分词及邻接排序去重方法 - Google Patents
基于映射-化简和分词及邻接排序去重方法 Download PDFInfo
- Publication number
- CN102163226A CN102163226A CN 201110090766 CN201110090766A CN102163226A CN 102163226 A CN102163226 A CN 102163226A CN 201110090766 CN201110090766 CN 201110090766 CN 201110090766 A CN201110090766 A CN 201110090766A CN 102163226 A CN102163226 A CN 102163226A
- Authority
- CN
- China
- Prior art keywords
- reduce
- ordering
- map
- character string
- participle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 106
- 230000011218 segmentation Effects 0.000 title abstract description 4
- 238000013459 approach Methods 0.000 claims description 10
- 230000015572 biosynthetic process Effects 0.000 claims description 6
- 238000013461 design Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 3
- 238000011017 operating method Methods 0.000 claims description 2
- 238000000605 extraction Methods 0.000 abstract description 9
- 230000003252 repetitive effect Effects 0.000 abstract 2
- 239000000284 extract Substances 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 230000008676 import Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000005422 blasting Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001351 cycling effect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000010977 unit operation Methods 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
Claims (4)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201110090766 CN102163226B (zh) | 2011-04-12 | 2011-04-12 | 基于映射-化简和分词及邻接排序去重方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201110090766 CN102163226B (zh) | 2011-04-12 | 2011-04-12 | 基于映射-化简和分词及邻接排序去重方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102163226A true CN102163226A (zh) | 2011-08-24 |
CN102163226B CN102163226B (zh) | 2013-03-13 |
Family
ID=44464453
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 201110090766 Active CN102163226B (zh) | 2011-04-12 | 2011-04-12 | 基于映射-化简和分词及邻接排序去重方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102163226B (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102426609A (zh) * | 2011-12-28 | 2012-04-25 | 厦门市美亚柏科信息股份有限公司 | 一种基于MapReduce编程架构的索引生成方法和装置 |
CN103049489A (zh) * | 2012-12-05 | 2013-04-17 | 北京奇虎科技有限公司 | 用于处理协同过滤距离的方法和*** |
CN103207906A (zh) * | 2013-03-28 | 2013-07-17 | 百度在线网络技术(北京)有限公司 | 搜索结果的提供方法和搜索引擎 |
CN103207859A (zh) * | 2012-01-11 | 2013-07-17 | 北京四维图新科技股份有限公司 | 整合数据库的方法和装置 |
CN104408034A (zh) * | 2014-11-28 | 2015-03-11 | 武汉数为科技有限公司 | 一种面向文本大数据的中文分词方法 |
CN104424339A (zh) * | 2013-09-11 | 2015-03-18 | 腾讯科技(深圳)有限公司 | 数据分析的方法、装置及*** |
CN105653542A (zh) * | 2014-11-10 | 2016-06-08 | 阿里巴巴集团控股有限公司 | 业务分析方法和装置 |
CN106126633A (zh) * | 2016-06-22 | 2016-11-16 | 中国建设银行股份有限公司 | 贵金属数据的处理方法、装置和*** |
WO2017084509A1 (zh) * | 2015-11-17 | 2017-05-26 | 阿里巴巴集团控股有限公司 | 基于MapReduce的数据处理方法及装置 |
CN108399182A (zh) * | 2017-10-27 | 2018-08-14 | 平安科技(深圳)有限公司 | 医疗数据清洗方法、电子装置及存储介质 |
CN109299136A (zh) * | 2018-11-27 | 2019-02-01 | 佛山科学技术学院 | 一种智能制造的数据库资源池的实时同步方法及装置 |
CN109993551A (zh) * | 2017-12-29 | 2019-07-09 | 北京奇虎科技有限公司 | 确定广告投放人群的方法、装置和计算机可读存储介质 |
CN110225007A (zh) * | 2019-05-27 | 2019-09-10 | 国家计算机网络与信息安全管理中心 | webshell流量数据聚类分析方法以及控制器和介质 |
CN111027282A (zh) * | 2019-11-21 | 2020-04-17 | 精硕科技(北京)股份有限公司 | 文本去重方法和装置、电子设备及计算机可读存储介质 |
CN115269613A (zh) * | 2022-09-27 | 2022-11-01 | 四川互慧软件有限公司 | 一种患者主索引构建方法、***、设备及存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101694658A (zh) * | 2009-10-20 | 2010-04-14 | 浙江大学 | 基于新闻去重的网页爬虫的构建方法 |
-
2011
- 2011-04-12 CN CN 201110090766 patent/CN102163226B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101694658A (zh) * | 2009-10-20 | 2010-04-14 | 浙江大学 | 基于新闻去重的网页爬虫的构建方法 |
Non-Patent Citations (2)
Title |
---|
《ACM SIGIR comference》 20061231 Monika Henzinger 《Finding Near-Duplicate Web Pages:A Large-Scale Evaluation of Algorithms》 第284-291页 1-4 , * |
《郑州轻工业学员学报(自然科学版)》 20100430 张素智、樊得强 《网页去重方法研究及算法设计》 第63-66页、第77页 1-4 第25卷, 第2期 * |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102426609A (zh) * | 2011-12-28 | 2012-04-25 | 厦门市美亚柏科信息股份有限公司 | 一种基于MapReduce编程架构的索引生成方法和装置 |
CN103207859B (zh) * | 2012-01-11 | 2016-07-06 | 北京四维图新科技股份有限公司 | 整合数据库的方法和装置 |
CN103207859A (zh) * | 2012-01-11 | 2013-07-17 | 北京四维图新科技股份有限公司 | 整合数据库的方法和装置 |
CN103049489B (zh) * | 2012-12-05 | 2015-12-02 | 北京奇虎科技有限公司 | 用于处理协同过滤距离的方法和*** |
CN103049489A (zh) * | 2012-12-05 | 2013-04-17 | 北京奇虎科技有限公司 | 用于处理协同过滤距离的方法和*** |
CN103207906B (zh) * | 2013-03-28 | 2016-12-28 | 百度在线网络技术(北京)有限公司 | 搜索结果的提供方法和搜索引擎 |
CN103207906A (zh) * | 2013-03-28 | 2013-07-17 | 百度在线网络技术(北京)有限公司 | 搜索结果的提供方法和搜索引擎 |
CN104424339A (zh) * | 2013-09-11 | 2015-03-18 | 腾讯科技(深圳)有限公司 | 数据分析的方法、装置及*** |
CN104424339B (zh) * | 2013-09-11 | 2019-02-22 | 腾讯科技(深圳)有限公司 | 数据分析的方法、装置及*** |
WO2015035864A1 (en) * | 2013-09-11 | 2015-03-19 | Tencent Technology (Shenzhen) Company Limited | Method, apparatus and system for data analysis |
US10459888B2 (en) | 2013-09-11 | 2019-10-29 | Tencent Technology (Shenzhen) Company Limited | Method, apparatus and system for data analysis |
CN105653542A (zh) * | 2014-11-10 | 2016-06-08 | 阿里巴巴集团控股有限公司 | 业务分析方法和装置 |
CN104408034A (zh) * | 2014-11-28 | 2015-03-11 | 武汉数为科技有限公司 | 一种面向文本大数据的中文分词方法 |
CN104408034B (zh) * | 2014-11-28 | 2017-03-22 | 武汉数为科技有限公司 | 一种面向文本大数据的中文分词方法 |
WO2017084509A1 (zh) * | 2015-11-17 | 2017-05-26 | 阿里巴巴集团控股有限公司 | 基于MapReduce的数据处理方法及装置 |
CN106126633A (zh) * | 2016-06-22 | 2016-11-16 | 中国建设银行股份有限公司 | 贵金属数据的处理方法、装置和*** |
CN106126633B (zh) * | 2016-06-22 | 2019-10-18 | 中国建设银行股份有限公司 | 贵金属数据的处理方法、装置和*** |
CN108399182A (zh) * | 2017-10-27 | 2018-08-14 | 平安科技(深圳)有限公司 | 医疗数据清洗方法、电子装置及存储介质 |
CN109993551A (zh) * | 2017-12-29 | 2019-07-09 | 北京奇虎科技有限公司 | 确定广告投放人群的方法、装置和计算机可读存储介质 |
CN109299136A (zh) * | 2018-11-27 | 2019-02-01 | 佛山科学技术学院 | 一种智能制造的数据库资源池的实时同步方法及装置 |
CN110225007A (zh) * | 2019-05-27 | 2019-09-10 | 国家计算机网络与信息安全管理中心 | webshell流量数据聚类分析方法以及控制器和介质 |
CN111027282A (zh) * | 2019-11-21 | 2020-04-17 | 精硕科技(北京)股份有限公司 | 文本去重方法和装置、电子设备及计算机可读存储介质 |
CN115269613A (zh) * | 2022-09-27 | 2022-11-01 | 四川互慧软件有限公司 | 一种患者主索引构建方法、***、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN102163226B (zh) | 2013-03-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102163226B (zh) | 基于映射-化简和分词及邻接排序去重方法 | |
WO2021083239A1 (zh) | 一种进行图数据查询的方法、装置、设备及存储介质 | |
CN102662952B (zh) | 一种基于层次的中文文本并行数据挖掘方法 | |
CN104298771B (zh) | 一种海量web日志数据查询与分析方法 | |
Cheng et al. | Overlapping community change-point detection in an evolving network | |
CN103544255A (zh) | 基于文本语义相关的网络舆情信息分析方法 | |
US9262555B2 (en) | Machine for recognizing or generating Jabba-type sequences | |
CN106980651B (zh) | 一种基于知识图谱的爬取种子列表更新方法及装置 | |
CN103530402A (zh) | 一种基于改进的PageRank的微博关键用户识别方法 | |
US20080133460A1 (en) | Searching descendant pages of a root page for keywords | |
CN104021125A (zh) | 一种搜索引擎排序的方法、***以及一种搜索引擎 | |
CN104834736A (zh) | 构建索引库的方法、装置及检索的方法、装置和*** | |
CN105373546A (zh) | 一种用于知识服务的信息处理方法及*** | |
CN105404677A (zh) | 一种基于树形结构的检索方法 | |
CN106599190A (zh) | 基于云计算的动态Skyline查询方法 | |
US11928083B2 (en) | Determining collaboration recommendations from file path information | |
CN107133321B (zh) | 页面的搜索特性的分析方法和分析装置 | |
Sudha et al. | A survey paper on map reduce in big data | |
Lian | Implementation of computer network user behavior forensic analysis system based on speech data system log | |
CN107679240B (zh) | 一种虚拟身份挖掘方法 | |
CN102053881B (zh) | 一种基于内容的Zip文件雕复方法 | |
Yang et al. | An improved pagerank algorithm based on time feedback and topic similarity | |
Nithya | Link Analysis Algorithm for Web Structure Mining | |
Ren et al. | A summary of research on web data acquisition methods based on distributed crawler | |
He et al. | The application of big data in cyberspace: A survey |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20110824 Assignee: Suzhou Longtang Information Technology Co., Ltd. Assignor: Zhejiang University Contract record no.: 2013330000112 Denomination of invention: Adjacent sorting repetition-reducing method based on Map-Reduce and segmentation Granted publication date: 20130313 License type: Common License Record date: 20130426 Application publication date: 20110824 Assignee: Enjoyor Co., Ltd. Assignor: Zhejiang University Contract record no.: 2013330000105 Denomination of invention: Adjacent sorting repetition-reducing method based on Map-Reduce and segmentation Granted publication date: 20130313 License type: Common License Record date: 20130425 |
|
LICC | Enforcement, change and cancellation of record of contracts on the licence for exploitation of a patent or utility model |