CN1609846A - 用于识别,锚定和回流数字墨水注释的数字墨水注释方法和*** - Google Patents
用于识别,锚定和回流数字墨水注释的数字墨水注释方法和*** Download PDFInfo
- Publication number
- CN1609846A CN1609846A CNA2004100639878A CN200410063987A CN1609846A CN 1609846 A CN1609846 A CN 1609846A CN A2004100639878 A CNA2004100639878 A CN A2004100639878A CN 200410063987 A CN200410063987 A CN 200410063987A CN 1609846 A CN1609846 A CN 1609846A
- Authority
- CN
- China
- Prior art keywords
- note
- digital ink
- digital
- document
- grappling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 151
- 230000008569 process Effects 0.000 title abstract description 35
- 238000004873 anchoring Methods 0.000 title abstract description 9
- 238000012545 processing Methods 0.000 claims abstract description 10
- 238000005516 engineering process Methods 0.000 claims description 9
- 230000000717 retained effect Effects 0.000 claims description 8
- 230000004048 modification Effects 0.000 claims description 6
- 238000012986 modification Methods 0.000 claims description 6
- 238000012163 sequencing technique Methods 0.000 claims description 6
- 238000011022 operating instruction Methods 0.000 claims description 2
- 238000010992 reflux Methods 0.000 description 22
- 230000008859 change Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 12
- 239000000243 solution Substances 0.000 description 11
- 230000015654 memory Effects 0.000 description 10
- 230000008439 repair process Effects 0.000 description 6
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 6
- 238000000429 assembly Methods 0.000 description 5
- 230000000712 assembly Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 241001518005 Callisto Species 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000005055 memory storage Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000009394 selective breeding Methods 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000007710 freezing Methods 0.000 description 1
- 230000008014 freezing Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 230000002045 lasting effect Effects 0.000 description 1
- 230000005226 mechanical processes and functions Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/142—Image acquisition using hand-held instruments; Constructional details of the instruments
- G06V30/1423—Image acquisition using hand-held instruments; Constructional details of the instruments the instrument generating sequences of position coordinates corresponding to handwriting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/40—Data acquisition and logging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/171—Editing, e.g. inserting or deleting by use of digital ink
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Document Processing Apparatus (AREA)
- Character Discrimination (AREA)
Abstract
这里是用于处理数字文档和其中的数字墨水注释的数字墨水注释方法和***。该方法和***保留位于一个文档中的注释位置,以使注释的原始的意图和意向能被保留。这是真的,即使是数字文档被编辑、调整大小、在不同的显示设备上显示或者被修正。数字墨水注释处理方法包括将一个文档中的数字墨水笔划进行自动和人工分组以定义数字墨水注释,根据注释类型将注释分类,将注释锚定于一个文档中的适当区域或者位置。方法进一步包括在一个新文档版面中回流的注释,以使注释符合和适合新的版面,并保留注释的原始意图和意向。数字墨水注释***包括一个分类模块,一个锚定模块,一个回流模块和一个清除模块以实施数字墨水处理方法。
Description
技术领域
本发明通常涉及数字文档处理,更具体地说是涉及这样一种处理方法和***,其用于处理在一个这样的数字文档上作出的形式自由的数字墨水注释,以致于当数字文档的版面布局被修改(或者是由于在不同的显示器上对它进行编辑或者显示)时,注释的版面能够相应改变而与之适应。
背景技术
利用笔注释纸张文档在多种商业和教育环境中是一种常见的不可缺少的行为。注释一篇文档是一种在文档上“作标记”或者作评注,注解和备注的行为。这些注解和备注可以是文字的、图案的或者两者都有。
当基于笔的如笔输入计算机,图形输入板PC和个人数字助手(PDAs)那样的计算设备在消费者中变得越来越流行时,注释数字文档的能力变得非常有用和重要。基于笔的计算设备里利用一个电子笔(称为触笔)代替键盘进行输入。用笔进行输入是因为在许多情况下,计算设备太小以致于不能整合一个键盘。此外,在许多情况下,对用户来说笔和记事本一起使用比键盘更加方便。这些基于笔的计算设备通常具有特殊的支持手写识别的操作***,该手写识别可以使用户通过在屏幕或者图形输入板上书写从而替代敲击键盘而与设备进行交互。
如果开考虑基于笔的计算机设备的可行性和有用性,当阅读和注释文档时,多数人仍然喜欢用笔和纸。一个关键原因是笔和纸为读者提供了一种对应于文档内容勾画非结构性的或者形式自由的注释和图画的简单方法。
尽管在注释阶段纸张文档显示出很大的优势,但是数字文档和注释与它们的纸张对手相比更为趋于灵活。例如,相对于纸张文档,数字文档能够更加容易的被编辑和适应以符合不同的显示尺寸。此外,经过注释的纸张文档经常终结于垃圾桶,而数字注释能够存留于一个数字文档的整个生命期。而且,能够更加容易的过滤、组织和共享数字文档和注释。
由于这种灵活性,数字文档能够被用于不同的环境。例如,单个的数字文档能够以多种不同的格式阅读,在各种设备上显示,和以各种视窗尺寸显示。数字文档可以被编辑,与其它文档合并,甚至可以动态地改变它的内容。因此,不像纸张文档,数字文档通常没有一个固定的版面布局。
在考虑在数字文档上的形式自由的数字墨水注释时,固定版面布局的缺少引出了一个显著的技术挑战。每次,数字文档会变为一个新的版面,例如,与之相关联的注释也必须随之改变。换句话说,当一个数据文档在不同的设备上或者以不同的视窗尺寸被编辑和显示时,数字文档的版面布局改变以适应新的情况。任何在数字文档上作的“数字墨水”注释必须同样地被改变(或者“回流”)以适应新的版面布局条件。
为了支持回流形式自由的数字墨水注释,必须解决三个问题:第一,读者生成的注释必须被识别和归类为多种注释类型(例如“下划线”、“圆圈”、“页边评注”)中的一种。其次,每个注释必须被锚定在文档中该注释所属的特定位置,最后,如果将来基本文档的版面布局在某些点上改变,那么在文档中存在的注释必须被适当的回流以使他们能够继续与读者的原始意图保持一致。
过去,很多与数字墨水相关的研究和发展努力集中在笔迹识别上。然而,这里公开的数字墨水注释处理方法和***没有采用笔迹识别。这是因为可以仅仅通过知晓它们是不是手写体(这是一个高级分类任务)来回流数字墨水注释,而不必明确的知道它们说了什么(这是一个细致的识别任务)
最近,几种解决方案已经使用墨水形状识别来支持各种基于略图的交互。这些方案已经使用试探法或者机器学习技术来识别一系列形状和手势。然而,当考虑到它们支持数字墨水注释的用途时,这些解决方案的一个缺陷是它们没有将墨水笔划与如一个基本文档那样的独立的上下文进行绑定,因此不能相应于该上下文中的变化而改变用户的墨水。
这里至少有一种将形状识别应用于数字墨水注释的解决方案,因而利用该方案来使形式自由的墨水注释改变以适应于在浏览情况下的强制性改变(例如改变文档中的字形大小)。这种解决方案最初尝试使用简单的试探法来进行识别,然而这被发现是不够的。随后,这种解决方案依赖于对于识别的机器学习技术,以及用于将墨水笔划的各个部分和独立的上下文特征联系起来的“高位”锚定。该解决方案的一个问题是它不包含人工分类。人工分类应该被包含在一个***中,使得在自动分类,锚定或者回流失败或者不灵活时,能够允许用户进行人工选择。此外,“高位”锚定(例如独立的墨水笔划的各个部分被分别锚定在文档的上下文特征上)对于在该解决方案所关注的浏览条件下改变注释以适应这种强制性改变是适当的,然而,它不足以支持数字墨水注释的完全非强制性的回流,因为一个注释的变换必须考虑到所有包含在注释中的墨水笔划和在一个注释锚定的上下文中的所有特征。
因此,这里就存在一个对于一种能够克服前述问题和局限性的文档处理***和方法的需求。特别的是,每逢一个原始文档被修改后,需要一个***和方法来保存数字墨水注释的意图和视觉含义。
发明概述
这里公开的发明包括一个数字墨水注释处理方法和***,其用于每逢由于原始文档被编辑或者在不同的显示设备上或以不同的窗口尺寸进行显示而导致采用了一个新的版面,保留在一个原始文档中的数字墨水注释的意图和含义。通常,处理方法和过程包括三个主要方面。第一,作为标识一个文档的一个用户,他们的数字墨水笔划被分组以定义一个注释,注释被归类为几种注释“类别”中的一类。这些注释“类别”包括下划线,高亮,页边括号,圆圈,旁注和插图编号或者连接符注释。第二,每个注释必须被锚定在该文档中它周围的上下文上。最后,当基本或者原始文档的版面布局改变后,每个注释必须被变换为与它的上下文的新版面相一致。这个最后一步被称为“回流”文档和注释。这三个方面使这里公开的数字墨水注释***和处理方法能够处理在数字文档中的数字墨水注释,以使得注释能够“跟随”它们所属的文档。即使文档被编辑、调整大小、在不同的显示设备上显示或者被修正,这也是正确的。
通常,数字墨水注释***包括若干组件来处理数字文档和注释,同时保证在一个回流数字文档中注释的正确位置。***包括一个分类模块,一个锚定模块,一个回流模块和一个清除模块。分类模块将数字墨水笔划进行分组来定义一个注释并继而将该注释分类。锚定模块提取该文档的2D版面样本并用强锚定技术来将注释连接(或者说“锚定”)到与该注释关联的数字文档中的一个区域。回流模块用和每个注释相关联的分类和锚定的上下文信息,基于数字文档的变化,来回流或者重新实现注释。回流模块保证每逢任何数字文档被修改的时候,保存用户的原始的意图和含义。清除模块是一个可选组件,其能用于消除用户原始的随手注释并且重新画出注释的规范化的“清除”版本。清除模块通过最初决定它的类型使每个注释风格化。因此,基于分类清除规则,随手注释被转换为风格化的注释。
分类模块封装了处理方法,通过该方法,将在一个数字文档中最近似的墨水笔划分组和分类来定义一个数字墨水注释方法。它通过提取和检查数字墨水笔划的特征来决定一个最初的分组和分类,然后基于对该数字文档中的注释而假定的锚定上下文而对该分组和分类进行精练来完成以上操作。基于精练后的分组和分类结果,可以确定一个更好的对于锚定上下文的评判,等等。经过在分组与分类以及锚定上下文识别间重复的运作,***收敛于与置信度和锚定上下文相关得一个分组和分类。如果分组和分类过程收敛于对于一个特殊注释的分类和/或锚定上下文(例如低于一个特定阈值的)的低置信度评价,那么,就会作出应该采用人工分组的决定,并且咨询用户。
墨水笔划的分组可以是基于笔划的时间顺序,空间排列或者这两者的组合的。数字墨水注释处理方法自动地识别至少六种类型或者类别的数字墨水注释:下划线注释,高亮注释,旁注注释,圆圈注释,页边括号注释和插图编号或者连接符注释。这些分类中每种都有截然不同的特征,其决定期望有哪种类型的锚定上下文,和哪种回流变换会被执行。
一旦注释的墨水笔划被分组、注释被分类,和一个可能的锚定上下文被确定,锚定模块就将注释锚定于它所意指的上下文上。换句话说,注释必须被逻辑地锚定于文档中它所属的一个区域或者一个位置,从而即使文档的版面布局、格式或者内容发生改变,文档中相同的区域或者位置也能被恢复。锚定过程为每个数字墨水注释的分类定义了锚定规则,将这些锚定规则应用于每个数字墨水注释,并为每个注释生成一个逻辑锚定。此外,锚定过程基于文档中注释的上下文来确定锚定的有效性,并基于锚定的有效性来确定是否需要用户参与。例如,如果上下文被确定由于编辑而丢失,注释的锚定就被确定为无效,于是就会咨询用户如何处理被孤立的注释。
如果注释被锚定于其上的文档的版面布局随后改变,但是并没有使得注释的锚定无效,回流模块基于它的分类和它的锚定上下文重新实现注释。回流模块确定数字文档的新的版面布局,然后对应于新版面变换和重新实现注释,并不会丢失任何注释的含义和意图。
此外,数字墨水注释***包括一个用户反馈模块。用户反馈模块提供了一个接口,借此用户能够与***进行交互来提高***的准确度和效率。反馈用户接口是与分类模块,锚定模块,回流模块和清除模块进行通信的。用户也可以在任何时间不顾***的机械特征,而人工执行一个任务(例如分组和分类)。
附图说明
本发明能通过参考以下示出本发明各方面的说明和附图而被进一步理解。其它特征和优点会从随后的与附图相关联的发明详细说明中体现出来,详细说明采用举例的方法示出了当前发明的原理。
现在涉及附图,在其中,相似的附图标记代表相应的部分:
图1是一个方框结构图,示出了一个于此公开的数字墨水注释***和方法相结合的注释环境。
图2A是一个方框结构图,示出了在注释分组,分类和锚定过程中图1所示数字墨水注释***的实施例的细节。
图2B是一个方框结构图,示出了在注释回流过程中图1所示数字墨水注释***100的实施例的细节。
图3是一个方框结构图,示出了图2A所示分类模块的实施例的细节。
图4是一个方框结构图,示出了图2A所示锚定模块的实施例的细节。
图5是一个方框结构图,示出了图2B所示回流模块的实施例的细节。
图6是一个普通流程图,示出了图1,2A和2B中所示数字墨水注释***的数字墨水注释方法的操作过程。
图7是一个详细流程图,示出了图6所示数字墨水注释方法的分类过程的操作。
图8A示出了一个用户通过在文档中生成数字墨水笔划而对一个数字文档进行注释。
图8B示出了注释的人工分组和分类。
图8C示出了利用数字墨水注释方法进行文档和注释的回流。
图9是一个详细流程图,示出了图6所示数字墨水注释方法的锚定分类过程的操作。
图10是一个详细流程图,示出了图6所示数字墨水注释方法的回流分类过程的操作。
图11A示出了一个下划线注释的数字墨水注释方法。
图11B示出了一个高亮注释的数字墨水注释方法。
图11C示出了一个旁注注释的数字墨水注释方法。
图11D示出了一个内嵌圆圈注释的数字墨水注释方法。
图11E示出了一个区域圆圈注释的数字墨水注释方法。
图11F示出了一个页边括号注释的数字墨水注释方法。
图11G示出了一个连接符注释的数字墨水注释方法。
图12示出了数字墨水注释方法和***的一个工作实例的工具栏。
图13示出了一个合适的计算环境的实例,在该环境中图1所示的数字墨水注释方法和***能够被实现。
发明内容
在下面对本发明描述中,通过描述发明能够被实现的特定的实例,提供了对附图的说明,这是其中的一部分。可以理解,在不脱离当前发明范围的情况下,可能采用其它的实施例,和产生结构性的改变。
I.简介
几百年来人们一直用笔和墨水在纸张文档上逐字地进行注释。通常,一个注释是为了评论,解释或者更正而加在文档上的一个注解(文字的或者图形的)或者一个符号。注释是记录一个人对一个文档的想法和印象的自然和直观的用意。此外,注释能被用来指出文档中需要改正的错误。
现有技术允许用户在一个“冻结”的数字文档上生成类似于纸张文档上的笔注释的数字墨水注释。例如,图形输入板PC用户可以利用触笔在屏幕上书写,从而在一个文档的图像(例如一个文档中的标签图像文件格式(TIFF)的图像)上产生一个数字墨水注释。该用户拥有纸张提供给他的所有灵活性,然而他也遭受所有的局限性。真正的“动态”数字文档-例如文字处理文档或者HTML网页-相对与它们的纸张文档(或者文档图像)对手是更加灵活和易变的。例如,动态数字文档能够容易的在视窗里改变大小,或者为了在—个更大或者更小的显示设备上显示而重新改变格式。当前没有技术支持在文档的版面布局改变时,将这些更加灵活的动态数字文档上的注释进行相应的改变。
这里公开的数字墨水注释***和方法支持一个动态数字文档上的数字墨水注释,从而当文档的版面布局改变时,注释能够“跟随”它们所属的文档中的位置。即使是文档被编辑,改变大小,在不同的设备上显示,或者其它方面的改变,该功能都能实现。作为一个实例,假定用户用一个图形输入板PC利用下划线注释在一个网页上的一个单行语句。如果网页随后重新改变格式以在一个更小的PDA显示器上显示,下划线也许不得不被分开到多个文档行中。这就保证了句子的所有部分继续存在下划线注释,并且用户的最终意图也被保留下来。
II.综述
从静态的文档到动态的文档,数字墨水注释***和方法展示了传统的笔和纸注释样式的一个重要的扩展。关于数字墨水注释***和方法,这里至少有三个主要方面。第一个方面是数字墨水注释被自动的或者人工地识别和分类。第二个方面是经过分类的注释继而被锚定于文档中的元件(文本、图像、表格等)上。这就保证了即使文档被改变,其上的注释也会被放在文档的新版面上,从而使用户的原始意图和用意被保留。第三个方面是修改墨水笔划的技术,以使数字墨水注释能够在一个文档在被回流、修改或者两者都进行后能够被正确的显示。
图1是一个方框结构图,示出了一个与这里所展示的数字墨水注释***和方法相结合的注释环境。通常,在注释环境110中实施数字墨水注释处理***100,从而使用户120能够产生一个带有适当流动的注释130的数字文档。数字墨水注释***100通常位于一个计算设备140上。如同下面的第VII节所述,该计算设备140通常包括一个用于以计算机可执行指令的形式实行数字墨水注释方法的处理器(未示出)。
特别地,参考图1,用户120通过一个用户接口150与计算设备140进行交互。用户接口150允许用户120对一个数字文档160进行浏览和交互。此外,用户120能用一个触笔或者笔输入设备在数字文档160上添加形式自由的数字墨水用户注释170。数字文档160和与之关联的用户注释170被送到数字墨水注释***中进行处理。如下面详细解释的,数字墨水注释***100处理数字文档160和用户注释170并输出带有适当流动的注释130的数字文档。其后,似乎其为数字文档160般的对待带有适当流动的注释130的数字文档:用户可以进一步添加注释(或者与文档进行交互,例如删除或者移动现有的注释、编辑文档内容等),并且将这些命令被提交到数字墨水注释***100中以进行随后的处理。此外,用户120还能够通过用户接口150直接与数字墨水注释***100进行交互,例如控制注释***参数和优先权。
III.***细节
数字墨水注释***100包括若干组件。这些组件使***100能够处理数字文档160和用户注释170并保证用户注释170在一个回流数字文档中的正确定位。
图2A和2B是方框结构图,示出了图1所示数字墨水注释***100的实施例的细节。通常,当用户将新的注释添加到文档中时,数字墨水注释***100处理数字文档160和与之相关联的用户注释170从而产生带有适当流动的注释130的数字文档。带有适当流动的注释130的数字文档随后可以在数字墨水注释***100的范围外通过某个外部的修改方法(例如,文档可以被编辑,或者它可以以不同的窗口尺寸显示)被改变,从而产生一个被修改的经过注释的数字文档135。在这种情况下,被修改的经过注释的数字文档135作为输入被反馈到数字墨水注释***100中,以使它的注释能够被适当的回流以使其跟随到新的文档版面上它们所属的位置,并且生成一个新的带有适当流动的注释130的数字文档。
图2A是一个方框结构图,示出了图1所示数字墨水注释***100的实施例在注释分组,分类和锚定过程中的细节。特别地,图2A所示的数字墨水注释***100包括一个分类模块200和一个锚定模块210,分类模块200将包含用户注释170的数字墨水笔划连同数字文档160一起作为输入,并且将墨水笔划统一进行分组来为每个注释定义分组、分类和上下文的组合230。
锚定模块210利用强锚定技术来连接(或者“锚定”)由分类模块200输出的墨水笔划组和它们与之相关联的锚定上下文(例如,与组关联度最大的数字文档中的区域)。锚定模块210将分类模块200输出的分组、分类和锚定上下文组合230和数字文档160作为输入。对于每个分组,锚定模块210从描述锚定上下文的数字文档160中提取锚定特征,并将这些特征与分组相关联。当处理完所有的分组后,锚定模块210输出带有适当流动的注释130的数字文档。
如图2B所示,带有适当流动的注释130的数字文档可以随后在数字墨水注释***100范围外通过某外部的修改方法被修改,从而产生一个修改过的经过注释的数字文档135。外部修改方法240可以包含任意变化——例如修改文档的内容,或者在不同的显示设备上显示或者以不同的窗口尺寸显示——这会在文档的2D版面上产生变化,但是这也会忽略对注释进行适当的修改。结果,注释可能显得错误,因此必须对其根据文档的新版面进行变换以能够显得“跟随”于它所属的位置。
图2B是一个方框结构图,示出了图1所示的数字墨水注释***100的实施例在注释回流过程中的细节。数字墨水注释***100包括一个回流模块250和一个清除模块260。回流模块250将修改过的经过注释的数字文档135作为输入,并产生一个新的带有适当流动的注释270的数字文档作为输出。这就是说,回流模块250变换和重新实现修改过的经过注释的数字文档135上出现的注释以适应数字文档的新版面。通过对每个独立注释的逻辑锚定特征进行测试以发现其锚定上下文已经被移动到该文档的新版面布局中的哪里,借此实现上述功能。注释(下划线,圆圈,页边评论等)每个不同类型或者分类都有其自己的规则集来控制该类型的注释如何被回流。一旦回流模块250确定注释的锚定上下文移动到什么位置,它就选择用于该注释类型或者类别的适当的回流规则集,然后变换该注释。回流的方式保证了每逢带有适当流动的注释130的数字文档发生改变,用户的原始意图和用户都能被保留下来。
清除模块260是一个可选组件(就如虚线框所指示的),它用注释的经过形式化了的清除版本来代替用户原始的形式自由的墨水注释。如下面所解释的,一些注释以用户画它们时的状态保存会更好,因此它们通过清除模块260却不会被改变。清除模块260通过初步确定注释的类型和类别而将每个注释风格化。然后,基于注释的特殊类型的清除规格集,注释被变换到一个风格化的形式。
现参考图2A和2B,数字墨水注释***100还包括一个提供了接口的用户反馈模块280,在此用户能够与数字墨水注释***100进行交互。该用户反馈保证了***100的准确性和有效性。反馈用户接口280能够控制分类模块200,锚定模块210,回流模块250和清除模块260的各个方面,并因此允许用户与这些模块的机械函数功能进行交互和取消这些功能。将反馈用户接口280连接到四个模块的虚线示出了用户反馈对于每种情况都是可选的。
通过实例,借助反馈用户接口280,分类模块200能显示一个注释的分组、分类和锚定上下文。用户能检查该信息,可以选择修改它,例如通过改变组成注释的墨水笔划的分组,或者改变注释的分类,或者改变与注释相关联的文档中的区域。用户可以利用反馈用户接口280来修改锚定模块210如何为注释产生逻辑锚定,例如通过改变从数字文档160中提取出来以描述上下文的各种特征的类型。用户可以利用反馈用户接口280来人工的确定当回流一个特殊的注释时,回流模块250应该采用哪种规则集,例如就注释的特殊特征而言,该注释类型的默认回流规则集是否是错误的。最后,用户可以利用反馈用户接口280来人工的确定当显示一个注释的一个形式化了的或者“清除”过的版本时,清除模块260应该采用哪种规则集,例如给定注释的特殊特征,该注释类型的缺省“清除”规则集是否是错误的。通过反馈用户接口280,用户能够与***100进行交互来更好的提高它的准确性、可靠性和有效性。
图3是一个方框结构图,示出了图2A所示分类模块200的实施例的细节。通常,分类模块200利用用户注释170的特征和来自数字文档160的上下文信息对每个注释进行分组和分类,并确定一个适当的锚定上下文,以及输出每个注释的分组、分类,和锚定上下文160的组合230。分类模块200包括一个墨水笔划特征提取模块300;一个分组和分类模块310,其有一个时间修整模块320和一个空间修整模块330;一个锚定上下文识别模块340;一个人工分组、分类和锚定识别模块350。
墨水笔划特征提取模块300测定用户注释170中的墨水笔划的特征。对于一个特殊的墨水笔划,这些特征可以包含,例如,笔划方向角度,笔划的长度,该笔划相对于其它所有笔划的生成时刻,和该笔划相对于其它所有笔划的位置。这些特征都被输入到分组和分类模块310,以统一地确定墨水笔划的正确分组。
分组和分类模块310负责采用一个总体上最佳的方式,把用户注释170中的墨水笔划分组到各个带有适当分类标签和锚定上下文的截然不同的组中。通常,分组和分类模块310利用动态编程来评估包含用户注释170的墨水笔划的所有可能的分组和分类,并且确定能将所有笔划分到截然不同的、包含一切的、没有重叠区域的各个组中的最佳的——或者最可能是正确的——分组和分类。在计算机处理时间方面,评估所有可能的分组和分类综合来说是耗时的,因此基于笔划的时间顺序(利用时间修整模块320),或者笔划的空间排列(利用空间修整模块320)或者两者都有,动态地编程搜索区域被最先修整。换句活说,仅仅在时间和/或空间上相互接近的笔划分组才被视为分组和分类模块310的动态程序的组件被考虑。该最先修整的理由是在时间和空间上相互间隔的墨水笔划不太可能属于一个组。
基于分组中的笔划生成***识别的注释的一种类型(例如下划线、高亮、圆圈、页边评注、页边条或者连接符)的可能性,为每个由分组和分类模块310进行评估的保留下来的可能的笔划分组指定一个可能性,然后将组群传递到锚定上下文识别模块340。锚定上下文识别模块340继而试图为组群确定最可能的锚定上下文。例如,如果特定组群中的墨水笔划是水平线,且分组和分类模块310已经确定该分组可能代表一个下划线注释,那么锚定上下文识别模块440会在文档中寻找直接位于线上的文字。如果在另一组群中的墨水笔划被确定为最有可能生成一个圆圈注释,锚定上下文识别模块340会寻找被圆圈所围绕的文字。锚定上下文识别模块作出关于其所表征的墨水分组的锚定上下文的最好的推测,指定该锚定上下文是正确的可能性,并将该信息传回分组和分类模块310。
分组和分类模块310接收用于分组的锚定上下文识别信息,将其和它为分组而计算出的原始分类的可能性进行合并,并将合并的值置入它的动态编程子问题解答表中。如果墨水笔划的一个特殊分类有一个不可靠的分类和/或一个不可靠的锚定上下文(例如,在一个最初分类为下划线的墨水笔划的组群中,线上却没有文字),这就会降低该特殊分组由分组和分类模块310确定,被包含在用户注释170中所有笔划的最终完全分组中的可能性。当分组和分类模块310已经评估完所有可能的分组(这不是最先修整)时,它遍历它的子问题解答表,并选择能涵盖用户注释170中的所有笔划,不重合,并使组合后的分组有最大可能性的分组/分类/锚定上下文组合的集合。该完整的最优分组继而被作为分组、分类,和锚定上下文的组合230输出。
人工分组、分类和锚定识别模块350提供了一个用户接口,用户可以通过它人工地选择一个墨水笔划集,根据已经识别的注释类型列表对其进行分类,并确定它的锚定上下文。如果用户选择采用该接口,或者避开自动分组过程,或者纠正一个自动分组过程中的错误,任何的人工选择结果都被认为比自动过程能够实现得更优越,分组中的墨水笔划随后被自动过程所忽略。
图4是一个方框结构图,示出了图2A所示锚定模块210的实施例的细节。通常,锚定模块210利用分类模块200输出的分组、分类,和锚定上下文组合230来产生将每个笔划的分组和文档中该分组所对应的锚定区域相关联的逻辑锚定,利用这种方法,即使是文档的版面和/或内容被改变,每个分组的锚定区域也能被恢复。锚定模块210包括注释锚定规则400,上下文特征提取模块410,和逻辑锚定生成模块420。
锚定模块210将分类模块200输出的分组、分类,和锚定上下文的组合230和数字文档160作为输入。注释锚定规则400示出了每个截然不同的注释类型是如何被锚定的。例如,下划线注释被锚定于它用下划线标注的文本上,而圆圈被锚定于它所围绕的文本上。上下文特征提取模块410从数字文档160中提取明显的锚定特征,并使它们对于逻辑锚定生成模块420是有效的。对于每个墨水笔划分组,基于该注释类型的分组类别和锚定规则,逻辑锚定生成模块420从那些被提取的特征中选择合适的锚定规则。锚定特征作为分组的逻辑锚定被分配到分组中。分组连同它的类别、它的锚定上下文,和它的逻辑锚定一起被视为一个完整的可回流注释。在逻辑锚定生成模块420完成它的所有分组、分类,和锚定上下文组合230的任务后,完整的可回流注释就为在数字文档160上显示做好准备,并且生成一个带有适当流动注释130的数字文档。
图5是一个方框结构图,示出了图2B所示回流模块250的实施例的细节。通常,回流模块250基于注释的逻辑锚定和它的分类,变换和重新实现在一个修改的被注释过的数字文档135中的每个完整的可回流的注释。回流模块250包括一个版面确定模块500,一个注释变换模块510,和一个重新实现模块520,它输出一个新的带有适当流动注释270的数字文档。
回流模块250将一个修改的被注释过的数字文档135作为输入,该文档自从最后一次在文档上的注释被回流以后便使得自己的版面被修正。对于文档上的每个注释,版面确定模块500利用注释的逻辑锚定恢复注释的锚定上下文,并确定注释的锚定上下文的新版面。一旦新版面被确定,注释变换模块510就被用来变换注释,从而使它们与新版面相一致(例如,它们“跟随”文档中原本试图要移动到的位置)。适应过程对于每个截然不同的注释类型是不同的。对于下划线注释,例如,它包括连接两个或者更多落在同一行文本的下划线墨水笔划的连接操作,以及分离一个在新版面中跨越两行或者更多行文本的下划线墨水笔划的分离操作。对于圆圈注释,它包括仿射变换(平移、旋转、缩放)以使它们能够与它们的锚定上下文档的新版面一致。
IV.操作综述
这里公开的数字墨水注释***100利用一种数字墨水注释方法来处理注释,从而使注释具有动态的可适应性。这就意味着当一个包含注释的文档被修改时,注释能够适应文档的新版面而改变。这种动态适应性保证了每个注释的原始意图和用意能够被保留下来。
数字墨水注释方法包括三个主要特征。第一,对数字墨水注释的墨水笔划进行分组和分类,确定一个合适的锚定上下文。第二,为经过分类的注释生成一个逻辑锚定,该注释可以确定文档中与其相互关联的区域,以这种方式,即使是文档的版面和/或内容被改变,每个分组的锚定区域也能被恢复。锚定注释保证了即使在文档被修改后,注释也能被置于文档中正确的区域。第三,如果文档的版面变化了,经过处理的数字墨水注释被回流或者被重新实现。
图6是一个普通流程图,示出了图1、2A和2B所示数字墨水注释***100的数字墨水注释方法的操作过程。该方法首先要输入一个数字墨水注释和一个数字文档(框600)。然后将数字墨水注释分类,并确定一个锚定上下文(框610)。该分类基于注释的特征和数字文档中的上下文信息被实现。然后,注释被强锚定于数字文档中的一个区域或一个位置(框620)。该锚定是基于注释分类和被确认的锚定上下文。最后,数字墨水注释在数字文档的新版面中被回流。该回流过程基于注释的锚定和注释的分类(框630)。
V.操作细节
图7是一个详细流程图,示出了图6所示数字墨水注释方法的分类过程的操作。过程首先用所有可能的方法对数字文档中的墨水笔划进行分组,根据时间和空间的近似约束对其进行修整,评估每个分组的其包含的墨水笔划的组合符合各个注释类的特征的可能性(框700)。然后,为每个分组/分类组合确定最可能的锚定上下文(框710)。用每个分组/分类/上下文锚定组合(框720)的可能性填充一个动态编程子问题解答表。最后,在所有的子问题(其没有被修整)都被评估后,子问题解答表被遍历以确定墨水笔划的最佳的全部分类,其能够涵盖所有的笔划,不包括重合分组的,并使所有组群的组合可能性最大(框730)。
当一个用户标记数字文档时,该过程对墨水笔划进行分组以定义笔划组成哪种类型的注释。例如,注释可以是一个下划线、圆圈、连接符、页边条、或者页边评论。以与人类对墨水笔划进行分组和定义一个注释相比有着相同等级的强提取级别和相同准确度来进行分组。
将墨水笔划组合到组群中可以基于笔划产生的时间顺序,或者笔划的空间排列,或者两者的组合。这是分组和分类算法的动态编程搜索范围基于时间和空间的近似约束进行修整的另外一种说法。依赖于空间顺序是迅速和简单的。此外,时间分组揭示了一个事实,即在多数注释中使用的墨水笔划是顺次生成的。然而,可能有些时候,笔划的产生是乱序的。例如,当用户返回,并在一个“i”上打点,或者在一个“t”上画叉时。在这种情况下,空间排列变得为分组的更好判据。
由于自然原因数字墨水注释是不明确的,而且不正确的分类会产生令人困惑的现象。例如,如果一个指向文本的水平箭头被错误的分类为下划线,当回流发生时,箭头可能会被分离到多个行中。因此,在一些实施例中,完全自动地分组和分类可能没有灵活性。在这些实施例中,混合方法可以被采用,例如当对一个完整的分组评估出的置信度低于一个特定的阈值时寻求一个用户的帮助。
图8A示出了一个用户通过在文档中生成数字墨水笔划而对一个数字文档进行注释。在该情况下,词语“how”被写在页边,注释所提到的文本被圈出。图8B示出了注释的人工分组和分类。图8C示出了利用数字墨水注释方法进行文档和注释的回流(忽略注释是被自动还是人工地进行分组和分类)。请注意在图8C中,经过回流的文档中的注释与图8A中原始文档中的注释“一致”,因为它被移动——或者说回流——以跟随着文档中它所属的位置。
图9是一个详细流程图,示出了图6所示数字墨水注释方法的逻辑锚定过程的操作。逻辑锚定保证了当文档版面改变时,它的注释能够因此被回流,注释的原始用意和意图能够被保留。例如,如果一个注释被分类为一条下划线,则注释必须保持在下划线所注释的文本的范围内。这就需要取决于注释锚定于其上的文本范围是否被回流,而分离或者连接包含注释的墨水笔划。如果,另一方面,该注释被分类为箭头连接符,则它必须保持从原来出发的位置指向它原来所指的位置。无论如何,在不同情况下,箭头连接符能在回流过程中被延长,旋转和变换。
在注释的墨水笔划被分组以及该注释被分类后,被分类的注释必须被逻辑地锚定在它想指定的内容。换句话说,注释必须被锚定于文档中它所属的一个区域或者位置,从而即使文档的版面、格式或者内容被改变,注释的用意和意图也能够被恢复。
利用笔和纸做的注释被固定在纸张文档上的一个特殊位置的。然而,数字文档中的物理位置在数字文档被回流时就失去了它的意义。取而代之的是,注释必须被锚定在它周围的逻辑上下文(例如注释附近文本的范围)。这由于两种原因而具有挑战性。第一,数组墨水注释常常不提供一个它们应当被锚定于何处的有力的指示。例如,页边的评论可能属于最近位置的文本范围或者在页面的另一面。第二,文件可能在它最初被注释和注释被显示两者之间时被编辑。这就使恢复注释的锚定上下文变得更加困难。
一种实现强锚定的方法是采用复杂的文档内容自动分析。这些强锚定技术是在现有技术中已有的。例如,一种能被数组墨水注释方法所采用的强锚定技术可以在Processings of CHI 2001,pp,285-292,ACM Press 2001中的A.J.Brush,D.Bargeron,A.Gupta和J.J.Cadiz作的题为“数字文档中的强注释定位”的论文中找到。然而,该技术仍然会导致错误,且数组墨水注释方法也包括这样一个措施,如果确定注释的锚定不能从它的逻辑锚定中恢复(如果,例如,逻辑锚定描述的锚定上下文被从文档中删除),其可用于询问用户以清楚地为一个注释指定锚定。
参考图9,锚定方法首先从被注释的数字文档中提取锚定特征(框900)。其后,基于该各组的分类和锚定上下文和根据针对各个注释类型的锚定规则集而为每个由图7中的分组和分类过程产生的墨水笔划分组选择锚定特征(框910)。这些预注释类型规则在下面会被更加详细的讨论。最后,为每个墨水笔划组群指定适当的锚定特征,以形成完整的可回流注释。在所有的注释都被锚定在一个文档上后,注释就为回流做好准备,从而如果文档版面布局改变,注释能够跟随它们在文档中所属于的位置并且保持它们的可视用意。
图10是一个详细流程图,示出了图6所示数字墨水注释方法的回流分类过程的操作。如果原始文档改变,回流过程基于它们的分类和逻辑锚定重新实现注释以跟随它们在文档中所属于的位置。例如,如果一个句子被下划线注释,句且子所在的栏变窄了,句子也许不得不被回流为比原来占用更多的行数。在该情况下,下划线注释必须被分开并显示出比原始所画的下划线更多的行上。如另外一个例子,如果一个段落被圈起来,且它所在的栏变宽了,那么圈起该段落的圆圈墨水注释必须被拉宽和缩短。
回流过程首先确定一个数字文档的新版面(框1000)。然后,一个数字墨水注释被变换以符合新的版面(框1010)。最后,重新变换后的数字墨水注释在新的文档版面上被重新实现(框1020)。
数字墨水注释方法自动地识别“主动阅读”类型数字墨水注释的六种最普通的类型或者类别,且***是可扩展性的,因此它在将来能够识别更多的注释类型(例如编辑标志)。被自动识别的注释类型包括:下划线注释、高亮注释、旁注或者“页边评注”注释、圆圈注释、边括号注释和插图编号或者“连接符”注释。现在论述用于每个这些注释分类的注释特征、上下文和锚定规则。
为了示出以上所描述的原理,提供图12A-G作为数字墨水注释方法如何能运作的一个例子。在图12A-G中,“A”列代表用户采用数字墨水笔划的数字文档的注释;“B”列代表在一个新的文档版面中的被回流的注释。“C”列代表被清除模块所风格化的“清除”注释。
下划线注释
现参考图11A,下划线注释由一个或者多个近似水平的直线墨水笔划组成。在一个数字文档的上下文中,下划线注释一般会在文本下方发现,特别是一个或者多个文字。
下划线注释中的每个墨水笔划被分别锚定于它所注释的文本的范围内。在该文本范围内的文字和它们的顺序是已知的,并且当且如果在文本的范围在文档中被回流时,该信息被用来控制墨水笔划如何被回流。
在回流过程中,如果在文本的同一行中多个笔划互相邻接,它们就会被结合在一起;且如果一个下划线笔划恰好落在两行或者更多行上,它会被分开,且它的各部分会被移动而恰好保持在原始的被下划线注释的上下文的下方。
高亮注释
现参考图11B,高亮注释的独特特征包含这样地事实,即除了包含一个高亮的笔划很粗并且墨水是半透明的以外,它们很像删除线。换句话说,高亮注释能被近似的看作下划线:除了高亮墨水笔划几乎完全覆盖在它们应该被锚定的文本的范围上之外,用与下划线注释相近似的方式来确定上下文(与下划线注释中的放在文本的行下方不同)。高亮注释的回流规则也同样与下划线注释类似,除了在回流过程中,墨水笔划是在文本范围上,墨水宽大和半透明之外。
旁注注释
现参考图11C,旁注或者页边评注被定义为数字文档中任何在页边或者空白区域的数字墨水笔划,但是却不会是一个连接符。旁注包括绘画,符号(例如“!”和“*”),和页边或者空白区域中的文本。
用于锚定旁注注释的规则是它们被锚定于它们所水平相邻的文档的任何部分。一条对应于旁注注释的边框顶部的顶部水平线和一条对应于旁注注释的边框底部的底部水平线,被从任何旁注注释被定位的位置投影在文档上。在顶部水平线和底部水平线间的文档内容被认为是旁注注释的锚定上下文。
当文档版面改变时,旁注注释被垂直变换,以使其与它们的锚定上下文维持垂直方向上的居中相邻。例如,假定在一个原始文档中的一个旁注注释被锚定于四行文本上。然后,假定数字文档的版面被修改,以至于四行文本变为了八行文本,在这种情况下,被锚定的旁注被置于与这八行文本相邻的垂直方向上的中央。
圆圈注释
现参考图11D,圆圈注释被分为两类:“内嵌”圆圈和“区域”圆圈。内嵌圆圈通常在一个单文本行周围画圈,区域圆圈通常在多文本的多个局部行或者其它文档内容周围画圈。如果笔划形成一个没有凹度的图形,一组墨水笔划可能被识别为某一类圈,且形成圆圈的墨水笔划组可以取决于它们可能的锚定上下文而被区分为内嵌圆圈和区域圆圈。例如,如果圆圈围绕一个文本行,它就会被标定为一个内嵌圆圈;而如果一个圆圈围绕的文本落在了多于一行上,它就会被标定为一个区域圆圈。
两种类型的圆圈都被锚定于它们用圆圈围绕的文本和其它文档内容。
在回流过程中,内嵌圆圈注释类型通常进行水平变换以跟随它的锚定上下文,直到它的锚定上下文(例如它用圆圈围绕的文本范围)被劈成两行或者更多行。当诸如此的***发生时,圆圈被复制、缩放和变换以使包含原始锚定上下文的两个或者多个文本部分被独立的圈起来。参考图11E,区域圆圈注释被缩放和变换以继续包围它们的锚定上下文,但是它们没有被复制。
页边括号注释
现参考图11F,页边括号注释类似于旁注注释。如果数字墨水的组群在“包围”文档内容的文档页边形成近似垂直的线,则它们被识别为页边括号注释。
与旁注如何被锚定类似,边括号注释被锚定于它们所水平相邻的文档的任何部分。生成顶部和底部水平线,且在项部和底部水平线间的文档内容被认为是页边括号注释的锚定。
不像旁注注释那样,当一个边括号注释锚定于其上的文档范围被回流时,页边括号注释在垂直方向上相应的被变换和缩放,因此页边括号注释表现为延伸以保证将它的全部锚定上下文括起来。
插图编号或者连接符注释
现参考图11G,插图编号或者连接符注释是通过从一个位置到另一个位置将区域链接起来的注释。包含一个插图编号或者连接符注释的墨水笔划的一个特征是它们不是直线的,而是可以有一定的弯曲度。另一个特征是插图编号或者连接符注释与水平方向和垂直方向有一个角度。还有另一个特征是插图编号或者连接符注释的终点邻接于文档的文本或内容,来自于其它注释的数字墨水笔划,或者两者都有。换句话说,插图编号或者连接符注释是将文本或内容与一个注释或其它文本或内容相连接。
插图编号或者连接符注释的锚定规则是基于锚定插图编号的终点的。对于每个终点,最接近该终点的文档内容或者其它自由形式的数字墨水注释被认为是它的锚定上下文。因此,每个插图编号都有两个独立的截然不同的锚定文本。
在回流过程中,插图编号被变换,旋转和缩放以使每个终点与其锚定上下文维持持续的联系。这能从图11G中看到。
VI.工作实例
为了更全面地理解这里公开的数字墨水注释处理方法和***,对一个实施例的运作细节进行介绍。应该注意的是该运作实例仅是这里公开的数字墨水注释处理方法能够被实现的一种方法。
硬件
对于运作实例,数字墨水注释处理方法能在任何运行微软的WindowsXp图形输入板PC版操作***的图形输入板PC硬件上实现运行。这些类型的计算机支持一个被集成到它们的显示屏幕上的笔输入数字转换器,这样可以使计算机能够模拟一个写字板的波形因数。用户利用触笔与计算机进行交互,这就使得用户可以控制光标并直接在屏幕上书写。
软件
在该运作实例中,这里公开的数字墨水注释处理方法和***被具体为一个插件嵌入微软的互联网浏览器(IE)中。该插件(编码命名为“Callisto”)支持一个带笔的IE工具条和一个允许用户用数字墨水标记任何网页的任何部分的高亮工具。数字笔划被保存在用户机器的一个本地缓存中。图12示出了在一个数字文档中辅助对数字注释进行绘制和分类的数字墨水注释方法和***的工具条。
分组,分类和锚定
为了将原始的数字墨水笔划分组和分类到数字注释中,在Callisto中配备的数字墨水注释方法和***允许用户选择自动分组和分类,或者人工分组和分类。根据在第III、IV和V章详细说明的处理方法,如果选择自动分组和分类,那么Callisto软件作出关于对用户的墨水笔划进行分组和分类的自动决定,并且自动地确定注释锚定。
如果选择人工分组和分类,用户首先利用选择工具选择他希望分组在一起的墨水笔划。然后,用户从注释类型的预定列表中选取一个类别。重新来参考图9B,一个用户人工地从注释的预定列表中选取一种注释类型。该注释类型列表包括下划线、高亮、旁注(例如页边评注和符号)、圆圈、页边条和连接符。选择这些注释类型中的一种就会自动的将文档中定选的笔划组群作为一个注释锚定于上下文中。该锚定采用以上第V章概述的规则集来完成。
回流数字注释
经过分组、分类和锚定,每逢IE文档窗口被调整大小,数字墨水注释方法和***自动地回流当前页上的任何注释,以使它们经过在第III,IV和V章中概述的过程而跟随它们各自的锚定上下文。
清除数字注释
除了回流数字注释以保留用户的原始绘制风格之外,经过上面的第III章概述的过程,在用于IE的Callisto插件中配备的数字墨水注释方法和***也能绘制形式化的数字注释“清除”版本。在该运行实例中,数字墨水注释方法和***如下清除注释:数字墨水注释方法和***将下划线注释作为直线段再现,高亮注释作为锚定文本上的半透明的水平矩形,圆作为圆角矩形,页边条作为横跨锚定文本高度的简单的贝塞尔曲线,以及连接符是在锚定上下文的终点间相连接的直线。页边评注和符号不进行解析,保留为用户绘制它们的样子,因为它们通常包含如此多的变量和独立风格,将它们转换为一个可接收的形式化的风格是很困难的。
VII.实施例操作环境
将这里公开的数字墨水注释方法和***设计为在一个计算环境中运行。下面的论述是为了提供一个在其中墨水注释方法和***得以运行的合适计算环境的简短的,概括的描述。
图13示出了一个在其中墨水注释方法和***得以运行的合适计算***环境1300。计算***环境1300仅仅是一个合适的计算环境的一个实例,并不意味着本发明的为使用范围和功能提出任何限制。计算***环境1300也不应该被解释为对于在实施例操作环境1300中示出的任何一个组件或多个组件的组合具有任何依赖性或者需求。
数字墨水注释方法和***可以运作于多种其它通用目的或者特定目的的计算***环境或者结构中。能够适合用于数字墨水注释方法和***的熟知的计算***、环境,和/或结构的实例包括,但不是局限于,个人计算机、服务器计算机、手持、膝上形或者移动计算机或者例如蜂窝电话和PAD的通信设备、多处理器***、基于微处理器的***、机顶盒、可编程消费电子产品、网络PC、袖珍计算机、大型计算机,包括任何以上***和设备的分布式计算机环境,和类似装置。
数字墨水注释方法和***可以在计算机可运行指令的通用上下文中进行表述,例如用一个由计算机执行的程序模块。通常,程序模块包括线程、程序、对象、组件、数据结构等,它执行特殊的任务或者实现特殊的抽象的数据类型。数字墨水注释方法和***也可以在分布式计算环境中实行,在其中,任务由通过通信网络链接的远程处理设备执行。在一个分布式的计算环境中,程序模块可以同时位于本地和包括内存存储设备的远程计算机存储介质上。现参考图13,一个用于执行数字墨水注释方法和***的实例***包括一个计算机1310形式的一个通用目的计算设备(计算机1310是图1所示的计算设备140的一个实例)。
计算机1310的组件可以包括,但不局限于,一个处理单元1320,一个***内存1330,一条将包括***内存在内的各种***组件与处理单元1320耦合的***总线1321。***总线1321可以是几种总线结构的任意一种,其包括内存总线或者内存控制器,***设备总线,和采用各种总线体系结构中的任意一种的本地总线。通过举例,但不是限制,这样的体系结构包括工业标准体系(ISA)总线,微通道结构(MCA)总线,加强型ISA(EISA)总线,视频电子标准协会(VESA)局域总线,和被称为夹层总线的***部件接口(PCI)。
计算机1310通常包括各种类型的计算机可读介质。计算机可读介质可以是任何能被计算机1310访问的可用介质,包括各种易失性和非易失性介质,可移动或者不可移动介质。通过举例,但不是限制,计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括采用任何用于信息存储的方法的技术,例如计算机可读指令,数据结构,程序模块或者其它数据,所实现的易失性和非易失性,可移动或者不可移动介质。
计算机存储介质包括,但不是限制,RAM、ROM、EEPROM、闪存或者其它内存技术、CD-ROM、数字通用光盘(DVD)或者其它光盘存储、磁性盒带、磁带、磁盘存储或者其它磁性存储设备,或者其它任何能用来存储所需信息和可以被计算机1310访问的介质。通信介质通常嵌入计算机可读指令、数据结构、程序模块或者在一个模块化的如一个载波或者其它传输机制那样的数据信号中的其它数据,并且包括任何信息传输介质。
请注意,术语“模块化的数据信号”意思是一个信号,它拥有一个或者多个特征集,或者它以如在信号中编码信息那样的方式而发生改变。通过举例,但不是限制,通信介质包括有线介质,如有线网络或者直接电缆连接,和无线介质,如声学的、RF、红外的或者其它无线介质。以上的任何组合也应该包括在计算机可读介质的范围内。
***内存1330包括以易失性和/或者非易失性内存,例如只读存储器(ROM)1331和随意访问存储器(RAM)1332那样的形式出现的计算机存储介质。一个基本输入/输出***1333(BIOS),包括一个协助在计算机1310的元件间传递信息的基本线程,例如在启动时,它通常被存储在ROM1331中。RAM1332通常包括可立即访问的,和/或当前被处理模块1320所运行的数据和/或程序模块。通过举例,但不是限制,图13示出了操作***1334,应用程序1335,其它程序模块1336,和程序数据1337。
计算机1310还可以包括其它可移动/不可移动,易失性和/或非易失性计算机存储介质。仅仅通过举例,图13示出了一个从不可移动式的非易失性的磁性介质中读取或者向其写入的硬盘驱动器1341,一个从可移动式的非易失性的磁盘1352中读取或者向其写入的磁盘驱动器1351,和一个从如CD ROM或者其它光学介质那样的可移动式非易失性光盘1356中读取或者向其写入的光盘驱动器1355。
其它能用在实例操作环境中的可移动/不可移动,易失性和/或非易失性计算机存储介质包括,但不是限制于,磁带盒、闪存卡、数字通用光盘、数字视频带、固态RAM、固态ROM,和类似装置。硬盘驱动器1341通常通过一个如接口1340那样的不可移动式内存接口连接在***总线1321上,一个磁盘驱动器1351和光盘驱动器1355通常通过一个如1350那样的可移动式内存接口连接在***总线1321上。
以上讨论的和在图13中示出的驱动器和它们相连的计算机存储介质,提供了用于计算机1310的计算机可读指令、数据结构、程序模块和其它数据的存储。在图13中,例如,硬盘存储驱动器1341被示出为存储操作***1344、应用程序1345,其它程序模块1346和程序数据1347。请注意这些组件能分别与操作***1334相同或者不同,应用程序1335,其它程序模块1336,和程序数据1337。这里,提供不同数量的操作***1344、应用程序1345、其它程序模块1346,和程序数据1337,以至少示出了它们是不同的复本。一个用户可以通过如键盘1362和指示设备1361那样的输入设备,其一般指一个鼠标,轨迹球或者触摸板,将命令和信息输入到计算机1310。
其它输入设备(未示出)可以包括一个话筒,操纵杆,游戏手柄,碟形卫星天线,电波接收器或者一个电视或者广播视频接收器,或者类似装置。这些和其它输入设备经常通过一个耦合在***总线1321上的用户输入接口1360而被连接到处理单元1320,但也可以通过其它接口和总线接口进行连接,例如并行端口,游戏端口和通用串行总线(USB)。一个显示器1391或者其它类型的显示设备也同样通过一个如视频接口1390那样的接口连接到***总线1321上。除了显示器,计算机还可以包括其它***输出设备如扬声器1397和打印机1396,它们可以通过一个输出***接口1395进行连接。
采用与一台或者多台如远程计算机1380那样的远程计算机进行逻辑连接,计算机1310可以运行在一个网络环境中。远程计算机1380可以是个人计算机、服务器、路由器、网络PC、对等设备或者其它通常的网络结点,且通常包括上述的与计算机1310相关的许多或者全部元件,尽管只有一个内存存储设备1381在图13中被示出。图13描述的逻辑连接包括一个局域网(LAN)1371和一个广域网(WAN)1373,但是也可以包括其它网络。这种网络环境在办公室中、企业级计算机网、企业内部互联网和国际互联网中是普遍的。
当应用于一个LAN网络环境中时,计算机1310通过一个网络接口或者适配器1370连接到LAN1371上。当应用于一个WAN网络环境中时,计算机1310通常包括一个调制解调器1372或者其它在WAN1373上建立通信的方法,例如国际互联网。调制解调器1372,其可以是内置的或者外置的,可以通过一个用户输入接口1360或者其它合适的机制连接在***总线1321上。在一个网络化的环境中,所描述的与计算机1310或者其端口相关联的程序模块,可以存储在远程的内存存储器上。通过举例,但不是限制,图13将远程应用程序1385示出为位于内存设备1381中。可以理解,所示的网络连接是范例性的且可以使用其它计算机间建立一个通信连接的方法都是值得赞扬的。
发明的前面的描述是为了示出和描述而提出的。并不是为了详尽的叙述或者将发明限制到所公开的精确的形式。根据上述的说明,很多修改和变化都是可能的。目的是发明的范围不应被发明的该详细描述甚至这里附加的权利要求所限制。
Claims (40)
1.一种用来处理包含数字墨水注释的数字文档的方法,包括:将数字墨水注释分类以生成注释类别;将数字墨水注释锚定于与数字墨水注释相关联的数字文档中的一个区域,以产生一个注释锚定;和在数字文档的一个新的版面上回流数字墨水注释。
2.如权利要求1中所述的方法,其中的数字墨水注释由数字墨水笔划组成,且进一步包括:将用户生成的数字墨水笔划整体进行分组以定义数字墨水注释;和基于分组的数字墨水笔划将数字墨水注释进行分类。
3.如权利要求1中所述的方法,进一步包括基于至少两种不同的标准将数字墨水注释分类。
4.如权利要求3中所述的方法,其中的至少两种标准包括:(a)注释特征;和(b)数字文档中的上下文信息。
5.如权利要求3中所述的方法,进一步包括定义一个确定是否应该咨询用户的注释分类的置信评估。
6.如权利要求5中所述的方法,进一步包括确定置信评估对于注释分类是过低的。
7.如权利要求5中所述的方法,进一步包括确定对数字墨水笔划的一个分组的置信评估低于一个阈值,且应该采用人工分组方法。
8.如权利要求1中所述的方法,进一步包括为数字墨水注释的每个分类定义锚定规则。
9.如权利要求1中所述的方法,进一步包括应用每个数字墨水注释的分类的锚定规则以产生注释锚定。
10.如权利要求1中所述的方法,进一步包括基于在数字文档中用于数字墨水注释的锚定上下文存在或者不存在来确定注释锚定的有效性。
11.如权利要求10中所述的方法,进一步包括基于注释锚定的有效性来确定是否需要一个用户接口。
12.如权利要求1中所述的方法,进一步包括处理数字墨水注释以符合新的版面布局以使原始数字墨水注释的意向和意图被保留下来。
13.如权利要求12中所述的方法,进一步包括将数字墨水注释在一个显示设备上显示以符合新的版面。
14.一个带有计算机可执行指令,以执行权利要求1中所述的方法的计算机可读介质。
15.一种用于处理在一个数字文档中所作的数字墨水笔划的方法,包括:将数字墨水笔划分组以定义一个数字墨水注释;基于注释特性和数字文档中的上下文信息,对数字墨水注释进行分类;将数字墨水注释回流为一个有新的版面布局的数字文档的修改版本,以使数字墨水笔划的意图和意向被保留下来。
16.如权利要求15中所述的方法,进一步包括基于数字墨水笔划的时间顺序将数字墨水笔划进行分组。
17.如权利要求15中所述的方法,进一步包括基于数字墨水笔划的空间顺序将数字墨水笔划进行分组。
18.如权利要求15中所述的方法,进一步包括基于这样一个组合:(a)数字墨水笔划的时间顺序;和(b)数字墨水笔划的空间顺序,将数字墨水笔划进行分组。
19.一个或多个其中带有计算机可读指令的计算机可读介质,当用一个或者多个处理器运行指令时,使一个或者多个处理器执行权利要求15中所述的方法。
20.一个带有计算机可执行程序的计算机可读介质,用于修改数字文档中的数字墨水注释以使其在修改过的数字文档中适应新的版面布局,包括:在数字文档中对数字墨水注释进行分组以定义数字墨水注释;基于注释分类锚定数字墨水注释,以产生带有适当回流注释的数字文档;随后,由外部修改处理修改带有适当回流注释的数字文档,以产生修改过的数字文档,其具有不同于带有适当回流注释的数字文档的新的版面;和回流数字墨水注释以符合修改过数字文档的新版面。
21.如权利要求20中的计算机可读介质,进一步包括基于以下至少一种:(a)数字墨水笔划的时间顺序;和(b)数字墨水笔划的空间顺序,将数字墨水笔划进行分组。
22.如权利要求20中的计算机可读介质,其中数字墨水注释包括用户为了强调特定的内容作评论,或者记录想法和印象而在数字文档中作的主动阅读注释。
23.如权利要求20中的计算机可读介质,其中数字墨水注释包括用来在数字文档中指示错误的编辑注释。
24.一种方法,其用于在具有一个不同于第一版面的第二版面的修改过的数字文档中,从原始的数字文档中回流数字墨水笔划,包括:将数字墨水笔划进行分组以定义一个数字墨水注释;基于注释特性和原始数字文档中的上下文信息,对数字墨水注释进行分类;将数字墨水注释锚定于与数字墨水注释相关联的原始数字文档中的一个区域;确定修改过的数字文档的第二版面;处理数字墨水注释以符合第二版面;和在修改过的数字文档中实施数字墨水注释,以使数字墨水注释符合第二版面,和在修改过的数字文档中,保留相同于原始数字文档中所存在的意向和意图。
25.如权利要求24所述的方法,进一步包括将数字墨水注释归类为下划线注释。
26.如权利要求25所述的方法,进一步包括将下划线注释锚定于被下划线注释的区域中的字符。
27.如权利要求24所述的方法,进一步包括将数字墨水注释归类为高亮注释。
28.如权利要求24所述的方法,进一步包括将数字墨水注释归类为旁注注释。
29.如权利要求28所述的方法,将其中的旁注注释定义为在数字文档的页边或者空白区域的任何数字墨水笔划。
30.如权利要求24所述的方法,进一步包括将数字墨水注释归类为圆圈注释。
31.如权利要求30所述的方法,其中的圆圈注释至少为以下的一种:(a)内嵌圆圈;(b)区域圆圈。
32.如权利要求31所述的方法,其中的内嵌圆圈在一个单行文本周围画圈。
33.如权利要求31所述的方法,其中的区域圆圈在文本的多个局部行或者其它文档内容周围画圈。
34.如权利要求24所述的方法,进一步包括将数字墨水注释归类为边括号注释。
35.如权利要求34所述的方法,其中的页边括号注释被定义为,在数字文档的页边形成大致垂直的线的墨水笔划的组群。
36.如权利要求24所述的方法,进一步包括将数字墨水注释归类为插图编号注释。
37.如权利要求36所述的方法,其中的插图编号注释被定义采用从一个位置到另一个位置的方法分组链接数字文档中的区域的注释。
38.如权利要求36所述的方法,其中的插图编号显示出一些弯度。
39.如权利要求36所述的方法,其中在数字文档中的插图编号与水平方向和垂直方向有一个角度。
40.如权利要求36所述的方法,其中的插图编号邻接于以下至少一种:(a)数字文档的文本;(b)数字文档的内容;(c)来自于其它注释的数字墨水笔划。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/460,999 | 2003-06-13 | ||
US10/460,999 US7218783B2 (en) | 2003-06-13 | 2003-06-13 | Digital ink annotation process and system for recognizing, anchoring and reflowing digital ink annotations |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1609846A true CN1609846A (zh) | 2005-04-27 |
CN1609846B CN1609846B (zh) | 2011-04-13 |
Family
ID=33299747
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2004100639878A Expired - Lifetime CN1609846B (zh) | 2003-06-13 | 2004-06-14 | 用于识别,锚定和回流数字墨水注释的数字墨水注释方法 |
Country Status (10)
Country | Link |
---|---|
US (2) | US7218783B2 (zh) |
EP (1) | EP1486883B1 (zh) |
JP (1) | JP2005004774A (zh) |
KR (1) | KR101087443B1 (zh) |
CN (1) | CN1609846B (zh) |
AU (1) | AU2004202589B2 (zh) |
BR (1) | BRPI0403881B1 (zh) |
CA (1) | CA2470725C (zh) |
MX (1) | MXPA04005725A (zh) |
RU (1) | RU2357284C2 (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101859293A (zh) * | 2010-03-05 | 2010-10-13 | 鸿富锦精密工业(深圳)有限公司 | 电子阅读器及其编辑文档的存储方法 |
US7836390B2 (en) | 2006-01-26 | 2010-11-16 | Microsoft Corporation | Strategies for processing annotations |
CN1858786B (zh) * | 2006-06-09 | 2011-07-27 | 宋丽娟 | 一种电子文档格式化批注***与方法 |
CN102257498A (zh) * | 2011-05-31 | 2011-11-23 | 华为技术有限公司 | 配置文件的注释生成方法及配置文件生成设备 |
CN102841885A (zh) * | 2011-06-21 | 2012-12-26 | 北大方正集团有限公司 | 建立对象锚定关系的方法和装置 |
CN104067293A (zh) * | 2012-01-23 | 2014-09-24 | 微软公司 | 矢量图分类引擎 |
CN104077072A (zh) * | 2013-03-25 | 2014-10-01 | 株式会社东芝 | 信息显示装置 |
CN105264517A (zh) * | 2013-05-20 | 2016-01-20 | 微软技术许可有限责任公司 | 用于文本表示转换的墨水 |
WO2017193754A1 (zh) * | 2016-05-13 | 2017-11-16 | 北京京东尚科信息技术有限公司 | 一种用于流式文档的截图类笔记处理的***及方法 |
US9953008B2 (en) | 2013-01-18 | 2018-04-24 | Microsoft Technology Licensing, Llc | Grouping fixed format document elements to preserve graphical data semantics after reflow by manipulating a bounding box vertically and horizontally |
US9990347B2 (en) | 2012-01-23 | 2018-06-05 | Microsoft Technology Licensing, Llc | Borderless table detection engine |
CN110073350A (zh) * | 2016-10-26 | 2019-07-30 | 迈思慧公司 | 用于管理数字墨水排版的***和方法 |
CN110545362A (zh) * | 2018-05-28 | 2019-12-06 | 京瓷办公信息***株式会社 | 图像处理装置 |
CN111046638A (zh) * | 2018-10-12 | 2020-04-21 | 北京金山办公软件股份有限公司 | 一种墨迹清除的方法、装置、电子设备及存储介质 |
CN111433776A (zh) * | 2018-03-26 | 2020-07-17 | 苹果公司 | 使用集群、锚定和变换的手动注释 |
CN112183019A (zh) * | 2020-09-28 | 2021-01-05 | 掌阅科技股份有限公司 | 电子书手写笔记的显示方法、计算设备及计算机存储介质 |
CN114546208A (zh) * | 2022-02-28 | 2022-05-27 | 掌阅科技股份有限公司 | 电子书的标记线绘制方法、设备及介质 |
Families Citing this family (112)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7079713B2 (en) | 2002-06-28 | 2006-07-18 | Microsoft Corporation | Method and system for displaying and linking ink objects with recognized text and objects |
US7751623B1 (en) | 2002-06-28 | 2010-07-06 | Microsoft Corporation | Writing guide for a free-form document editor |
US20040196306A1 (en) * | 2003-04-04 | 2004-10-07 | Microsoft Corporation | Method and system for flagging digital ink note content |
GB0321166D0 (en) * | 2003-09-10 | 2003-10-08 | Hewlett Packard Development Co | Printing digital documents |
GB0321167D0 (en) * | 2003-09-10 | 2003-10-08 | Hewlett Packard Development Co | Printing digital documents |
US7154511B2 (en) * | 2003-10-24 | 2006-12-26 | Microsoft Corporation | Fast rendering of ink |
US20050089237A1 (en) * | 2003-10-24 | 2005-04-28 | Jaehwa Park | Method and apparatus for bezier curve approximation data compression |
US7475061B2 (en) * | 2004-01-15 | 2009-01-06 | Microsoft Corporation | Image-based document indexing and retrieval |
US7689578B2 (en) * | 2004-01-15 | 2010-03-30 | International Business Machines Corporation | Dealing with annotation versioning through multiple versioning policies and management thereof |
US7343552B2 (en) * | 2004-02-12 | 2008-03-11 | Fuji Xerox Co., Ltd. | Systems and methods for freeform annotations |
US7721226B2 (en) | 2004-02-18 | 2010-05-18 | Microsoft Corporation | Glom widget |
US7659890B2 (en) | 2004-03-19 | 2010-02-09 | Microsoft Corporation | Automatic height adjustment for electronic highlighter pens and mousing devices |
US20060031755A1 (en) * | 2004-06-24 | 2006-02-09 | Avaya Technology Corp. | Sharing inking during multi-modal communication |
US7284192B2 (en) * | 2004-06-24 | 2007-10-16 | Avaya Technology Corp. | Architecture for ink annotations on web documents |
US7966556B1 (en) | 2004-08-06 | 2011-06-21 | Adobe Systems Incorporated | Reviewing and editing word processing documents |
US8418051B1 (en) | 2004-08-06 | 2013-04-09 | Adobe Systems Incorporated | Reviewing and editing word processing documents |
US8296647B1 (en) * | 2004-08-06 | 2012-10-23 | Adobe Systems Incorporated | Reviewing and editing word processing documents |
US7729538B2 (en) | 2004-08-26 | 2010-06-01 | Microsoft Corporation | Spatial recognition and grouping of text and graphics |
US7574048B2 (en) * | 2004-09-03 | 2009-08-11 | Microsoft Corporation | Freeform digital ink annotation recognition |
US8102383B2 (en) * | 2005-03-18 | 2012-01-24 | The Invention Science Fund I, Llc | Performing an action with respect to a hand-formed expression |
US8749480B2 (en) | 2005-03-18 | 2014-06-10 | The Invention Science Fund I, Llc | Article having a writing portion and preformed identifiers |
US8340476B2 (en) | 2005-03-18 | 2012-12-25 | The Invention Science Fund I, Llc | Electronic acquisition of a hand formed expression and a context of the expression |
US7873243B2 (en) | 2005-03-18 | 2011-01-18 | The Invention Science Fund I, Llc | Decoding digital information included in a hand-formed expression |
US8787706B2 (en) | 2005-03-18 | 2014-07-22 | The Invention Science Fund I, Llc | Acquisition of a user expression and an environment of the expression |
US8599174B2 (en) | 2005-03-18 | 2013-12-03 | The Invention Science Fund I, Llc | Verifying a written expression |
US20060212509A1 (en) * | 2005-03-21 | 2006-09-21 | International Business Machines Corporation | Profile driven method for enabling annotation of World Wide Web resources |
JP2006277167A (ja) * | 2005-03-29 | 2006-10-12 | Fuji Xerox Co Ltd | アノテーションデータ処理プログラム、装置、方法 |
US7570816B2 (en) * | 2005-03-31 | 2009-08-04 | Microsoft Corporation | Systems and methods for detecting text |
US7734631B2 (en) * | 2005-04-25 | 2010-06-08 | Microsoft Corporation | Associating information with an electronic document |
JP4591230B2 (ja) * | 2005-06-23 | 2010-12-01 | 富士ゼロックス株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
US7526129B2 (en) * | 2005-06-23 | 2009-04-28 | Microsoft Corporation | Lifting ink annotations from paper |
JP4591229B2 (ja) * | 2005-06-23 | 2010-12-01 | 富士ゼロックス株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
US8015482B2 (en) * | 2005-09-14 | 2011-09-06 | Microsoft Corporation | Dynamic anchoring of annotations to editable content |
US20070067707A1 (en) * | 2005-09-16 | 2007-03-22 | Microsoft Corporation | Synchronous digital annotations of media data stream |
US7526737B2 (en) * | 2005-11-14 | 2009-04-28 | Microsoft Corporation | Free form wiper |
US7913162B2 (en) * | 2005-12-20 | 2011-03-22 | Pitney Bowes Inc. | System and method for collaborative annotation using a digital pen |
US7646940B2 (en) * | 2006-04-04 | 2010-01-12 | Microsoft Corporation | Robust indexing and retrieval of electronic ink |
US8239754B1 (en) * | 2006-04-07 | 2012-08-07 | Adobe Systems Incorporated | System and method for annotating data through a document metaphor |
WO2007136870A2 (en) * | 2006-05-19 | 2007-11-29 | Sciencemedia Inc. | Document annotation |
US7958444B2 (en) * | 2006-06-15 | 2011-06-07 | Xerox Corporation | Visualizing document annotations in the context of the source document |
US20080065619A1 (en) * | 2006-09-07 | 2008-03-13 | Bhogal Kulvir S | Method, system, and program product for sharing collaborative data among a plurality of authors |
JP4151724B2 (ja) * | 2006-10-04 | 2008-09-17 | 富士ゼロックス株式会社 | 画像処理装置および画像処理プログラム |
US20080195931A1 (en) * | 2006-10-27 | 2008-08-14 | Microsoft Corporation | Parsing of ink annotations |
US8330773B2 (en) | 2006-11-21 | 2012-12-11 | Microsoft Corporation | Mobile data and handwriting screen capture and forwarding |
US8654973B2 (en) * | 2006-11-22 | 2014-02-18 | International Business Machines Corporation | Method, system, and program product for encrypting portions of a document using selective annotation |
JP5031344B2 (ja) * | 2006-12-06 | 2012-09-19 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
JP2008217590A (ja) * | 2007-03-06 | 2008-09-18 | Fuji Xerox Co Ltd | 情報共有支援システム、情報処理装置及び制御プログラム |
US20080229186A1 (en) * | 2007-03-14 | 2008-09-18 | Microsoft Corporation | Persisting digital ink annotations as image metadata |
US8347206B2 (en) | 2007-03-15 | 2013-01-01 | Microsoft Corporation | Interactive image tagging |
EP2145245A4 (en) * | 2007-05-09 | 2013-04-17 | Adapx Inc | DIGITAL PAPER PRODUCTS AND METHODS CONNECTED THEREWITH |
US8315482B2 (en) * | 2007-06-26 | 2012-11-20 | Microsoft Corporation | Integrated platform for user input of digital ink |
US8094939B2 (en) | 2007-06-26 | 2012-01-10 | Microsoft Corporation | Digital ink-based search |
US8041120B2 (en) * | 2007-06-26 | 2011-10-18 | Microsoft Corporation | Unified digital ink recognition |
US8020119B2 (en) * | 2007-12-14 | 2011-09-13 | Microsoft Corporation | Engine support for parsing correction user interfaces |
US8566752B2 (en) * | 2007-12-21 | 2013-10-22 | Ricoh Co., Ltd. | Persistent selection marks |
US20100031135A1 (en) * | 2008-08-01 | 2010-02-04 | Oracle International Corporation | Annotation management in enterprise applications |
JP5051080B2 (ja) * | 2008-09-25 | 2012-10-17 | 富士通株式会社 | 情報表示装置、情報表示方法、及びプログラム |
US9195739B2 (en) | 2009-02-20 | 2015-11-24 | Microsoft Technology Licensing, Llc | Identifying a discussion topic based on user interest information |
JP5357612B2 (ja) * | 2009-04-13 | 2013-12-04 | 株式会社日立ソリューションズ | 下線除去装置 |
US20100313121A1 (en) * | 2009-06-03 | 2010-12-09 | Arianne Therese Hinds | Automated identification of a customer's document by customer support |
JP5326851B2 (ja) * | 2009-06-18 | 2013-10-30 | 富士通株式会社 | 修飾線配置プログラム、修飾線配置装置及び修飾線配置方法 |
JP5143148B2 (ja) * | 2010-01-18 | 2013-02-13 | シャープ株式会社 | 情報処理装置及び通信会議システム |
JP5676942B2 (ja) * | 2010-07-06 | 2015-02-25 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US20120096345A1 (en) * | 2010-10-19 | 2012-04-19 | Google Inc. | Resizing of gesture-created markings for different display sizes |
JP5699623B2 (ja) * | 2011-01-20 | 2015-04-15 | 村田機械株式会社 | 画像処理装置、画像処理システム、画像処理方法、および、プログラム |
US8543905B2 (en) * | 2011-03-14 | 2013-09-24 | Apple Inc. | Device, method, and graphical user interface for automatically generating supplemental content |
US8792141B2 (en) * | 2011-06-09 | 2014-07-29 | Xerox Corporation | Embedded form extraction definition to enable automatic workflow configuration |
US9483454B2 (en) * | 2011-10-07 | 2016-11-01 | D2L Corporation | Systems and methods for context specific annotation of electronic files |
RU2480831C1 (ru) * | 2011-11-24 | 2013-04-27 | Общество с ограниченной ответственностью "КБК Групп" | Способ выборки изображений из базы изображений |
JP5418576B2 (ja) * | 2011-11-28 | 2014-02-19 | コニカミノルタ株式会社 | 情報閲覧装置及び表示制御プログラム |
US9064237B2 (en) * | 2012-01-23 | 2015-06-23 | Microsoft Technology Licensing, Llc | Collaborative communication in a web application |
US20140006919A1 (en) * | 2012-06-29 | 2014-01-02 | 3S International, Llc. | Method and apparatus for annotation content conversions |
US20120290907A1 (en) * | 2012-07-19 | 2012-11-15 | Jigsaw Informatics, Inc. | Method and system for associating synchronized media by creating a datapod |
WO2014015080A2 (en) * | 2012-07-19 | 2014-01-23 | Jigsaw Informatics, Inc. | Method and system for associating synchronized media by creating a datapod |
CN103577240B (zh) * | 2012-07-25 | 2018-12-11 | 腾讯科技(深圳)有限公司 | ***自动清理方法、装置及存储介质 |
US9727535B2 (en) | 2013-06-11 | 2017-08-08 | Microsoft Technology Licensing, Llc | Authoring presentations with ink |
JP2015049592A (ja) * | 2013-08-30 | 2015-03-16 | 株式会社東芝 | 電子機器および方法 |
KR20150085282A (ko) * | 2014-01-15 | 2015-07-23 | 김민규 | 전자 문서의 첨삭을 위한 단말의 동작 방법 |
WO2015116803A1 (en) * | 2014-01-31 | 2015-08-06 | 3M Innovative Properties Company | Note capture and recognition with manual assist |
JP2015146550A (ja) * | 2014-02-04 | 2015-08-13 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US20150220504A1 (en) * | 2014-02-04 | 2015-08-06 | Adobe Systems Incorporated | Visual Annotations for Objects |
US9430141B1 (en) * | 2014-07-01 | 2016-08-30 | Amazon Technologies, Inc. | Adaptive annotations |
US20160048318A1 (en) * | 2014-08-15 | 2016-02-18 | Microsoft Technology Licensing, Llc | Detecting selection of digital ink |
US20160070688A1 (en) * | 2014-09-05 | 2016-03-10 | Microsoft Corporation | Displaying annotations of a document by augmenting the document |
US10509853B2 (en) * | 2014-09-05 | 2019-12-17 | Microsoft Technology Licensing, Llc | Creating an annotation pane for a document by augmenting the document |
US20160070686A1 (en) * | 2014-09-05 | 2016-03-10 | Microsoft Corporation | Collecting annotations for a document by augmenting the document |
KR20160055552A (ko) * | 2014-11-10 | 2016-05-18 | 삼성전자주식회사 | 메모 표시 방법 및 이를 위한 디바이스 |
US20160203114A1 (en) * | 2015-01-09 | 2016-07-14 | Microsoft Technology Licensing, Llc | Control of Access and Management of Browser Annotations |
CN105988568B (zh) * | 2015-02-12 | 2020-07-24 | 北京三星通信技术研究有限公司 | 获取笔记信息的方法和装置 |
US11550993B2 (en) | 2015-03-08 | 2023-01-10 | Microsoft Technology Licensing, Llc | Ink experience for images |
CN105095432B (zh) | 2015-07-22 | 2019-04-16 | 腾讯科技(北京)有限公司 | 网页批注显示方法及装置 |
US10643067B2 (en) * | 2015-10-19 | 2020-05-05 | Myscript | System and method of handwriting recognition in diagrams |
US9996514B2 (en) * | 2015-10-31 | 2018-06-12 | Airwatch Llc | Decoupling and relocating bookmarks and annotations from files |
US9904447B2 (en) | 2016-01-08 | 2018-02-27 | Microsoft Technology Licensing, Llc | Universal inking support |
US9922017B2 (en) | 2016-05-19 | 2018-03-20 | International Business Machines Corporation | Misaligned annotation processing |
CN109791465B (zh) * | 2016-09-23 | 2022-04-26 | 苹果公司 | 用于对文本进行注释的设备、方法和图形用户界面 |
US10817169B2 (en) | 2016-10-14 | 2020-10-27 | Microsoft Technology Licensing, Llc | Time-correlated ink |
US10318846B2 (en) | 2016-12-28 | 2019-06-11 | Ancestry.Com Operations Inc. | Clustering historical images using a convolutional neural net and labeled data bootstrapping |
US10599320B2 (en) * | 2017-05-15 | 2020-03-24 | Microsoft Technology Licensing, Llc | Ink Anchoring |
US20180350121A1 (en) * | 2017-06-06 | 2018-12-06 | Polycom, Inc. | Global annotations across contents |
US10417310B2 (en) | 2017-06-09 | 2019-09-17 | Microsoft Technology Licensing, Llc | Content inker |
US10318109B2 (en) | 2017-06-09 | 2019-06-11 | Microsoft Technology Licensing, Llc | Emoji suggester and adapted user interface |
CN108304361B (zh) * | 2018-02-12 | 2019-09-24 | 掌阅科技股份有限公司 | 电子书手写笔记的显示方法、计算设备及计算机存储介质 |
CN108255386B (zh) * | 2018-02-12 | 2019-07-05 | 掌阅科技股份有限公司 | 电子书手写笔记的显示方法、计算设备及计算机存储介质 |
US11023661B2 (en) | 2018-05-03 | 2021-06-01 | Microsoft Technology Licensing, Llc | Visually enhanced digital ink |
EP3736677A1 (en) | 2019-05-10 | 2020-11-11 | MyScript | A method and corresponding device for selecting and editing handwriting input elements |
EP3754537B1 (en) | 2019-06-20 | 2024-05-22 | MyScript | Processing text handwriting input in a free handwriting mode |
EP3772015B1 (en) | 2019-07-31 | 2023-11-08 | MyScript | Text line extraction |
EP3796145B1 (en) | 2019-09-19 | 2024-07-03 | MyScript | A method and correspond device for selecting graphical objects |
US11256913B2 (en) * | 2019-10-10 | 2022-02-22 | Adobe Inc. | Asides detection in documents |
US11443103B2 (en) * | 2020-10-07 | 2022-09-13 | Rakuten Kobo Inc. | Reflowable content with annotations |
US11514695B2 (en) * | 2020-12-10 | 2022-11-29 | Microsoft Technology Licensing, Llc | Parsing an ink document using object-level and stroke-level processing |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0633539B1 (en) * | 1993-06-30 | 2001-02-21 | Canon Kabushiki Kaisha | Document processing method and apparatus |
US5454046A (en) * | 1993-09-17 | 1995-09-26 | Penkey Corporation | Universal symbolic handwriting recognition system |
US5832474A (en) * | 1996-02-26 | 1998-11-03 | Matsushita Electric Industrial Co., Ltd. | Document search and retrieval system with partial match searching of user-drawn annotations |
CN1156741C (zh) * | 1998-04-16 | 2004-07-07 | 国际商业机器公司 | 手写汉字识别方法及装置 |
EP0965907A3 (en) * | 1998-06-15 | 2000-12-20 | Xerox Corporation | A method and system for creating ad-hoc links from handwritten annotations |
US6687876B1 (en) * | 1998-12-30 | 2004-02-03 | Fuji Xerox Co., Ltd. | Method and system for maintaining freeform ink annotations on changing views |
CN1145872C (zh) * | 1999-01-13 | 2004-04-14 | 国际商业机器公司 | 手写汉字自动分割和识别方法以及使用该方法的*** |
US6333994B1 (en) * | 1999-03-31 | 2001-12-25 | International Business Machines Corporation | Spatial sorting and formatting for handwriting recognition |
US7259753B2 (en) * | 2000-06-21 | 2007-08-21 | Microsoft Corporation | Classifying, anchoring, and transforming ink |
JP3974359B2 (ja) * | 2000-10-31 | 2007-09-12 | 株式会社東芝 | オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム |
US7298903B2 (en) * | 2001-06-28 | 2007-11-20 | Microsoft Corporation | Method and system for separating text and drawings in digital ink |
US7164367B2 (en) * | 2001-08-30 | 2007-01-16 | America Online, Inc. | Component-based, adaptive stroke-order system |
US7266765B2 (en) | 2001-08-31 | 2007-09-04 | Fuji Xerox Co., Ltd. | Detection and processing of annotated anchors |
US7062498B2 (en) * | 2001-11-02 | 2006-06-13 | Thomson Legal Regulatory Global Ag | Systems, methods, and software for classifying text from judicial opinions and other documents |
US7010165B2 (en) * | 2002-05-10 | 2006-03-07 | Microsoft Corporation | Preprocessing of multi-line rotated electronic ink |
AU2003900865A0 (en) * | 2003-02-26 | 2003-03-13 | Silverbrook Research Pty Ltd | Methods, systems and apparatus (NPW010) |
-
2003
- 2003-06-13 US US10/460,999 patent/US7218783B2/en active Active
-
2004
- 2004-06-10 CA CA2470725A patent/CA2470725C/en not_active Expired - Fee Related
- 2004-06-10 AU AU2004202589A patent/AU2004202589B2/en not_active Ceased
- 2004-06-11 BR BRPI0403881A patent/BRPI0403881B1/pt not_active IP Right Cessation
- 2004-06-11 EP EP04013747.3A patent/EP1486883B1/en not_active Expired - Lifetime
- 2004-06-11 JP JP2004174745A patent/JP2005004774A/ja active Pending
- 2004-06-11 RU RU2004117798/09A patent/RU2357284C2/ru not_active IP Right Cessation
- 2004-06-11 MX MXPA04005725A patent/MXPA04005725A/es active IP Right Grant
- 2004-06-14 CN CN2004100639878A patent/CN1609846B/zh not_active Expired - Lifetime
- 2004-06-14 KR KR1020040043697A patent/KR101087443B1/ko active IP Right Grant
-
2007
- 2007-05-14 US US11/748,334 patent/US8250463B2/en not_active Expired - Fee Related
Cited By (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7836390B2 (en) | 2006-01-26 | 2010-11-16 | Microsoft Corporation | Strategies for processing annotations |
CN101375278B (zh) * | 2006-01-26 | 2012-07-04 | 微软公司 | 用于处理注释的策略 |
CN1858786B (zh) * | 2006-06-09 | 2011-07-27 | 宋丽娟 | 一种电子文档格式化批注***与方法 |
CN101859293B (zh) * | 2010-03-05 | 2013-08-28 | 鸿富锦精密工业(深圳)有限公司 | 电子阅读器及其编辑文档的存储方法 |
CN101859293A (zh) * | 2010-03-05 | 2010-10-13 | 鸿富锦精密工业(深圳)有限公司 | 电子阅读器及其编辑文档的存储方法 |
CN102257498A (zh) * | 2011-05-31 | 2011-11-23 | 华为技术有限公司 | 配置文件的注释生成方法及配置文件生成设备 |
WO2011157135A2 (zh) * | 2011-05-31 | 2011-12-22 | 华为技术有限公司 | 配置文件的注释生成方法及配置文件生成设备 |
WO2011157135A3 (zh) * | 2011-05-31 | 2012-05-03 | 华为技术有限公司 | 配置文件的注释生成方法及配置文件生成设备 |
CN102257498B (zh) * | 2011-05-31 | 2013-04-24 | 华为技术有限公司 | 配置文件的注释生成方法及配置文件生成设备 |
CN102841885B (zh) * | 2011-06-21 | 2016-02-17 | 北大方正集团有限公司 | 建立对象锚定关系的方法和装置 |
CN102841885A (zh) * | 2011-06-21 | 2012-12-26 | 北大方正集团有限公司 | 建立对象锚定关系的方法和装置 |
CN104067293B (zh) * | 2012-01-23 | 2017-07-25 | 微软技术许可有限责任公司 | 矢量图分类引擎 |
US9990347B2 (en) | 2012-01-23 | 2018-06-05 | Microsoft Technology Licensing, Llc | Borderless table detection engine |
CN104067293A (zh) * | 2012-01-23 | 2014-09-24 | 微软公司 | 矢量图分类引擎 |
US9965444B2 (en) | 2012-01-23 | 2018-05-08 | Microsoft Technology Licensing, Llc | Vector graphics classification engine |
US9953008B2 (en) | 2013-01-18 | 2018-04-24 | Microsoft Technology Licensing, Llc | Grouping fixed format document elements to preserve graphical data semantics after reflow by manipulating a bounding box vertically and horizontally |
CN104077072A (zh) * | 2013-03-25 | 2014-10-01 | 株式会社东芝 | 信息显示装置 |
CN105264517A (zh) * | 2013-05-20 | 2016-01-20 | 微软技术许可有限责任公司 | 用于文本表示转换的墨水 |
CN105264517B (zh) * | 2013-05-20 | 2017-12-26 | 微软技术许可有限责任公司 | 用于文本表示转换的墨水 |
US10817154B2 (en) | 2016-05-13 | 2020-10-27 | Beijing Jingdong Shangke Information Technology Co., Ltd. | System and method for processing screenshot-type note of streaming document |
WO2017193754A1 (zh) * | 2016-05-13 | 2017-11-16 | 北京京东尚科信息技术有限公司 | 一种用于流式文档的截图类笔记处理的***及方法 |
CN110073350A (zh) * | 2016-10-26 | 2019-07-30 | 迈思慧公司 | 用于管理数字墨水排版的***和方法 |
CN110073350B (zh) * | 2016-10-26 | 2024-02-23 | 迈思慧公司 | 用于管理数字墨水排版的***和方法 |
CN111433776A (zh) * | 2018-03-26 | 2020-07-17 | 苹果公司 | 使用集群、锚定和变换的手动注释 |
CN111433776B (zh) * | 2018-03-26 | 2023-11-07 | 苹果公司 | 使用集群、锚定和变换的手动注释 |
CN110545362A (zh) * | 2018-05-28 | 2019-12-06 | 京瓷办公信息***株式会社 | 图像处理装置 |
CN111046638A (zh) * | 2018-10-12 | 2020-04-21 | 北京金山办公软件股份有限公司 | 一种墨迹清除的方法、装置、电子设备及存储介质 |
CN112183019A (zh) * | 2020-09-28 | 2021-01-05 | 掌阅科技股份有限公司 | 电子书手写笔记的显示方法、计算设备及计算机存储介质 |
CN112183019B (zh) * | 2020-09-28 | 2021-10-22 | 掌阅科技股份有限公司 | 电子书手写笔记的显示方法、计算设备及计算机存储介质 |
WO2022063191A1 (zh) * | 2020-09-28 | 2022-03-31 | 掌阅科技股份有限公司 | 电子书手写笔记的显示方法、计算设备及计算机存储介质 |
CN114546208A (zh) * | 2022-02-28 | 2022-05-27 | 掌阅科技股份有限公司 | 电子书的标记线绘制方法、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
AU2004202589B2 (en) | 2009-11-19 |
BRPI0403881B1 (pt) | 2019-09-03 |
AU2004202589A1 (en) | 2005-01-06 |
US20070214407A1 (en) | 2007-09-13 |
CN1609846B (zh) | 2011-04-13 |
RU2357284C2 (ru) | 2009-05-27 |
US20040252888A1 (en) | 2004-12-16 |
CA2470725A1 (en) | 2004-12-13 |
CA2470725C (en) | 2012-12-18 |
US8250463B2 (en) | 2012-08-21 |
EP1486883B1 (en) | 2017-07-26 |
BRPI0403881A (pt) | 2005-06-07 |
KR20040107446A (ko) | 2004-12-20 |
MXPA04005725A (es) | 2005-06-03 |
EP1486883A2 (en) | 2004-12-15 |
JP2005004774A (ja) | 2005-01-06 |
EP1486883A3 (en) | 2007-12-26 |
RU2004117798A (ru) | 2006-01-10 |
US7218783B2 (en) | 2007-05-15 |
KR101087443B1 (ko) | 2011-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1609846A (zh) | 用于识别,锚定和回流数字墨水注释的数字墨水注释方法和*** | |
CN1145872C (zh) | 手写汉字自动分割和识别方法以及使用该方法的*** | |
CN1218274C (zh) | 在线手写文字模式识别编辑装置及方法 | |
CN1320485C (zh) | 图像检索装置和图像检索装置的关键词赋予方法 | |
CN1235312A (zh) | 连续语音识别中的标点符号自动生成装置及方法 | |
CN1324532C (zh) | 被动嵌入的交互编码 | |
CN1877598A (zh) | 手机中使用图像识别进行名片信息的采集与录入的方法 | |
CN1744077A (zh) | 文档处理装置以及方法 | |
CN1517904A (zh) | 墨水划分器及关联的应用编程接口 | |
CN1141666C (zh) | 利用标准笔划识别输入字符的在线字符识别*** | |
CN101039369A (zh) | 电子邮件编辑设备、图像形成装置以及电子邮件编辑方法 | |
CN101076166A (zh) | 具有显示按钮的装置及用于所述装置的显示方法和介质 | |
CN1680973A (zh) | 基于网络服务应用的光学字符识别***和方法 | |
CN1806220A (zh) | 使用数字笔的编辑***,编辑方法及其程序 | |
CN1838112A (zh) | 翻译装置、翻译方法及存储介质 | |
CN1173283C (zh) | 文献图象处理装置和方法 | |
CN1918570A (zh) | 字符显示方法 | |
CN1875400A (zh) | 信息处理设备、信息处理方法和记录介质、以及程序 | |
CN1656473A (zh) | 墨水收集和再现 | |
CN1713171A (zh) | 文档处理装置、文档处理方法及记录其程序的存储介质 | |
CN1741018A (zh) | Http网页动态输出的方法和*** | |
CN1689028A (zh) | 联机手写字符输入装置和方法 | |
CN1117338C (zh) | 一种无笔画顺序的手写字符辨识*** | |
CN1107280C (zh) | 中英文表单的识别***及识别方法 | |
CN1205474A (zh) | 字体识别装置和方法及储存字体识别程序的信息存储媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
ASS | Succession or assignment of patent right |
Owner name: MICROSOFT TECHNOLOGY LICENSING LLC Free format text: FORMER OWNER: MICROSOFT CORP. Effective date: 20150506 |
|
C41 | Transfer of patent application or patent right or utility model | ||
TR01 | Transfer of patent right |
Effective date of registration: 20150506 Address after: Washington State Patentee after: MICROSOFT TECHNOLOGY LICENSING, LLC Address before: Washington State Patentee before: Microsoft Corp. |
|
CX01 | Expiry of patent term |
Granted publication date: 20110413 |