CN1666222A - 输入数据的设备和方法 - Google Patents
输入数据的设备和方法 Download PDFInfo
- Publication number
- CN1666222A CN1666222A CN03816070.6A CN03816070A CN1666222A CN 1666222 A CN1666222 A CN 1666222A CN 03816070 A CN03816070 A CN 03816070A CN 1666222 A CN1666222 A CN 1666222A
- Authority
- CN
- China
- Prior art keywords
- light
- input
- user
- template
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0428—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by sensing at the edges of the touch surface the interruption of optical paths, e.g. an illumination plane, parallel to the touch surface which may be virtual
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
- G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
- G06F3/0426—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected tracking fingers with respect to a virtual keyboard projected or printed on the surface
Abstract
一种相对于参考平面(24)探测输入的输入装置(10)。输入装置(10)包括一个或多个光学传感器(16,18),定位它们使得能够相对于参考平面(24)以锐角探测光并且产生表示探测到的光的信号,和一个响应所述的光学传感器的电路(20),用来确定物体相对于参考平面(24)的位置。
Description
技术领域
概括地说,本发明涉及输入数据的设备和方法。更具体地说,本发明涉及用探测到的光确定物体位置的设备和方法。
背景技术
几乎在日常生活的每个方面都要用到输入装置,其中包括计算机的键盘和鼠标、自动取款机、车辆控制和无数其它应用。与大多数事物一样,输入装置通常具有很多移动部分。例如传统的键盘具有打开和闭合电触点的可移动键。但是不幸的是大多数移动部分可能会在其它部件之前损坏或工作异常,特别是那些固态装置。这样的工作异常或损坏在肮脏或满是灰尘的环境中更容易发生。另外,输入装置已经成为限制小型电子装置尺寸的一个因素,如膝上型计算机和个人备忘记事本。例如为了有效,一个键盘输入装置必须具有彼此分开一定距离的键,这个分开的距离至少要有用户手指指尖的尺寸。这样大的键盘已经成为小型化电子装置的一个限制因素。
一些现有技术已经试图解决上述的一个或多个问题。例如,触摸屏可以探测到用户接触显示器上的图像。但是这样的装置通常需要在显示器之中、之上或其周围的传感器和其它装置。另外,减小这种输入装置的尺寸受到显示器尺寸的限制。
其它的现有技术装置利用光学传感器探测用户手指的位置。但是通常这些装置需要放置光学传感器使得它们在键盘或其它输入装置的上面或与它们垂直。这样它们的体积就比较大并且不适于用在小型手持装置中。
其它现有技术的装置利用放置在待检测表面上的光学传感器探测用户手指的位置。例如当使用键盘时,这样的装置通常需要传感器位于键盘的角部或其它的边界上。这样,由于传感器分布的尺寸必须至少要和键盘的尺寸一样大,它们的体积就比较大。这样的装置不能用在小型手持装置中或者不能提供实际大小的键盘或其它输入装置。
这样就需要一种输入装置,它大到能够有效地使用它,并且能够把它放在诸如电子装置等小设备中,如膝上型计算机和个人备忘记事本等。还需要一种输入装置,它不会由于肮脏的环境或灰尘等微粒物质而导致失效。
发明内容
本发明包括一种用于相对于参考平面探测输入的输入装置。输入装置包括:一个光学传感器,定位光学传感器使得它能够相对于参考平面以锐角探测光并且产生表示探测光的信号;和一个电路,它响应所述的光学传感器用来确定物体相对于参考平面的位置。于是可以用物体相对于参考平面的部分来产生目前用机械装置产生的那种类型的输入信号。这个输入信号输入到电子装置中,如膝上型计算机和个人备忘记事本。
本发明还包括一种确定输入的方法。该方法包括提供一个光源,相对于参考表面以锐角探测光,产生至少一个表示物体相对于参考平面位置的信号。
本发明通过提供一种输入装置克服了现有技术的缺陷,这种输入装置结构紧凑并且允许提供实际尺寸的键盘或其它输入装置。不同于现有技术的装置,那些现有技术的装置需要传感器直接位于所要探测区域的上面或者在所要探测区域的边界,本发明允许输入装置是自持的并且远离所要探测的区域。
通过下面对优选实施例的描述本发明的那些其它优点和好处将变得明显。
附图说明
为了能够更清晰地理解和更容易地实施本发明,下面结合附图描述本发明,在附图中:
图1是结构图,示出了根据本发明构造的输入装置;
图2是输入装置的顶视平面示意图,示出了第一和第二传感器的方位;
图3是定位在根据本发明所构造的输入装置中的投影仪和光源的示意图;
图4是探测用户手指的输入装置的透视图;
图5-8示出了二维阵列型传感器探测到的光;
图9是侧视平面图和结构图的组合,示出了本发明另一个实施例,其中光源产生靠近输入模板的光平面;
图10是二维阵列型传感器的示意图,示出了可以怎样使用单独一个二维阵列型传感器的图像确定输入模板附近的物体位置;
图11和12示出了可以用来取代图10示出的二维阵列型传感器的一维阵列型传感器;
图13是本发明另一个实施例的结构图,其中包括一个在实际现实应用中可以使用的投影眼镜,用来给用户提供输入模板的图像;
图14示出了另一个实施例,其中分度光源为对齐输入模板提供分度标记;
图15是结构图,示出了相对于参考平面探测输入的方法;
图16是结构图,示出了校准输入装置的方法。
具体实施方式
应该理解为了示出那些与清晰理解本发明相关的元件,本发明的附图和描述已经简化了,同时为了清晰,去除了许多其它元件。那些本领域技术人员会认识到为了实施本发明可能需要和/或必需其它元件。但是,由于那些元件在本领域中是已知的,并且它们并不利于更好地理解本发明,这里就不提供对那些元件的讨论了。
图1是结构图,示出了根据本发明构造的输入装置10。输入装置10包括一个输入模板12、一个光源14、一个第一光学传感器16、一个第二光学传感器18和一个电路20。
输入模板12给使用输入装置10提供方便,它可以是键盘或指示器等输入装置的图像。输入模板12可以是实体模板,如上面印刷了输入设备的图像的表面。例如,输入模板12可以是一张纸或一片塑料片,它上面打印了键盘的图像。输入模板12也可以用投影到固体表面上的光形成。例如,投影仪22可以把输入模板12的图像投影到固体表面如桌面上。投影仪22可以是例如幻灯机或激光投影仪。投影仪22还可以同时或单独提供几个不同的输入模板12。例如,可以在开始时同时提供键盘和指示器。但是在其它的功能中,输入模板12可以采取其它的形式,如按钮型控制板、小键盘和CAD模板。另外,投影仪22可以提供自定义输入模板12。输入模板12也可以不用投影仪22形成,而是利用全息图像或球面反射等形成。甚至如下所述,可以不使用输入模板12。
输入模板12位于参考平面24中。参考平面24由输入装置10限定并且作为确定用户输入的参考。例如,如果输入装置12起到键盘的作用,可以认为参考平面24是虚拟键盘。参考参考平面24监测用户的动作从而确定用户正在选择键盘上的哪些键。可以把参考平面24想象为它被进一步限定在键盘上的那些键内,而每个键在参考平面24上都具有一个位置,从而可以把用户的动作解释为从键盘上选出的字符。
光源14提供靠近输入模板12的光。光源14可以提供多种类型光中的任何一种,包括可见光、相干光、紫外光和红外光。光源14可以是白炽灯、荧光灯或激光。由于输入装置10可以使用来自周围环境的环境光或来自人体的红外光,所以光源14不必是输入装置10的机械部件。当在平坦表面的上部使用输入装置10时,光源14通常会把光提供到输入模板12上方。但是输入装置10具有很多用途并且不一定在平坦表面的上面使用它。例如,输入装置10可以垂直安装在墙上,如自动取款机、控制板或一些其它的输入装置。在这样的实施例中,光源14将提供靠近输入模板12的光,并且从用户的角度看,光源14把光提供到输入模板12的前面。另外,如果输入装置10安装在用户的上方,如汽车或飞机的顶部,光源14将提供靠近15并且在输入模板12下方的光。但是,在那些实施例的每个实施例中,所提供的光都靠近输入模板12。
定位第一和第二光学传感器16、18使得它们能够与输入模板12成锐角探测光,并且产生表示探测到光的信号。第一和第二光学传感器16、18可以是很多种类型的光学传感器中的任何一种,并且可以包括聚光和记录设备(即照相机)。例如,第一和第二光学传感器16、18可以是二维阵列型光学传感器并且还可以是一维阵列型光学传感器。另外,第一和第二光学传感器16、18可以探测多种类型光中的任何一种,如可见光、相干光、紫外光和红外光。还可以选择或调整第一和第二光学传感器16、18使得它们对预定类型的光特别敏感,如对光源14产生的特殊频率的光特别敏感,或者对人的手指发出的红外光特别敏感。如下所述,输入装置10还可以只使用第一和第二光学传感器16、18中的一个,或者可以使用两个以上光学传感器。
电路20响应第一和第二光学传感器16、18并且确定一个物体相对于参考平面24的位置。电路20可以包括模数转换器28、30,用来把来自第一和第二光学传感器16、18的模拟信号转换为处理器32可以使用的数字信号。必须在三维空间中确定一个或多个物体相对于参考平面的位置。也就是说,如果使用一个二维图像从正上方观察键盘,能够确认出手指正在哪个键上面。这不会告诉我们手指是否垂直移动去按下那个具体的键。如果从与桌面平行的平面观察键盘,能够观察到手指的垂直位置和在单个平面上的位置(x和y位置),但是不能观察到在z方向的位置(离开的距离)。因此存在几种方法来确定需要的信息。处理器32可以应用一种或多种这些技术来确定靠近输入模板12的物体位置。处理器32还可以应用图像识别技术来区分用来输入数据的物体和背景物体。用于确定物体位置和用于图像识别的软件已经商业化了,可以从Millennia 3,Inc.,Allison Park,Pa得到。电路20可以给电子装置33提供输出信号,如手提电脑或个人备忘记事本。输出信号表示用户所选择的输入。
存在几种确定物体位置的处理方法。这些方法中包括应用结构光的三角测量、双目不对称、测距和使用模糊逻辑。
为了使用应用结构光的三角测量方法探测物体的位置属性,使用从一个或几个手指反射回来的光的三角测量来计算手指的X和Z位置。手指(是否按下键)的Y位置(即垂直位置)利用光平面是否交叉来确定。根据所需的具体角度和分辨率,实施这种方法时可以使用一个或多个光学传感器或照相机。
双目不对称方法是三角测量方法的一般形式,其中来自每个光学传感器或照相机的所有图像点需要关联。一旦建立起关联,比较点落在每个传感器上的相应位置。从数学的角度讲,这样就能够利用这些位置之间的差别使用三角测量方法来计算所述距离。实际上由于关联图像点这个问题比较复杂,这种方法也就比较困难。通常要使用一些显著的参考位置作为代替,如明确的参考点、角、边等。根据定义,这需要两个传感器(或单独一个传感器的两个区域)。
测距方法是一种确定物体离开传感器距离的方法。传统上使用过两种方法。第一种方法使用聚焦。在测试图像的清晰度时调节透镜。第二种方法使用当光从物体反射回到传感器时光的“飞行时间”。其关系是距离=1/2(光速×时间)。从这两种技术的结果可以得到感兴趣区域的三维图,由此显示出在什么时间按下了哪些键。一般来讲,这些方法使用单独一个传感器。
针对处理操作的困难已经开始使用新一代的硬件(和软件实现)。具体地说,模糊逻辑这一技术能够直接或使用统计推断相关来比较信息(在这种情况下是指图像)。例如,通过连续相互比较所选择的图像区域可以使用这种方法来执行双目不对称。当比较结果达到峰值时,就确定出距离。相关技术包括:自相关、人工智能和神经网络。
图2是输入装置10的顶视平面示意图,示出了第一和第二传感器16、18的方位。与一些现有技术的装置不同,本发明中的传感器16、18可以远离要探测的区域,并且可以在大致相同方向上面对。由于第一和第二光学传感器16、18可以远离要探测的区域,输入装置10可以是小型紧凑装置,这在一些应用中是很理想的,如用在个人备忘记事本和膝上型计算机上时。例如本发明可以应用在膝上型计算机中,它具有比键盘小很多的尺寸,但是给用户提供实际大小的键盘和鼠标。
图3示意性地示出了根据本发明构造的输入装置10中的投影仪22和光源14。输入装置10可以放在固体表面34上。可以把投影仪22放置得比输入装置10高从而增加投影仪把输入模板12投影到表面34上的角度。可以把光源14放置得比输入装置10低,从而靠近表面34提供接近输入模板12的光,并且通过减少入射到表面34上的光量来减少投射到输入模板12的“冲失”。
图4是探测用户手指36的输入的输入装置10的透视图。当用户手指36接近输入模板12时,光源14照亮用户手指36的部分38。光从用户手指36的照亮部分38反射回来并且第一和第二光学传感器16、18探测到这些光(在图1和2中示出)。定位光学传感器16、18(在图1和2中示出)使它们相对于输入模板12以锐角探测光。来自用户手指36的光的精确角度依赖于输入装置10中的第一和第二光学传感器16、18(在图1和2中示出)的位置以及输入装置10离用户手指36的距离。
图5和6图示了二维阵列型传感器探测到的光,第一和第二光学传感器16、18可以使用这样的传感器。二维阵列型传感器是一种用于摄影机中的光学传感器,在用图形示出时可以把它表示为光学传感器的二维网格。二维阵列型传感器所探测到的光可以表示为像素的二维网格。在图5和6中变暗的像素表示从图4示出的用户手指36反射回来并且分别被第一和第二光学传感器16、18探测到的光。可以把双目不对称技术和/或三角测量技术应用到来自第一和第二光学传感器16、18的数据从而确定用户手指36的位置。从所探测到的光在像素阵列中的位置可以确定用户手指36的相对左右位置。例如,如果物体出现在第一和第二光学传感器16、18的左侧,那么物体在传感器16、18的左侧。如果在传感器16的右侧探测到物体,那么物体在右侧。可以从传感器探测到的图像中的差距来确定用户手指36的距离。例如,用户手指36离传感器越远,来自第一和第二光学传感器16、18的图像就越相似。反之,当用户手指36接近第一和第二光学传感器16、18时,图像会变得越来越不相似。例如,如果用户手指36靠近第一和第二光学传感器16、18并且大致靠近输入模板12的中心,在一个传感器的右侧会出现一个图像,在另一个传感器的左侧会出现一个不同的图像,这就如图7和图8分别示出的那样。
根据用户手指36和输入模板12之间的距离,输入装置10能够确定什么时候用户意图从输入模板12选择一项,这与用户并不想做选择时是不同的。例如,当用户手指36离输入模板12的距离小于1英寸时,输入装置10就断定用户想要选择用户手指下面的那一项。可以校准输入装置10以确定用户手指36和输入模板12之间的距离。
图9是侧视平面图和结构图的组合,示出了本发明的另一个实施例,其中光源14产生一个靠近输入模板12的光平面。在该实施例中,光平面限定了输入模板12上面的一个距离,为了在输入模板12上选择一项,物体必须放置在输入模板12上面所限定的距离的光平面上。这是由于如果用户手指36在光平面上面,用户手指36不会向第一和第二光学传感器16、18反射光。反之,一旦用户手指36穿过光平面,光就会反射回到第一和第二光学传感器16,18上。
可以定位光源14使得光平面是倾斜的并且它在输入模板12上面的高度不是恒定的。如图9所示,光平面可以是输入模板12上面的一个平面,在靠近光源14的一点上与输入模板12分开一定距离,光平面在远离光源14的位置在输入模板12上面离开输入模板12的距离要小一些。当然也可以实施与之相反的形式。利用光平面的这种不均匀高度便于探测距离。例如,如果用户手指36靠近光源14,它将向二维阵列型传感器的顶部反射光。反之,如果用户手指36远离光源14,它将向二维阵列型传感器底部反射光。
图10是二维阵列型传感器的示意图,示出了可以怎样使用来自单独一个二维阵列型传感器的图像确定输入模板附近的物体位置。可以从二维阵列型传感器上探测到反射光的部分来确定物体位置。例如,利用上述的实施例,可以利用从物体反射的光的水平位置确定物体相对于传感器的方向。例如,位于传感器左侧的物体会向传感器左侧反射光。位于传感器右侧的物体会向传感器右侧反射光。可以使用物体反射光的垂直位置确定传感器离物体的距离。例如,在图9示出的实施例中,靠近传感器的物体会使得光反射向传感器的顶部。反之,远离传感器的物体会把光反射到更靠近传感器底部的位置。光平面的倾斜度和传感器的分辨率会影响输入装置10的深度灵敏性。当然,如果把图9中示出的光平面斜度反向,传感器的深度识别也会相反。
图11和12示出了可以用来取代图10示出的二维阵列型传感器的一维阵列型传感器。一维阵列型传感器与二维阵列型传感器类似,除了它们只在一维中探测光。所以可以使用一维阵列型传感器来确定探测到的光的水平位置,但是不能确定探测到的光的垂直位置。可以定位一对一维阵列型传感器使得它们彼此垂直,这样就可以用类似于参考图10描述过的方式使用它们来确定物体如用户手指36的位置。例如,图11示出了沿垂直方向定位的一维阵列型传感器,可以使用这个传感器确定用户手指36的位置的深度分量。图12示出了沿水平方向定位的一维阵列型传感器,可以使用它确定用户手指36的左右位置。
本发明还可以包括一种下述的校准方法。例如当使用输入装置的纸张或塑料图像等实体模板时,可以使用校准方法。在这样的实施例中,输入装置10可以提示用户进行一些尝试输入。例如,当使用键盘输入模板12时,输入装置10可以提示用户键入几个键。使用输入装置10所探测到的输入来确定输入模板12的位置。例如,输入装置10可以提示用户键入“the quick brown fox”,从而确定用户把输入模板12放在了哪里。或者在使用鼠标等指示器的情况下,输入装置10可以提示用户指出指示器运动范围的边界。利用这个信息,输入装置10能够标准化输入模板12的输入。
在另一个实施例中,输入装置10可以不使用输入模板12。例如,一个好打字员可以不需要键盘的图像来输入数据。在这种情况下,如果用户正在使用输入模板12,输入装置10可以提示用户做一些尝试输入从而确定输入模板12会放在哪里。另外,对于简单的输入模板,如只具有很少几个输入数字的输入模板12,那么任何用户都可以不需要输入模板12。例如,在大多数情况下输入模板12只有两个输入,那么用户不需要输入模板就能够可靠地进行输入。在这个例子中,把用户手指36大致放置在输入装置10的左侧就可以选择一个输入,把用户手指36大致放置在输入装置10的右侧就可以选择另一个输入。即使不使用输入模板12,参考平面22仍然存在。例如,即使用户不使用输入模板12,定位一个或多个光学传感器16、18探测相对于参考平面22成锐角反射回来的光。
图13是表示本发明另一个实施例的结构图,其中包括一个在实际现实应用中可以使用的投影眼镜42,从而给用户提供输入模板12的图像。这个实施例没有使用输入模板12。处理器32可以控制投影眼镜42。投影眼镜42可以对位置敏感从而处理器32知道投影眼镜42在什么位置、什么角度,这样就使得即使用户脑袋移动了,投影眼镜42所创建的图像相对于用户也一直保持在一个位置。投影眼镜42可以使用户在看到周围实景的同时看到输入模板12的图像。在这个实施例中,即使用户的脑袋移动了,输入模板12在用户的视野中也可以保持在相同的位置。另外,如果投影眼镜42可以对位置敏感,当用户脑袋移动时,输入模板12可以保持在实体(如桌面)的一个位置上。图13示出的实施例只使用了一个传感器16,没有使用光源14或投影仪22,但是如上所述,可以使用更多的传感器、光源14和投影仪22。
图14示出了另一个实施例,其中提供了分度光源44。分度光源44用来在表面34上提供一个或更多个分度标记46。用户可以使用分度标记46正确地对齐实体输入模板12。在这个实施例中,不需要较准步骤来确定实体输入模板12的精确位置。
图15是一个结构图,示出了探测相对于参考平面的输入的方法。该方法包括提供一个光源50、相对于参考平面以锐角探测光52、产生至少一个表示探测光的信号54、根据至少一个表示探测光的信号确定物体相对于参考平面的位置56、并且从物体相对于参考平面的位置确定输入58。类似于上述对所提供的装置的描述,该方法可以包括在参考平面中提供输入模板。
图16是一个结构图,示出了校准输入装置的一种方法。该方法包括提示用户在参考平面上的一个位置提供输入60、确定用户所提供的输入位置62、定位参考平面使得提示用户输入的位置与用户所提供的输入位置一致64。可以使用一个输入模板,把它放置在参考平面中并且执行校准方法。无论是否使用输入模板,都把参考平面定义为输入装置。可以把参考平面定义为许多输入装置中的任何输入装置,如键盘或指示器。例如,如果把参考平面定义为键盘,校准方法可以包括提示用户输入键盘上的字符并且定位参考平面使得提示用户的字符位置与用户所提供的输入位置一致。可以用来自用户的一个以上输入来执行校准方法,从而该方法包括提示用户要多个输入(每个输入在参考平面上具有一个位置),确定用户所提供的每个输入的位置,定位参考平面使得每个提示用户输入的位置与用户所提供的每个输入位置一致。可以用与正常操作中确定输入一样的方式来实现确定用户所提供的一个或多个输入的位置。换言之,确定过程可以包括提供一个光源、相对于参考平面以锐角探测光、产生至少一个表示探测光的信号、和根据至少一个表示探测光的信号确定物体相对于参考平面的位置。
那些本领域技术人员能够认识到可以实现本发明的多种改进和变化。例如,本发明是参考用来选择输入模板12上的项的用户手指36来描述的,但是其它诸如铅笔和钢笔等物体也可以用来选择输入模板12上的项。作为另一个例子,可以不使用光源14。可以利用物体的尺寸来确定物体的深度。靠近传感器的物体比远离传感器的物体显得大。上述对输入装置10的校准可以用来确定物体在各个位置的尺寸。例如,在输入数据之前,可以提示用户选择靠近输入模板12顶部的输入,然后选择靠近输入模板12本体的项。利用这些信息,输入装置10可以对它们之间的位置进行插值。前面的描述和后面的权利要求意图涵盖所有的这些改进和变化。
权利要求书
(按照条约第19条的修改)
1.一种用来探测一个区域中的物体的系统,不可见光谱范围中的波照射该区域,该系统包括:
一个投影仪,它的结构使得视频图像可以投射到该区域上;
一个用来发射不可见光谱范围中的波的装置,它的结构使得能够基本上照射该区域;
一个接收装置,它的结构使得接收装置记录该受照射区域,把接收装置特别地均衡到与这些波对应的不可见光谱范围;和
一个计算机,它配置有使用模糊逻辑的识别算法,其中使用识别算法探测这些发射的波照射的物体。
2.如权利要求1所述的系统,其中发射不可见光谱范围中波的装置具有至少一个红外光源,并且其中接收装置是至少一个照相机。
3.如权利要求2所述的系统,其中红外光源是红外光发射二极管和具有红外滤光器的白炽灯泡中的一个。
4.如权利要求3所述的系统,其中照相机具有一个只允许红外光透射的滤光器。
5.如权利要求4所述的系统,其中照相机的滤光器只允许红外光发射二极管或具有红外滤光器的白炽灯泡的一个光谱范围内的光透射。
6.如权利要求1所述的系统,其中用红外光从下面照射该区域,并且使得投射表面反射可见光谱范围而且透射红外光谱范围。
7.如权利要求1所述的系统,其中发射不可见光谱范围中波的装置具有至少一个发射紫外辐射的装置,并且其中接收装置是至少一个紫外辐射接收器。
8.如权利要求1所述的系统,其中发射装置和接收装置位于一个光轴上。
9.一种探测在一个区域中的物体的方法,该方法包括下述步骤:
在该区域中产生一个视频图像,它具有计算机能够把可用功能施加到其上的至少一个范围,视频图像投射到一个预定区域上;
把物体移动到该预定区域中;
为了探测物体,用波长在不可见光谱范围内的波照射该区域;
使用一个接收装置探测物体,该接收装置特别均衡到与这些波对应的不可见光谱范围;和
当物体停留在该范围中预定时间后,物体触发该范围的功能。
10.如权利要求9所述的方法,进一步包括通过移动用户手指移动与物体相关的鼠标指针越过照射区域的步骤。
11.如权利要求9所述的方法,进一步包括一个实现控制的步骤,使用用户的一个手指、用户的一只手或指针是实现控制的特征。
12.一种非接触装置,用来把物体的移动转变为数据,包括:
一个或多个光源;
一个或多个光学传感器,当所述的一个或多个光源照射所述的物体时,排列该一个或多个光学传感器以探测从所述物体上反射的光;和
一个电路,用来根据所述的探测到的反射光计算所述的物体相对于一个或多个参考点的相对位置,
所述的电路包括一个处理器,用来执行用于计算所述物体的所述相对位置的算法,所述的算法使用模糊逻辑。
13.如权利要求12所述的装置,进一步包括一个数据输入装置的模板。
14.如权利要求13所述的装置,其中所述的输入模板是实体模板。
15.如权利要求12所述的装置,进一步包括:
一个投影仪;
其中所述的输入模板是投影图像。
16.如权利要求12所述的装置,其中所述的输入模板是全息图像。
17.如权利要求12所述的装置,其中所述的输入模板是球面反射。
18.如权利要求12所述的装置,其中所述的一个或多个光源提供从一组光中选择出来的一种光,这组光包括可见光、相干光、紫外光和红外光。
19.如权利要求12所述的装置,其中所述的算法使用三角测量。
20.如权利要求12所述的装置,其中所述的算法使用双目不对称。
21.如权利要求12所述的装置,其中所述的算法使用数学测距。
22.如权利要求12所述的装置,其中所述的一个或多个光学传感器是二维阵列型光学传感器。
23.如权利要求12所述的装置,其中所述的一个或多个光学传感器是一维阵列型光学传感器。
24.如权利要求12所述的装置,进一步包括一个连接所述的装置和计算机的接口,使得代表所述的物体位置的所述数据能够从所述的装置通过所述的接口传递到所述的计算机上。
25.如权利要求24所述的装置,其中所述的接口是硬接线的。
26.如权利要求24所述的装置,其中所述的接口是无线的。
27.如权利要求26所述的装置,其中所述的无线接口从包括红外、射频和微波的组中选择。
Claims (31)
1.一种用来探测一个区域中的物体的系统,不可见光谱范围中的波照射该区域,该系统包括:
一个投影仪,它的结构使得视频图像可以投射到该区域上;
一个用来发射不可见光谱范围中的波的装置,它的结构使得能够基本上照射该区域;
一个接收装置,它的结构使得接收装置记录受照射区域,把接收装置特别地均衡到与这些波对应的不可见光谱范围;和
一个计算机,它配置有识别算法,其中使用识别算法探测这些发射的波照射的物体。
2.如权利要求1所述的系统,其中发射不可见光谱范围中波的装置具有至少一个红外光源,并且其中接收装置是至少一个照相机。
3.如权利要求2所述的系统,其中红外光源是红外光发射二极管和具有红外滤光器的白炽灯泡中的一个。
4.如权利要求3所述的系统,其中照相机具有一个只允许红外光透射的滤光器。
5.如权利要求4所述的系统,其中照相机的滤光器只允许红外光发射二极管或具有红外滤光器的白炽灯泡的一个光谱范围内的光透射。
6.如权利要求1所述的系统,其中用红外光从下面照射该区域,并且使得投射表面反射可见光谱范围而且透射红外光谱范围。
7.如权利要求1所述的系统,其中发射不可见光谱范围中波的装置具有至少一个发射紫外辐射的装置,并且其中接收装置是至少一个紫外辐射接收器。
8.如权利要求1所述的系统,其中发射装置和接收装置位于一个光轴上。
9.一种探测在一个区域中的物体的方法,该方法包括下述步骤:
在该区域中产生一个视频图像,它具有计算机能够把可用功能施加到其上的至少一个范围,视频图像投射到一个预定区域上;
把物体移动到该预定区域中;
为了探测物体,用波长在不可见光谱范围内的波照射该区域;
使用一个接收装置探测物体,该接收装置特别均衡到与这些波对应的不可见光谱范围;和
当物体停留在该范围中预定时间后,物体触发该范围的功能。
10.如权利要求9所述的方法,进一步包括通过移动用户手指移动与物体相关的鼠标指针越过照射区域的步骤。
11.如权利要求9所述的方法,进一步包括实现控制的步骤,使用用户的一个手指、用户的一只手或指针是实现控制的特征。
12.一种非接触装置,用来把物体的移动转变为数据,包括:
一个或多个光源;
一个或多个光学传感器,当所述的一个或多个光源照射所述的物体时,排列该一个或多个光学传感器以探测从所述物体上反射的光;和
一个电路,用来根据所述的探测到的反射光计算所述的物体相对于一个或多个参考点的相对位置。
13.如权利要求12所述的装置,进一步包括一个数据输入装置的模板。
14.如权利要求13所述的装置,其中所述的输入模板是实体模板。
15.如权利要求12所述的装置,进一步包括:
一个投影仪;
其中所述的输入模板是投影图像。
16.如权利要求12所述的装置,其中所述的输入模板是全息图像。
17.如权利要求12所述的装置,其中所述的输入模板是球面反射。
18.如权利要求12所述的装置,其中所述的一个或多个光源提供从一组光中选择出来的一种光,这组光包括可见光、相干光、紫外光和红外光。
19.如权利要求12所述的装置,其中所述的电路包括一个处理器,它使用算法计算所述物体的所述位置。
20.如权利要求19所述的装置,其中所述的算法使用三角测量。
21.如权利要求19所述的装置,其中所述的算法使用双目不对称。
22.如权利要求19所述的装置,其中所述的算法使用数学测距。
23.如权利要求20所述的装置,其中所述的算法使用模糊逻辑。
24.如权利要求21所述的装置,其中所述的算法使用模糊逻辑。
25.如权利要求22所述的装置,其中所述的算法使用模糊逻辑。
26.如权利要求12所述的装置,其中所述的一个或多个光学传感器是二维阵列型光学传感器。
27.如权利要求12所述的装置,其中所述的一个或多个光学传感器是一维阵列型光学传感器。
28.如权利要求12所述的装置,进一步包括一个连接所述的装置和计算机的接口,使得代表所述的物体位置的所述数据能够从所述的装置通过所述的接口传递到所述的计算机上。
29.如权利要求28所述的装置,其中所述的接口是硬接线的。
30.如权利要求28所述的装置,其中所述的接口是无线的。
31.如权利要求30所述的装置,其中所述的无线接口从包括红外、射频和微波的组中选择。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/167,301 | 2002-06-10 | ||
US10/167,301 US20030226968A1 (en) | 2002-06-10 | 2002-06-10 | Apparatus and method for inputting data |
Publications (1)
Publication Number | Publication Date |
---|---|
CN1666222A true CN1666222A (zh) | 2005-09-07 |
Family
ID=29710857
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN03816070.6A Pending CN1666222A (zh) | 2002-06-10 | 2003-01-23 | 输入数据的设备和方法 |
Country Status (8)
Country | Link |
---|---|
US (1) | US20030226968A1 (zh) |
EP (1) | EP1516280A2 (zh) |
JP (1) | JP2006509269A (zh) |
CN (1) | CN1666222A (zh) |
AU (1) | AU2003205297A1 (zh) |
CA (1) | CA2493236A1 (zh) |
IL (1) | IL165663A0 (zh) |
WO (1) | WO2003105074A2 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102478956A (zh) * | 2010-11-25 | 2012-05-30 | 安凯(广州)微电子技术有限公司 | 一种虚拟键盘输入设备及输入方法 |
CN102880304A (zh) * | 2012-09-06 | 2013-01-16 | 天津大学 | 用于便携设备的字符输入方法及装置 |
CN103365488A (zh) * | 2012-04-05 | 2013-10-23 | 索尼公司 | 信息处理装置、程序和信息处理方法 |
CN103425268A (zh) * | 2012-05-18 | 2013-12-04 | 株式会社理光 | 图像处理装置、计算机可读记录介质和图像处理方法 |
CN104947378A (zh) * | 2015-06-24 | 2015-09-30 | 无锡小天鹅股份有限公司 | 洗衣机 |
US9912930B2 (en) | 2013-03-11 | 2018-03-06 | Sony Corporation | Processing video signals based on user focus on a particular portion of a video display |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4052498B2 (ja) | 1999-10-29 | 2008-02-27 | 株式会社リコー | 座標入力装置および方法 |
JP2001184161A (ja) | 1999-12-27 | 2001-07-06 | Ricoh Co Ltd | 情報入力方法、情報入力装置、筆記入力装置、筆記データ管理方法、表示制御方法、携帯型電子筆記装置および記録媒体 |
JP5042437B2 (ja) | 2000-07-05 | 2012-10-03 | スマート テクノロジーズ ユーエルシー | カメラベースのタッチシステム |
US6803906B1 (en) | 2000-07-05 | 2004-10-12 | Smart Technologies, Inc. | Passive touch system and method of detecting user input |
US20040001144A1 (en) | 2002-06-27 | 2004-01-01 | Mccharles Randy | Synchronization of camera images in camera-based touch system to enhance position determination of fast moving objects |
US6954197B2 (en) | 2002-11-15 | 2005-10-11 | Smart Technologies Inc. | Size/scale and orientation determination of a pointer in a camera-based touch system |
US8508508B2 (en) | 2003-02-14 | 2013-08-13 | Next Holdings Limited | Touch screen signal processing with single-point calibration |
US7629967B2 (en) | 2003-02-14 | 2009-12-08 | Next Holdings Limited | Touch screen signal processing |
US8456447B2 (en) | 2003-02-14 | 2013-06-04 | Next Holdings Limited | Touch screen signal processing |
US7532206B2 (en) | 2003-03-11 | 2009-05-12 | Smart Technologies Ulc | System and method for differentiating between pointers used to contact touch surface |
US7256772B2 (en) | 2003-04-08 | 2007-08-14 | Smart Technologies, Inc. | Auto-aligning touch system and method |
US7411575B2 (en) | 2003-09-16 | 2008-08-12 | Smart Technologies Ulc | Gesture recognition method and touch system incorporating the same |
US7274356B2 (en) | 2003-10-09 | 2007-09-25 | Smart Technologies Inc. | Apparatus for determining the location of a pointer within a region of interest |
US7355593B2 (en) | 2004-01-02 | 2008-04-08 | Smart Technologies, Inc. | Pointer tracking across multiple overlapping coordinate input sub-regions defining a generally contiguous input region |
US7460110B2 (en) | 2004-04-29 | 2008-12-02 | Smart Technologies Ulc | Dual mode touch system |
US7492357B2 (en) * | 2004-05-05 | 2009-02-17 | Smart Technologies Ulc | Apparatus and method for detecting a pointer relative to a touch surface |
US7538759B2 (en) | 2004-05-07 | 2009-05-26 | Next Holdings Limited | Touch panel display system with illumination and detection provided from a single edge |
US8120596B2 (en) | 2004-05-21 | 2012-02-21 | Smart Technologies Ulc | Tiled touch system |
US9442607B2 (en) | 2006-12-04 | 2016-09-13 | Smart Technologies Inc. | Interactive input system and method |
EP2135155B1 (en) | 2007-04-11 | 2013-09-18 | Next Holdings, Inc. | Touch screen system with hover and click input methods |
US8094137B2 (en) | 2007-07-23 | 2012-01-10 | Smart Technologies Ulc | System and method of detecting contact on a display |
US8432377B2 (en) | 2007-08-30 | 2013-04-30 | Next Holdings Limited | Optical touchscreen with improved illumination |
US8384693B2 (en) | 2007-08-30 | 2013-02-26 | Next Holdings Limited | Low profile touch panel systems |
US8405636B2 (en) | 2008-01-07 | 2013-03-26 | Next Holdings Limited | Optical position sensing system and optical position sensor assembly |
US8902193B2 (en) | 2008-05-09 | 2014-12-02 | Smart Technologies Ulc | Interactive input system and bezel therefor |
WO2010019802A1 (en) * | 2008-08-15 | 2010-02-18 | Gesturetek, Inc. | Enhanced multi-touch detection |
US8339378B2 (en) | 2008-11-05 | 2012-12-25 | Smart Technologies Ulc | Interactive input system with multi-angle reflector |
US20100325054A1 (en) * | 2009-06-18 | 2010-12-23 | Varigence, Inc. | Method and apparatus for business intelligence analysis and modification |
US8692768B2 (en) | 2009-07-10 | 2014-04-08 | Smart Technologies Ulc | Interactive input system |
CN106537248B (zh) | 2014-07-29 | 2019-01-15 | 索尼公司 | 投影型显示装置 |
JP6372266B2 (ja) * | 2014-09-09 | 2018-08-15 | ソニー株式会社 | 投射型表示装置および機能制御方法 |
US11269066B2 (en) | 2019-04-17 | 2022-03-08 | Waymo Llc | Multi-sensor synchronization measurement device |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3748015A (en) * | 1971-06-21 | 1973-07-24 | Perkin Elmer Corp | Unit power imaging catoptric anastigmat |
US4032237A (en) * | 1976-04-12 | 1977-06-28 | Bell Telephone Laboratories, Incorporated | Stereoscopic technique for detecting defects in periodic structures |
US4468694A (en) * | 1980-12-30 | 1984-08-28 | International Business Machines Corporation | Apparatus and method for remote displaying and sensing of information using shadow parallax |
NL8500141A (nl) * | 1985-01-21 | 1986-08-18 | Delft Tech Hogeschool | Werkwijze voor het bij een waarnemer opwekken van een drie-dimensionale indruk vanuit een twee-dimensionale afbeelding. |
US5073770A (en) * | 1985-04-19 | 1991-12-17 | Lowbner Hugh G | Brightpen/pad II |
US4782328A (en) * | 1986-10-02 | 1988-11-01 | Product Development Services, Incorporated | Ambient-light-responsive touch screen data input method and system |
US4808979A (en) * | 1987-04-02 | 1989-02-28 | Tektronix, Inc. | Cursor for use in 3-D imaging systems |
US4875034A (en) * | 1988-02-08 | 1989-10-17 | Brokenshire Daniel A | Stereoscopic graphics display system with multiple windows for displaying multiple images |
US5031228A (en) * | 1988-09-14 | 1991-07-09 | A. C. Nielsen Company | Image recognition system and method |
US5138304A (en) * | 1990-08-02 | 1992-08-11 | Hewlett-Packard Company | Projected image light pen |
JP3247126B2 (ja) * | 1990-10-05 | 2002-01-15 | テキサス インスツルメンツ インコーポレイテツド | 可搬型可視表示装置を提供する方法並びに装置 |
EP0554492B1 (en) * | 1992-02-07 | 1995-08-09 | International Business Machines Corporation | Method and device for optical input of commands or data |
US5334991A (en) * | 1992-05-15 | 1994-08-02 | Reflection Technology | Dual image head-mounted display |
EP0829799A3 (en) * | 1992-05-26 | 1998-08-26 | Takenaka Corporation | Wall computer module |
US5510806A (en) * | 1993-10-28 | 1996-04-23 | Dell Usa, L.P. | Portable computer having an LCD projection display system |
US5406395A (en) * | 1993-11-01 | 1995-04-11 | Hughes Aircraft Company | Holographic parking assistance device |
US5969698A (en) * | 1993-11-29 | 1999-10-19 | Motorola, Inc. | Manually controllable cursor and control panel in a virtual image |
US5528263A (en) * | 1994-06-15 | 1996-06-18 | Daniel M. Platzker | Interactive projected video image display system |
US5459510A (en) * | 1994-07-08 | 1995-10-17 | Panasonic Technologies, Inc. | CCD imager with modified scanning circuitry for increasing vertical field/frame transfer time |
US6281878B1 (en) * | 1994-11-01 | 2001-08-28 | Stephen V. R. Montellese | Apparatus and method for inputing data |
US5521986A (en) * | 1994-11-30 | 1996-05-28 | American Tel-A-Systems, Inc. | Compact data input device |
US5900863A (en) * | 1995-03-16 | 1999-05-04 | Kabushiki Kaisha Toshiba | Method and apparatus for controlling computer without touching input device |
US5786810A (en) * | 1995-06-07 | 1998-07-28 | Compaq Computer Corporation | Method of determining an object's position and associated apparatus |
US5591972A (en) * | 1995-08-03 | 1997-01-07 | Illumination Technologies, Inc. | Apparatus for reading optical information |
DE19539955A1 (de) * | 1995-10-26 | 1997-04-30 | Sick Ag | Optische Erfassungseinrichtung |
US6061177A (en) * | 1996-12-19 | 2000-05-09 | Fujimoto; Kenneth Noboru | Integrated computer display and graphical input apparatus and method |
DE19708240C2 (de) * | 1997-02-28 | 1999-10-14 | Siemens Ag | Anordnung und Verfahren zur Detektion eines Objekts in einem von Wellen im nichtsichtbaren Spektralbereich angestrahlten Bereich |
DE19721105C5 (de) * | 1997-05-20 | 2008-07-10 | Sick Ag | Opto-eletronischer Sensor |
US6266048B1 (en) * | 1998-08-27 | 2001-07-24 | Hewlett-Packard Company | Method and apparatus for a virtual display/keyboard for a PDA |
US6614422B1 (en) * | 1999-11-04 | 2003-09-02 | Canesta, Inc. | Method and apparatus for entering data using a virtual input device |
-
2002
- 2002-06-10 US US10/167,301 patent/US20030226968A1/en not_active Abandoned
-
2003
- 2003-01-23 AU AU2003205297A patent/AU2003205297A1/en not_active Abandoned
- 2003-01-23 EP EP03703975A patent/EP1516280A2/en not_active Withdrawn
- 2003-01-23 WO PCT/US2003/002026 patent/WO2003105074A2/en active Search and Examination
- 2003-01-23 JP JP2004512071A patent/JP2006509269A/ja active Pending
- 2003-01-23 CA CA002493236A patent/CA2493236A1/en not_active Abandoned
- 2003-01-23 CN CN03816070.6A patent/CN1666222A/zh active Pending
-
2004
- 2004-12-09 IL IL16566304A patent/IL165663A0/xx unknown
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102478956A (zh) * | 2010-11-25 | 2012-05-30 | 安凯(广州)微电子技术有限公司 | 一种虚拟键盘输入设备及输入方法 |
CN103365488A (zh) * | 2012-04-05 | 2013-10-23 | 索尼公司 | 信息处理装置、程序和信息处理方法 |
CN103365488B (zh) * | 2012-04-05 | 2018-01-26 | 索尼公司 | 信息处理装置、程序和信息处理方法 |
CN103425268A (zh) * | 2012-05-18 | 2013-12-04 | 株式会社理光 | 图像处理装置、计算机可读记录介质和图像处理方法 |
CN103425268B (zh) * | 2012-05-18 | 2016-08-10 | 株式会社理光 | 图像处理装置和图像处理方法 |
US9417712B2 (en) | 2012-05-18 | 2016-08-16 | Ricoh Company, Ltd. | Image processing apparatus, computer-readable recording medium, and image processing method |
CN102880304A (zh) * | 2012-09-06 | 2013-01-16 | 天津大学 | 用于便携设备的字符输入方法及装置 |
US9912930B2 (en) | 2013-03-11 | 2018-03-06 | Sony Corporation | Processing video signals based on user focus on a particular portion of a video display |
CN104947378A (zh) * | 2015-06-24 | 2015-09-30 | 无锡小天鹅股份有限公司 | 洗衣机 |
Also Published As
Publication number | Publication date |
---|---|
JP2006509269A (ja) | 2006-03-16 |
AU2003205297A1 (en) | 2003-12-22 |
CA2493236A1 (en) | 2003-12-18 |
EP1516280A2 (en) | 2005-03-23 |
IL165663A0 (en) | 2006-01-15 |
WO2003105074A3 (en) | 2004-02-12 |
WO2003105074A2 (en) | 2003-12-18 |
WO2003105074B1 (en) | 2004-04-01 |
US20030226968A1 (en) | 2003-12-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1666222A (zh) | 输入数据的设备和方法 | |
US6965377B2 (en) | Coordinate input apparatus, coordinate input method, coordinate input-output apparatus, coordinate input-output unit, and coordinate plate | |
JP5950130B2 (ja) | カメラ式マルチタッチ相互作用装置、システム及び方法 | |
KR100953606B1 (ko) | 화상 표시 장치, 화상 표시 방법 및 명령 입력 방법 | |
US7355587B2 (en) | Method and apparatus for computer input using six degrees of freedom | |
US7257255B2 (en) | Capturing hand motion | |
US4468694A (en) | Apparatus and method for remote displaying and sensing of information using shadow parallax | |
US7015894B2 (en) | Information input and output system, method, storage medium, and carrier wave | |
US6281878B1 (en) | Apparatus and method for inputing data | |
CA1196086A (en) | Apparatus and method for remote displaying and sensing of information using shadow parallax | |
CN101238428A (zh) | 自由空间指点和手写 | |
WO2008011361A2 (en) | User interfacing | |
WO1994012897A1 (en) | Diffusion-assisted position location, particularly for visual pen detection | |
CN1928801A (zh) | 利用激光散斑的位置检测系统 | |
US20030146906A1 (en) | Tracking and pressure-sensitive digital pen | |
WO2006068703A1 (en) | Interpreting an image | |
CN102498456A (zh) | 具有光学传感器的显示器 | |
CN1701351A (zh) | 检测和定位用户-对象与虚拟传送设备的交互作用的准三维方法和装置 | |
CN103098075B (zh) | 使用光笔的绝对位置和其他信息的点码图案、打印点码方法、读取点码方法 | |
CN101206549A (zh) | 可感测旋转与倾斜变化信息的运动侦测装置及方法 | |
CN1154039C (zh) | 用于记录手写信息的设备和方法及确定手持设备位置的方法 | |
US7242466B2 (en) | Remote pointing system, device, and methods for identifying absolute position and relative movement on an encoded surface by remote optical method | |
CN201218936Y (zh) | 一种光电传感定位装置及采用该定位装置的手机 | |
RU2166796C2 (ru) | Ручка для ввода рукописной и графической информации в компьютер "shelpen iii" | |
WO2023194616A1 (en) | Calibration method for an electronic display screen for touchless gesture control |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |