DE69732904T2

DE69732904T2 - Verfahren und gerät zur extraktion gegenstände chakterisierender merkmale

Info

Publication number: DE69732904T2
Application number: DE69732904T
Authority: DE
Inventors: Luc Steels
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 1996-12-11
Filing date: 1997-12-11
Publication date: 2006-04-06
Anticipated expiration: 2017-12-12
Also published as: EP0901668B1; WO1998026368A1; EP0901668A1; US6247002B1; DE69732904D1; JP2000508805A; EP0848347A1

Description

Die vorliegende Erfindung bezieht sich auf das Klassifizieren oder Charakterisieren, welches durch einen Agenten (üblicherweise ein Roboter oder Computersystem) auf der Basis von wahrgenommenen Eigenschaften oder Qualitäten durchgeführt wird, insbesondere bezieht sich die Erfindung auf das Extrahieren von Merkmalen, welche Objekte charakterisieren. Die Erfindung betrifft außerdem ein System zur autonomen Erzeugung eines Kommunikationsprotokolls unter Verwendung dieser Merkmalextraktionstechnik.
Die vorliegende Erfindung besteht aus einem Mechanismus zur automatischen und spontanen Bildung von "Bedeutungen", "Beschreibungen" oder "Kategorien", die wahrnehmbar begründet sind, unter einem Auswahldruck, der von einer Unterscheidungsaufgabe herrührt. Die eingerichteten "Beschreibungen" können für eine Anzahl von Zwecken einschließlich Kommunikation verwendet werden.
Eine Unterscheidungsaufgabe fordert die Fähigkeit, eine Entität (beispielsweise ein Objekt), welches das Thema bildet, aus einer Reihe anderer Entitäten, die den Zusammenhang bilden, zu unterscheiden. Die Unterscheidung nimmt die Form an, eine Beschreibung des Themas zu bestimmen, welche sich von dem Zusammenhang unterscheidet. Die Beschreibung des Themas wird die Identifikation einer Kombination von "Kategorien" oder "Merkmalen" umfassen, welche sich an das Thema wenden, jedoch nicht die Entitäten, die den Zusammenhang bilden. Die vorliegende Erfindung liefert einen Mechanismus, um einen Unterscheidungsmerkmalsatz von Datenpunkten zu konstruieren, der für eine Entität repräsentativ ist, wobei der Mechanismus autonom die erforderten "Kategorien" oder "Merkmale" entwickelt.
Die Erfindung ist im Zusammenhang eines größeren Forschungsprogramms entstanden, um die Ursprünge der Sprache und der Bedeutung unter Verwendung komplexer Systemmechanismen, beispielsweise Selbstorganisation, Co-Evolution und Wertbildung zu verstehen (siehe "Synthesising the origins of language and meaning using co-evolution and self-organisation" von L. Steels in "Evolution of Human Language", herausgegeben durch J. Hurford, Edinburgh University Press, Edinburgh, 1996c).
Die Erfindung betrifft den "Bedeutungsbildungs"-Prozess, d.h., das Verfahren, wo der Agent Charakterisierungsregeln und/oder Information herleitet. Ein Verfahren und ein Gerät wurden vorgeschlagen, wobei ein autonomer Agent neue Bedeutungen erzeugen kann. Der Agent ist in dem Sinne autonom, dass seine Ontologie weder explizit durch einen Gestalter festgelegt ist noch es irgendeine explizite Instruktion gibt.
Für die Zwecke des vorliegenden Dokuments wird die Bedeutung als Konzeptualisierung oder Kategorisierung von Realität definiert, welche vom Standpunkt des Agenten her relevant ist. Die Bedeutungen oder Kategorien können durch Sprache zum Ausdruck kommen, obwohl dies nicht sein muss.
Sehr allgemein ausgedrückt nimmt die Bedeutung viele Formen in Abhängigkeit vom Zusammenhang und von der Natur der betroffenen Situation an. Einige Bedeutungen (beispielsweise Farben) sind wahrnehmbar begründet. Andere (beispielsweise soziale Hierarchien) sind in sozialen Beziehungen begründet. Noch andere (beispielsweise Ziele oder Absichten für Aktionen) sind in der Verhaltenzwischenaktion zwischen dem Agenten und der Umgebung eingeführt. Die vorliegende Erfindung richtet sich auf wahrnehmbar begründete Bedeutungen, obwohl der vorgeschlagene Mechanismus auch für andere Bereiche verwendet werden könnte.
Das vorgeschlagene Verfahren und Gerät kann in einem weiten Bereich unterschiedlicher Anwendungen angewandt werden, wo Agenten (beispielsweise Software-Agenten oder Roboter-Agenten) ihre Umgebung autonom abfragen müssen. Diese Fähigkeit ist besonders wichtig in dem Fall von Geräten, beispielsweise unbemannten Erforschungsfahrzeugen, bei denen es erforderlich ist, Aufgaben in einer wenig bekannten und/oder feindlichen Umgebung zu navigieren und durchzuführen, und/oder Daten zu sammeln, die diese betrifft.
Allgemeiner wird die vorliegende Erfindung vorteilhaft bei zahlreichen anderen Gebieten angewandt, wo es notwendig ist, in der Lage zu sein, Entitäten zu charakterisieren, beispielsweise bei natürlichen Sprachverarbeitungssystemen Zeichen- oder Spracherkennungssystemen Fachprobleme-Lösungssystemen Systemen, welche Objekte auf der Basis von Bildern (ob die Bildung eines Index für eine Datenbank von Bildern oder für optionale Zwecke, beispielsweise die Ermittlung von Sprüngen in einer Abbildstruktur) indexieren usw..
Die vorliegende Erfindung betrifft sowohl die "Bedeutungsbildung" in einem einzelnen Agent als auch die "Bedeutungsbildung" in mehreren Agenten, die miteinander unter Verwendung der Kategorien, welche sich entwickelt haben, kommunizieren. Im letzteren Fall kann ein gemeinsames Kommunikationsprotokoll oder "Sprache" aufgebaut werden und kann wie eine Art wirken, ein kohärentes konzeptionelles Gerippe zwischen Agenten zu erzielen, sogar, obwohl jeder Agent individuell sein eigenes Repertoire aufbaut.
Es gibt keinen Vorschlag, dass das Verfahren gemäß der vorliegenden Erfindung empirisch irgendwelchen Verfahren, die im tierischen oder menschlichen Sinne durchgeführt werden, entspricht. Dieses Verfahren ermöglicht es jedoch künstlichen Einrichtungen, eine bedeutungsvolle Charakterisierungsinformation in einer weiten Vielfalt von Anwendungen zu bilden.
Es gab eine Menge Arbeit bezüglich des Problems der Bedeutungsbildung insbesondere in der angehängten Literatur (siehe beispielsweise "Explorations in Parallel Distributed Processing" herausgegeben durch J. L. McClelland und D. E. Rumelhardt, MIT Press/Bradford Books, Cambridge, Messachusetts, 1986). Einen Wahrnehmungskanal beispielsweise kann man als eine Einrichtung ansehen, die einen Satz von Unterscheidungen für eine Klassifizierungsaufgabe als relevant annimmt. Die Sensorkanäle bestehen aus Eingängen zum Wahrnehmungskanal, und die Wichtungen führen die Funktion zum Auswählen von Bereichen aus, die für den Klassifikationsprozess eingegeben werden.
Der wichtigste Unterschied zwischen diesen Zusammenhangannäherungen und der vorliegenden Erfindung besteht darin, dass:

(1) Zusammenhangnetzwerke den Aufbau eines Merkmals-Repertoires innerhalb der Klassifikationsaufgabe (entgegengesetzt zur Unterscheidung) einbetteten, und
(2) eine induktive/instruktionelle Annäherung entgegengesetzt zu einer Auswahlannäherung verwendet wird.

Ein induktiver Versuch basiert auf dem Durchlaufen eines (üblicherweise großen) Satzes von Beispielen, welche die Wichtung schrittweise antreiben, um die beste Klassifikation zu reflektieren. Bei einem Auswahlversuch wird eine Struktur zu einer Existenz durch Variation oder Konstruktion und wird dann insgesamt für die Eignung in der Umgebung getestet. Induktive Versuche resultieren in einer graduellen Generalisierung. Auswahlmechanismen ergeben sofort Generalisierungen, die allmählicher verfeinert werden können.
Induktive Versuche sind in "Two-dimensional object recognition using multi-resolution non-information-preserving features" durch Pernus et al, in Pattern Recognition Letters, Band 515, Nr. 11, 1. November 1994, Seite 1071 bis 1079 und in "Robust coefficient selection for recognition of complex Chinese characters", durch Ku et al in Proc. of the Midwest Symposium on circuits and Systems, Lafayette, 3–5 August, 1994, Band 2, Nr. SYMP37, Seite 1412–1415, beschrieben.
In diesen Artikeln von Permus et al und Ku et al sind induktive Verfahren beschrieben, bei denen während einer Anfangslernphase eine Unterscheidungsstruktur (beispielsweise ein Binärbaumklassifizierer) progressiv verfeinert wird, um so zwischen Übungsbeispielen unterschiedlicher Klassen zu unterscheiden. Während des Verfeinerungsprozesses, wenn Abtastungen unterschiedlicher Klassen einen gemeinsamen Wert für ein existierendes Attribut ergeben, kann dann dieses Attribut in Unterbereiche oder in ein Zusatzattribut, welches in Betracht gezogen wird, geteilt werden. Am Ende der Lernphase kann die Unterscheidungsstruktur erfolgreich zwischen den unterschiedlichen Klassen unterscheiden, welche durch die Übungsbeispiele dargestellt werden, und so wird die Struktur zur Verwendung ohne irgendwelche weitere Änderung während der nachfolgenden Klassifizierungsphäse angenommen.
Der Auswahlversuch, dem in der vorliegenden Erfindung gefolgt wird, steht mehr im Einklang mit der Arbeit bezüglich der Merkmalszeugung bei entwicklungsgeschlichtlicher Algorithmenforschung (siehe beispielsweise "Genetic Programming" durch J. Koza, MIT Press Cambridge, Ma, 1992), nicht überprüftes Lernen als Beispiel durch Kohonen Netzwerk (siehe "Self-Organization and Associative Memory" durch T. Kohonen, Springer Series in Information Sciences, Band 8, Springer Verlag, Berlin) und Vorschlägen, welche als "Neutral Darwinism" durchgeführt durch Edelman (siehe "Neural Darwinism: The Theory of Neural Group Selection" durch G. M. Edelman, Basic Books, New York, 1987) bekannt ist.
Edelman nimmt an, dass neutrale Wachstumsprozesse ein Primärrepertoire zur Folge haben, welches durch Entwicklungsauswahl stabilisiert wird, welches dann experimenteller Auswahl unterworfen wird, was ein sekundäres Repertoire von Kategorien zur Folge hat. Unter Verwendung von Wiedereintrittskarten und Rückentwicklung können Kategoriewahrnehmungen unterschiedlicher Objekte verglichen und zu Klassen generalisiert werden. Bedeutungsbildung und Klassifikation werden hier klar unterschieden. Der Auswahldruck in dem Fall, der durch Edelman in betracht gezogen wird, kommt von statistischen Signalkorrelationen (für die Bildung von Klassen). Im Gegensatz dazu kommt die bei der vorliegenden Erfindung der Auswahldruck von einer Unterscheidungsaufgabe.
Zusammengefasst bestehen die primären Nachteile des Standes der Technik in der Tatsache, dass die Kategorien durch den Designer geliefert werden, die Kategorien nicht auf der Basis der Wahrnehmungen basieren, eine Reihe von Beispielen benötigt wird, um das System "zu trainieren", es unterschiedliche "Trainings-" und "Übungs"- Phasen gibt, so dass die neuen Kategorien nicht außerhalb der "Trainings"-Phase entwickelt werden können, und die Datenkanäle fest sind.
Die vorliegende Erfindung liefert ein Verfahren und Gerät zum Unterscheiden von merkmal-charakterisierenden Entitäten, insbesondere Objekten, wobei die oben erwähnten Nachteile des Standes der Technik vermieden werden. Die vorliegende Erfindung liefert zusätzlich ein Verfahren für autonomes Entwickeln eines Kommunikationsprotokolls oder einer Sprache unter Verwendung des Merkmalbestimmungsverfahrens.
Wenn zunächst die Erfindung allgemein betrachtet wird, wird angemerkt, dass die Agenten die Aufgaben, die für ihre Überwachung in einer speziellen Umgebung relevant sind, erfassen. Hier bezieht die Fokussierung auf wahrnehmbarbegründete Unterscheidungsaufgaben. Der Agent versucht, ein Objekt oder eine Situation von anderen zu unterscheiden, wobei Information verwendet wird, welche über eine Anzahl von Datenkanälen geliefert wird, welche entweder direkt mit dem Ausgang von Sensoren gekoppelt sind oder das Ergebnis der Verarbeitung enthalten (beispielsweise auf der Basis von Berechnungseigenschaften eines Bildbereichs, wobei die grobe Bilddaten durch eine Kamera oder dgl. bereitgestellt werden) oder durch Empfangen von Daten von einer anderen Datenquelle. In dem Fall, wo ein Datenkanal das Ergebnis des Signals oder der Datenverarbeitung enthält, ist dies vorzugsweise eine Niedrigpegelverarbeitung, um die Zeit, die gebraucht wird, zu minimieren und um eine Realzeitverarbeitung zu ermöglichen.
Auf der Basis der Information, welche über die Datenkanäle bereitgestellt wird, versucht ein Agent, autonom ein Repertoire von Merkmalen zu entwickeln, welche ihn in die Lage versetzen, bei der Unterscheidung der unterschiedlichen Objekte oder Situationen auf diesem betroffenen Feld Erfolg zu haben, und dieses Repertoire anzupassen, wenn neue Objekte oder Situationen in betracht gezogen werden. Ein spezieller Versuch, eine Unterscheidung und die nachfolgende Anpassung des Merkmal-Repertoires durchzuführen, wird anschließend als "Unterscheidungsspiel" bezeichnet.
Es sei nun angenommen, dass es einen Satz von Objekten gibt, oder allgemeiner ausgedrückt Situationen, die Charakteristiken haben, die erfasst werden, um Daten auf den Datenkanälen zu erzeugen, die entweder unmittelbar von Sensoren oder von Niedrigpegel-Verarbeitungsroutinen wie oben erwähnt hergeleitet werden. Ein Datenkanal ist vorzugsweise angepasst, einen Wert zwischen –1,0 und +1,0 zu liefern. Üblicherweise wird dieser gewünschte Bereich von Werten durch Normierung in Bezug auf den maximalen Bereich von Werten erzielt, der für den in Frage kommenden Kanal hergeleitet werden. Als Beispiel könnten sich die Datenkanäle auf Eigenschaften von sich bewegenden Objekten gleicher Größe, Geschwindigkeit, durchschnittlichem Graubereich, usw. beziehen oder in einem allgemeineren Fall auf Innenzustände, die Motivationen, Sensationen oder Betätigungsströme reflektieren. Die Mehrzahl der vorhergehenden Beispiele betreffen Datenkanäle, bei denen der Bereich von Werten stetig ist. Die vorliegende Erfindung kann jedoch auch Datenkanäle verwenden, die diskrete Datenpunkte liefern, beispielsweise einen Datenkanal, der die Anzahl von hellen Flecken, die auf einem Objekt beobachtet werden, zeigt.
Anschließend wird zunächst der Bedeutungsbildungsprozess abstrakt ohne Bezugnahme auf spezielle Anwendungen erläutert. Jedoch liefern Laborexperimente mit realen mobilen Robotern, Sprache und aktiver Vision eine Bewusstseinsbasis für die hier vorgeschlagenen Mechanismen.
Gemäß der vorliegenden Erfindung nimmt eine bedeutungsvolle Unterscheidung die Form eines "Merkmals" an, welches sich in ein Attribut und einen Wert aufspaltet. Beispielsweise könnte das Attribut "den Datenpunkt, der durch den Agenten im Datenkanal sc-7 beobachtet wird" zeigen, und der Wert könnte "zwischen 0,00 und 0,05" zeigen. Eine alternative Art und Weise zur Darstellung der gleichen Charakteristik des Objekts könnte in der Definition eines Attributs der folgenden Art bestehen "die Lage des Datenpunkts, welche durch den Agenten beobachtet wird, innerhalb des Bereichs 0,00 bis 1,00 des Datenkanals sc-7", und der Wert könnte darstellen "in der ersten Hälfte des Bereichs". Offensichtlich werden das Attribut und der Wert üblicherweise durch Codes anstelle von den entsprechenden semantischen Ausdrücken (die oben lediglich dazu verwendet werden, um das Verständnis zu erleichtern) dargestellt. Ein Objekt kann durch Anzeigen von einem oder mehreren solcher Merkmale beschrieben oder charakterisiert werden, die sich darauf beziehen. Diese Beschreibung wird deutlich sein, da sie nicht auf andere Objekte auf dem betreffenden Gebiet des Agenten angewandt werden kann.
Das Merkmal wird durch einen "Merkmaldetektor" hergeleitet, der in einem bestimmten Datenkanal arbeitet und einen damit verknüpften "Attributnamen" hat. Bei bevorzugten Ausführungsformen der Erfindung enthält der Merkmaldetektor intern einen "Unterscheidungsbaum", der einigen Hilfsbereichen des Gesamtbereichs von Datenpunkten, die durch den Datenkanal beobachtbar sind, einen entsprechenden verknüpften Wert zuschreibt. Ein Datenpunkt, der für ein bestimmtes Objekt in einem Datenkanal beobachtet wird, wird durch den Merkmaldetektor, der mit diesem Kanal verknüpft ist, so klassifiziert, dass er innerhalb eines bestimmten Hilfsbereichs fällt, und somit wird ein entsprechendes Merkmal (Attribut und Wert) dem Objekt zugeschrieben (siehe 1). Bei besonders bevorzugten Ausführungsformen der Erfindung kann der Unterscheidungsbaum, der mit einem bestimmten Merkmaldetektor verknüpft ist, durch weiteres Hilfsunterteilen von Hilfsbereichen des Gesamtbereichs von Datenpunkten "verfeinert" werden, wobei ein Wert v1 eine Verfeinerung eines anderen Werts v2 ist, wenn der Bereich von v1 ein Hilfsbereich des Werts v2 ist.
Die Merkmaldetektoren verfeinern Unterscheidungsbäume in einer hierarchischen Art, wenn benötigt, als Antwort auf die Unterscheidungsaufgabe. Zunächst gibt es eine Beziehung von 1:1 zwischen Merkmaldetektoren und Datenkanälen. Da es allgemein nicht ausreichend ist, lediglich zu spezifizieren, dass ein Objekt einen gewissen Datenpunkt in einem bestimmten Datenkanal hervorruft, teilt der Merkmaldetektor den Raum in einige Bereiche (in den Beispielen, die in der folgenden Beschreibung angegeben sind, nehmen immer zwei Bereiche, welche insgesamt zusammengenommen werden, den unterteilten Bereich ein, wobei jedoch andere Hilfsunterteilungen ebenfalls geeignet sind). Jeder dieser Bereiche wiederum kann dann später durch den Merkmaldetektor segmentiert werden, wenn Datenpunkte, welche für Objekte beobachtet werden, die unterschieden werden müssen, in den gleichen Bereich fallen. Die Merkmaldetektoren bilden natürliche Hierarchien, die so tief wie erforderlich gehen (siehe 2, welche ein Beispiel eines teilweise entwickelten Unterscheidungsbaums für einen Datenkanal sc1 zeigt: Positionen im Datenbaum werden hinsichtlich von Attributen und Werten in zwei verschiedenen Arten in 2a) und b) ausgedrückt, wobei die Ausdrücke von 2b) kompakter sind).
Es gibt absolute Merkmale, beispielsweise "Farbe rot", die auf absoluten Werten eines Datenkanals für ein einzelnes Objekt basieren, und relative Bedeutungen, beispielsweise "Geschwindigkeit schneller", die Zustände von Datenkanälen für verschiedene Objekte vergleichen. Die vorliegende Erläuterung fokussiert sie lediglich auf absolute Merkmale, wobei jedoch zu verstehen ist, dass die Verfahren der vorliegenden Erfindung sich auch auf die Behandlung von relativen Bedeutungen beziehen. Ein bestimmtes Attribut ist nicht notwendigerweise für jedes Objekt relevant, anders ausgedrückt, für bestimmte Datenkanäle können überhaupt keine Punkte für ein bestimmtes Objekt erzeugt werden.
Die vorliegende Erfindung macht von der Hypothese gebrauch, dass "Bedeutungen" auf Konstruktions- und Auswahlprozessen, welche in Unterscheidungsaufgaben eingebettet sind, basieren können. Jeder individuelle Agent ist in der Lage, neue Merkmale zu konstruieren, d.h., neue Segmentierungen des Datenpunktraums. Der Prozess zum Erzeugen von Diversität und Variation wird dem Auswahldruck unterworfen, der von der Unterscheidungsaufgabe kommt. Der Agent versucht, ein Objekt von einem Satz anderer Objekte, die den Zusammenhang bilden, auf der Basis des verfügbaren Repertoires von Merkmalen und Werten zu differenzieren.
Bei bevorzugten Ausführungsformen der Erfindung wird eine "Merkmaltabelle" dynamisch als Suche nach unterscheidenden Beschreibungsverfahren aufgebaut. Die Merkmaltabelle enthält beispielsweise für jedes unter Betrachtung stehende Objekt (das Thema wie auch die anderen Objekte in dem Zusammenhang) die Liste von Werten für jedes Attribut (somit für jeden Datenkanal). In einem Fall, wo die Werte, die bei einem bestimmten Datenkanal anwendbar sind, durch den verknüpften Merkmaldetektor verfeinert wurden, umfasst die Merkmaltabelle für jedes Objekt eine Liste der verschiedenen Werte, welche sich auf den Datenkanal wenden, geordnet auf der Basis der Verfeinerungsrelation. Wenn es keine Daten auf dem Kanal für das in Frage stehende Objekt gibt, listet die Merkmaltabelle den Wert NIL auf. Der Aufbau der Merkmaltabelle beginnt mit den am meisten üblichen Werten, und progressive Verfeinerungen werden hinzugefügt, wenn notwendig.
Die Unterscheidung ist der Prozess zum Unterscheiden eines Objekts von den anderen Objekten, wobei Sätze von Merkmalen verglichen werden, welche die verschiedenen Objekte charakterisieren. Allgemein wird die "Beschreibung", welche das Objekt von Interesse von den anderen unterscheidet, auf einem oder mehreren Merkmalen basieren, die als "Unterscheidungsmerkmalsatz" gruppiert sind (siehe 3). Man kann in Erwägung ziehen, dass der Unterscheidungsmerkmalsatz eine unzweideutige Beschreibung des in Frage stehenden Objekts ist, die nicht auf ein anderes Objekt auf dem Gebiet der Beachtung des Agenten anwendbar ist. Es kann mehr als einen möglichen Unterscheidungsmerkmalsatz geben, jedoch auch keinen, wenn nicht genug Merkmale verfügbar sind. Dies geschieht entweder, da kein Merkmal gefunden werden konnte, um das Thema zu charakterisieren, oder da die verfügbaren Merkmale keine ausreichend feinkörnige Unterscheidung machen können. Wenn es keinen unterscheidenden Merkmalsatz gibt, geht die Unterscheidung fehl und es gibt einen Druck auf den Agenten, neue Merkmaldetektoren zu bilden oder die Merkmale, welche durch einen bestimmten Merkmaldetektor ermittelbar sind, zu verfeinern.
Bei den bevorzugten Ausführungsformen der Erfindung wird eine "Unterscheidungstabelle" auf der Basis des Inhalts der Merkmaltabelle aufgebaut. Diese Tabelle ist konstruiert, wobei geprüft wird, ob eine logische Kombination von Merkmalen ausreichend ist, das Thema von den Objekten in dem Zusammenhang zu unterscheiden, d.h., ob es eine Beschreibung gibt, welche für das Thema gilt, jedoch nicht für ein anderes Objekt. Wenn keine derartige Beschreibung gefunden wird, werden vorzugsweise die folgenden Aktionsverläufe vorgenommen:

1. Ein Versuch wird durchgeführt, die Merkmaltabelle zu erweitern, wobei die unterschiedlichen Werte verfeinert werden. Wenn eine Erweiterung möglich ist, wird die Merkmaltabelle nochmals geprüft, um zu sehen, ob eine Unterscheidungsbeschreibung extrahiert werden kann.
2. Die Merkmaltabelle kann nicht mehr erweitert werden. In diesem Fall endet die Unterscheidungsaufgabe in einem Fehlschlag, wobei die Unterscheidungsräume wie unten erläutert wird erweitert werden.

Wenn mehr als eine unterscheidende Beschreibung gefunden wird, wird eine Auswahl durchgeführt, die weiter unten erläutert wird. Es ist vorteilhaft, dass eine Aufzeichnung von der Häufigkeit der Verwendung jedes Merkmals bei dem Aufbau einer Unterscheidungsbeschreibung aufbewahrt wird.
Insbesondere stellt die vorliegende Erfindung ein Verfahren zum Bestimmen von Merkmale charakterisierenden Entitäten bereit, wobei das Verfahren aufweist:
Unterscheiden einer Entität von einem Zusammenhang, wobei der Unterscheidungsschritt aufweist:

(a) Bestimmen des Zusammenhangs, der aus zumindest zwei Entitäten besteht,
(b) Wählen einer Themen-Entität aus dem Zusammenhang,
(c) Einrichten eines Merkmal-Repertoires, welches eine aktualisierbare Liste von Merkmalen aufweist, die zum Beschreiben von Entitäten nützlich sind, wobei jedes Merkmal ein entsprechendes Paar von Attributdaten und damit verknüpfter Wertdaten aufweist,
(d) Bestimmen, welche Merkmale im Merkmal-Repertoire die Themen-Entität und die anderen Entitäten im Zusammenhang beschreiben,
(e) Vergleichen der Merkmale, die das Thema mit den Merkmalen beschreiben, welche die anderen Entitäten in dem Zusammenhang beschreiben, um zu beurteilen, ob es einen Satz an Merkmalen gibt, welcher die Themen-Entität von den anderen Entitäten in dem Zusammenhang unterscheidet, und
(f) wenn das Ergebnis des Beurteilungsschritts negativ ist, Herleiten eines neuen Merkmals und Hinzufügen des neuen Merkmals zum Merkmal-Repertoire; dadurch gekennzeichnet, dass: der Schritt (g) vorgesehen ist, um, wenn das Ergebnis des Beurteilungsschritts positiv ist, den Unterscheidungsmerkmalsatzes oder einen der Unterscheidungsmerkmalsätze, wenn mehrere davon existieren, als Ergebnis zu registrieren.

Die vorliegende Erfindung stellt außerdem ein Gerät bereit, welches angepasst ist, merkmal-charakterisierende Entitäten zu bestimmen, wobei das Gerät aufweist:
eine Einrichtung zum Empfangen von Information über Entitäten in dem unter Berücksichtigung stehenden Gebiet des Geräts über einen oder mehrere Datenkanäle;
eine Einrichtung zum Bestimmen eines Zusammenhangs innerhalb des unter Berücksichtigung stehenden Gebiets des Geräts, der aus zumindest zwei Entitäten besteht,
eine Auswahleinrichtung zum Wählen einer Themen-Entität aus dem Zusammenhang,
eine Repertoire-Einrichtungseinrichtung, die angepasst ist, ein Merkmal-Repertoire einzurichten, welches eine aktualisierbare Liste von Merkmalen aufweist, die zum Beschreiben von Entitäten nützlich sind, wobei jedes Merkmal ein entsprechendes Paar von Attributdaten und damit verknüpfter Wertdaten aufweist,
eine Einrichtung zum Anwenden eines oder mehrerer Merkmaldetektoren an die Information, welche durch die Empfangseinrichtung empfangen wird, während einer Zeitperiode, um dadurch zu bestimmen, welche Merkmale im Merkmal-Repertoire die Themen-Entität und die anderen Entitäten in dem Zusammenhang beschreiben,
eine Beurteilungseinrichtung zum Vergleichen der Merkmale, welche die Themen-Entität beschreiben, mit den Merkmalen, welche die anderen Entitäten in dem Zusammenhang beschreiben, um dadurch zu bestimmen, ob es einen Satz von Merkmalen gibt, der die Themen-Entität von den anderen Entitäten in dem Zusammenhang unterscheidet,
eine Neu-Merkmal-Bildungseinrichtung, die ausgebildet ist, wenn das Ergebnis des Beurteilungsschritts negativ ist, ein neues Merkmal zu definieren und dieses neue Merkmal dem Merkmal-Repertoire hinzuzufügen, und
eine Registrationseinrichtung, die angepasst ist, wenn das Ergebnis des Beurteilungsschritts positiv ist, den Unterscheidungsmerkmalsatz oder einen der Unterscheidungsmerkmalsätze, wenn mehrere davon existieren, als Ergebnis zu registrieren.
Die vorliegende Erfindung stellt außerdem ein Multiagentensystem bereit, wobei die Agenten einen gemeinsamen Satz von Darstellungen autonom entwickeln, um einen gemeinsamen Satz von Merkmalen zu identifizieren, wobei:
jeder der Agenten indem System ein Gerät wie oben definiert aufweist,
die Agenten angepasst sind, Themen-Entitäten aus einem Zusammenhang während synchronisierter Unterscheidungszyklen zu unterscheiden suchen, während denen ein erster Agent in einem ersten Modus und zumindest ein zweiter Agent in einem zweiten Modus arbeitet,
die Agenten ausgebildet sind, um im ersten Modus entsprechende Darstellungen zu erzeugen und diese zum anderen Agenten (den anderen Agenten) zu übertragen, welche die Unterscheidungsmerkmalsätze, welche durch dessen Registrationseinrichtung registriert wurden, während bestimmter Unterscheidungszyklen, identifizieren; und
die Agenten angepasst sind, um im zweiten Modus eine Verknüpfung aufzuzeichnen oder eine aufgezeichnete Verknüpfung zwischen den empfangenen Darstellungen und den Unterscheidungsmerkmalsätzen, welche durch die eigene Registrationseinrichtung registriert wurden, während der entsprechenden jeweiligen Unterscheidungszyklen zu modifizieren.
Die vorliegende Erfindung zeigt zahlreiche Vorteile. Im Gegensatz zu den meisten anderen Konzepterwerbungsversuchen (einschließlich neurale Netzwerkverfahren, beispielsweise Fehlerrückverbreitung oder Fallbasis-Begründung), die einen induktiven Prozess annehmen, in welchem es eine progressive Generalisierung von einer Reihe von Beispielen gibt, bezieht die Erfindung eine Auswahlannäherung ein, bei der Merkmale durch einen geführten Zufallsprozess konstruiert sind und dann auf der Basis ihres Erfolgs bei der Unterscheidung ausgewählt werden. Der Kategoriebildungsprozess läuft daher in einer Art von oben nach unten ab und die meisten allgemeinen Kategorien werden zunächst gebildet. Dies führt viel schneller zu einem Repertoire von Kategorien, die angepasst sind, mit den Fällen, die insoweit gesehen werden, umzugehen. Kategorien werden verfeinert, wenn sie dies müssen. Außerdem gibt es keine Trennung zwischen dem Trainieren und der Verwendung von Betriebsphasen und keiner Vorkategorisierung durch einen Konstrukteur.
Außerdem ist die vorliegende Erfindung in der Lage, sich mit einem Satz von Datenkanälen mit offenem Ende und sich mit einem Satz von Fällen mit offenem Ende zu befassen. In jedem Zeitpunkt können neue Datenkanäle hinzugefügt werden, wobei in diesem Fall ein neuer Merkmaldetektor gebildet wird und allmählich dessen Unterscheidungsbaum wenn notwendig aufgebaut wird, durch die Unterscheidungsaufgabe getrieben wird. Zu jedem Zeitpunkt kann in das betreffende Feld des Agenten ein neuer Fall kommen, der eine Verfeinerung einer der Knoten in einem Unterscheidungsbaum erfordert.
Insbesondere können unterschiedliche Arten zusätzlicher Auswahlkriterien in die vorliegende Erfindung eingeführt werden. Wenn beispielsweise das Gerät mit einem Lexikon-Bildungs-Prozess gekoppelt ist, der angepasst ist, die unterscheidende Beschreibung eines Objekts unter Verwendung von Wörtern auszudrücken, kann die Verfügbarkeit innerhalb des Lexikons von Wörtern, um die Merkmale auszudrücken, die in die unterscheidende Beschreibung eingebunden sind, als ein zusätzliches Auswahlkriterium wirken, welches nützlich ist, um zwischen verschiedenen möglichen unterscheidenden Beschreibungen auszuwählen. Ähnlich kann eine Wahl zwischen verschiedenen möglichen unterscheidenden Beschreibungen auf der Basis der Häufigkeit der Verwendung der Komponentenmerkmale, welche die Beschreibung bilden, basieren.
Weitere Merkmale und Vorteile der vorliegenden Erfindung werden aus der nachfolgenden Beschreibung deutlich, die Verbindung mit den beiliegenden Zeichnungen angegeben wird, in denen:
1 ein Diagramm ist, welches den Merkmalwahrnehmungsprozess zeigt;
2 ein Diagramm ist, welches zeigt, wie Merkmaldetektoren wachsen, wenn durch den Aufgabenbereich benötigt;
3 ein Diagramm ist, welches den Unterscheidungsprozess zeigt;
4 ein Flussdiagramm ist, welches die allgemeinen Schritte eines Merkmalbestimmungsverfahrens gemäß einer bevorzugten Ausführungsform der Erfindung zeigt;
5 ein Blockdiagramm ist, welches die Module zeigt, die in einem künstlichen Intelligenzsystem nach einer bevorzugten Ausführungsform des Merkmalextraktionsgeräts nach der Erfindung vorhanden sind;
6 ein Diagramm ist, welches die Datenstrukturen und Operatoren zeigt, welche durch das künstliche Intelligenzsystem von 5 verwendet werden;
7 eine grafische Darstellung ist, die zeigt, wie der Erfolg bei Unterscheidungsspielen sich mit der Anzahl von gespielten Spielen ändert, in einem Fall, wo die Anzahl von Objekten fest ist;
8 eine grafische Darstellung ist, die zeigt, wie die Anzahl von verwendeten Merkmalen und der Prozentsatz von verwendeten Merkmalen aus den totalen verfügbaren Merkmalen sich mit der Anzahl von gespielten Unterscheidungsspielen ändert, in einem Fall, wo die Anzahl von Objekten fest ist;
9 eine grafische Darstellung ist, die zeigt, wie der Erfolg bei Unterscheidungsspielen und die Anzahl von verwendeten Merkmalen sich mit der Anzahl von gespielten Spielen ändert, in einem Fall, wo die Anzahl von Objekten ansteigt;
10 eine grafische Darstellung ist, die zeigt, wie das gesamte Merkmalrepertoire und der verwendete Prozentsatz aus dem gesamten Repertoire sich mit der Anzahl von gespielten Unterscheidungsspielen ändert, in einem Fall, wo die Anzahl von Objekten ansteigt;
11 eine grafische Darstellung ist, die zeigt, wie die Unterscheidungsfähigkeit eines Agenten, der in die Entwicklung eines Kommunikationsprotokolls eingebunden ist, sich während einer Reihe von Unterscheidungsspielen ändert; und
12 eine grafische Darstellung ist, die zeigt, wie das Lexikon des Agenten von 11 sich während einer Reihe von Unterscheidungsspielen entwickelt.
Ausführungsformen der vorliegenden Erfindung können viele Formen sowohl in Computersoftware als auch in Hardware annehmen. Sie können u.a. in Roboteragenten integriert sein, die autonom Situationen kategorisieren müssen, in natürliche Sprachverarbeitungssysteme, die autonom Kategorien bilden müssen, und in Sprache, die sie zur Kommunikation mit anderen menschlichen oder künstlichen Agenten verwenden.
Anschließend wird nach einer formalen Darstellung des Verfahrens der vorliegenden Erfindung unter Verwendung von mathematischer Terminologie (insbesondere Zeichensetzung) das Verfahren durch Erläuterung von Ergebnissen einer Simulation gezeigt. Anschließend wird eine bevorzugte Ausführungsform des Geräts zum Ausüben des Verfahrens in der Praxis beschrieben. Dann werden einige experimentelle Ergebnisse berichtet. Der Endabschnitt der Beschreibung enthält einige Schlussfolgerungen.
Eine formale Beschreibung des Charakterisierungsprozesses gemäß der vorliegenden Erfindung folgt anschließend.
Terminologie
Es soll ein Satz von Objekten O = {o1, ..., o_m} und ein Satz von Datenkanälen S = {σ ... σ_n} geben, die Realwert-Partialfunktionen über O sind. Jede Funktion σ_j definiert einen Datenpunkt σj(o_i) für jedes Objekt o_i. Der Satz an Datenpunkten für ein bestimmtes Objekt o_i ist eine Datensequenz <σ₁(o_i), σ₂(o_i), ... σ_n(o_i)>. Wenn σ_j(o_i) nicht definiert ist, beispielsweise, da es keine Information in diesem Datenkanal für das in Frage stehende Objekt gibt, wird dies als NIL bezeichnet. Gemäß der vorliegenden Erfindung wird bevorzugt, dass die Datenpunkte in jedem Datenkanal im Bereich –1 bis +1 begrenzt sein sollten, d.h., 1,0 = σ_j(o_i) = +1,0. Allgemein kann dies durch Normierung erreicht werden, da der Bereich von möglichen Ausgangswerten des relevanten Sensors oder die Verarbeitungsroutine bekannt ist. Es ist jedoch auch möglich, Datenkanäle unterzubringen, in welchen die Datenpunkte nicht normiert sind (beispielsweise, da der in Frage stehende Datenkanal ein neuer Kanal ist, dessen Eigenschaften nicht voll bekannt sind).
Ein Agent hat einen Satz von Merkmaldetektoren D_a = {d_a,l, ... d_a,_m}. Ein Merkmaldetektor d_a,k = 〈P_a,k + V_a,k + ϕ_a,k + σ_j〉 hat einen Attributnamen p_a,k, einen Satz möglicher Werte V_a,k, einen Funktions- oder Unterscheidungsbaum ϕ_a,k und einen Datenkanal σ_j. Anders ausgedrückt arbeitet der Merkmaldetektor d_a,k auf dem Datenkanal σ_j und versucht, einen Wert υ von dem Satz möglicher Werte V_a,k einem Attribut p_a,k eines Objekts o_i zuzuschreiben, wobei der Funktions- oder Unterscheidungsbaum ϕ_a,k an den Datenpunkt σ_j(o_i), der für das Objekt o_i im Datenkanal σ_j beobachtet wird, anwendet wird. Das Ergebnis des Anwendens eines Merkmaldetektors d_a,k an ein Objekt o_i ist ein Merkmal, welches als ein Paar (p_a,k υ) geschrieben wird, wobei p der Attributname und υ ϕ_a,k (σ_j(o_i)) ∊ V_a,k der Wert ist.
Allgemein ist es nicht bedeutungsvoll, einen Wert dem Gesamtbereich eines Datenkanals zuzuschreiben, anders ausgedrückt, wenn alles, welches über den Datenpunkt für ein Objekt o_i bekannt ist, dass dieser Datenpunkt irgendeiner (nicht spezifizierten) Position innerhalb des Bereichs des Datenkanals entspricht, ist es vorteilhaft, dass der Merkmaldetektor nicht ein Merkmal dem Objekt zuschreiben sollte, sondern an Stelle davon NIL anzeigen sollte. Somit kann man erwägen, dass der Wert, der dem Kopf des Unterscheidungsbaums für jeden Kanal/Merkmaldetektor entspricht, gleich NIL ist. Unter dem Druck einer Unterscheidungsaufgabe werden die Unterscheidungsbäume durch Verfeinern (wie unten erläutert) entwickelt.
Bei den bevorzugten Ausführungsformen der Erfindung sind die Unterscheidungsbäume ϕ_a, welche durch die Merkmaldetektoren verwendet werden, binär, d.h., da sie entwickelt werden, teilen sie sich bis zum Gesamtbereich eines Datenkanals in nachfolgend kleinere Bereiche auf der Basis der Teilung eines Bereichs oder Hilfsbereichs in zwei gleiche Hilfsbereiche auf. Jedoch ist es nicht zwingend, dass die Unterscheidungsbäume binär sind, wobei sie anstelle davon einen Bereich in n Hilfsbereiche und dann jeden dieser Hilfsbereiche in m-Hilfsbereiche usw. unterteilen könnten.
Ein entwickelter Unterscheidungsbaum besteht aus einem Satz von Tupeln, die die möglichen Verfeinerungen der Werte υ_i ∈ V_a,k einzeln angeben, wobei jedes dieser Tupel ausgedrückt werden kann als 〈υ_i,1, r_j, υ_i,2, u_j〉, wobei υ_i, einen Wert zeigt, der zu verfeinern ist, r_j den Bereich von υ_i,1 zeigt, der dem verfeinerten Wert entsprechen wird, υ_i,2 den verfeinerten Wert darstellt und u_j die Häufigkeit zeigt, das Merkmal zu datieren, entsprechend dem Wert υ_i,1, der bei der Unterscheidung verwendet wurde. Wie unten erläutert wird, ist der letztere Parameter nützlich, wenn es zur Auswahl des optimalen unterscheidenden Merkmalsatzes kommt und/oder wenn eine Entscheidung erforderlich ist, wie der Unterscheidungsbaum weiter verfeinert werden sollte.
Der Merkmalsatz, den der Agent a in Bezug auf ein Objekt o_i erzeugen wird, ist als F_a,oi = {〈p_a,kυ〉}|d_a,k ∈ D_a, d_a,k = 〈p_a,k + V_a,k, ϕ_a,k, σ_j〉 + υ = ϕ_a,k, (σ_j(o_i))} definiert. Anders ausgedrückt enthält der Merkmalsatz F_a,oi die Merkmale (p_a,k υ), welche für das Objekt o_i identifiziert werden, durch Anwenden von Merkmaldetektoren d_a,k, die Teile des Satzes von Merkmaldetektoren D_a sind, die für diesen Agenten verfügbar sind, wobei d_a,k und υ wie oben erläutert definiert sind. Die beiden Merkmale (P_a,1υ₁), (P_a,2υ₂) sind unterscheidend, wenn p_a,1 = p_a,2 und υ₁ ? υ₂, anders ausgedrückt sind die beiden Merkmale unterscheidend, wenn für jedes der entsprechenden Merkmale der Agent einen verschiedenen Wert dem gleichen Attribut zuschreibt.
Ein unterscheidender Merkmalsatz D^c _a,ot ist ein Satz von Merkmalen, die durch den Agenten a identifiziert werden, wobei ein Objekt o_t von einem Satz anderer Objekte C unterschieden wird. Formal ausgedrückt gilt: D^c _a,ot = {f|f = (p υ) ∈ F_a,ot und ∀o_c ∈ C jeder ∃f = (p'υ') ∈ F_a,oc mit p = p', oder ∃f' ∈ F_a,oc mit υ und υ' unterscheidend}. Anders ausgedrückt sind die unterscheidenden Merkmale f Merkmale, welche Teil des Gesamtsatzes von Merkmalen F_a,ot bilden, die für das Objekt o_t durch den Agenten a identifiziert werden, und für alle Objekte o_c, welche Teil des Zusammenhangs C bilden, beziehen sich entweder die Merkmale f', die für das Objekt o_c identifiziert sind, auf Attribute, welche gegenüber denjenigen der Merkmale f verschieden sind, die für das Objekt o_t identifiziert sind, oder sogar diese Werte f' beziehen sich auf das gleiche Attribut, haben jedoch unterscheidende Werte gegenüber denjenigen, welche für das Objekt o_t anwendbar sind. Es ist klar, dass es mehrere unterscheidende Merkmalsätze für das gleiche o_t oder C oder keinen gibt.
Unterscheidungsspiele
Eine bevorzugte Ausführungsform des Merkmalextraktionsverfahrens gemäß der vorliegenden Erfindung ist durch das Flussdiagramm von 4 gezeigt.
Gemäß diesem Verfahren fragt ein Agent a Information ab, die auf einer Anzahl von Datenkanälen während einer bestimmten Zeitdauer beobachtet wird, und macht auf der Basis dieser Information einen Versuch, ein Thema von dessen Zusammenhang zu unterscheiden. Man betrachtet dies so, dass durch diesen Prozess der Agent ein "Unterscheidungsspiel" ausführt. Unabhängig davon, ob das erste Unterscheidungsspiel mit Erfolg oder Fehlschlag endet oder nicht, wird allgemein der Agent fortfahren, eine Reihe von nachfolgenden Unterscheidungsspielen durchzuführen, wobei jedes entsprechend die Information beinhaltet, die auf den Datenkanälen in den nachfolgenden Zeitperioden abgefragt wird. Auf diese Weise wird der Agent fortlaufend in dem Prozess sein, Objekte voneinander zu unterscheiden zu suchen, und wird somit fortlaufend sein Merkmalrepertoire entwickeln, wie dies durch die Aufgabe zum Unterscheiden der Ursprungsobjekte innerhalb des betreffenden Feldes und anderer neuer Objekte, die in sein betreffendes Feld eintreten können, erforderlich ist.
In dem in 4 gezeigten Beispiel trifft der Agent eine Entscheidung über den Zusammenhang (Schritt S10) und führt eine Zufallsauswahl eines Objektes, welches als Thema dient (Schritt S20), im jeden nachfolgenden Unterscheidungsspiel durch. Auf diese Weise werden alle neuen Objekte, die in das in betracht gezogene Feld des Agenten kommen, in betracht gezogen, und es können außerdem unterschiedliche Objekte als Thema behandelt werden, um sicherzustellen, dass der Agent regelmäßig ein Merkmalrepertoire entwickelt, welches für alle Merkmale in seinem betreffenden Feld relevant ist. Die Merkmale, welche das Thema und jedes Objekt im Zusammenhang charakterisieren, werden bestimmt (Schritt S30).
Ein Unterscheidungsspiel d = <a, o_t, C> umfasst ein Agenten a, ein Thema o_t ∈ O und einen Zusammenhang C ⊂ O ∩ {o_t}. Das Ergebnis des Spiels wird bestimmt, ob ein unterscheidender Merkmalsatz gefunden werden kann oder nicht (Schritt S40). Wenn ein unterscheidender Merkmalsatz gefunden werden konnte, gilt D^c _a,ot ≠ ϕ (d.h., der unterscheidende Merkmalsatz ist kein leerer Satz), und das Spiel endet mit einem Erfolg, oder, wenn kein derartiger Merkmalsatz gefunden werden konnte, gilt D^c _a,ot = ϕ und das Spiel endet mit einem Fehlschlag.
Als Teil jedes Spiels wird das Repertoire an Bedeutungen in der folgenden Weise durch den Agenten eingestellt:

1. D^c _a,ot = ϕ, d.h., das Spiel ist nicht erfolgreich. Dies bezieht ein, dass es nicht genug Unterscheidungen gibt und daher ∀oc ∈ C, F_a,ot ⊆ F_a,oc. Anders ausgedrückt ist für jedes Objekt o_c, welches Teil des Zusammenhangs C bildet, der Satz an Merkmalen F_a,oc, der für das Thema o_t identifiziert wird, ein Hilfssatz von Merkmalen F_a,ot, die für dieses Objekt o_c identifiziert werden. Es gibt zwei Wege, die Situation zu heilen:
(a) wenn es noch Sensorkanäle gibt, für welche es keine definierten Merkmale gibt (d.h., der Unterscheidungsraum ist vollständig unterentwickelt), kann ein neues Merkmal durch Segmentierung des Bereichs des Datenkanals, der in Frage kommt, aufgebaut werden. Diese Option wird bevorzugt. Somit bewegt sich in einem Fall, wo das Unterscheidungsspiel nicht erfolgreich ist, die Routine zum Schritt S41, wo bestimmt wird, ob ein nichtsegmentierter Kanal existiert oder nicht. Wenn ein derartiger Kanal existiert, wird der Bereich segmentiert (Schritt S42), um so neue Merkmale entsprechend den unterteilten Bereichen des Bereichs zu definieren. Das Unterscheidungsspiel endet und die Routine kehrt zurück zum Schritt S10.
(b) Ansonsten kann ein existierendes Attribut durch Modifikation eines Merkmaldetektors verfeinert werden, so dass der Unterscheidungsbaum weiter den Bereich segmentiert, der durch eines der existierenden Merkmale abgedeckt ist (Schritt S43). Wieder endet das Unterscheidungsspiel und die Routine kehrt zum Schritt S10 zurück.

Im Fall einer Verfeinerung eines existierenden Attributs kann es vorteilhaft sein, einen Datenkanal zu verfeinern, in welchem Daten für das Thema beobachtet werden, der jedoch lediglich zu einem kleinen Grad segmentiert wurde. Dies ermutigt die Entwicklung von Merkmalen, die so allgemein wie möglich sind. Die Erweiterung des Unterscheidungsbaums wird in der Verfeinerung eines "Blatts" bestehen, welches aktiv ist (d.h., ein Endpunkt in der Verzweigungsstruktur des Baums, zu welchem der Datenpunkt für das Thema das Attribut bildet). Der Bereich oder Hilfsbereich, der durch diesen Endpunkt identifiziert wird, wird dann hilfsunterteilt, und neue Werte (Merkmale) werden für jeden der entsprechenden unterteilten Bereiche gebildet. Es gibt keine Garantie, dass die neu gebildeten Werte zur Unterscheidung der Aufgabe ausreichend sind, wobei später jedoch Verfeinerungen, die noch nicht während einer bestimmten Anzahl von Unterscheidungsspielen verwendet wurden, eliminiert werden können, um den Speicher der Unterscheidungsbäume zu optimieren.
Wenn entschieden wird, dass eine Verfeinerung eines existierenden Merkmals notwendig ist, sind verschiedene Annäherungen möglich. Eine Annäherung würde darin bestehen, die Endpunkte aller existierenden Unterscheidungsbäume (anders ausgedrückt, einen höheren Pegel der Hierarchie jedes Unterscheidungsbaums zu entwickeln) vor dem nachfolgenden Unterscheidungsspiel zu verfeinern. Es ist jedoch vorzuziehen, ein einziges Merkmal zu verfeinern und dann zum nächsten Unterscheidungsspiel weiter zu schreiten, um die Verarbeitung zu beschleunigen, um somit eine Realzeitverarbeitung zu ermöglichen.

2. D^c _a,ot ≠ ϕ. Anders ausgedrückt wird im Schritt S40 bestimmt, dass ein oder mehrere unterscheidende Merkmalsätze existieren. In einem Fall, wo es mehr als eine Möglichkeit gibt, werden die Merkmalsätze auf der Basis von Präferenzkriterien geordnet. Der "beste" Merkmalsatz wird gewählt und als Ergebnis des Unterscheidungsspiels verwendet. Die Aufzeichnung der Verwendung der Merkmale, die Teil eines gewählten Satzes bilden, wird vergrößert. Die Kriterien sind wie folgt:
(a) der kleinste Satz wird bevorzugt. Somit wird die kleinste Anzahl von Merkmalen verwendet, um das Thema zu beschreiben. Die Existenz eines "kleinsten Satzes" wird im Schritt S50 geprüft, und, wenn diese existiert, wird diese als gewählter Unterscheidungsmerkmalsatz registriert (Schritt S60). Es ist auch vorteilhaft, die Aufzeichnung der Häufigkeit der Verwendung der Merkmale einzustellen, die Teil des registrierten Unterscheidungsmerkmalsatzes bilden. Das aktuelle Unterscheidungsspiel endet (d.h., die Routine kehrt zurück zum Schritt S10).
(b) Bei Sätzen von gleicher Größe wird geprüft, ob einer der Sätze Merkmale aufweist, die eine kleinere Anzahl von Segmentierungen als in den anderen Sätzen einbezieht (Schritt S51). Wenn ein derartiger Satz existiert, wird dies im Schritt S52 registriert. Somit werden die am meisten abstrakten Merkmale gewählt. Wiederum wird vorzugsweise das Aufzeichnen der Verwendung der Komponentenmerkmale, welche im registrierten unterscheidenden Merkmalsatz enthalten sind, aktualisiert. Das aktuelle Unterscheidungsspiel endet (d.h., die Routine kehrt zum Schritt S10 zurück).
(c) Bei einer gleichen Tiefe der Segmentation bewegt sich die Routine weiter zum Schritt S53, wo der Satz, dessen bildende Merkmale am meisten verwendet wurden, die zu datieren sind, zur Registrierung gewählt wird. Dies stellt sicher, dass ein minimaler Satz an Merkmalen sich entwickelt. Das aktuelle Unterscheidungsspiel endet (d.h., die Routine kehrt zum Schritt S10 zurück).

Das gesamte System ist ein Auswahlsystem. Ein Fehler, um eine Unterscheidung durchzuführen, erzeugt einen Druck auf den Agenten, neue Merkmale zu bilden. Das neue Merkmal wird jedoch nicht garantiert, um die Tat auszuführen. Es wird versucht (nächstes Mal) und lediglich das Gedeihen in der Population von Merkmalen, wenn dieses in Wirklichkeit beim Durchführen von Unterscheidungen erfolgreich ist.
In dem oben beschriebenen Beispiel führt der Agent fortlaufend eine Reihe von Unterscheidungsspielen aus, um ein Merkmalrepertoire zu entwickeln, welches geeignet ist, alle Objekte, die in das betroffene Gebiet kommen, zu unterscheiden. Ein derartiger Versuch ist beispielsweise zur Durchführung durch einen Roboter geeignet, der versucht, in einer Umgebung zu navigieren, wo neue Objekte angetroffen werden können. Es sind jedoch andere Versuche möglich.
Anstelle davon beispielsweise, Serien mit offenem Ende von Unterscheidungsspielen in einer offenen Umgebung auszuführen, kann der Agent es benötigen, eine Unterscheidungsaufgabe in einem geschlossenen System auszuführen, welches eine bestimmte Anzahl von Objekten enthält. In einem derartigen Fall kann es vorteilhaft sein, den Prozess, der in 4 gezeigt ist, wie durch die Posten gezeigt ist, welche in gestrichelten Linien in der Figur gezeigt sind, zu variieren. Insbesondere behandelt der Agent systematisch jedes Objekt in seinem betroffenen Gebiet als Thema, und nach einem nicht-erfolgreichen Unterscheidungsspiel bildet er ein neues Merkmal oder Merkmale und führt ein neues Unterscheidungsspiel für die gleiche Definition des Themas und den Zusammenhang aus (Rückkehr zum Schritt S30). Nach einem erfolgreichen Unterscheidungsspiel prüft der Agent (in einem Schritt S70), ob Objekte verbleiben, welche noch nicht als Thema behandelt wurden und von den anderen unterschieden wurden. Wenn diese Unterscheidung ein positives Ergebnis liefert, wird das Unterscheidungsspiel (Rückkehr zum Schritt S10) mit diesem nicht-unterschiedenen Objekt als Thema wiederholt, und wenn dies anders ist, kommt die Reihe von Unterscheidungsspielen zu einem Abschuss.
Andere Variationen des Basisverfahrens können ebenfalls in Abhängigkeit von der besonderen Anwendung angewandt werden.
Durchführung

Es wurde eine Computersimulation durchgeführt, um eine fortlaufende Reihe von Unterscheidungsspielen derart, die oben mit Hilfe von 4 beschrieben wurde, zu reproduzieren. Die Programme schufen einen Satz von Datenkanälen und einen Anfangssatz von Objekten, welche beliebige Datenpunkte für einige der Datenkanäle hatten. Ein typisches Beispiel ist die folgende Liste von Objekten o-0 bis 0–9 und verknüpfter Werte für die Kanäle sc-0 bis sc9 (in diesem Beispiel war der erlaubte Bereich für die Datenpunkte in jedem Kanal 0,00 bis +1,00):

o-0:	[sc-3:0.73][sc-4:0.82][sc-5:0.07]
o-1	[sc-0:0.89][sc-3:0.02][sc-4:0.56] [sc-6:0.48]
o-2	[sc-0:0.74][sc-1:0.92][sc-2:0.22] [sc-3:0.56][sc-8:0.52][sc-9:0.03]
o-3	[sc-2:0.36][sc-3:0.09][sc-4:0.14]
o-4	[sc-1:0.47][sc-2:0.61][sc-3:0.69] [sc-5:0.67][sc-6:0.14][sc-9:0.43]
o-5	[sc-1:0.84][sc-4:0.82][sc-5:0.70] [sc-8:0.81]
o-6	[sc-1:0.40][sc-2:0.32][sc-3:0.68][sc-4:0.96][sc-5:0.41][sc-7:0.14] [sc-8:0.76]
o-7	[sc-1:0.84][sc-2:0.84][sc-3:0:63] [sc-8:0.41]
o-8	[sc-0:0.72][sc-1:0.02] [sc-3:0.92] [sc-4:0.44][sc-5:0.04] [sc-7:0.29]
o-9	[sc-2:0.35] [sc-2:0.72] [sc-3:0.58] [sc-4:0.34]

Bei dieser Simulation teilte jeder Merkmaldetektor einen Merkmalwert einem entsprechenden Attribut zu, welches in der Form von sc_i-n_i- ... ausgedrückt wird, wobei i der Datenkanal ist, dem die Anzahl von Segmenten folgt, in welche der Bereich jedes nachfolgenden Segments unterteilt ist. Beispielsweise ist sc-5-2 der Name eines Attributs, das zeigt, dass der Merkmaldetektor versucht, zu identifizieren, ob der Datenpunkt innerhalb des Punkts mit den niedrigeren Wert und dem höheren Wert von den beiden Hilfsbereichen liegt, in die der Bereich des Kanals sc-5 unterteilt ist. (sc-5-2 v-0) ist ein Merkmal, welches das Attribut sc-5-2 mit dem Wert v-0 kombiniert, wobei dieser letztere Wert zeigt, dass der Datenpunkt innerhalb des Punkts mit dem niedrigeren Wert der beiden Hilfsbereiche angeordnet ist, in welche der Bereich von sc-5 unterteilt ist (der Wert v-1 würde zeigen, dass der Datenpunkt innerhalb des Punkts mit dem höheren Wert der beiden Hilfsbereiche, die in Frage kommen, fällt). sc-5-2₀-2 würde der Name eines Attributs sein, welches eine weitere Verfeinerung ist, die zeigt, dass der Merkmaldetektor nun versucht, zu identifizieren, ob der Datenpunkt innerhalb des Punkts mit dem niedrigeren Wert oder dem höheren Wert der beiden weiteren Hilfsbereiche liegt, in welche der Hilfsbereich mit dem niedrigeren Wert (sc-5-2 v-0) unterteilt ist.

Wir zeigen nun einige typische Situationen für einen Agenten a-5, die von überhaupt keinem Merkmal beginnt. Bei einem ersten Spiel versucht a-5, das Objekt 0-5 (Thema) von 5-3 (Zusammenhang) zu unterscheiden. Der Agent hat noch keinen Weg, das Thema zu charakterisieren, und so endet das Unterscheidungsspiel in einem Fehlschlag und der Agent bildet ein neues Attribut für sc-5.

a-5: o-5 <–> {0-3}	[Agent a-5 sucht, o-5 von o-3 zu unterscheiden]
Thema: NIL	[keine Merkmale für das Thema gefunden]
nicht genug Themenmerkmale	[Schluss]
neues Attribut: sc-5-2	[Abhilfe, bilde Attribut sc-5-2]

Das nächste Unterscheidungsspiel versucht, o-5 (Thema) von o-9 und o-1 zu unterscheiden (welche gemeinsam den Zusammenhang bilden). Dieses Spiel ist erfolgreich, da der Datenpunkt für o-5 im Kanal sc-5 einen Wert v-1 für das Attribut sc-5-2 hervorruft, anders ausgedrückt, o-5 kann durch ein Merkmal beschrieben werden, während der Zusammenhang Objekte enthält, die keine Antwort für sc-5 haben, und somit keine Merkmale für den Zusammenhang konstruiert werden können:

a-5: o-5 <–> {o-9 0-1}
Thema: ((sc-5-2 v1))	[Merkmal (sc-5-2 v-1) wendet sich an Thema]
Zusammenhang: (NIL NIL)	[keine Merkmale für den Zusammenhang gefunden]
Erfolg: ((sc-5-2 v-1))	[sc-5-2 v-1) ist ein Unterscheidungsmerkmal]

Das nächste Spiel versucht, o-6 (Thema) von o-2 und o-5 zu unterscheiden (welche gemeinsam den Zusammenhang bilden). Dieses Spiel ist ebenfalls erfolgreich, da o-6 einen Wert v-0 für sc-5-2 hat, o-2 nichts hat und o-5 den Wert v-1 hat.

a-5: o-6 <–> {o-2 o-5}

Thema: ((sc-5-2 v-0))

Zusammenhang: (NIL ((sc-5-2 v-1)))

Erfolg: ((sc-5-2 v-0)) [(sc-5-2 v-0)ist ein Unterscheidungsmerkmal]
Es folgen weitere Unterscheidungsspiele, während denen ein neues Attribut sc-1-2 eingeführt wird. Im folgenden Spiel wird versucht, o-7 (Thema) von o-1 und o-2 (Zusammenhang) zu unterscheiden. In diesem Fall sind die Merkmale nicht ausreichend unterscheidend, und daher wird ein neues Attribut (und somit Merkmal) erzeugt. Solange es Möglichkeiten gibt, sich auf zusätzliche Datenkanäle zu fokussieren, werden existierende Merkmale nicht verfeinert. Das neue Attribut wird auf sc-3 definiert, einen Datenkanal, für den Daten für das Thema o-7 beobachtet werden.
a-5: o-7 <–> {o-1o-2}
Thema: ((sc-1-2 v-1))
Zusammenhang; (NIL ((sc-1-2 v-1)))
keine Unterscheidungsmerkmale, sondern ein neues ist möglich, Kandidatenkanäle
= sc-2, sc-3 oder sc-8
Neues Attribut sc-3-2
Wenn alle Datenkanäle überdeckt sind, wird damit begonnen, feinere Merkmaldetektoren für existierende Attribute zu bilden. Beispielsweise könnte das Attribut, welches über sc-5 definiert ist, verfeinert werden, wobei ein neues Attribut sc-5-2₀-2 definiert wird, was die Teilung des Hilfsbereichs ist, der dem Merkmal (sc-5-2 v-0) entspricht, in zwei kleinere Hilfsbereiche gleicher Größe mit entsprechenden Merkmalen (sc-5-2₀-2 v-0) (sc-5-2₀-2 v-1).
Nach einer ausreichenden Anzahl von Unterscheidungsspielen stabilisiert sich der Merkmalsatz. Für den Satz von den oben angegebenen Objekten ist nachfolgendes ein stabiler Unterscheidungsbaum. Für jedes Attribut werden die möglichen Werte aufgelistet, wobei deren entsprechende Bereiche in eckigen Klammern angedeutet sind, denen die Häufigkeit folgt, mit der das in Frage kommende Merkmal zur Unterscheidung eines Themas aus dessen Zusammenhang während der laufenden Reihe von Unterscheidungsspielen verwendet wird.
Wir sehen, dass abstraktere Merkmale, beispielsweise (sc-1-2 v-0) häufiger benutzt werden. Für einige ist beispielsweise (sc-5-2 v-0) eine tiefe weitere Unterscheidung. Für andere, beispielsweise (sc-5-2 v-1) gibt es keine. Einige Merkmale, beispielsweise (sc-6-2 v-1) wurden noch überhaupt nicht verwendet und könnten daher eliminiert werden. Ein weiteres Experiment mit den gleichen Objekten, jedoch für einen anderen Agenten a-6 liefert einen anderen Unterscheidungsbaum. In einem Beispiel wurden einige Sensorkanäle (beispielsweise sc-6) nicht verwendet, sc-4 wurde nicht weiter verfeinert, usw.. Üblicherweise gibt es in Wirklichkeit viele verschiedene Möglichkeiten.
Wenn neue Objekte eine Umgebung betreten, ist es vorteilhaft, dass der Agent, der versucht, Objekte in dieser Umgebung zu charakterisieren, neue Unterscheidungen konstruieren sollte, wenn diese notwendig sind. Dies ist effektiv, was bei bevorzugten Ausführungsformen der vorliegenden Erfindung geschieht. Wenn neue Sensorkanäle verfügbar werden, beispielsweise, da eine neue Sensorroutine aktiv wurde, werden sie dann ausgewertet, wenn die Notwendigkeit auftritt. Wenn ein neues Objekt, welches in das betreffende Gebiet des Agenten eintritt, schon von allen anderen Objekten auf der Basis von Merkmalen im existierenden Repertoire unterschieden werden kann, wird der Agent keine neuen Merkmale bilden.
Bei der oben beschriebenen bevorzugten Ausführungsform des Merkmalextraktionsverfahrens werden Merkmale identifiziert, welche Datenpunkten zugeschrieben werden, die den Hilfsbereich des Datenkanals anzeigen, in denen der Datenpunkt fällt. Es sind jedoch alternative Versuche möglich. Beispielsweise könnte ein Merkmaldetektor einen oder mehrere Geländewerte definieren (beispielsweise v₁ = –0,32, v₂ = +0,64) innerhalb des Bereichs, der durch einen Datenkanal abgedeckt ist, (beispielsweise sc-1), und ein "Merkmal" könnte dann gemeinsam in der Identifikation bestehen, von der der Geländewert am nächsten dem Datenpunkt ist (beispielsweise für einen Datenpunkt = 0,01 würde das Merkmal (sc-1 v-1) in diesem Beispiel sein), oder in einer Identifikation nicht nur des nächsten Geländewerts, sondern auch von der Trennung zwischen diesem und dem Datenpunkt. In einem derartigen Fall würde die "Verfeinerung" des Merkmals in der Definition von neuen Geländewerten innerhalb des Bereichs des Datenkanals bestehen. Bei Anwendungen, wo Zeitzwänge nicht kritisch sind, könnte die Wahl neuer Geländewerte auf der Basis einer Analyse der Datenpunkte basieren, welche auf dem in Frage stehenden Datenkanal beobachtet werden, um das Unterscheidungspotential der resultierenden Merkmale zu maximieren.
Gerät
Die allgemeinen Merkmale eines Geräts nach der bevorzugten Ausführungsform zum Anwenden des oben beschriebenen Merkmalextraktionsverfahrens in der Praxis werden nun mit Hilfe von 5 und 6 beschrieben.
5 zeigt die Hauptkomponenten eines künstlichen Intelligenzsystems 1, welches ein Gerät nach einer bevorzugten Ausführungsform der Erfindung bildet, während 6 die Hauptoperatoren und die Datenstrukturen zeigt, die durch dieses künstliche Intelligenzsystem verwendet werden.
Wie in 5 gezeigt ist, ist das künstliche Intelligenzsystem 1 mit körperlichen Sensoren und/oder Sensorverarbeitungsmodulen 2 verknüpft oder in diese eingebaut, welche Eigenschaften von Objekten ermitteln (oder allgemeiner ausgedrückt Kennlinien von Entitäten, die Objekte, Situationen, Innenzustände einer Maschine usw. aufweisen können). Die Sensoren können einen weiten Bereich von Formen in Abhängigkeit von der gewählten Anwendung einnehmen. Nichteinschränkende Beispiele typischer Sensoren umfassen u.a. Abbildeinrichtungen und Sensoren von körperlichen Eigenschaften, beispielsweise Temperatur, Spannung, Druck.
Die Sensoren oder die Sensorverarbeitungsmodule 2 ermitteln Kennlinien von Entitäten o1, o2, usw. innerhalb der Umgebung innerhalb des betroffenen Gebiets des Geräts und erzeugen Datenpunkte für diese Entitäten in mehreren Datenkanälen. In Abhängigkeit von der Anwendung können die Sensoren vorprogrammiert sein oder geregelt sein, um Eigenschaften bestimmter Entitäten o1, o2 usw. in der Umgebung einzufangen, die das Thema und den oben erwähnten Zusammenhang bilden werden. Alternativ können die relevanten Entitäten in einer dynamischen Art durch eine verknüpfte Verarbeitungseinheit (nicht gezeigt) identifiziert werden, bei der bekannte Verfahren angewandt werden, beispielsweise herkömmliche Objekterkennungsalgorithmen in Bezug auf Signale, welche durch die Sensoren ermittelt werden.
Die durch die Sensoren oder die Sensorverarbeitungsmodule erzeugten Datenpunkte werden einem Charakterisierungsmodul 3 zugeführt, welches ausgebildet ist, Merkmaldetektoren an Datenpunkten anzulegen, um den Satz von Merkmalen zu bestimmen, die das (laufende) Thema charakterisieren, und den Satz von Merkmalen zu bestimmen, welche die Entitäten charakterisieren, welche (laufend) den Zusammenhang bilden. Information bezüglich der Merkmale, die durch das Charakterisierungsmodul 3 identifiziert werden, wird zu einem unterscheidenden Beschreibungsbestimmungsmodul 4 geführt.
Der Betrieb des Charakterisierungsmoduls 3 und des unterscheidenden Beschreibungsbestimmungsmoduls 4 ist zyklisch, wobei aufeinanderfolgende "Unterscheidungsspiele" wie oben beschrieben durchgeführt werden. Vorzugsweise versuchen bei jedem Unterscheidungsspiel das Charakterisierungsmodul 3 und das unterscheidende Beschreibungsbestimmungsmodul 4 lediglich, das laufende Thema von den laufenden Entitäten, die den Zusammenhang bilden, zu unterscheiden, bevorzugt gegenüber dem Versuch, alle Objekte in dem Zusammenhang voneinander zu unterscheiden. Durch Ändern des Themas und/oder des Zusammenhanges in unterschiedlichen Unterscheidungsspielen werden alle Objekte der Umgebung wahrscheinlich voneinander unterschieden. Diese Annäherung wird bevorzugt, da diese die Verarbeitung eines einzelnen Falles drastisch beschleunigt, wodurch eine Quasi-Realzeitbehandlung von Fällen ermöglicht wird.
In jedem Unterscheidungsspiel registriert ein Charakterisierungsmodul 3 in einer "Merkmaltabelle" die Merkmale, die für jede der laufenden Entitäten (Thema und Zusammenhang) bestimmt werden, siehe 6. Da die Serie von Unterscheidungsspielen weitergeht und das Merkmalrepertoire erweitert wird, können neue Merkmale für eine Entität gefunden werden, die schon durch die Merkmaltabelle abgedeckt ist, wobei in diesem Fall die Merkmaltabelle aktualisiert wird, damit sie die neuen Merkmale zusätzlich zu den existierenden Merkmalen aufweist. Auf diese Weise werden aufeinanderfolgende Verfeinerungen der Merkmale, die für eine bestimmte Entität identifiziert werden, in der Merkmaltabelle aufgelistet. Vorzugsweise verknüpft die Merkmaltabelle mit jedem aufgelisteten Merkmal eine Anzeige von dessen "Tiefe" in der Hierarchie des entsprechenden Unterscheidungsbaums. Somit zeigt die Merkmaltabelle, welche Merkmale abstrakter sind (und zeigt daher eine allgemeine, bevorzugter als eine sehr spezifische Beschreibung der Entität).
Die Merkmale, welche durch das Charakterisierungsmodul 3 während eines bestimmten Unterscheidungsspiels bestimmt werden, werden außerdem dem unterscheidenden Beschreibungsbestimmungsmodul 4 mitgeteilt, welches die Merkmale des "laufenden" Themas und den Zusammenhang vergleicht, um zu bestimmen, ob unterscheidende Merkmalsätze existieren. Wenn zumindest ein unterscheidender Merkmalsatz nicht existiert, gibt das unterscheidende Beschreibungsbestimmungsmodul 4 Information aus, welche diesen Satz oder diese Sätze von Merkmalen identifiziert. In einem Fall, wo mehrere unterscheidende Merkmalsätze existieren, wählt ein weiteres Auswahlmodul (nicht gezeigt) eine bevorzugte Beschreibung des laufenden Themas auf der Basis von Auswahlkriterien aus, die oben besprochen wurden (beispielsweise die Anzahl von Merkmalen im Satz, die Pegelabstraktion der Merkmale im Satz, die Häufigkeit einer Verwendung der Merkmale in diesem Satz, usw.).
In einem Fall, wo das unterscheidende Beschreibungsbestimmungsmodul 4 keinen unterscheidenden Merkmalsatz finden kann, gibt es ein Signal, welches "Fehler" anzeigt, an einen damit verknüpften neuen Merkmalkonstrukteur 5 aus. Der neue Merkmalkonstrukteur 5 segmentiert entweder ein bisher nicht-segmentierten Kanal oder verfeinert einen existierenden Datenkanal, um somit das Merkmalrepertoire zu bereichern, welches durch das Charakterisierungsmodul 3 in den nachfolgenden Unterscheidungsspielen verwendbar ist.
Bei bevorzugten Ausführungsformen des Geräts ist das unterscheidende Beschreibungsbestimmungsmodul 4 ausgebildet, eine "Unterscheidungstabelle" zur Verwendung beim Bestimmen des unterscheidenden Merkmalsatzes (Merkmalsätze) zu bilden und aufrechtzuerhalten. In dieser Unterscheidungstabelle ist für jedes Merkmal aufgezeichnet, welche Entitäten auf der Basis dieses Merkmals unterschieden werden können. Es ist außerdem für jede Entität aufgezeichnet, durch welches Merkmal diese vom Thema unterschieden werden kann. Durch Befragen dieser Tabelle kann das unterscheidende Beschreibungsbestimmungsmodul 4 bestimmen, welche Merkmale des Themas jede Entität in dem Zusammenhang in die Lage zu versetzen, um eliminiert zu werden (d.h., das Thema freizugeben, welches von dieser Entität unterschieden wird).
Ein Zählwert (entweder in der Merkmaltabelle oder in der Unterscheidungstabelle) der Häufigkeit wird beibehalten, mit der ein vorgegebenes Merkmal einen Teil von unterscheidenden Merkmalsätzen bildet ("verwendet"). Eine Identifikation wird außerdem gehalten, wie häufig das Merkmal Teil eines unterscheidenden Merkmalsatzes bildete, der als bevorzugte Beschreibung des Themas ("Erfolg") ausgewählt wurde. Diese Parameter ermöglichen, dass die nützlichsten Merkmale identifiziert und vorzugsweise verwendet werden können.
Es sei verstanden, dass die verschiedenen Module des Systems, welche in 5 gezeigt sind, häufig aus Softwareroutinen bestehen, die bei einem Allgemeinzweck-Computer ablaufen, obwohl sie auch in dafür bestimmte Hardware integriert sein können. Die Ausbildung der notwendigen Softwareroutinen ist eine Sache von Standardprogrammierung, die die obige Erläuterung von den Funktionen, die dadurch durchzuführen sind, angeben.
Das oben beschriebene Gerät kann durch Zusatzkomponenten in Abhängigkeit von der beabsichtigten Anwendung ergänzt werden. In einem Fall beispielsweise, wo das Gerät einen Teil eines Systems für autonomes Entwickeln eines Kommunikationsprotokolls ("Sprache") bildet und gewünscht wird, dass die Kommunikation hörbar sein sollte, kann eine damit verknüpfte Tonerzeugungseinrichtung zum Bilden von Tönen vorgesehen sein, die für bestimmte Merkmale repräsentativ sind.
Versuchsergebnisse
Eine Anzahl von Versuchen wurde durchgeführt, um die Fähigkeit des Merkmalextraktionsverfahrens und des Geräts nach der vorliegenden Erfindung zu verifizieren, um ein Merkmalrepertoire autonom zu bilden, welches ermöglicht, dass verschiedene Objekte von einander unterschieden werden können. Diese Experimente zeigen, dass das Verfahren und das Gerät der Erfindung mit neuen Objekten sich beschäftigen kann.
Fester Satz von Objekten
7 ist eine grafische Darstellung, die zeigt, wie die Unterscheidungscharakteristiken eines einzelnen Agenten sich entwickeln, wenn die Anzahl von Unterscheidungsspielen, die durch den Agenten gespielt werden, ansteigt, in einem Fall, wo die Gesamtzahl von Objekten fest ist. In diesem Beispiel gibt es 10 Objekte und 5 Datenkanäle.
7 zeigt ein typisches Beispiel, wo der Agent ein Repertoire von Merkmaldetektoren aufbaut, wobei von einer Startlinie begonnen wird. Die grafische Darstellung zeigt das Ansteigen eines Unterscheidungserfolgs, der durch den Agenten bei den individuellen Unterscheidungsspielen erfahren wird (durchgezogene Linie). Sie zeigt außerdem den globalen Unterscheidungserfolg, der dadurch erzielt wird, dass die bisherigen Merkmale verwendet werden, d.h., dass alle Objekte mit allen anderen Objekten lediglich auf der Basis ihrer Merkmale verglichen Werten (gestrichelte Linie). Man kann sehen, dass alle Objekte nach 150 Unterscheidungsspielen unterschieden werden können. Der Fortschritt beim Finden von mehr-unterscheidungsfähigen Merkmalen hängt von dem Zusammentreffen derjenigen Objekte ab, die mehr Unterscheidung erfordern. Da der Zusammenhang und das Thema gemäß der Wahrscheinlichkeit festgelegt sind, ist dies nicht vorhersagbar.
Die grafische Darstellung von 8 zeigt für das gleiche Experiment die ansteigende Anzahl von Merkmalen (als einen Prozentsatz der Endgesamtzahl (22), welche am Ende des Experiments erreicht werden), und den Prozentsatz von Merkmalen, der effektiv zu einem bestimmten Zeitpunkt verwendet wird. Man sieht, dass viele Merkmale, die früher gebildet wurden, lediglich graduell verwendet werden und dass es noch viele Fälle gibt, wo diesen nicht begegnet wurde.
Vergrößern des Satzes von Objekten
Im nächsten Experiment (9) wird von einem Satz von 10 Objekten gestartet und allmählich neue Objekte in einer Wahrscheinlichkeitsweise hinzugefügt, um eine Gesamtzahl von 50 Objekten zu erreichen. Der durchschnittliche Unterscheidungserfolg bei den individuellen Unterscheidungsspielen (durchgezogene Linie) bleibt eng am Maximum (1,0), da auf neue Objekte lediglich gelegentlich begegnet wird und die Merkmaldetektoren schon allgemein aufgebaut sind.
9 zeigt außerdem den gesamten Erfolg mit den bisherigen Merkmalen (Linie, welche durch kurze Striche in 9 angedeutet ist), d.h., dass alle Objekte mit allen anderen Objekten verglichen werden und berechnet werden, welcher Prozentsatz voneinander zum augenblicklichen Zeitpunkt unterschieden werden kann. Diese Maßnahme des "Gesamterfolgs" ist nicht so hoch wie der "Durchschnittserfolg" bei Unterscheidungsspielen, da, im Hinblick auf die Tatsache, dass die Anzahl von Objekten ansteigt, in jedem Zeitpunkt nicht alle Objekte, die vorhanden sind, noch nicht in die Reihe von Unterscheidungsspielen eingebunden sind. Diese Maßnahme des "Gesamterfolgs" kann jedoch beim Auswerten der Fähig keit unterschiedlicher Ausführungsformen der vorliegenden Erfindung nützlich sein, um mit der Einführung von neuen Objekten in die Umgebung von Interesse fertig zu werden.
10 zeigt für das gleiche Experiment die Beziehung zwischen der Gesamtzahl von Merkmalen, welche verfügbar sind (durchgezogene Linie) und den Merkmalen, die verwendet werden (gestrichelte Linie). Man sieht, dass das Merkmalrepertoire gelegentlich erweitert wird. Am Anfang werden nicht viele neue Merkmale eingeführt, jedoch wird das verfügbare Repertoire besser genutzt. Später werden neue Merkmale in der Tat notwendig, um eine Diversität zu liefern, welche durch die neu eingeführten Objekte eingeführt werden. Man sieht außerdem, dass das verfügbare Repertoire an Merkmalen sehr viel extensiver am Anfang genutzt wird, was klar zeigt, dass nach einer großen Anzahl von Unterscheidungsspielen bestimmte Merkmale im Repertoire redundant oder wenig genutzt sein werden. Diese Merkmale können aus dem Merkmalrepertoire eliminiert werden, um die Verwendung des verfügbaren Raums im Speicher zu optimieren.
Schlussfolgerungen
Die vorliegende Erfindung liefert einen Mechanismus zur Bildung einer wahrnehmbar-begründeten Bedeutung, wobei ein Satz von Sensorkanälen angegeben und eine Reihe von Objekten wird, unter denen eine Entscheidung stattzufinden hat. Der Mechanismus basiert auf Auswahlprinzipien. Es gibt einen Generator einer Vielzahl und eines Auswahldrucks, der vom Erfolg oder dem Fehler bei der Unterscheidung herkommt. Es wurde gezeigt, dass das System bei einem Satz möglicher Merkmale zum Unterscheiden von Objekten ziemlich schnell ankommt. Besonders interessant ist es, dass das System angepasst bleibt, wenn neue Objekte hinzugefügt werden oder wenn neue Sensorkanäle verfügbar werden.
Die vorliegende Erfindung liefert ein Verfahren zum Extrahieren von Merkmalen, die Objekte charakterisieren, und wurde allgemein erläutert. Es sei jedoch verstanden, dass zahlreiche konkrete Anwendungen möglich sind. Bei typischen Anwendungen ist der "Agent" der versucht, Objekte zu charakterisieren, ein Roboter oder ein System auf Computerbasis. Allgemein sind außerdem die Sensorkanäle miteinander verknüpft, beispielsweise mit Sensoren körperlicher Parameter, beispielsweise mit visuellen, hörbaren oder internen Sensoren.
Das Merkmalextraktionsverfahren nach der vorliegenden Erfindung liefert in Wirklichkeit eine Einrichtung zum automatischen Bestimmen eines Satzes von Regeln, die ein bestimmtes Objekt charakterisieren und erlaubt, dass das Objekt von dem Zusammenhang unterschieden werden kann, in welchem das Objekt angeordnet ist (üblicherweise einem Satz von Objekten). Diese Charakterisierung kann für eine große Vielfalt von Zwecken verwendet werden. In einem Fall beispielsweise, wo der "Agent" ein Roboter ist, der in einem Raum navigieren muss, der andere sich bewegende Objekte enthalten kann, ermöglicht die Fähigkeit zum Charakterisieren von Objekten es dem Roboter, individuelle Objekte zu ermitteln und aufzuspüren, sogar diejenigen, die vorher dem Roboter nicht bekannt sind, im Hinblick beispielsweise zum Vermeiden von Kollisionen.
Man kann sich viele Anwendungen ausdenken, wo das Merkmalextraktionsverfahrens der vorliegenden Erfindung als ein einleitender Schritt angewandt wird, und dann in einem nachfolgenden Betrieb der Roboter oder das betroffene Computersystem Objekte (entweder eines, welches in dem ursprünglichen Merkmalextraktionsprozess verwendet wird, oder neue Objekte, die in das Feld der Betrachtung des Roboter/Systems kommen) in unterschiedliche Gruppen sortiert werden, wobei von der Verwendung der Charakterisierung, die damit erhalten wird, Gebrauch gemacht wird. Außerdem wird vorzugsweise die Charakterisierung als dynamischer Prozess verfeinert, wenn neue Objekte das betreffende Feld des Roboters/Computersystems betreten.
Bei einigen Anwendungen kann es nützlich sein, ein unbemanntes Fahrzeug in eine feindliche Umgebung zu schicken und einem Computersystem an Bord des Fahrzeugs befehlen, das Merkmalextraktionsverfahren der Erfindung in die Praxis zu versetzen und Details des besten Merkmalunterscheidungssatzes, der gefunden wurde, zu senden. Der Merkmalunterscheidungssatz kann analysiert werden, um zu bestimmen, welche unterschiedlichen Arten von Objekten durch das Computersystem an Bord des Fahrzeugs unterschieden werden können. Sollte gewünscht werden, bestimmte Arten des Objekts von der feindlichen Umgebung zu entfernen oder um eine spezielle Art von Operation in Bezug auf diese Art des Objekts durchzuführen, kann dann eine Instruktion, welche diese Art des Objekts hinsichtlich von Merkmalen identifiziert, welche eine Bedeutung für das Computersystem an Bord des entfernten Fahrzeugs haben, zu diesem Computersystem übertragen werden.
Es sind zahlreiche weitere Anwendungen möglich, wo das Merkmalextraktionsverfahren nach der vorliegenden Erfindung automatisch verwendet wird, um individuelle Teile einer gewissen Population zu identifizieren und um somit eine gesammelte Information zu ermöglichen, die korrekt an unterschiedliche individuelle Entitäten verteilt werden kann. Dies kann ein leistungsfähiges Verfahren sein, um experimentelle Daten zu sammeln, insbesondere in entfernten oder feindlichen Umgebungen.
Diese Merkmalextraktion nach der vorliegenden Erfindung wird automatisch und dynamisch durchgeführt, und ist, wie oben erläutert, insbesondere für die Anwendung durch Einrichtungen geeignet, die es benötigen, autonom oder halbautonom betrieben zu werden.
Viele weitere konkrete Anwendungen des Verfahrens und des Geräts gemäß der vorliegenden Erfindung wird der Fachmann erkennen.
Anwendungsbeispiel – autonome "Sprach"-Entwickelung
Es wurden Experimente durchgeführt, um zu zeigen, dass das Merkmalextraktionsverfahren und das Gerät nach der vorliegenden Erfindung bei einem System angewendet werden, können, wo nichtmenschliche Agenten zusammenarbeiten, um eine "gemeinsame Sprache" oder zumindest ein "anteiliges Vokabular" von Ausdrücken zu entwickeln, die verwendet werden können, um Objekte oder Entitäten innerhalb ihres betroffenen Gebiets zu beschreiben.
Diese Experimente umfassten die Verwendung von zwei Roboterköpfen, von denen jeder eine Abbildungseinrichtung trägt und die mit einer entsprechenden Steuereinheit und Datenverarbeitungseinheit verbunden sind. Die Lage jedes Roboterkopfs wurde fixiert, wobei jedoch dessen Orientierung in zwei Freiheitsgraden bewegbar war, so dass die Blickrichtung der entsprechenden Abbildungseinrichtung geändert werden konnte (in diesen Experimenten blieb der Fokussierungsabstand der Abbildungseinrichtungen konstant). Die Roboterköpfe wurden so angeordnet, dass ihre Abbildungseinrichtungen auf eine gemeinsame Umgebung blickten, die eine begrenzte Anzahl von Objekten enthält, und die Steuerungseinheit jedes Kopfes wurde so programmiert, die damit verknüpfte Datenverarbeitungseinheit zu steuern, um als "Objekt" jede Bewegungsentität in der Umgebung und jede Entität, die gegenüber den Hintergrund hervorstand, zu identifizieren. Um sicherzustellen, dass beide Roboterköpfe im Wesentlichen die gleiche Szene im Wesentlichen im gleichen Moment betrachteten, wurde jeder Roboterkopf programmiert, ein gemeinsames Referenzobjekt zu verfolgen, welches sich innerhalb der gemeinsamen Umgebung bewegte. Außerdem lieferte eine Zeitgabeeinheit gemeinsame Zeitgabesignale für die Datenverarbeitungseinheiten für die beiden Köpfe, um sicherzustellen, dass sie sich beide einen gemeinsamen Referenzzeitrahmen teilten.
Während dieser Experimente wurde ein erster der Roboterköpfe als "Sprecher" bestimmt, während der andere Roboterkopf als "Hörer" bestimmt wurde. Die beiden Roboterköpfe führten eine synchronisierte Reihe von Unterscheidungsspielen in der oben beschriebenen Weise durch. Die eingebundenen Datenkanäle im Merkmalextraktionsprozess bezogen sich auf die Beziehung zwischen dem Roboterkopf und dem betrachteten Objekt (beispielsweise "Kopfwinkel", "geschätzter Abstand zum Objekt", usw.) und auf visuelle Eigenschaften der Objekte innerhalb der gemeinsamen Umgebung (beispielsweise "Objektgröße", Objektgeschwindigkeit", "Bewegungsrichtung des Objekts", "Objektdurchschnitts-Graupegel" usw.), die durch Verarbeiten der Bilddaten hergeleitet wurden, die durch die jeweiligen Abbildungseinrichtungen während der Zeitperiode des Unterscheidungsspiels und durch Verarbeiten von Signalen durch die mechanischen Elemente, die dazu dienen, den Roboterkopf zu positionieren, erzeugt wurden. Um die Datenpunkte in dem verschiedenen Datenkanälen herzuleiten, machten die Datenverarbeitungseinheiten, die mit jedem Roboterkopf verknüpft waren, von einer Standardobjekterkennung und von Bildverarbeitungsverfahren gebrauch.
Am Ende eines jeden Unterscheidungsspiels gab der "Sprecher" ein Signal aus, welches das Ergebnis bezeichnete, welches er im Unterscheidungsspiel erzielte. Dieses Signal zeigte entweder "Fehler" oder im Fall eines Erfolgs den "besten" unterscheidenden Merkmalsatz, der dadurch während des betroffenen Unterscheidungsspiels bestimmt wurde. Der "Hörer" hatte keine Apriori-Information, die diesen in die Lage versetzte, genau zu bestimmen, was durch das Signal, welches durch den "Sprecher" ausgegeben wurde, angekündigt wurde, wobei wenn jedoch auch ein Unterscheidungsspiel bezüglich einer Szene durchgeführt hatte, welche sehr ähnlich der ist, die durch den "Sprecher" gesehen wird (bestimmte Unterschiede entstehen aufgrund von unterschiedlichen Perspektiven der beiden Roboterköpfe), der "Hörer" das gleiche oder ein ähnliches Ergebnis im Unterscheidungsspiel erzielen kann. In jedem Fall speicherte der "Hörer" in seiner Unterscheidungstabelle die Merkmale, welche den "besten" unterscheidenden Merkmalsatz gemäß seiner eigenen Einschätzung bildete, zusammen mit einer Anzeige des Signals, welches vom "Sprecher" empfangen wurde. Durch Aufbauen von gespeicherter Information auf diese Art und Weise wird eine Reihe von Unterscheidungsspielen entwickelte der "Hörer" ein Wörterbuch, welches die wahrscheinliche Bedeutung unterschiedlicher Signale zeigt, welche durch den "Sprecher" ausgegeben werden.
Der "Hörer" erzielt nicht notwendigerweise genau das gleiche Ergebnis wie der "Sprecher" in jedem Unterscheidungsspiel. Insbesondere braucht das Merkmalrepertoire des "Hörers" nicht identisch mit dem des Sprechers in einem bestimmten Zeitpunkt zu sein (der "Hörer" braucht noch nicht einen Datenkanal verfeinert haben, der schon durch den "Sprecher" verfeinert wurde). Da außerdem Unterscheidungsmerkmalsätze mehrere Merkmale enthalten können, kann der "Hörer" zu Anfang nicht eine unzweideutige Beziehung zwischen einem einzelnen empfangen Signal und einem individuellen Merkmal einrichten. Durch Aufzeichnen jedoch, wie häufig ein bestimmtes Signal vom "Sprecher" empfangen wurde, wenn der "Hörer" ein bestimmtes Merkmal als bildendes Teil des Unterscheidungsmerkmalsatzes identifiziert hat, baut der "Hörer" eine numerische Identifikation der Wahrscheinlichkeit auf, dass ein bestimmtes Empfangssignal einem bestimmten Merkmal entspricht, und baut umgekehrt eine Identifikation des am meisten wahrscheinlichen Merkmals, welches durch ein bestimmtes Signal gezeigt wird, auf.
Bei den Ausführungsformen der Erfindung kann, wo ein Agent a_i manchmal als "Sprecher" und manchmal als "Hörer" wirkt, die Wahrscheinlichkeit, welche ein bestimmtes Merkmal, mit einem bestimmten Empfangssignal verknüpft, auf der Basis nicht nur dadurch bestimmt werden, wie häufig ein bestimmtes Signal vom anderen Agenten empfangen wurde, wenn der Agent a_i, der als "Hörer" wirkt, ein bestimmtes Merkmal als bildendes Teil des Unterscheidungsmerkmalsatzes identifiziert hat, sondern auch, wie häufig der Agent a_i erfolgreich beim Verwenden des bestimmten Signals war, wenn der Agent a_i als "Sprecher" wirkt (die Bezeichnung "Erfolg" wird später erläutert).
Als Beispiel sei der Fall betrachtet, wo der Agent 1 das Merkmal v5 als Unterscheidungsmerkmalsatz identifiziert und ein Signal ("nnnn") ausgibt, um dieses Auffinden zu zeigen. Der Agent 2 kann das Merkmal v6 als Unterscheidungsmerkmalsatz im gleichen Unterscheidungsspiel identifiziert haben, und somit wird der Agent 2 unter den möglichen Bedeutungen von "nnnn" das Merkmal v6 bevorzugt zum korrekten Merkmal v5 aufzeichnen. In einigen nachfolgenden Unterscheidungsspielen jedoch wird der Agent 2 das Signal "nnnn" in einem Zeitpunkt empfangen, wenn er v5 als Unterscheidungsmerkmalsatz (oder eine Komponente davon) identifiziert hat und wird somit seine Aufzeichnung von möglichen Bedeutungen des Signals "nnnn" modifizieren, damit diese sowohl v6 als auch v5 umfassen. Durch Aufzeichnen der Häufigkeit während der Serie von Unterscheidungsspielen, wenn man meint, dass "nnnn" mit v6 verknüpft ist und wenn man meint, dass die Häufigkeit mit v5 verknüpft ist, wird der Agent 2 graduell bestimmen, dass die Wahrscheinlichkeit größer ist als "nnnn" entsprechend von v5 insgesamt.
Bei den obigen Experimenten wurde Dauer der individuellen Unterscheidungsspiele graduell vergrößert (synchron für die beiden Agenten), um so die Komplexität des Systems aufzubauen, und somit wurde die Komplexität der Ausdrücke durch die Agenten gewechselt.
Bei einer bevorzugten Anordnung hält der Agent für jedes Merkmal in seinem Repertoire eine Aufzeichnung der Häufigkeit, mit der das Merkmal einen Teil eines Unterscheidungsmerkmalsatzes bildet ("Verwendung" des Merkmals), und eine Aufzeichnung der Häufigkeit ist in einem Ausgangssignal beschrieben ("Erfolg" des Merkmals, da dieses zur Kommunikation verwendet wurde). Die Auswertung von "Verwendung" und "Erfolg" der unterschiedlichen Merkmale kann zu einem Auswahldruck bezüglich Datenkanälen und zukünftiger Zurückweisung von den Berechnungseinrichtungen der Datenkanäle führen, welche in der Praxis niemals zum Kommunikationsprozess beitragen.
Um die Flexibilität des Systems zu maximieren, d.h., dessen Fähigkeit, auf neue Situationen angepasst zu sein, sind die unterschiedliche Agenten vorzugsweise nicht programmiert, um identische Kanäle auszuwählen, um in der gleichen Stufe in der Reihe von Unterscheidungsspielen zu verfeinern. Durch Aufzeichnen von "Verwendung" und "Erfolg" der verschiedenen Merkmale und vorzugsweise durch Verwenden der Merkmale, die in der Vergangenheit erfolgreich waren, nähern sich die die Agenten trotzdem in einer vernünftigen kurzen Zeitdauer in Bezug auf einen gemeinsamen Satz von Ausdrücken an, um entsprechende bestimmte Merkmale zu zeigen.
Da die Anzahl von Unterscheidungsspielen in einer Umgebung ansteigt, die einen begrenzten Satz von Objekten aufweist, wurde herausgefunden, dass die Wahrscheinlichkeit, welche durch den "Hörer" eingerichtet wurden, dazu neigt, immer genauer die korrekte Beziehung zwischen den Empfangssignalen zu zeigen (und somit die Merkmale, die für den "Sprecher" repräsentativ sind) und die Merkmale, die durch den "Hörer" wahrgenommen werden. Anders ausgedrückt entwickeln der "Sprecher" und der "Hörer" die gleiche Korrelation zwischen bestimmten Ausdrücken und bestimmten empfangenen Merkmalen. Dieses gemeinsame Vokabular kann bei Kommunikationen zwischen den Agenten verwendet werden, beispielsweise dazu, um diese in die Lage zu setzen, zusammenzuarbeiten, um ein gemeinsames Ziel zu erreichen.
Darüber hinaus wurden Experimente in Umgebungen durchgeführt, wo die Anzahl von Objekten ansteigt, wo neue Agenten eingeführt werden und/oder existierende Agenten beseitigt werden. Für alle diese Fälle hat man gefunden, dass ein gemeinsames Vokabular zwischen den Agenten aufgebaut werden kann, vorausgesetzt, dass im Fall der Einführung von neuen Agenten/Beseitigung von existierenden Agenten der Wechsel von Agenten nicht zu schnell ist. Interessanterweise zeigen Simulationen, die eine große Anzahl von körperlichgetrennten Agenten umfassen, die Tendenz für verschiedene "Dialekte", die sich in den Gemeinschaften von Agenten entwickeln, welche körperlich voneinander entfernt sind.
In dem Fall, wo das Merkmalextraktionsverfahren der vorliegenden Erfindung bei einem System zur autonomen Entwicklung eines Kommunikationsprotokolls oder einer "Sprache" zwischen Agenten verwendet wird, ist es möglich, das Aufbauen eines gemeinsamen Vokabulars einschließlich von Ausdrücken zu ermutigen, deren entsprechende Bedeutungen so allgemein wie möglich sind. Dies kann durch Programmieren der Agenten ausgeführt werden, um die Unterscheidungsspiele in einer Weise durchzuführen, dass, wenn es notwendig ist, einen Unterscheidungsbaum zu verfeinern, eine Vorzugsauswahl von diesen Unterscheidungsbäumen, die relativ unterentwickelt sind, zu tätigen. Dies stellt sicher, dass die am allgemeinsten möglichen Merkmale entwickelt werden.
In dem Zusammenhang von derartigen Sprachentwicklungssystemen kann es jedoch manchmal vorteilhaft sein, den Aufbau eines "Spezialistenvokabulars" zu ermutigen, indem vorzugsweise bestimmte Datenkanäle zu einem sehr großen Grad verfeinert werden, wobei bestimmte andere Datenkanäle relativ unentwickelt gelassen werden. In diesem Zusammenhang ist es interessant, festzustellen, dass die Lage eines Merkmals an einem tieferen oder engeren Pegel in der Hierarchie, die durch den Unterscheidungsbaum definiert ist, unterschiedlichen "Registern" von Sprache entspricht. Ein Agent, der versucht, ein Objekt einem zweiten Agenten zu beschreiben, kann somit geeignete beschreibende Merkmale von einem Pegel des entsprechenden Unterscheidungsbaums auswählen, der bis zu einem Grad an Spezialisierung des Vokabulars ("Sprachfähigkeit") des zweiten Agenten angepasst ist. (Offensichtlich muss im letzteren Fall der erste Agent Information, die den Spezialisierungsgrad des Vokabulars des zweiten Agenten zeigt, empfangen oder herleiten).
Die Signale, welche durch den "Sprecher" an den "Hörer" ausgegeben werden, können irgendeine Anzahl von Formen annehmen, einschließlich, jedoch nicht darauf beschränkt, elektrische Signale, die über einen Draht oder einen drahtlose Verbindung ausgetauscht werden, akustische- oder optische Signale, die durch geeignete Detektoren ermittelbar sind, welche mit dem "Hörer" verknüpft sind usw.. Außerdem können die übertragenen Signale in einer breiten Vielfalt unterschiedlicher Formate dargestellt werden. Beispielsweise kann, um die Verarbeitung durch den "Hörer" zu vereinfachen, das Signal, welches durch den Hörer am Ende eines individuellen Unterscheidungsspiels ausgegeben wird, die Form eines Rahmens einer vorher festgelegten Struktur annehmen, bei der Komponentensignale, welche unterschiedliche Merkmale zeigen, voneinander unterschieden werden können (mittels ihrer Lage innerhalb des Gesamtrahmens oder mittels eines vorprogrammierten Symbols, welches die Trennung zwischen benachbarten "Merkmalen" usw. zeigt).
Das experimentelle Einrichten, welches oben beschrieben wurde, kann die Basis von Systemen bilden, die angepasst sind, autonom ein gemeinsames Vokabular zwischen zwei oder mehreren nichtmenschlichen Agenten zu entwickeln. Weiter kann die gleiche allgemeine Annäherung folgen, um eine Kommunikationsschnittstelle zwischen einem menschlichen Benutzer und einem nichtmenschlichen Agenten zu entwickeln (wobei in diesem Fall der menschliche Benutzer normalerweise den "Sprecher" bilden wird und der nichtmenschliche Agent den "Hörer" bilden wird). Zahlreiche Modifikationen der oben beschriebenen Näherung können durchgeführt werden, wenn diese Systeme ergänzt werden.
Bevorzugt beispielsweise, dass ein Agent immer den "Sprecher" und der andere den "Hörer" bildet, können die Agenten Wendungen nehmen, um Signale vorzuschlagen, welche das Ergebnis der Unterscheidungsspiel beschreiben, oder beide Agenten wiederum können einen Vorschlag eines Signals machen, welches das gleiche Unterscheidungsspiel beschreiben. In einem solchen Fall kann jeder Sprecher versuchen, vom "gemeinsamen Vokabular" in seinem aktuellen Entwicklungszustand Gebrauch zu machen, indem er zur Ausgabe das Signal auswählt, welches er als das ansieht, dass dies die höchste Wahrscheinlichkeit hat, um dem unterscheidenden Merkmalsatz zu entsprechen, den es zu beschreiben wünscht. Man hat herausgefunden, dass wiederum in diesem Fall die verschiedenen Agenten graduell einen gemeinsamen Satz von Ausdrücken zum Beschreiben bestimmter wahrgenommener Merkmale entwickeln.
Außerdem wurde in den oben beschriebenen Experimenten sichergestellt, dass die Agenten beide versuchten, das gleiche Thema zu charakterisieren, indem die Roboterköpfe vorprogrammiert wurden, um ein gemeinsames Objekt zu verfolgen. Jedoch können andere Verfahren verwendet werden. Beispielsweise kann der "Sprecher" mit einer Einrichtung versehen sein, beispielsweise einem optischen oder mechanischen Zeiger, um auf den "Hörer" zu zeigen, dessen Thema er zu charakterisieren sucht. In einem solchen Fall zeigt der "Sprecher" auf das Thema (oder zeigt anderweitig darauf) und gibt ein Signal, welches dafür beschreibend ist, aus, während der "Hörer" die Szene beobachtet, die durch den "Sprecher" angezeigt wird, eine Bestimmung durchführt, was das Thema ist, versucht, um seine eigene Beschreibung für dieses Thema zu finden und seine eigene Beschreibung mit dem Empfangssignal korreliert.
Experimentelle Ergebnisse
Es wurden Experimente durchgeführt, um die Fähigkeit von Agenten in einem Multi-Agentensystem zu verifizieren, um einen gemeinsamen Satz von Darstellungen ("Lexikon") zu bilden, um bestimmte Merkmale darzustellen, wobei von den Verfahren der vorliegenden Erfindung gebrauch gemacht wird. Ergebnisse eines solchen Experiments, die zwei Agenten umfassen, die eine "Real-Welt"-Umgebung beobachten, sind in 11 und 12 gezeigt. Während dieses Experiments war die Anzahl von Objekten in dem betreffenden Gebiet der Agenten nicht fest. Sowohl 11 als auch 12 zeigen die Leistung eines Agenten, der als "Sprecher" wirkt. 11 zeigt die sich verbessernde Unterscheidungsfähigkeit des Agenten, wenn die Reihe an Unterscheidungsspielen weiterlief (hier als "Sprachspiele" bezeichnet). 12 zeigt die sich verbessernde Fähigkeit des Agenten, um übereinstimmende Darstellungen für bestimmte Merkmale herauszufinden, und die ansteigende Tendenz für diese Darstellungen, die durch den "Hörer"-Agenten korrekt interpretiert werden.
11 zeigt, wie die Anzahl von "Unterscheidungen", die durch den Sprecher erkannt wurde, die sich entwickelten, als die Reihe von Sprachspielen weiterlief (siehe dicke Linie in 11). In diesem Beispiel beziehen sich "Unterscheidungen" auf Verfeinerungen der Unterscheidungsbäume, welche den Datenraum in zwei Hilfsbereiche teilen, wodurch es somit für jede "Unterscheidung" zwei entsprechende Merkmale im Merkmalrepertoire gibt. 11 zeigt außerdem (durch die dünne Linie in der Figur), wie der "Erfolg" in Sprachspielen, der als Reihe von Spielen verbessert wurde, weiferläuft, anders ausgedrückt, dass der Agent steigernd in die Lage kam, einen Unterscheidungsmerkmalsatz zu bestimmen, um ausgewählte Themen zu beschreiben.
12 zeigt (durch eine durchgezogene Linie), wie sich die Fähigkeit des Agenten, um Darstellungen zu finden, um die Merkmale auszudrücken, welche ein Thema beschreiben (Unterscheidungsmerkmalsatz), sich während der Reihe von Sprachspielen verbessert. Die gestrichelte Linie zeigt die sich steigernde Übereinstimmung zwischen dem "Sprecher" und dem "Hörer" in bezug darauf, welches Merkmal durch die Darstellung, die durch den "Sprecher" ausgegeben wird, bezeichnet wird.
Obwohl die vorliegende Erfindung oben mit Hilfe auf spezielle Ausführungsformen und eine bestimmte Anwendung dafür beschrieben wurde, soll verstanden werden, dass eine große Vielfalt von Änderungen und Adaptionen hier innerhalb des Rahmens der Erfindung, wie er in den beigefügten Patentansprüchen definiert ist, durchgeführt werden kann.

Claims

Verfahren zum Bestimmen von Merkmale charakterisierenden Entitäten, wobei das Verfahren aufweist: Unterscheiden einer Entität von einem Zusammenhang, wobei der Unterscheidungsschritt aufweist: (a) Bestimmen des Zusammenhangs, der aus zumindest zwei Entitäten besteht, (b) Wählen einer Themen-Entität aus dem Zusammenhang, (c) Einrichten eines Merkmal-Repertoires, welches eine aktualisierbare Liste von Merkmalen aufweist, die zum Beschreiben von Entitäten nützlich sind, wobei jedes Merkmal ein entsprechendes Paar von Attributdaten und damit verknüpfter Wertdaten aufweist, (d) Bestimmen, welche Merkmale im Merkmal-Repertoire die Themen-Entität und die anderen Entitäten im Zusammenhang beschreiben, (e) Vergleichen der Merkmale, die das Thema mit den Merkmalen beschreiben, welche die anderen Entitäten in dem Zusammenhang beschreiben, um zu beurteilen, ob es einen Satz an Merkmalen gibt, welcher die Themen-Entität von den anderen Entitäten in dem Zusammenhang unterscheidet, und (f) wenn das Ergebnis des Beurteilungsschritts negativ ist, Herleiten eines neuen Merkmals und Hinzufügendes neuen Merkmals zum Merkmal-Repertoire; dadurch gekennzeichnet, dass: der Schritt (g) vorgesehen ist, um, wenn das Ergebnis des Beurteilungsschritts positiv ist, den Unterscheidungsmerkmalsatzes oder einen der Unterscheidungsmerkmalsätze, wenn mehrere davon existieren, als Ergebnis zu registrieren.
Verfahren nach Anspruch 1, wobei der Unterscheidungsschritt mit einer verschiedenen Entität wiederholt wird, die als Thema im Schritt (b) gewählt wird.
Verfahren nach Anspruch 1 oder 2, wobei der Unterscheidungsschritt nochmals begonnen wird, wenn der Zusammenhang eine Entität enthält, welche noch nicht von den anderen Entitäten in dem Zusammenhang unterschieden wurde.
Verfahren nach Anspruch 1, 2 oder 3, wobei die Entitäten Objekte sind.
Verfahren nach Anspruch 4, wobei jedes Merkmal in dem Merkmal-Repertoire durch einen Merkmaldetektor hergeleitet wird, der ausgebildet ist, ein oder mehrere Merkmale zu definieren, wobei jedes entsprechende Wertdaten aufweist, welche einem Punkt oder einem Hilfsbereich innerhalb des Bereichs von Werten entsprechen, die in einem ersten Datenkanal ausgegeben werden können.
Verfahren nach Anspruch 5, wobei der Schritt zum Herleiten eines neuen Merkmals aufweist: Bilden eines neuen Merkmaldetektors, der ausgebildet ist, ein oder mehrere Merkmale zu definieren, wobei jedes entsprechende Wertdaten aufweist, welche einem Punkt oder einem Hilfsbereich innerhalb des Bereichs von Werten entsprechen, die in einem Datenkanal ausgegeben werden können, der vorn ersten Datenkanal verschieden ist, für den ein Merkmaldetektor noch nicht gebildet ist.
Verfahren nach Anspruch 5 oder 6, wobei der Schritt zum Herleiten eines neuen Merkmals aufweist: Modifizieren eines Merkmaldetektors, um die Anzahl an definierten Merkmalen zu vergrößern, die entsprechende Wertdaten aufweisen, die einem Punkt oder einem Hilfsbereich innerhalb des Bereichs von Werten entsprechen, die in dem entsprechenden Datenkanal ausgegeben werden können.
Verfahren nach einem der Ansprüche 1 bis 7, welches außerdem den Schritt aufweist, die Häufigkeit zu zählen, mit der jedes Merkmal des Merkmal-Repertoires einen Teil eines Unterscheidungsmerkmalsatzes bildet.
Verfahren nach einem der Ansprüche 1 bis 6, wobei der Schritt zum Registrieren aufweist: Beurteilen, ob ein kleinster Unterscheidungsmerkmalsatz existiert, und wenn es einen kleinsten Unterscheidungsmerkmalsatz gibt, Registrieren dieses kleinsten Unterscheidungsmerkmalsatzes als Ergebnis.
Verfahren nach Anspruch 9, wobei der Schritt zum Registrieren aufweist: wenn es keinen kleinsten Unterscheidungsmerkmalsatz gibt, Beurteilen, ob es einen Unterscheidungsmerkmalsatz gibt, der Merkmalen entspricht, die Wertdaten umfassen, welche den kleinsten Grad an Hilfsunterteilung der entsprechenden Bereiche von Werten darstellen, die in den entsprechenden Datenkanälen ausgegeben werden können; und wenn es einen Unterscheidungsmerkmalsatz gibt, der den Merkmalen entspricht, die Wertdaten umfassen, welche den kleinsten Grad an Hilfsunterteilung der entsprechenden Bereiche von Werten darstellen, die in den entsprechenden Datenkanälen ausgegeben werden können, Registrieren dieses Unterscheidungsmerkmalsatzes als Ergebnis.
Verfahren nach Anspruch 10, wobei der Schritt zum Registrieren aufweist: wenn es keinen Unterscheidungsmerkmalssatz gibt, der dem kleinsten Grad an Hilfsunterteilung der entsprechenden Bereiche von Werten entspricht, die in den entsprechenden Datenkanälen ausgegeben werden können, Registrieren des Merkmalsatzes, der am häufigsten benutzt wurde, als Ergebnis.
Gerät, welches angepasst ist, merkmal-charakterisierende Entitäten zu bestimmen, wobei das Gerät aufweist: eine Einrichtung zum Empfangen von Information über Entitäten in dem unter Berücksichtigung stehenden Gebiet des Geräts über einen oder mehrere Datenkanäle; eine Einrichtung zum Bestimmen eines Zusammenhangs innerhalb des unter Berücksichtigung stehenden Gebiets des Geräts, der aus zumindest zwei Entitäten besteht, eine Auswahleinrichtung zum Wählen einer Themen-Entität aus dem Zusammenhang, eine Repertoire-Einrichtungseinrichtung, die angepasst ist, ein Merkmal-Repertoire einzurichten, welches eine aktualisierbare Liste von Merkmalen aufweist, die zum Beschreiben von Entitäten nützlich sind, wobei jedes Merkmal ein entsprechendes Paar von Attributdaten und damit verknüpfter Wertdaten aufweist, eine Einrichtung zum Anwenden eines oder mehrerer Merkmaldetektoren an die Information, welche durch die Empfangseinrichtung empfangen wird, während einer Zeitperiode, um dadurch zu bestimmen, welche Merkmale im Merkmal-Repertoire die Themen-Entität und die anderen Entitäten in dem Zusammenhang beschreiben, eine Beurteilungseinrichtung zum Vergleichen der Merkmale, welche die Themen-Entität beschreiben, mit den Merkmalen, welche die anderen Entitäten in dem Zusammenhang beschreiben, um dadurch zu bestimmen, ob es einen Satz von Merkmalen gibt, der die Themen-Entität von den anderen Entitäten in dem Zusammenhang unterscheidet, eine Neu-Merkmal-Bildungseinrichtung, die ausgebildet ist, wenn das Ergebnis des Beurteilungsschritts negativ ist, ein neues Merkmal zu definieren und dieses neue Merkmal dem Merkmal-Repertove hinzuzufügen, und eine Registrationseinrichtung, die angepasst ist, wenn das Ergebnis des Beurteilungsschritts positiv ist, den Unterscheidungsmerkmalsatz oder einen der Unterscheidungsmerkmalsätze, wenn mehrere davon existieren, als Ergebnis zu registrieren.
Gerät nach Anspruch 12, wobei die Auswahleinrichtung ausgebildet ist, verschiedene Entitäten von dem Zusammenhang als Themen-Entität auszuwählen.
Gerät nach Anspruch 13, wobei die Auswahleinrichtung ausgebildet ist, als Themenentität eine Entität auszuwählen, welche noch nicht von den anderen Entitäten in dem Zusammenhang unterschieden wurde.
Gerät nach Anspruch 12, 13 oder 14, wobei der oder jeder Merkmaldetektor angepasst ist, ein oder mehrere Merkmale zu erkennen, die entsprechende Wertdaten aufweisen, die einem Punkt oder einem Hilfsbereich innerhalb des Bereichs von Werten, die in einem entsprechenden Datenkanal ausgegeben werden können, entsprechen.
Gerät nach Anspruch 15, wobei die Neu-Merkmal-Bildungseinrichtung ausgebildet ist, einen neuen Merkmaldetektor zu bilden, der bezüglich eines Datenkanals betreibbar ist, für den noch kein Merkmaldetektor existiert.
Gerät nach Anspruch 15, wobei die Neu-Merkmal-Bildungseinrichtung ausgebildet ist, einen existierenden Merkmaldetektor zu modifizieren, so dass die Anzahl von Merkmalen, die erkannt wird, dadurch ansteigt, wodurch die Wertdaten, die in der angestiegenen Anzahl von Merkmalen enthalten sind, die durch den Merkmaldetektor erkannt werden, einer vergrößerten Anzahl unterschiedlicher Punkte oder Hilfsbereichen in dem Bereich von Werten entsprechen, die im entsprechenden Datenkanal ausgegeben werden können.
Gerät nach einem der Ansprüche 12 bis 17, welches außerdem eine Zähleinrichtung aufweist, um die Häufigkeit, mit der jedes Merkmal des Merkmal-Repertoires einen Teil eines Unterscheidungsmerkmalsatzes bildet, zu zählen.
Gerät nach Anspruch 18, wobei die Registrationseinrichtung ausgebildet ist, zu beurteilen, ob es einen kleinsten Unterscheidungsmerkmalsatz gibt, und, wenn es einen kleinsten Unterscheidungsmerkmalsatz gibt, den kleinsten Unterscheidungsmerkmalsatz als Ergebnis zu registrieren.
Gerät nach Anspruch 19, wobei die Registrationseinrichtung ausgebildet ist, zu beurteilen, wenn es keinen kleinsten Unterscheidungsmerkmalsatz gibt, ob es einen Unterscheidungsmerkmalsatz gibt, der Merkmalen entspricht, die Wertdaten umfassen, welche den kleinsten Grad von Hilfsunterteilung der entsprechenden Bereiche von Werten darstellen, die in den entsprechenden Datenkanälen ausgegeben werden können, und, wenn es ein derartiges Unterscheidungsmerkmal gibt, diesen Unterscheidungsmerkmalsatz als Ergebnis zu registrieren.
Gerät nach Anspruch 20, wobei die Registrationseinrichtung ausgebildet ist, wenn es keinen Unterscheidungsmerkmalsatz gibt, der Merkmalen entspricht, die Wertdaten aufweisen, die den kleinsten Grad an Hilfsunterteilung der entsprechenden Bereiche von Werten darstellen, welche in den entsprechenden Datenkanälen ausgegeben werden können, den Merkmalsatz, der am häufigsten benutzt wurde, als Ergebnis zu registrieren.
Multiagentensystem, wobei die Agenten einen gemeinsamen Satz von Darstellungen autonom entwickeln, um einen gemeinsamen Satz von Merkmalen zu identifizieren, wobei: jeder der Agenten in dem System ein Gerät nach einem der Ansprüche 12 bis 21 aufweist, die Agenten angepasst sind, Themen-Entitäten aus einem Zusammenhang während synchronisierter Unterscheidungszyklen zu unterscheiden suchen, während denen ein erster Agent in einem ersten Modus und zumindest ein zweiter Agent in einem zweiten Modus arbeitet, die Agenten ausgebildet sind, um im ersten Modus entsprechende Darstellungen zu erzeugen und diese zum anderen Agenten (den anderen Agenten) zu übertragen, welche die Unterscheidungsmerkmalsätze, welche durch dessen Registrationseinrichtung registriert wurden, während bestimmter Unterscheidungszyklen, identifizieren; und die Agenten angepasst sind, um im zweiten Modus eine Verknüpfung aufzuzeichnen oder eine aufgezeichnete Verknüpfung zwischen den empfangenen Darstellungen und den Unterscheidungsmerkmalsätzen, welche durch die eigene Registrationseinrichtung registriert wurden, während der entsprechenden jeweiligen Unterscheidungszyklen zu modifizieren
Multiagentensystem nach Anspruch 22, wobei die Agenten angepasst sind, im ersten Modus eine Darstellung zur Übertragung, die ausgewertet wurde, die größte Wahrscheinlichkeit zum Führen zu korrekter Identifikation zu haben, durch den anderen Agenten (die anderen Agenten) des entsprechenden Merkmals (der entsprechenden Merkmale) auszuwählen.
Multiagentensystem nach Anspruch 22 oder 23, wobei die Agenten ausgebildet sind, zu identifizieren, welche Darstellung ein bestimmtes Merkmal identifiziert, wobei eine Auswertung durchgeführt wird, welche den Bestimmungsschritt umfasst, welche Darstellung am häufigsten empfangen wird, wenn das bestimmte Merkmal Teil eines Unterscheidungsmerkmalsatzes bildet, welcher durch die Registrationseinrichtung des Agenten registriert wurde, der im zweiten Modus arbeitet.
Multiagentensystem nach Anspruch 22, 23, oder 24, wobei die Agenten ausgebildet sind, zu identifizieren, welche Darstellung ein bestimmtes Merkmal identifiziert, wobei eine Auswertung durchgeführt wird, die den Schritt umfasst, zu bestimmen, welche Darstellung dadurch zu den anderen Agenten am häufigsten übertragen wurde, um Unterscheidungsmerkmalsätze zu identifizieren, welche das bestimmte Merkmal aufweisen.