知識工学におけるcertainty factorによる多段階認識過程の評価
An Estimation of a Multi-Stage Recognition Processby Using a Concept of a Certainty Factor in the fieldof Knowledge Engineering
Shoichi Suzuki
SS理論と名付けられたパターン認識の数学的理論に登場する認識システムRECOGNITRONは，処
理の対象とする問題の入力パターン�に対応し，“axiom1を満たすパターンモデル”��を求め，��
を恰も，�かのように扱う．このとき，写像�はパターンモデル構成作用素と呼ばれる．axiom2, 3を
各々満たす類似度関数��，大分類関数 ���を構成すれば，RECOGNITRONは�に関する連想形認
識方程式を解くことによって，�から連想されるパターンと，�の帰属するカテゴリを求めることが
本論文では，知識工学での 1 つの成果として考えられる“目標駆動形推論（goal driven reasoning）
を採用したプロダクションシステム”における推論規則（プロダクションルール）の結論部が信頼で
きる程度の評価尺度として使われているcertainty factor（確実度）��の概念にヒントを得，カテゴリ
帰属知識の��が考案される．
認識システムRECOGNITRONが処理の対象とする問題のパターンに関し持つカテゴリ帰属知識を
多段階帰納推理の働きで変換しながら，構造受精変換の不動点を探索する働きの 1 部の性質が��を
使って明らかにされる．
処理の対象とする問題のパターン（入力パターン）���に関する連想形認識方程式の求解過程が
問題のパターン���の認識過程であり，この求解過程が望ましく，“カテゴリ帰属知識の構造受精
変換に基づく帰納推理の働き”で得られているどうかの判定に，カテゴリ帰属知識のポテンシャルエ
ネルギー �と同様に，確実度��が有効に使われてよい根拠が主として，研究されている．
信用度 ��，不信用度 ��，信用・不信用度 ���を定義し，certainty factor updating schemeとして，
RECOGNITRONの多段階認識過程が考えられることを明らかにしている．
キーワード（1）パターン認識の数学的理論（SS理論）（2）カテゴリ帰属知識（3）構造受精変換
（4）不動点認識（5）MYCIN（6）確実度
Abstract
The recognition system RECOGNITRON appearing in a mathematical theory of recognizing
patterns named SS-theory seeks from a input original pattern � in question to be recognized a
corresponding pattern-model ��which must satisfy axiom 1 suggested by S. Suzuki, and treats ��as
though �� would be �.The mapping � is called a model-construction operator. Provided that a
similarity-measure function �� and a rough classifier ��� are constructed so as to respectively
satisfy axiom 2 and axiom 3, RECOGNITRON can determine a pattern recalled from pattern �and a
category to which �belongs by solving an associative equation of recognition about �.
A kind of certainty factor CF concerning a categorical membership-knowledge is presented here,
suggested by CF used in the field of a knowledge engineering as an estimated measure of reliablity
connected with a conclusion part of an inferennce rule called a production rule stored in long-term
memory of a production system which adopts a goal driven reasoning.
We shall take aim at making from point of view of CF clear a part of properties relevant to a function
of searching for a fixed-point of structural-fertilization transformations by use of which a recognition
system RECOGNITRON must treat with categorical membership-knowledges of an input pattern �in
question to be recognized with help of an induction reasoning which changes into the categorical
membership-knowledges of each recognition internal stage.
A process of solving the equation of associative recognition appearing in SS theory is considered to
be a process of recognizing the input pattern. In order to show whether this solving process has been
obtained by an inductive reasoning power based upon transformations made up of successive
structural-fertilizations of categorical membership-knowledges or not, potencial energies of categorical
membership-knowledges can be used. Similarly the reason why CF is utilized for this judgement of an
appearence of the inductive reasoning power is studied here.
In addition to the certainty factor CF, a measure of belief �� , a measure of disbelief �� and a
measure of belief and disbelief ��� are defined here.The explanation in this paper can clarify that a
multi-stage recognition process of RECOGNITRON may regarded as a certainty factor updating
scheme.
Key Words: （1）a mathematical theory of recognizing patterns（SS theory）（2）categorical
membership-knowledge（3）structural-fertilization transformation（4）recognition of fixed-point
type（5）MYCIN（6）certainty factor
1.まえがき
従来の学問分野，諸科学は主として，良構造問題（well-structured problems）の解決を対象とすると
いってよいだろう．これに対し計算機により知能を実現しようとする人工知能学は，主として不良設
定問題，いわゆる悪構造問題（ill-structured problems）を解決するのに役立つ様に進歩・発展して来
ているのが特徴であろう．この違いが生じるのは，日常，われわれ人間は大抵の場合解決するのに必
要な情報がすべて与えられて問題を解決している訳でないことにその理由がある．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
シンボル（symbol）はその意味が言葉で表された情報であり，パターン（pattern）はその意味が感
性で表された情報である．シンボルには変形が許されないが，パターンには或る程度の変形が許され
人工知能言語Prologで表現され実現されたシステムは 1 種のプロダクションシステムである．ポス
ト機械（Post machine）にその理論的基礎をおくプロダクションシステムは，もともと，悪構造問題
のモデル化に役立つ枠組みを提供するパターン駆動的（pattern driven）表現で動く．チューリング機
械（Turing machine）にその理論的基礎をおくプログラムは制御駆動的（control driven）であることに
注意しておく．
知識工学（knowledge engineering）は現在に至っても，主としてシンボル操作で知能の働きを実現
しようとする応用人工知能学の範囲を脱出していない．本論文では，パターン操作で知能の働きを実
現しようとする方向へ知識工学に目を向けさせる試みがなされる．スタンフォード大学で開発された
プロダクションシステム（知識システム）としての感染症診断システムMYCINが1973頃から開発さ
れたことが知識工学の誕生へと結びついたといえなくはない．問題を解決するのに，探索（アルゴリ
ズム）と知識（データ構造）との双方が必要であり，1977年スタンフォード大学のFeigenbaumが専門
知識（special knowledge）・経験知識（heuristic knowledge）を積極的に活用することを前提とした人工
知能学と位置付けた時以来，発展して来た研究分野が知識工学である．
certainty factorなる概念をパターン認識学へ持ち込もうとする本研究内容は，感染症の診断と抗生
物質の投与を指示できる上述のMYCIN（専門家システム；エキスパートシステム；expert system）に
＜ 3 項組＞：：＝（＜コンテキスト＞＜属性＞＜値＞）
を採用した基本データ構造に割り当てられた確実度（certainty factor）��を見直すものであり，“初
期の人工知能学での分野であり，その後独立してゆき，マルティメディア時代の到来に伴い画像・音
声理解研究などが端緒となり再び合流したパターン認識学”と，エキスパートシステムを構築する基
盤を提供する知識工学・科学とのつながりを示すものとして，興味深い．
21世紀は脳科学［A14］の時代である．脳はシンボルを操作し，抽象化されたテキストレベルで思
考しているというのが知の解明を行う従来の行動科学・認知科学の基本的立場であったが，パターン
処理とシンボル（テキスト）処理を融合・統合する技術の確立を目指す“マルチメディア・知能情報
メディア社会”の進展に伴い，脳内部で知識がどのように表現されているかの内部表現に関する興味
が深まるにつれて，サブシンボルとしてのパターンによる表現・処理が認知科学・人工知能学におい
て次第に重要視されてきた．人工的ニューラルネット理論［B2］がこれまで果たしてきた“シンボ
ル系列の，パターンを使用しての処理場面での有効な役割”を思い起こせば，この間の事情が理解で
例えば，確率分布によって表現される仮説を少数のアルファベットの組み合わせ構造とし，学習に
よって確保される計算知能の限界を論じる情報論的学習理論（information-based learning theory）［A16］
などは正に，人工知能学の無視できない分科である．人工知能学は簡単にいって，工学を指向する知
識工学と，科学を指向する認知科学とに分類されるが，本論文では，パターン理解への，知識工学［A9］
的手法の適用法が研究される．
これまで，S. Suzukiは，可分な一般抽象ヒルベルト空間［A1］～［A4］� 上で稼働する3つの情報シ
①万能性連想形パターン認識システムRECOGNITRON［B3］，［B4］，［B13］
文教大学情報学部『情報研究』第33号2005年 7 月
②パターンの系列を記憶し，それを想起的再生をする連想形記憶システムMEMOTRON［B10］
③マルチメディア処理用ファジィ・プロダクション・システムFUZZITRON［B20］
を提案し，その簡単な計算機シミュレーション［B6］～［B17］を介し，その性能の 1 部を確かめてい
本論文では，RECOGNITRONでの帰納推理に基づく多段階パターン認識過程［B3］，［B4］が説明
され，新しく，
（�＃）（信用度）measure of belief ��
（�＃）（不信用度）measure of disbelief ��
（�＃）（“信用・不信用”度）measure of belief and disbelief ���
などが考案され，その結果，カテゴリ帰属知識の確実度��が新しく考案され，��で認識の多段過
程を評価する手法が確立される．
知識とは，人工知能学では問題を解決するために必要な構造化された情報である．特に，経験的な
知識を積極的に活用し，問題解決に人間の専門家に匹敵するような能力を発揮するように設計された
システム，エキスパートシステム（expert system）が知識システムといわれるものの，代表的な 1 例
である．知識システムは人工知能システムの一種であり，
if 条件 then 行動（プロダクション・ルール）（1.1）
型の知識表現単位を採用し，認識・行動サイクルを繰り返すことにより作業記憶を更新することで，
問題解決にあたるプロダクションシステム（production system）として実現される場合が少なくない．
尚，Webページなどの文書などの膨大な生のデータから新しい情報を発掘・発見するというテキス
トマイニング（text mining）［A17］，［A13］においては，対連想ルール（paired association rule）
Rule：if �then �：���を共に含むテキストに成り立つ関係
という知識が考えられており， 2 つの概念
（一）Ruleの支持度 ���������
：データベース全体の中で，���を共に含むテキスト集合の割合（同時結合確率）
（二）確信度（精度）���������
：データベース全体の中で �を含むテキスト集合の内，���を共に含むテキスト集合の割合（条
件付き確率）
に基づいて，対連想ルールが選択されている．
知識システムを構築するために必要とされる基礎は知識工学（knowledge engineering）である．
感覚的処理を取り入れた知識システム（knowledge system），知識ベースシステム（knowledge-based
system），専門家システム（expert system）として，Ermanら（1975）による音声理解システムHEARSAY-Ⅱ
があるが，現在に至っても，感覚的処理を取り入れた知識システムの構築理論は目覚ましい発展を遂
げていない．
SS理論と名付けられたパターン認識の数学的理論に登場する認識システムRECOGNITRONは，処
理の対象とする問題の入力パターン�に対応し，“axiom1を満たすパターンモデル”��を求め，��
を恰も，�かのように扱う．このとき，写像�はパターンモデル構成作用素と呼ばれる．axiom2, 3を
各々満たす類似度関数��，大分類関数 ���をも構成すれば，RECOGNITRONは�に関する連想形
認識方程式を解くことによって，�から連想されるパターンと，�の帰属するカテゴリを求めること
ができる．RECOGNITRONがパターンに対し，知識処理をしているということを明らかにするのが
本論文の目的である．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
人工知能システムが行うのは，先見的知識が与えられたこのシステムが学習により蓄えた経験的知
識ベースを基盤とした推論［A12］という動作である．
人工知能学の歴史について考えると，その前半は推論がアルゴリズム主導形であり，以後は知識主
導形が続き，推論がアルゴリズム主導形・知識主導形に変遷して，現在に至っている．
システムの構造が明確でなくて，因果関係が局所的かつ曖昧で一部分しか経験的に知られていない
悪構造問題を解決するには，従来の数理的手法では困難であり，システムからの不十分な知識を構造
化し，蓄えられた知識に基づいて推論処理する必要がある．計算機によって知能の働きを実現しよう
とする知能工学・知識工学はこの目的に沿って発展してきた．1974年にスタフォード大学のShortliffe
等により開発された感染症診断システムMYCIN［A9］，［A11］は，幾つかの病名を想定し，不確実
性を伴う後向き推論が採用されているプロダクションシステムである．実用化に至らなかったものの，
MYCINではその絶対値が 1 より大きくない実数値としての確実度（certaintyfactor）と呼ばれる測度��を多数統合しながら，推論を行っている．ここに，前提（premise）となる事実や仮定からある結
論（conclusion）を引き出すことを推論（reasoning）と称している．
MYCINでは，医学的知識はプロダクションルール
Rule：if �then �（1.2）
として表現されており，
①�������
：前提条件（premise）�が成立するとき，結論（conclusion）�を主張する確実度（1.3）
②������
：�の確実度（1.4）
③���������������������
：結論部�の確実度（1.5）
を求めている．
人工知能（artificial intelligence）AIでの，不確実な知識の下での推論には，確率的推論（probabilistic
reasoning），不確定推論（inexact reasoning），ファジィ推論（fuzzy reasoning）などで代表される不確
実性推論（uncertainty reasoning）があるが，本論文では，知識工学での 1 つの成果として考えられる
“目標駆動形推論（goal driven reasoning）を採用したプロダクションシステム”における推論規則（プ
ロダクションルール）の結論部が信頼できる程度の評価尺度として使われているcertainty factor（確
実度）��の概念［A10］，［A11］にヒントを得，カテゴリ帰属知識の��が考案される．
認識システムRECOGNITRONが処理の対象とする問題のパターンに関し持つカテゴリ帰属知識を
多段階帰納推理（multi-stage inductive reasoning）の働きで変換しながら，構造受精変換の不動点を探
索する働き［B3］，［B4］の 1 部の性質が��を使って明らかにされる．
本論文は，万能性認識システムRECOGNITRON［B3］，［B4］が感覚的処理を取り入れた知識シス
テムの側面を備えていることを浮き彫りにするものである．
処理の対象とする問題のパターン���を圧縮したものがS. Suzuki理論（SS理論）でのパターンモ
デル����である．����を見たり聞いたりしたならば，���であるかのように見えたりするた
めには，処理の対象とする問題のパターンの集合�と，式（A.1）の写像�との対【���】は，少
なくともaxiom 1を満たさなければならないというのがS. Suzuki理論［B1］～［B4］の主張である．こ
のような写像�はモデル構成作用素と呼ばれる．
文教大学情報学部『情報研究』第33号2005年 7 月
S. Suzukiは，表象化・知覚・連想・記憶・検索・認識・学習・理解に関するパターン情報処理の知
能的問題解決理論を
“axiom 1～axiom 4の 4 公理からなるSS公理系から導かれるパターン認識の数学的理論（SS理論）
［B1］～［B5］”（1.2）
を拠り所として確立しようとしている．ここに，例えば，外界の状況を知識（長期記憶内容）を用い
ての，何らかの推論（連想）の働きで再構成しながら，知識に基づいて外界（の各対象と，それらの
間の相互関係）を意味付けすることが，（外界）理解である．
認識システムRECOGNITRON［B3］，［B4］は，処理の対象とする問題のパターン���のカテゴ
リ帰属知識に関する連想形認識方程式を解くことにより，���から連想されるパターンと，���
の帰属するカテゴリを求めるが，この連想形認識方程式は，3 axiom 1，2，3を各々満たすモデル構成作
用素�，類似度関数��，大分類関数 ���を構成すれば，決まる．
S. Suzuki理論を適用し，外界を理解する能力を備えたシステムを現実場面で活用するには，3 axiom
1，2，3を各々満たす式（A.1）のモデル構成作用素�，式（A.8）の類似度関数��，並びに，式（A.14）
の大分類関数 ���の 3 者を具体的に設計するだけで十分である． これまで��������については，
4 付録B，C，D，Eに見られるごとく，それらの具体的な設計論はある程度研究されてきた．そこで
登場している �は式（A.5）での代表パターン集合であり，�はカテゴリ番号の有限集合である．
本研究論文の目的は，認識システムRECOGNITRONが処理の対象とする問題のパターンに対し持
つカテゴリ帰属知識に関する確実度��を新しく提案し，この��を用いて，カテゴリ帰属知識を処
理するRECOGNITRONでの多段階パターン認識過程を評価する手段を提供することである（新規
処理の対象とする問題のパターン（入力パターン）���に関する連想形認識方程式の求解過程が
問題のパターン���の認識過程である場合，この求解過程が望ましく，“カテゴリ帰属知識の構造
受精変換に基づく帰納推理の働き”で得られているどうかの判定に，カテゴリ帰属知識のポテンシャ
ルエネルギー（��ポテンシャル）�と同様に，確実度��が有効に使われてよい根拠が主として，
第9章において研究される．
文献［A11］，付録の式（A2）からhintを得，������������を新しく定義し，certainty factor updating
schemeとして，RECOGNITRONの多段階認識過程が考えられることを明らかにする．
尚，設けられている11付録A～Kの内，付録A，F～Kは，SS理論で導入されている諸定義と，SS理
論の，この諸定義に関連した簡単な解説である．
2.不動点探索形構造受精多段階帰納推理の働きによるパターン認識
本章では，不動点探索形構造受精多段階帰納推理の働きによるパターン認識の多段過程における 1
部の性質を明らかにするため，知識工学での 1 つの成果として考えられる“目標駆動形推論（goal driven
reasoning）を採用したプロダクションシステム”における推論規則（プロダクションルール）の結論
部が信頼できる程度の評価尺度として使われているcertainty factor（確実度）��の概念にヒントを得，
カテゴリ帰属知識の��を考案し，��で認識の多段過程を評価する手法を確立する準備として，帰
納推理に基づく多段階パターン認識過程［B3］，［B4］が説明される．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
2.1パターンモデル����を確保した後の，最大類似度による入力パターン���の帰属するカテ
処理の対象とする問題のパターン�の集合�の中から�個の元 ���������� のみを持つ有限集合�����を選び，各々，�＝入力の集合，�＝出力の集合（2.1）
とする．原パターン���からそのパターンモデル������への変換過程
“���� ������”（2.2）
は�をstructural compressionするものである．
付録Aのaxiom 1を満たすという意味で，上述に登場した式（A.1）のモデル構成作用素と呼ばれる
写像�については，axiom 1の（�）の前半である埋込性質
��������������（2.3）
が成立しているように，順序対【���】が構成されていなければならない．このとき，�は，式（A.2）
のように表現される（定理A.1）．
集合�内の各々の元�を式（A.4）のカテゴリ集合 ����と 1 対 1 の対応の関係にある式（A.5）の
代表パターン集合 �内の何れか 1 つの元�のパターンモデル��に対応させることを，“パターン認
識の働き（patternrecognition）”という．���に対し，����が対応させられたとき，認識システ
ム（recognizer）は認識推断
The input pattern �is classified to the jth category ��（2.4）
を行なったという．�の任意の元�に対し，��を見たり聞いたりしたならば�と同じに見えたり聞こえたりするパター
ンモデル����を確保した後（同一知覚原理），axiom 2を満たすという意味で類似度関数（similarity
-measure function）と呼ばれる式（A.8）の類似度関数�� を使い，�の中から歪み測度（distortion measure）�������������� ������（2.5）
を最小にする��を�に対応させるのが自然である．ここに，式（A.8）の類似度関数�� について，������ ����������はパターン��が代表パターン�と似ている程度を表している．�� が式（A.1）
のモデル構成作用素�の働きに不変であること，つまり，������������ ��������� �����（2.6）
が，付録Aのaxiom 2，（�）より成り立っており，��を見たり聞いたりしたならば�と同じに見えた
り聞こえたりするという同一知覚原理を保証できる源泉を与えている．
���������������� ������������������� ��������（2.7）
が成立していることに注目した“最大類似法というパターン認識の働き”を説明しよう．
入力パターン���について�� �����������（2.8）
の最大値�� �������を選び，このようなカテゴリ番号���の内最も若いカテゴリ番号を
������������� ���������（2.9）
と決め，�を���に対応させるのが最大類似度（の選定に伴うパターン認識）法である．このとき，���は，��をその典型的な表現事例とする第 ���番目のカテゴリ（category；類概念）��に認識
されるという．
文教大学情報学部『情報研究』第33号2005年 7 月
この対応�� ��� �（2.10）
を備えているシステムが認識システムrecognizerであり，recognizerにおいては処理の対象であったパ
ターン�は最終的に���であるように見え，聞こえる．
2.2多段階帰納推理の働きによるパターン認識
前節の最大類似度法は，単段階パターン変換������� ���（2.11）
を行っていると考えることができる．本節では，帰納推理の働きで多段階パターン変換���������� ��� � � ����� ��（2.12）
を行い，式（2.4）のように，入力パターン���を認識処理する認識システムRECOGNITRON［B3］，
［B4］が説明される．
パターン���についての，多段認識過程
: Consider the following sequential algorithm for generating a sequence of states�������������������������������������
on condition that an initial state �������is chosen．（2.13）
多段認識過程を設定するには，RECOGNITRONが処理の対象とする問題のパターン���に対し
持つ式（A.22）のカテゴリ帰属知識������������に注目し，������������（ignorance；無知）
とおき，式（J.12）の形式を持つカテゴリ帰属知識変換列を式（2.13）の如く帰納的推理の働きで創出
し，不動点方程式（J.15）の成立を終了条件とすればよい．実は，不動点方程式（J.15）の解�������
は，半順序関係 ���に関する連想形認識方程式（2.14）の最小不動点解である（文献［B3］の付録G，
定理G5を参照）．連想形認識方程式（2.14）に登場する記号 ���は， 2 元関係 ���に関する上限記号で
ある（定義J.3を参照）．カテゴリ帰属知識������������〉間の等形式関係 ��は付録Gの定義G1
で定義されており，また，カテゴリ帰属知識������������のポテンシャルエネルギー ������
は 3 式（I.1）～（I.3）で定義されている：
The method of recognizing a pattern �in question is to find some recursive procedure which sequentially
yields or approximates a categorical-membership knowledge �����as a fixed-point solution of an equation
����������������������������（2.14）
of an associative recognition which minimizes a potential ������.
パターン�の帰属する可能性のある候補カテゴリを絞っていく各帰納推理段階を最大類似度法で構
成するのが，不動点探索形構造受精多段階帰納推理の働きによるパターン認識を採用した認識システ
ムRECOGNITRONであり，連想形認識方程式（2.14）を解きながら構造受精変換式（H.7）の不動点
をエネルギー不等式（J.25）が成立するように，探索する形で，多段階帰納推理を行いパターン認識
この結果，入力パターン���はパターンモデル ����として再生され（想起の働き），���belongs to one of ���������������（2.15）
と認識される（定理J3，並びに，その系 1 ）．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
3.カテゴリ選択関数���，カテゴリ帰属知識に関する諸定理
本章では，認識システムRECOGNITRONがパターン�に対し持つ候補カテゴリに関する知識（式
（A.22）のカテゴリ帰属知識）�����について成り立つ 4 定理を証明し，併せて，定理A4で決定さ
れた式（A.20）のカテゴリ選択関数�����������の第 2 変数 ����に関する単調減少性を証明する
（定理3.4）．
式（A.20）のカテゴリ選択関数���はaxiom 4を満たす形で，定理A4で決定されている．
先ず， 2 つのカテゴリ帰属知識������������������間の内積（�����������）の定
（�����������）
��������������������� �� ���������� �������（3.1）
から得られる自乗ノルム��������の表現式
�����������������������
�������������� ������（3.2）
に目を向けると，次の命題3.1が成り立つ．
［命題3.1］（カテゴリ帰属知識�����の自乗ノルム��������の��性）
������������������������������� ���������（3.3）
������������������������
�������������� �������式（3.2）
������� �����������������
������� ����������
��� �付録A，axiom 2の（�）□
��������������（3.4）
の成立に関する話題を研究しよう．
次の定理3.1は，カテゴリ帰属知識������������の自乗ノルム��������が���になるための
必要かつ十分な条件が，������������の有効な候補カテゴリ番号リスト�����������が各々，
カテゴリ番号の全集合 �，空集合�になることであることを指摘している．
［定理3.1］（有効な候補カテゴリの，全集合・空集合定理）
（�）����������� ����������（3.5）
が成立し，逆に，
����������（3.6）
����������������� �����������（3.7）
文教大学情報学部『情報研究』第33号2005年 7 月
� �����������（3.8）
（�）����������� �����������（3.9）
（証明）先ず，（�）の成立を示そう．
��������の表現式（3.2）から，明らかに，（�），つまり，
（�－1＃）����������� �����������付録A，axiom 2の（�）
が成り立つ．
（1＃）の逆は，次のように示される．
（�－2＃） 2 つの場合（�－2－1＃），（�－2－2＃）にわけて，背理法で証明しよう．
以下の証明において，カテゴリ選択関数���の 3 式（A.26）～（A.28）から直ちに，わかるように，����������������� ��������（3.10）
に注意しておく．
（�－2－1＃）����������の場合
����������������������
� ��������������� ������������� ��������（3.11）
������������� ������������� ������
� ���������������� ��������（3.12）
を考慮すれば，����������であるから，
������������� ������������� ������
� ������� ��������（3.13）
という“axiom 2の（�）に矛盾すること”が得られた．
（（�－2－2＃）�����������の場合
����������������������（3.14）�
��������������� ������
������� �������������������� ������
�����axiom 2の（�）�����������
��（3.15）����������������� ��������（3.16）
を得，�������������������������（3.17）
を考慮すれば，
���������������� �����������（3.18）
に矛盾する．
次に，（�）の成立を示そう．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
��������の表現式（3.2）から，明らかに，
（�－1＃）����������� ����������（3.19）
が成り立つ．（�－1＃）の逆は，次のように示される．
（�－2＃） 2 つの場合（�－2－1＃），（�－2－2＃）にわけて証明しよう．
（�－2－1＃）����������の場合
����������� ����������（3.20）
が成立している．
（�－2－2＃）�����������の場合
対偶を示す．����������������� ���������式（3.10）（3.21）
����������
�������������� ��������（3.22）
を得，対偶での，式（3.20）の証明が終わったことがわかる．□
次の定理3.2は，����������ならば，����を部分リストとする任意のカテゴリ番号リスト����を 助 変 数 に 持 ち， 3 式（H.7）～（H.9）で 定 義 さ れ る 構 造 受 精 変 換 式（H.10）に よ り，������������は������������に変換されてしまうことを指摘している．
［定理3.2］（�����の変換定理）
����������（3.23）� �����������������������������（3.24）
（証明）��������������������（3.25）
とおくと， 3 式（H.7）～（H.8）より，������������（3.26）�������������（3.27）
である．以下で，�����を計算すると，����（3.28）����（3.29）
を得，証明が終わった．�����������式（A.21）���定理3.1の（�）���������������
����式（3.27）（3.30）
を得，先ず，後半の（3.29）の証明が終わった．また，�������������式（3.26）����������文献［B4］の定理4.1
������������������ �����������文献［B3］の定理G1
���������� �����������式（3.27）
文教大学情報学部『情報研究』第33号2005年 7 月
�����式（3.29）���axiom 1，（�）の後半（3.31）
を得，前半の（3.28）の証明が終わった．□
次の定理3.3は，定理3.2の対偶であり，����を部分リストとする任意のカテゴリ番号リスト����を助変数に持つ構造受精変換式（H.10）により，������������が������������に
変換されてしまうことのないような
“����を部分リストとする任意のカテゴリ番号リスト ����を助変数に持つ構造受精変換式
（H.10）”（3.32）
が存在するならば，
����������（3.33）
ことを指摘している．
［定理3.3］（カテゴリ帰属知識の正ノルム判定定理）������������������������������（3.34）
������������（3.35）
次の定理3.4は，式（A.20）のカテゴリ選択関数���が第 2 変数 �に関し，単調減少性を備えて来
る諸条件を指摘したものである．
［定理3.4］（カテゴリ選択関数���の第 2 変数単調定理）
（�） 2 条件
（�－a） ���������������
（�－b） �������������������������������
の何れか 1 つが成立しているならば，������ �������������������（3.36）
（�） 2 条件
（�－a） ��������������������������� �����������
（�－b） �������������������������������
������������ ����������������������
の何れか 1 つが成立しているならば，������ �������������������（3.37）
［定理3.4の系 1 ］（カテゴリ選択関数���の第 2 変数単調定理）����������
（�）条件 ���������������の下で，
������
���������
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
���������������������� ����������
（�）条件 �������������������������������の下で，
������
���������
���������������������� ���������������������
（証明）��������（3.38）
ならば，（�），（�）が成立する．その理由は次の通りである．
先ず，���ならば，���の定義式（A.26）から，���������������������（3.39）
を得，（�），（�）が成立する．また，����ならば，�����から ����を得，���の定義式（A.26）
から，式（3.39）を得，（�），（�）が成り立つ．
よって，以後，����������とする．
���������������（3.40）
が成立しているとしよう．ならば，����������������
����������������� ��������
����������������（3.41）
を得，���の定義式（A.27）から，���������
��������� ����������式（3.40）
������������ ������������������ ���������（3.42）
������������������� ����������式（3.41）
を得，（�）と式（3.36）の証明が終わった．また，式（3.42）から，（�－a）が成立しているならば，
式（3.37）の成立がわかる．
次に，式（3.40）の否定
���������������（3.43）
が成立しているとしよう．ならば，���の定義式（A.28）の定義から，���������
��������� ���������������������式（3.43）
��������� ��������������������（3.44）
������������ ��������������������
��������� ��������������������
����������������（3.45）
文教大学情報学部『情報研究』第33号2005年 7 月
を得，（�）の証明が終わった．また，式（3.44）から，（�－b）が成立しているならば，式（3.37）
の成立がわかる．□
次の定理3.5は，���������が最大値 1 のノルムを与えるカテゴリ帰属知識であることの特徴付け
を指摘している．
［定理3.5］（最大ノルムを与えるカテゴリ帰属知識の特徴付け定理）
（a）����������������������������（3.46）
������������（3.47）
（b）������������������������������（3.48）
������������（3.49）
［定理3.5の系 1 ］
（c）����������（3.50）
� ��������������������������������（3.51）
（d）����������（3.52）
� ��������������������������������（3.53）
（証明）���������������������（3.54）
� �����������（3.55）
���� ��������� ��������axiom 2の（�）（3.56）���axiom 2の（�）］（3.57）
������������� �������axiom 2の（�）（3.58）���axiom 2の（�）（3.59）
������（3.60）
����������������������� ������（3.61）
� �� ����������
� �� ������������
����（3.62）
と，示され，上述に付録A，A2章のaxiom2の（�）を併せ考えれば，（a），（b）の成立がわかる．
系 1 の（c），（d）は各々，（a），（b）の対偶である．□
4.カテゴリ帰属知識の自乗ノルムが最小値�，最大値�をとる場合と，連想形認識に関する不動点方程式の成立との関係とは？
命題3.1で，カテゴリ帰属知識�����の自乗ノルム��������は���を各々，最小値，最大値に
持つことを明らかにしている．本章では，付録 K のミックスチュア条件を満たす類似度関数�� を使っ
ている場合，カテゴリ帰属知識�����の自乗ノルム��������が最小値�，最大値�をとるための
十分条件が，�があるパターン�のモデル��であり，かつ�����がある構造受精変換������の不動点方程
式を満たすこと（4.1）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
であることを，定理4.2で指摘する．
定理4.2を証明するために，次の定理4.1を用意する．
axiom 2を満たす式（A.8）の類似度関数�� のミックスチュア（mixture）条件は，付録 K で説明さ
このとき，次の定理4.1が成り立ち，カテゴリ帰属知識������がミックスチュア条件下での��
を採用している式（H.10）のある構造受精変換������の不動点解であるための必要十分条件は 2
式（4.3），（4.4）の何れかであることを明らかにしている．
［定理4.1］（不動点カテゴリ帰属知識存在の必要十分条件定理）
類似度関数�� に関するミックスチュア条件が成立していれば，��������������������������（4.2）�
������������������������（4.3）���������������（4.4）
（証明）文献［B4］の定理A14.4である．□
定理4.1を適用して証明される次の定理4.2は，カテゴリ帰属知識の不動点�����がその自乗ノル
ムの��������最小値�，最大値�の何れかの値を持つための十分条件を明らかにしている．系 1 は
その対偶である．
［定理4.2］（カテゴリ帰属知識�����の自乗ノルム��������の���定理）
類似度関数�� に関するミックスチュア条件が成立していれば，������������������������（連想形認識に関する不動点方程式）（4.5）
������������（4.6）�
���������������（4.7）
［定理4.2の系 1 ］（カテゴリ帰属知識�����の自乗ノルム��������の���定理）
類似度関数�� に関するミックスチュア条件が成立していれば，
������������（4.8）�
�������������������������（4.9）
��������������（4.10）
（証明）定理4.1を適用すれば，
式（4.5）�式（4.6）�
【�����������������������（4.11）�������������】（4.12）
������������（4.13）
������������定理3.5の（a）（4.14）������������式（A.26）（4.15）
���������������� �定理3.1の（�）（4.16）
系 1 は，付 録A，axiom 2，（�）な ど か ら 成 り 立 つ カ テ ゴ リ 帰 属 知 識�����の 自 乗 ノ ル ム
��������に関する不等式（命題3.1）
文教大学情報学部『情報研究』第33号2005年 7 月
��������������������������（4.17）
を考慮し，本定理の対偶をとればよい．□
定理4.2，並びに，その系 1 により，カテゴリ帰属知識�����の自乗ノルム��������が最小値�，
最大値�の何れかをとる場合と，連想形認識に関する不動点方程式（4.5）の成立との関係を明らか
にする以下の事実が判明したことになる：
類似度関数�� に関する付録Kでのミックスチュア条件が成立しているように，axiom 2を満たす式
（A.8）の類似度関数�� が選定されているとする．
（Ⅰ）カテゴリ帰属知識�����が連想形認識に関する不動点方程式（4.5）を満たし，然も，パター
ン�が或るパターン�のモデル��になっていれば，カテゴリ帰属知識�����の，式（3.2）で定義
される自乗ノルム��������は最小値�，最大値�の何れかの値をとる．
或いは，次のように言い直すことができる．
（Ⅱ）カテゴリ帰属知識�����の自乗ノルム��������が最小値�，最大値�の何れかの値をと
らないならば，カテゴリ帰属知識�����は連想形認識に関する不動点方程式（4.5）を満たさない
か，或いは，パターン�が或るパターン�のモデル��になっていない．□
以後の第 5 ～10章において，文献［A11］，付録の式（A2）からhintを得，以下の ����������
��を定義し，certainty factor updating schemeとして，2.2節の多段階認識過程が考えられることを明ら
5.measure of belief ��の導入による多段階認識過程の，望ましい収束
本章では，文献［A11］，付録の式（A2）からhintを得，以下の信用度 ��を定義し，この ��に
より，認識システムRECOGNITRONの不動点探索形多段階推理の働きに基づく2.2節の認識過程を評
価する手段が研究される．
5.1certainty factor updating schemeとしての，認識システムRECOGNITRON
処理の対象とする問題のパターン（入力パターン）���についての，RECOGNITRONによる多段
階認識過程（multi-stage recognition-process）�������������������������������������
�������������������������������������� ���������������
���������（5.1）
such that�������（start condition）��������� ���������������（fixed-point equation; goal condition）
where������������� ��������������������������������������（5.3）
は，validrecognition-processを与える“カテゴリ帰属知識�������の自乗ノルム����������に関す
る不等式の系”
��������������������������������������� �������������（5.4）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
が満たされているならば，certainty factor updating schemeであると考えることのできる根拠を与えよ
The SS method of recognizing a pattern �in question is to find some recursive procedure which yields a
sequence of categorical-membership knowledges（multi-stage recognition-process）�������������������������������������（5.5）
on condition that�������（start condition）（5.6）
which approximates a categorical-membership knowledge �������as a fixed-point of an equation
���������������������������������（5.7）
of an associative recognition, searching a sequence of lists �����of category-numbers���������������（5.8）
, and a sequence of a SS-potentials�����������������������������������������（5.9）
which satisfies an enequality��������������������������������������������（5.10）
5.2measure of belief ��から眺めた望ましい多段階認識過程
先ず，confirmatory ruleを与えるmeasure of belief ��を①のように定義する：
①measure of belief������������������������
� �� ������������
�������������������������� ������������
����������������
�� �����������������������������������������������������������������
�����������
����������（5.11）
段階番号�での自乗ノルム差（difference of squared norm）�������については，�������
��������������������������
������������ ����������������
� ����������
���������������������������������� ����������������
�������
������（5.12）
先ず，����������������が成立するための十分条件の 1 つがカテゴリ帰属知識�������の不動
点方程式（5.13）であり，更に，この方程式（5.13）の解
����������������������������������定理4.1
のノルムの自乗����������が���であること，並びに，前者の解���������が等式（5.16）をもた
らすことを明らかにする次の定理5.1を指摘する．
文教大学情報学部『情報研究』第33号2005年 7 月
［定理5.1］（多段階認識の ����定理）
類似度関数�� に関するミックスチュア条件が成立しているとする．カテゴリ帰属知識を用いた 3
式（5.1）～（5.3）の多段階認識過程において，不動点方程式�������������������������������（5.13）
が成立すれば，次の（イ），（ロ）の何れか 1 つが成立する：
（イ）������������������������（5.14）�
������������（5.15）���������������������������（5.16）
（ロ）���������������（5.17）�
������������（5.18）���������������������������（5.19）
（証明）定理4.1を適用し，
式（5.13）�【�������������������������（5.20）
�����������������】（5.21）
���������������（5.22）
が成立する．残りの成立は，不等式（4.17），並びに“定理4.2の証明”から明らかである．
そして，第���段階の信用度 �������を，
��������������（5.23）�����������������������������������（5.24）
とおくと，式（5.1）の多段階認識過程������������� ��������������������������������������（5.25）
where ���������������������������（5.26）
においては，����������������������������（5.27）
が望ましい．
もし，不等式列（5.26）が第 ���������段階で成立しなくて，不等式���������（5.28）
が成立するならば，変換過程�������������������������������（5.29）
は，処理の対象とする問題のパターン���の候補カテゴリを絞っていかなければならない多段階認
識過程からは，望ましくはない．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
6.measure of disbelief ��の導入による多段階認識過程の，望ましい収束
不信用度measure of disbelief ��から眺め，3式（5.1）～（5.3）の望ましい多段階認識過程について，
先ず，measure of disbelief ��を②の様に定義する：式（5.12）の �������を使って，
③measure of disbelief������������������������
� �� ������������
������������������������� ����������
��������������
�� �����������������������������������������������������������������
�����������
����������（6.1）
式（5.16）が満たされることを明らかにする定理5.1と同様に，等式（6.3）が満たされることを明
らかにする次の定理6.1を指摘する．
［定理6.1］（多段階認識の ����定理）
類似度関数�� に関するミックスチュア条件が成立しているとする．カテゴリ帰属知識を用いた 3
式（5.1）～（5.3）の多段階認識過程において，不動点方程式（5.13）が成立すれば，次の（ハ），（ニ）
の何れか1つが成立する：
（ハ）式（5.14）�式（5.15）．（6.2）���������������������������（6.3）
（ニ）式（5.17）�式（5.18）���������������������������（6.4）
（証明）定理4.1を適用し，
式（5.13）�【式（5.19）�式（5.20）】�式（5.21）（6.5）
が成立する．残りの成立は，不等式（4.17），並びに，“定理4.2の証明”から明らかである．
そして，第���段階の信用度 �������を，
��������������（6.6）�����������������������������������（6.7）
とおき，式（5.1）の多段階認識過程を 2 式（5.25），（5.26）の如く設定すると，����������������������������（6.8）
が望ましい．
もし，不等式列（5.27）が第 ���������段階で成立しなくて，不等式���������（6.9）
が成立するならば，式（5.28）の変換過程は，処理の対象とする問題のパターン���の候補カテゴ
リを絞っていかなければならない多段階認識過程からは，望ましくはない．
文教大学情報学部『情報研究』第33号2005年 7 月
7.measure of belief and disbelief ���の導入による多段階認識過程の，望ましい収束
“信用・不信用”度measure of belief and disbelief ���から眺め，望ましい 3 式（5.1）～（5.3）の多
段階認識過程について，論じよう．
先ず，measure of belief and disbelief ���を次のように定義する：
式（5.11）の ��，式（6.1）の ��を使って，
（a）�����������������������������������������������（7.1）
（b）������� の場合�������������������������
����������������������� �� ���������������������������
����������������������� �� ���������������������������
����（7.2）
その後，����を�����������������������������������
��������������������������������������������
��������������������������������������������������������
と定義する．
3 式（5.1）～（5.3）の多段階認識過程においては，��������������������������������（7.4）
が望ましい場合がある．
もし，�����������（7.5）
ならば，式（5.29）の変換過程は，処理の対象とする問題のパターン���の候補カテゴリを絞って
いかなければならない多段階認識過程からは，望ましくはない．
3 式（5.1）～（5.3）の多段階認識過程の終了規準としての，カテゴリ帰属知識�������の不動点
方程式（5.13）が成立すれば，この方程式の解
��������������������������定理4.1（7.6）
が ������������������������に 1 をもたらすことを明らかにする次の定理7.1を指摘する．
［定理7.1］（多段階認識の �����定理）
類似度関数�� に関するミックスチュア条件が成立しているとする．不動点方程式（5.13）が成立
すれば，次の（ホ），（ヘ）の何れか 1 つが成立し，������（7.7）
が成立する：
（ホ）式（5.14）�式（5.15）�式（5.16）�式（6.3）（7.8）
（ヘ）式（5.17）�式（5.15）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
�式（5.19）�式（6.4）（7.9）
（証明）（ホ）は，定理5.1の（イ），定理6.1の（ハ）から明らかであり，（ヘ）は定理5.1の（ロ），
定理6.1の（二）から明らかである．□
8.自乗ノルム差 ����による多段階認識過程の，望ましい収束
前章の ���では， 2 つの場合
（�）（認識可能）������������������������������������
（�）（認識不能）���������������������������
の何れの場合も，等式（7.7）が成立し，この（�），（�）の区別がつかない．この事態を改良する
ために，���を改良した��を第 9 章で導入しよう．
その前に， 3 式（5.1）～（5.3）での多段階認識過程の評価を式（5.12）の自乗ノルム差 �������
から眺め， 3 式（5.1）～（5.3）の望ましい多段階認識過程について，論じよう．
命題 2 .1は，��������の正定数倍に関し，パターン���の帰属するカテゴリ候補についての，
次の確率解釈を可能にする：
処理の対象とする問題のパターン���が帰属する可能性のあるカテゴリ（候補カテゴリ）のすべ
ての集まりである式（A.4）の全カテゴリ集合 ����の部分集合
����������������（8.1）
を導入しておく．
モデル����が原パターン���と同じように見え，同じように聞こえるという要請の下で，モ
デル����がカテゴリ集合 ����内の何れか 1 つに帰属している確率
prob { ����belongs to one of ����}（8.2）
prob { ����belongs to one of ����}
＝prob�������
���������
���������������������（8.3）
と表される．□
このとき， 3 式（5.1）～（5.3）での多段階認識過程を式（5.12）の自乗ノルム差 �������を用い
て，評価しよう．
カテゴリ帰属知識の変換過程�������������������（8.4）
について，次の 2 解釈（�），（�）を採用する：
（�）���������ならば，validである．
（�）���������ならば，not validである．□
次の定理8.1は，カテゴリ帰属知識の自乗ノルムが���の形になるような 3 式（5.1）～（5.3）の多段
階認識過程の存在を指摘したものである．
［定理8.1］（カテゴリ帰属知識の自乗ノルムの���定理）
文教大学情報学部『情報研究』第33号2005年 7 月
（�）����������������（8.5）
�������������������（8.6）����������（8.7）� �� �����������（8.8）
�������������������（8.9）
���������������（8.10）� 式（5.15）� ����������（8.11）
（�）����������������（8.12）� 式（5.18）�式（8.11）．
（証明）先ず，（�）の成立は次のように示せる．
式（8.5）�式（8.6）�式（8.7）
� ����������������
�������������������� ���������
��� ���������（8.13）�
�������
�� ����������������������������（8.14）������������������������������������������（8.15）��������������������������������（8.16）
���������������������（8.17）
ここで，����������������
����������������������� ���������������文献［B3］の定理G1（8.18）
���������������������� ��������������文献［B3］の命題3.1，axiom 2の（�）（8.19）
����� �������������（8.20）������（8.21）�����axiom 1の（�）の後半（8.22）
�������������������（8.23）
� ���������������式（A.28）（8.24）��� �������
��� ��������axiom 2の（�）（8.25）���axiom 2の（�）（8.26）
�����������
���������������� �������（8.27）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
��� �������（8.28）��（8.29）�
�������
��������������������������
������（8.30）
を得，示された．
同様にして，（�）の成立は次のように証明される．
式（8.12）��������
�� ����������������������������（8.31）��������定理3.2（8.32）
����������������������
�式（A.26）から，������������を得，定理3.1の（�）を適用（8.33）� �������
��������������������������（8.34）�������□
9.certainty factor ��による多段階認識過程の，望ましい収束
本章では，知識工学のcertainty factor ��を勘案し，新しくパターン情報処理での��を新しく提案
し，その後，この新しい��から眺め，望ましい多段階認識過程を論じよう．
式（5.11）の ��，式（6.1）の ��，式（7.2）の ���につき，不等式��
�����������������������
������������������������
�������������������������
��（9.1）
が成立していることに対応して，不等式����������������������������（9.2）
が成立している確実度（certainty factor）��を次の③の様に定義する：
3 式（5.23），（6.6），（7.1）での �����������������������に注意しつつ，
③certainty factor
③－1����������������������
③－2������������������������
����������������������� �� ���������������������������
������������������������ �� ���������������������������
文教大学情報学部『情報研究』第33号2005年 7 月
����������（9.3）
式（9.3）の如く導入した上述の��は次のように説明される：
A hypothesis �������about membership in a given list ��of category numbers
where ���������（9.4）
を次々に生成しながら，
The pattern �in question is assigned to the category for which the final certainty factor�����������������������（9.5）
is maximum.
とすることが考えられる．□
次の定理9.1は， 3 式（5.1）～（5.3）の多段階認識過程の停止をもたらす“不動点方程式（5.13）の
成立”が最終認識段 階�������の，そ の 1 つ 前 認 識 段 階�����������〉か ら 評 価 し た 確 実 度�����������������������に����を与えることがある場合を指摘している．
［定理9.1（確実度��の����定理）
類似度関数�� に関する付録 K のミックスチュア条件が成立しているとする．カテゴリ帰属知識を
用いた 3 式（5.1）～（5.3）の多段階認識過程において，不動点方程式（5.13）が成立すれば，次の（1＆），
（2＆）の何れか 1 つが成立する：
式（5.14）が成り立ち，よって，
式（5.15）�式（5.16）（9.6）����������（9.7）��������������������������（9.8）
が成り立つ．
式（5.17）が成り立ち，よって，
式（5.18）�式（6.4）（9.9）����������（9.10）���������������������������（9.11）
が成り立つ．
（証明）（1＆），（2＆）は各々，定理5.1の（イ），定理6.1の（ニ）から明らかである．
尚，付録 K のミックスチュア条件が成立していない類似度関数�� が選定されていれば，不動点方
程式（5.13）が成立しても，
（認識不定）������������������������ ������������（9.12）
��������������������� �� �����（9.13）
の場合が生じることがあるが，この時，不等式（9.2）が成立することは，�����の 2 定義式（5.11），
（6.1）から明らかである．
式 （ 9.3 ） の �����������������������は ， 式 （ 8.4 ） の ������������������ か ら��������������へのカテゴリ帰属知識変換がvalidであること（validity）の目安を与える．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
カテゴリ帰属知識の変換式（8.4）は，�������������������������������（9.14）
のとき，各々，正の，零の，負の変換過程という．�����������������������が大きいほど，カテゴリ帰属知識の変換式（8.4）が，問題の入力パ
ターン���に関し，���������������（9.15）
を初期条件とする連想形認識方程式（5.7）の求解（問題の入力パターン���の認識）に有効に働
く，つまり，���の候補カテゴリを絞る機能が存在すると，考えられる．��を次の（一），（二），（三）の様に解釈する：
（一）��������������������������（9.16）�
full positive certainty that a hypothesis about membership in any category number��������������������������obtained in the multi-stage recognition process（5.1）is valid.
（二）�������������������������（9.17）�
full ignorance.
（三）��������������������������（9.18）�
full negative certainty that a hypothesis about membership in any category number��������������������������obtained in the multi-stage recognition process（5.1）is not valid.
An event ������������������� is said to be uncertain if its validity cannot be determined with full
certainty.
尚，�������������������������
� �������������������������
� ���������
�� ����������������（9.19）
が成り立つから，式（9.17）が成り立つ場合は式（5.8）内でのカテゴリ番号リストは適切に選ばれて
いない可能性がある．
上述の定理9.1は，��が 3 式（5.1）～（5.3）の多段階認識過程の終了規準として，��が使用されて
よいことを明らかにしている：
［終了規準として用いられた��による 3 式（5.1）～（5.3）の多段階認識の停止］
式（5.1）の多段階認識過程について，終了規準（termination criterion）としての等式（9.16），或い
は，等式（9.18）が満たされる認識段階数�����������を求め，第�認識段階��������������（9.20）
で停止する．□
以上の論により，��の単調増加性を意味する不等式の系������������������
���������������������
文教大学情報学部『情報研究』第33号2005年 7 月
�������������������������（9.21）
が成立するように，候補カテゴリ番号の，式（5.8）のリスト列を帰納推理の働きで探求することの
重要性が判明した．
10.カテゴリ帰属知識�����のノルム�������の自乗��������と��ポテンシャル ������との関係
本章では，カテゴリ帰属知識������������の自乗ノルム��������と��ポテンシャル������とがある不等式関係にあり，簡単な条件の下では，それらの和が候補カテゴリの総数に等し
くなることが明らかにされる．
カテゴリ帰属知識������������がどの程度複雑な構造を備えているかの 1 つの指標として，��ポテンシャルとも称されるそのポテンシャルエネルギー（potential energy）������が，付録 I で
定義されている．
次の定理10.1は，カテゴリ帰属知識�����の自乗ノルム��������と，その��ポテンシャル������とが簡単な関係にあることを指摘している．
［定理10.1］（カテゴリ帰属知識の自乗ノルムと��ポテンシャルの関係定理）
（ 1 ％）（零自乗ノルムと零ポテンシャルの相等定理）�������の場合
������������������（10.1）
（ 2 ％）（自乗ノルムとポテンシャルの不等式定理）���������������������
������������������������������（10.2）
（ 3 ％）（自乗ノルムとポテンシャルとの和定理）���������の場合
�������������������（10.3）
が成立するのは，���������������� ��������（10.4）
のときに限る．
（証明）（ 1 ％）の証明：付録Aの式（A.26）を適用して，����������（10.5）
を得，これに定理3.1の（�）を適用して，
����������（10.6）
が得られる．一方，付録Iの式（I.1）を適用して，��������（10.7）
が得られ，証明が終わった．
（ 2 ％）の証明：�����������������命題 1（10.8）
������������������ �������式（3.2）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
����������� ������
�式（A.21）の����������より
������������� ������������� ������
（10.9）��������式（I.2）（10.10）
������
������� ������������� ��������
（10.11）
を得，証明が終わった．
（ 3 ％）の証明：
���������������
�������������� ����������������� ������
�2 式（3.2），（I.2）（10.12）
����（10.13）
が成立するのは，式（A.21）を考慮すれば，
������������� �������������������� ���������������������� ��������（10.14）
のときに限る．これは，式（10.4）と同値である．□
尚，カテゴリ帰属知識�������のノルム���������の自乗����������を用いて定義される式
（9.3）の��，式（5.11）の ��，式（6.1）の ��， 2 式（7.1），（7.2）の ���の 定 義 に お い て，
����������の代りに，
��������������������� �������（10.15）
を用い，同様な論，つまり， 3 式（5.1）～（5.3）の多段階認識過程の評価を展開することが考えられ
11.むすび
これまで，S. Suzukiは，可分な一般抽象ヒルベルト空間［A1］～［A4］� 上で稼働する3つの情報シ
①万能性連想形パターン認識システムRECOGNITRON［B3］，［B4］，［B13］，［B23］～［B25］
②パターンの系列を記憶し，それを想起的再生をする連想形記憶システムMEMOTRON［B10］，
SPATEMTRON［B26］
③マルチメディア処理用ファジィ・プロダクション・システムFUZZITRON［B20］
を提案し，その簡単な計算機シミュレーション［B6］～［B17］，［B23］～［B25］を介し，その性能の 1
文教大学情報学部『情報研究』第33号2005年 7 月
部を確かめている．
本論文では，RECOGNITRONでの帰納推理に基づく多段階パターン認識過程［B3］，［B4］が説明
（�＃）measure of belief ��
（�＃）measure of disbelief ��
（�＃）measure of belief and disbelief ���
などが考案され，その結果，カテゴリ帰属知識の確実度��が考案され，��で認識の多段過程を評
価する手法が確立された．文献［A11］，付録の式（A2）からhintを得，������������を定義し，
certainty factor updating schemeとして，2.2節の多段階認識過程，或いは， 3 式（5.1）～（5.3）の多段階
認識過程が考えられることを明らかにした．
処理の対象とする問題のパターン（入力パターン）���に関し，式（9.15）を初期条件とする連
想形認識方程式（5.7）の求解過程式（5.5）が問題のパターン���の認識過程である場合，この求
解過程式（5.5）が望ましく，“カテゴリ帰属知識の，式（5.3）の構造受精変換に基づく帰納推理の働
き”で得られているどうかの判定に，付録 I のカテゴリ帰属知識のポテンシャルエネルギー �と同
様に，式（9.3）の確実度��が有効に使われてよい根拠が主として，第 9 章において研究された．
カテゴリ帰属知識間の内積，カテゴリ帰属知識の自乗ノルムを直接使った確実度��から眺め，不
動点探索形構造受精変換に基づく帰納推理を基盤とする多段階パターン認識過程が望ましく得られて
いるかどうかを判定する手段が得られたが，一層より良い判定手段を発見し，パターン認識に使われ
る帰納推理が望ましく働いているかを検討できるようにしなければならない．
［A 1 ］吉田耕作，河田敬義，岩村聯：“位相解析の基礎”，岩波書店，May 1963
［A 2 ］青木利夫，高橋渉：“集合・位相空間要論”，培風館，Sept.1979
［A 3 ］Angus E. Taylor, David C. Lay: “Introduction to function analysis”, John Wiley & Sons, Inc., 1980
［A 4 ］Gilbert G. Walter: “Wavelets and other orthogonal systems with applications”, CRC Press, Inc., 1994
［A 5 ］Andrzej Cichocki, Rolf Unbehauen:“Neural networks for optimization and signal processing”, John
Wiley & Sons, Mar.1994
［A 6 ］太原育夫：“認知情報処理（ニューロサイエンス＆テクノロジーシリーズ）”，オーム社，Mar.
［A 7 ］R. S. Michalski他編：“概念と規則の学習 ― 例からの学習（知識獲得と学習シリーズ 5 ）”，共
立出版，電総研人工知能研究グループ他訳，May 1988
［A 8 ］多鹿秀継：“情報処理過程としての人間の記憶（レクチャーシリーズ「認知科学」（第 1 回））”，
人工知能学会誌，vol.16, no.1, pp.111-118, Jan.2001
［A 9 ］小林重信：“知識工学”，昭晃堂，Dec.1986
［A10］Tzafestas, L Palios and F Cholin: “Diagnostic expert system inference engine based on the certainty
factors”, Knowledge-Based Systems, vol.7, no.1, pp.17-26, Mar.1994
［A11］Gianni Vernazza: “Image classification by extended certainty factors”, Pattern Recognition, vol.26,
no.11, pp.1683-1694, 1993
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
［A12］麻生英樹，赤穂昭太郎，本村陽一：“統計的推論とAIの推論（特集AIの手法と周辺の基礎
理論）”，人工知能学会誌，vol.12, no, 2, pp.196-203, Mar.1997
［A13］湯上伸弘，岡本青史：“数値属性からの例外ルールの発見”，人工知能学会誌，vol.15,no,6,
pp.1081-1088, Nov.2000
［A14］苫米地英人：“深層脳内情報処理から学ぶもの ― 機能脳科学の観点から ― ”，人工知能学会
誌，vol.16, no,2, pp.267-277, Mar.2001
［A15］Cheng-Lin Liu, Masaki Nakagawa: “Evaluation of prototype learning algorithms for nearest-neighbor
classifier in application to hand-written character recognition”, Pattern Recognition, vol.34, pp.601-615,
［A16］麻生英樹：“情報論的学習理論”，人工知能学会誌，vol.16, no.2, pp.287-299, Mar.2001
［A17］那須川哲哉，河野浩之，有村博紀：“テキストマイニング基盤技術”，人工知能学会誌，vol.16,
no.2, pp.201-211, Mar.2001
［B 1 ］鈴木昇一：“認識工学”，柏書房，Feb.1975
［B 2 ］鈴木昇一：“ニューラルネットの新数理”，近代文芸社，Sept.1996
［B 3 ］鈴木昇一：“パターン認識問題の数理的一般解決”，近代文芸社，June 1997
［B 4 ］鈴木昇一：“認識知能情報論の新展開”，近代文芸社，Aug.1998
［B 5 ］鈴木昇一：“パターンのエントロピーモデル”，電子情報通信学会論文誌（D-Ⅱ），vol. J77-D-
Ⅱ, no.10, pp.2220-2238, Nov.1994
［B 6 ］鈴木昇一：“手書き漢字の側抑制効果的分解とその計算機シミュレーション”，情報処理学会
誌，vol.15, no.12, pp.927-934, Dec.1974
［B 7 ］鈴木昇一：“画像情報量とその手書き漢字への応用”，画像電子学会誌，vol.4,no.1,pp.4-12,
Apr.1975
［B 8 ］鈴木昇一：“抽出された特徴による手書き漢字構造の再生”，情報処理学会誌，vol.18,no.11,
pp.1115-1122, Nov.1977
［B 9 ］鈴木昇一：“回転群と画像の分解・強調・構造化再構成に関する計算機シミュレーション”，
情報研究（文教大学・情報学部），no.4, pp.36-56, Dec.1983
［B10］鈴木昇一：“連想形記憶N器MEMOTRONと日本語単独母音系列の再生に関する計算機シミュ
レーション”，情報研究（文教大学・情報学部），no.7, pp.14-29, Dec.1986
［B11］鈴木昇一：“多変量解析に基づく大分類関数の決定とその計算機シミュレーション”，情報研
究（文教大学・情報学部），no.10, pp.35-49, Dec.1989
［B12］鈴木昇一：“帰属係数法に基づく類似度，帰属関係あいまい度，認識情報量の計算機シミュ
レーション”，情報研究（文教大学・情報学部），no.11, pp.51-68, Dec.1990
［B13］鈴木昇一：“構造受精法と日本語単独母音の認識”，情報研究（文教大学・情報学部），no.18,
pp.17-51, Dec.1998
［B14］鈴木昇一，前田英明：“有声破裂音の代表パターンの学習的決定と，その計算機シミュレー
ション”，情報研究（文教大学・情報学部），no.20, pp.77-95, Dec.1998
文教大学情報学部『情報研究』第33号2005年 7 月
［B15］鈴木昇一，前田英明：“変動エントロピーによる有声破裂音の順序付けと，その計算機シミュ
レーション”，情報研究（文教大学・情報学部），no.21, pp.51-78, Mar.1999
［B16］鈴木昇一：“平均顔を用いた顔画像の 2 値化，並びに，目・鼻・口の抽出と，その計算機シ
ミュレーション”，情報研究（文教大学・情報学部），no.22, pp.65-150, Dec.1999
［B17］鈴木昇一：“界面エネルギーの減少に伴うモデル構成作用素の，顔画像処理に関する計算機
シミュレーション”，情報研究（文教大学・情報学部）, no.23, pp.109-182, Mar.2000
［B18］鈴木昇一：“風景画から知識を抽出し，解釈するシステムの，ファジィ推論ニューラルネッ
トによる構成”，情報研究（文教大学・情報学部），no.23, pp.183-265, Mar.2000
［B19］鈴木昇一：“各個人の感性を反映した認識システムRECOGNITRON”，情報研究（文教大学・
情報学部），no.24, pp.185-257, Dec.2000
［B20］鈴木昇一：“プロダクション・システムとしてのファジィ・マルチメディア・コンピュータ
と，空間多重パターンファジィ推論系”，情報研究（文教大学・情報学部），no.24, pp.105-183,
Dec.2000
［B21］鈴木昇一：“��大分類関数 ���の適応的構成への，計算論的学習理論の適用”，情報研究（文
教大学・情報学部），no.25, pp.185-236, Mar.2001
［B22］鈴木昇一：“量子力学の諸原理，多段階量子認識系と，心理状態を取り入れた想起に基づく
部分空間認識法”，情報研究（文教大学・情報学部），no.25, pp.237-282, Mar.2001
［B23］鈴木昇一，川俣博司，大槻善樹：“風景画の理解に関するJAVA言語によるRECOGNITRONの
計算機シミュレーション”，情報研究（文教大学・情報学部），no.27, pp.73-109, Mar.2002
［B24］鈴木昇一：“JAVA言語で実装化された画像理解システムIUSの動作概要と，その稼動方法”，情
報研究（文教大学・情報学部），no.28, pp.143-165, Dec.2002
［B25］鈴木昇一，川俣博司，大槻善樹：“JAVA言語による計算機シミュレーションで生じた風景画像
の理解場面での多段階連想形認識過程の異常現象”，情報研究（文教大学・情報学部），no.29,
pp.123-166, July 2003
［B26］鈴木昇一：“パターン系列（動画像，会話音声）の，dynamicalsystemによる連想理論と，連
想器SPATEMTRON”，情報研究（文教大学・情報学部），no.30, pp.139-186, Jaqn.2004
［B27］鈴木昇一： 1 パラメータLie座標変換群とそのパターン正規化への応用，情報研究（文教大学・
情報学部），no.32, pp.21-74, Jan.2005
［B28］鈴木昇一：曖昧さに関する半順序を単調に保つモデル構成作用素，情報研究（文教大学・情
報学部），no.32, pp.75-126, Jan.2005
［B29］鈴木昇一：パターンから抽出された特徴量のfuzzy単調変換，情報研究（文教大学・情報学部），
no.32, pp.127-168, Jan.2005
［B30］鈴木昇一：パターンモデル（パターンの標準形）の一般形，情報研究（文教大学・情報学部），
no.32, pp.169-218, Jan.2005
［B31］鈴木昇一：類似度関数の密度を用いた，画素毎のパターン認識処理（パターン理解処理）の
方法，情報研究（文教大学・情報学部），no.32, pp.219-285, Jan.2005
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
付録A.4 公理axiom 1～4を各々，満たさなければならないモデル構成作用素�，類似度関数��，大分類関数���，カテゴリ選択関数���
本付録Aでは，処理の対象とする問題のパターン���が帰属するであろう妥当なカテゴリ ��，
並びに，���の妥当な表象モデル���を決定できる
「認識システムRECOGNITRONが解かねばならない“RECOGNITRONが���に対し持つカテゴリ
帰属知識������を入力すれば，大抵の場合ある 1 つのカテゴリ番号 ���が定まり，カテゴリ帰
属知識���������を解に持つであろう”連想形認識方程式（SS方程式）」
の構成に必要な 4 公理axiom 1～4と，それぞれの公理axiom 1～4を満たさなければならない対�����，
類似度関数��，大分類関数 ���，カテゴリ選択関数���とが説明される．
A1.axiom 1とパターン集合�，モデル構成作用素�，並びに，順序対【���】
処理の対象とするパターン�の集合�はある可分なヒルベルト空間 � の，零元�を含むある部分
集合であり，この�，並びに写像���� �（A.1）
は次のaxiom 1を満たさなければならない．このとき，写像�はモデル構成作用素（model-construction
operator）と呼ばれ，����は���の代りとなり得るという意味で，パターン���のモデル（model）
と呼ばれる．
Axiom 1（パターン集合�とモデル構成作用素�との順序対【���】の満たすべき公理）
（�）（零元の��不動点性；fixed-point property of zero element under mapping �）���������
（�）（錐性，正定数倍吸収性；cone property）��������������������for any positive real number ��
（�）（ベキ等性，埋込性；idempotency, embeddedness）�������������������
（�）（写像�の非零写像性；non-zero mapping property of �）�����������□
パターンと判明している�の集合（基本領域；basicdomain）������と，すべての正実定数の集
合 ���とを用意する．
次の定理A1は，axiom1を満たす順序（の付いた）対�����を決定している．
［定理A1］（パターン集合�とモデル構成作用素�との順序対【���】の基本構成定理）
式（A.1）の写像�がaxiom1の（�），（�），（�）の 3 後半，並びに，（�）を満たすとしよう．
このとき，次の（イ），（ロ）が成り立つ：
（イ）処理の対象とする問題のパターンの集合�を，���������������
�������� ���� ������� ������������� ���� ������� ����（A.2）
の如く設定すれば，
�������������������������� ���（A.3）
が成立し，axiom 1の（�），（�），（�）の 3 前半を�は満たし，結局，順序対【���】はaxiom 1
文教大学情報学部『情報研究』第33号2005年 7 月
（ロ）逆に，��を部分集合に持つ�がaxiom 1の（�），（�），（�）の 3 前半を満たすとすれば，axiom 1
を満たす順序対【���】の�は式（A.2）のように表され，式（A.3）も成立する．
（証明）（イ）は文献［B4］，付録 1 の定理A1.1である．（ロ）は文献［B3］，pp.64-66（2.4節）で証
明されている．□
A2.axiom 2と類似度関数��
“正常なパターン”（well-formed pattern）は，ある 1 つのカテゴリ ��（第 ���番目の類概念）のみ
に帰属しているものとし，このような ��の集まり（有限集合）
�������������（A.4）
を想定する．��の備えている性質を典型的に備えている代表パターン（prototypical pattern）�������
を 1 つ選定する．��は，典型（prototype）としての代表パターン ��を中心とした緩やかなカテゴリ
であることを仮定したことに注意しておく．ここに，
������������（A.5）
が式（A.4）の全カテゴリ集合 ����に対応する代表パターンの集合である．式（A.5）の系 �は，
複素定数 ��の組��������について
������������ ���������（A.6）
が成立しているという意味で， 1 次独立（linearly independent）でなければならない．
axiom 1を満たす式（A.1）のモデル構成作用素�によって，式（A.5）の代表パターン集合 �が変
換されて得られる系
��������������������������（A.7）
も 1 次独立であると要請する．このとき，類似度関数（similarity-measure function）
�� ��������������（A.8）
を導入し，�� ����������に従って，パターン���は各々，��と確定的な類似関係，相違関係にあり，ま
た，���� ��������の場合は，曖昧な類似・相違関係にある
と，�� を解釈しよう．
関数�� は次のaxiom 2を満たすように構成されねばならない．特に，axiom 2の（�）なる直交性
は，カテゴリ候補の分離・抽出が効果 I に行われ，
カテゴリ候補の鋭利な削減（a sharp reduction）
をもたらすために要請されていることに注意しておく．
Axiom 2（類似度関数�� の満たすべき公理）
（�）（直交性；orthogonality）���������� ��������� �� ������ �� �����
（�）（規格化条件，正規性；probability condition，normality）
����������� ���������
（�）（写像�の下での不変性；invariance under mapping �）������������ ���������� �������□
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
次の定理A2は，類似度関数�� の出力�� ������がパターン変換� に関し，不変に保たれるには，
変換後のパターン��が変換前のパターン�と同一パターンモデル��を持てばよいことを明らかに
［定理A2］（類似度関数�� の不変定理）
パターン変換� ��� �（A.10）
について，�が��不変性��������（A.11）
を満たすパターン���について，������� ���������� ������（A.12）
が成立する．同様に，������������������� ����������� �������（A.13）
A3.axiom 3と大分類関数 ���
大分類関数（rough classifier, binary-state classifier）と呼ばれる 2 値関数
�������������（A.14）
を，次のaxiom 3を満たすものとして導入し，解釈
パターン���の帰属する候補カテゴリの 1 つが第 ���番目のカテゴリ ��であるならば，����������であることが望ましい（A.15）
を採用しよう．この際，注意すべきは，����������であっても，パターン���の帰属する候補カテゴリの 1 つは，第 ���番目のカテ
ゴリ ��でないとは限らない（A.16）
としていることである．また，axiom 3の（�）からわかるように，カテゴリ間の相互排除性（the mutual
exclusion of the one category from the other categories）
�������������������������（A.17）
を公理として要請していない事実に注意しておこう．
Axiom 3（大分類関数 ���の満たすべき公理）
（�）（カテゴリ抽出能力；category separability）�����������������
（�）（写像�の下での不変性；invariance under mapping �）�����������������������������□
次の定理A3は，大分類関数 ���の出力 ��������がパターン変換� に関し，不変に保たれるには，
変換後のパターン��が変換前のパターン�と同一パターンモデル��を持てばよいことを明らかに
［定理A3］（大分類関数 ���の不変定理）
式（A.10）のパターン変換� ��� �について，モデル構成作用素�の��不変式（A.11）が成立
するような，パターン���に関し，�������������������������（A.18）
が成立する．同様に，
文教大学情報学部『情報研究』第33号2005年 7 月
���������������������������������������（A.19）
A4.axiom 4とカテゴリ選択関数���
カテゴリ選択関数（category-selection function）と呼ばれる写像��������� ��（A.20）
は，包含関係（inclusion relation）
����������������������������������（A.21）
を満たし，然も，次のaxiom 4を満たすものとして，設定されるとしよう．ここに，��は全カテゴリ
番号の集合 �のすべての部分集合の集まりを表している．
処理の対象とする問題のパターン�のすべての集合�と，各���が帰属する可能性のある候補
カテゴリ番号のリスト �のすべての集合 ��とのなす対������はカテゴリ帰属知識空間（categorical
membership-knowledge space）と呼ばれ，その代数的・幾何学的・解析的構造は既に解明されている
［B3］，［B4］．
Axiom 4（カテゴリ選択関数���の満たすべき公理）
（�）�������の場合
如何なるカテゴリ番号���も������������の有効な候補カテゴリ番号ではない．
（�）������������ �������������������の場合
カテゴリ番号���は������������の有効な候補カテゴリ番号ではない．
（�）������������������������の場合
����������であっても，�� ��������であるようなカテゴリ番号���は������������の有効な候補カテゴリ番号である．
（�）������������������������の場合
（�－1）����������なるカテゴリ番号���は，�� ��������であっても，������������
の有効な候補カテゴリ番号ではない．
（�－2）�� ��������なるカテゴリ番号���は，����������であっても，������������
の有効な候補カテゴリ番号ではない．□
本論文では，処理の対象とするパターン�の集合�に応じ， 3 章A1，A2，A3の��������が適
切に選定されているという状況の下で，任意のカテゴリ番号リスト ����に対し，定理A4でその存
在が明らかにされている 3 式（A.26）～（A.28）のカテゴリ選択関数���を常に用いる．
“認識システムRECOGNITRONが処理対象とする���に対し持つカテゴリ帰属知識（categorical
membership-knowledge）”
を，������������（A.22）
と表す．������������とは，パターン���がカテゴリ集合 ������のいずれか 1 つの元に帰
属する可能性があるという事態を表している．，
式（A.20）の写像���は，パターン���に対し，認識システムRECOGNITRONが持つカテゴリ
帰属知識を������������と想定した場合，その内のカテゴリ集合
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
�����������������（A.23）
のいずれか 1 つに帰属する可能性があると推論できる機能を備え，その出力��������はパターン���の有効な候補カテゴリ番号リスト（a list of significant category-numbers）を与えていると考える
ことができる．�個の要素 ������������からなるリスト �を
��������������（A.24）
と表す． 1 対 1 の性質����� ������（A.25）
が成り立っている場合の �は集合��������������と同一視されることがある．特に，要素を 1 つも
持たないリスト，つまり，空リスト� ����は空集合�で表されることがある．
次の定理A4では，式（A.20）の写像���が，式（A.8）の類似度関数��，式（A.14）の大分類関
数 ���を使用する形式で，axiom 4を満たすように構成されている．
［定理A4］（カテゴリ選択関数���の構成定理）
次のように定義される式（A.20）の 1 つの写像���は式（A.21）と上述のaxiom 4とを満たす：
（�）�������の場合�����������（A.26）
（�）���������の場合���������
������� ��������� �� � ����������
������� �������������������� �� � ����������
（A.27）
（A.28）
（証明）文献［B3］の定理E1である．□
定理A4で登場している写像���の機能のー部を明らかにしよう．
次の定理A5から，有効なカテゴリ番号リスト�����������がモデル構成作用素�に対し不変で
あることがわかる．
［定理A5］（���の��不変性）
任意の ����について，������������������������
［定理A5の系 1 ］（���の��不変性，正定数倍不変性）
式（A.10）のパターン変数� ��� �について，モデル構成作用素�の��不変性（A.11）が成立
するようなパターン���に関し，�����������������������
が成立する．同様に，��������������������������������
（証明）文献［B3］の命題3.1である．系 1 については， 2 定理A2，A3が成り立っていることを定
理A4に考慮すれば明らか．□
次の定理A6は，第 ���番目のカテゴリ ��の代表パターン ��については，唯 1 つのカテゴリ番号�のみから成るリスト���が選択される可能性を指摘している．
文教大学情報学部『情報研究』第33号2005年 7 月
［定理A6］（カテゴリ選択関数��������の代表パターン定理）
任意の ����と任意の ���について，����������
��� �� ������ �������
（証明）文献［B3］の定理3.1である．□
次の定理A7は，カテゴリ帰属知識������������から，その有効なカテゴリ番号リスト�����������を抽出することにより，������������������（A.29）
と，認識システムの持つカテゴリ帰属知識������������はそれより詳細なカテゴリ帰属知識�������������������へ と 変 容 す る も の と す れ ば，得 ら れ た カ テ ゴ リ 帰 属 知 識�������������������からその有効なカテゴリ番号リスト������������������を抽出して
も，もうこれ以上，カテゴリ帰属知識は変容することはないという“カテゴリ帰属知識の完結性”を
指摘している．
［定理A7］（カテゴリ選択関数���のベキ等定理）
任意の���と任意の ����について，����������������������������
（証明）文献［B3］の定理3.2である．□
付録B.大分類関数���のon-line再帰学習方式
本付録Bでは，処理の対象とするパターン�が選ばれた 1 つのカテゴリに帰属する可能性があるか
どうかを決定できる“axiom 3を満たす大分類関数 ���”を 2 次ニューラルネットとして構成する．
訓練パターンの系列を用いて，学習する方式には，大きくわけて，次の①，②がある：
①大分類関数 ���のon-line学習方式
訓練パターンを 1 個入力するごとに，その訓練パターン 1 個についての更新量で学習する方式（on
-line learning）
②大分類関数 ���の一括学習方式（batch learning）
訓練パターンの系列全体について加算された更新量で学習する方式□
その後，本付録Bでは， 2 次ニューラルネットとして構成された“axiom 3を満たす大分類関数 ���”
を再帰的にon-lineの形式で更新する方式（再帰的on-line更新規則）を研究しよう．
B1.大分類関数 ���の再帰的on-line学習
B1.12 次ニューラルネットの形式を備えた大分類関数 ���
第 ���番目のカテゴリ
����������������（B.1）
に帰属するパターン���については，����������（B.2）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
であり，かつ，第�������番目のカテゴリ �������に帰属するパターン���については，出来
るだけ，����������（B.3）
であるような機能を持つような，式（A.14）の大分類関数（binary-state classifier, rough classifier）���
は，付録Aのaxiom 3が満たされるように， 2 次ニューラルネットの形式
�������������������������
����� ����������������������������������������������（B.4）
の，���への 2 値化変換��������
�������������������������������（B.5）
��������� �����������������������������������������������（B.6）
として，設定される．ここに， 1 実変数�の，���の 2 値を関数値とする関数（positive-sign function）
psnは，�������� �� ������ �� ���（B.7）
と定義されており，
�����������������������（B.8）
�������������������（B.9）
は，各々， 2 次， 1 次のweight vectorであり，����はthe jth thresholdである．また，特徴抽出写像������ �（実数全体の集合）（B.10）
を導入し，パターン���から抽出される第 ���番目の実数値特徴量を，��������と表してい
る．パターン���から抽出された各特徴量��������の組
������������������（B.11）
を考えておこう．付録Aのaxiom 1の（�），（�），（�）の3後半，並びに，（�）を満たすモデル構成
作用素�のべき等性（axiom 1の（�）の後半）�����を考慮すれば，axiom 3の（�）（写像�の
下での不変性）が成立していることに注意しておく．
ここに， 2 次特徴量���������としては，例えば，次の 5 種類（一）～（五）が挙げられる：
（一）�������������������������（B.12）
（二）������������������������������（B.13）
（三）������������������������������（B.14）
（四）������������������������������ ������������������������ ����������（B.15）
（五）����������
のとき�����������������
�������������������
�����������������
�������
������
のとき（B.16）
文教大学情報学部『情報研究』第33号2005年 7 月
B1.2���の再帰的on-line更新規則
訓練のために必要とされるパターンが入力されるたびに 2 式（B.8），（B.9）の 2 つの重みベクトル
�������������と閾値����を少しずつ修正しておくオンライン学習法を研究しよう．
�����������������（B.17）
���������������（B.18）
�������������（B.19）���������
の下で，時刻�����������に，第 ���番目のカテゴリ ��に帰属する訓練パターン ���������
が入力されるとする．時刻�の ���������から���の �����������への更新は，
（イ）�����������
�������������������������������������������������（B.20）
（ロ）���������
�������������������������������������������（B.21）
（ハ）�������
�����������������������������������（B.22）
の下で，�����������
��������� ��������������������������������������������������������
（B.23）
と行われる．
ここに，第 ���番目のカテゴリ ��に帰属することが判明している訓練パターン ��������からな
る系列��������������������（B.24）
が周期 �����を持っている場合， 3 式（B.20）～（B.22）内の3正数 �������������������������は次
のように設定すればよい：
��の商を�として
（イ）�������������������（B.25）
（ロ）���������������（B.26）
（ハ）�������
のとき�����
��������
������
�����のとき（B.27）
3 式（B.25）～（B.27）の設定は，次の事実を考慮している：確率的降下法（method of gradient descent），
確率近似法（stochastic approximation）［A16］では，学習データ ��が与えられるたびに，時刻�で得
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
られている学習パラメータ ��を ����へと
�����������������������（B.28）
のように，平均期待損失（the empirical average loss）��������が減少する方向に ��を修正しておく．��������の極小値に�� � で収束するためには， 3 条件
① ����� � ����（B.29）
�����（B.30）
������（B.31）
が満たされる正の学習率（the learning rate）��を選ばれている必要があることが知られており［A15］，
1 つの選択
�����（B.32）
はこの 3 条件①～③を満たしている［A15］．□
以上のon-line学習方式は式（B.20）～（B.22）を式（B.23）に代入してわかるように，������������
には前時刻�の ����������が直接含まれており，����������を ������������へと更新しているの
で，再帰的な方法（recursive method）である．この再帰的on-line学習方式では，次の 2 事実（＃1），
（＃2）が成立しており，より良い学習曲線（learning curve；訓練時刻�を横軸に縦軸に学習性能とし
ての期待値学習誤差をプロットしたもので，学習達成度，収束速度を表現しており，理想的な場合で
は次第に零に減少してゆく曲線；本付録Bでは，次第に増加してゆく曲線）が得られる：
（＃1）������������で，��が第 ���番目のカテゴリ ��に帰属する訓練パターンならば，������������������������（B.33）
（＃2）������������で，��が第 ���番目のカテゴリ ��に帰属する訓練パターンならば，������������������������（B.34）
このようにして，上述の（＃1），（＃2）が成立し，�����������������������が，������������
�����������������へと望ましい方向に更新されていることがわかる．
次の定理B1は，付録Aのaxiom 3を満たす式（A.14）の大分類関数 ���がon-line学習で構成される
ことを指摘している．
式（B.24）の訓練パターン系列には，第 ���番目のカテゴリ ��に帰属する訓練パターンのみが出
現していることに注意しよう．
［定理B1］（ ���の，再帰的on-line更新定理）
2 式（B.5），（B.6）の如く， 2 次ニューラルネットの形式で定義された 2 値関数 ���は，式（B.24）
の訓練パターン系列に第 ���番目のカテゴリ ��の代表パターン ��が十分多く含まれているような
on-line学習で����������� ���� ��（B.35）
が満たされ，
文教大学情報学部『情報研究』第33号2005年 7 月
������������������������ � ���������（B.36）
と定義された式（A.14）の ���はaxiom 3の（�），（�）を満たす．
このon-line学習の結果，
�������������� ����� � �������������������������������
（B.37）
������ � �����������������������������
が満たされていれば，カテゴリ間の相互排除条件
������������������������� ���� ��
（B.38）
をも満たすことになる．
（証明） 2 式（B.33），（B.34）から，式（B.35）が成り立つ．
axiom 3の（�）（��不変性）が成立することは，axiom 1，（�）の後半�����から�����������������������������（B.39）
がいえ，明らかである．□
B2.再帰的on-line更新規則の検討
Assuming a sequence �����������������������（where ����is the category label of sample ����）
of training samples, the empirical average loss �����������������can be computed. By gradient descent,
the classifier parameters �are updated iteratively by
������������������������������������������������（B.40）
so that �����������������can be minimized to optimize the parameters �, where ����is the learning rate
to control the step size of parameter updating. In this way, the parameters �are updated once sweeping the
samples.
The stochastic approximation converges to a local minimum of E（where ������）under the followingconditions:
����� � �����������
����������� ����
��������（B.41）
The choice of �������satisfies the above conditions. In practice, the parameters �are updated in finite
iterations, and setting the learning rate ����as a sequence starting with a small value and vanishing gradually
leads to convergence generally if the objective function � is smooth. The gradient descent and stochastic
approximation have been widely used in neural network traing and other classifier design problems, such as the
back-propagation network［A15］，［A16］．□
さて，大分類関数 ���の構造は， 2 式（B.5），（B.6）のように設定されている． 3 式（B.20）～（B.22）
の如く， 2 式（B.8），（B.9）の �������������と閾値����をなぜ更新するのかを上述の最急降下法，
確率近似法で説明してみよう．
各時刻�����������に訓練パターン ��が得られるたびに ���������������������を少しずつ更新
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
していくon-line学習を適用しよう．
時刻�に訓練パターン ��が入力された時の，式（B.4）の�����������������������������の理想
出力�����を
������
が ��に帰属するとき
が ��に帰属しないとき（B.42）
とし，最小化するその適応誤差 ��を，
���������������������������������������������（B.43）
と設定してみよう．更新式��������������������������������
��������������������������
��������������������
����������（B.44）
における 3 更新量��������������������������は，����������
��������������������������（B.45）
��������
������������������������（B.46）
������
��������� ���������（B.47）
と与えられる．ここに， 3 者 ��������������������������は，�� � になるに従い�になる減少正値
関数である．
計算結果は次のとおりである：
����������
�������������������������������������������������������������（B.48）
��������
���������������������������������������������������������（B.49）
������
��������������������������������������������������（B.50）
ここで，��が入力された式（B.4）の���からの出力��������������������������からその理想出
力�����を差し引いて得られる適応誤差
�����������������������������������（B.51）
����������������（B.52）
で置き換えたものが 3 式（B.20）～（B.22）である．
文教大学情報学部『情報研究』第33号2005年 7 月
付録C.類似度関数�� のon-line再帰学習方式
本付録Cでは， 2 次ニューラルネットとして構成された“axiom 2を満たす類似度関数��”を再帰
的にon-lineの形式で更新する方式（再帰的on-line更新規則）を研究しよう．
C1.2 次ニューラルネットの形式を備えた類似度関数��
式（B.4）の 2 次ニューラルネット出力�������������������������を使って，�������
���������������������������������（C.1）
を用意し，式（A.8）の関数��を�� �������
のとき��������������������������������
������������������
��������
������� �のとき
と定義する．
このとき，次の定理C1が成立し，axiom 2を満たす類似度関数�� が得られたことがわかる．
［定理C1］（ 2 次ニューラルネットによるon-line再帰学習による類似度関数�� の構成定理）
式（C.2）で定義された式（A.8）の関数�� は，axiom 2の（�）（総和規格化性）と（�）（��不
変性）を満たし，on-line再帰学習の結果，axiom 2の（�）（正規直交性）が満たされれば，結局，axiom 2
（証明）総和規格化性の成立は�� の定義式（C.2）から明らかである．�� の��不変性の成立は，axiom 1，（�）の後半�����から式（B.39）がいえ，よって，����������
����������������������������������������������������（C.3）����������������（C.4）
を得，明らかである．□
C2.類似度関数�� の再帰的on-line学習
式（B.24）の訓練パターン系列には，第 ���番目のカテゴリ ��に帰属する訓練パターンが ��の
出現確率 �����に比例して，出現すると，設定してみよう．
訓練時刻�に入力され，第 ���番目のカテゴリ ��に帰属する式（B.24）の訓練パターンを ��とす
3 式（B.47）～（B.49）に登場している式（B.50）の�������������������������������を，その
正負単位 2 値量�������
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
が第 ���番目のカテゴリ ��に帰属するとき�����
����が第 ���番目のカテゴリ ��に帰属しないとき（C.5）
で近似し，更に，式（C.5）の ������を，正負連続量
������� ������������������ ����������（C.6）
で近似しよう．
そうすれば，式（B.43）と， 3 式（B.47）～（B.49）とから，�����������
���������������������
������������������������������ ���������������������（C.7）���������
�����������������
�������������������������� �������������������（C.8）�������
�������������
���������������������� ���������������（C.9）
が得られる．ここに，���はカテゴリ総数である．
以上のon-line学習方式は式（B.20）～（B.22）を式（B.23）に代入してわかるように，�� ����������
には前時刻�の�� ��������が直接含まれており，�� ��������を�� ����������へと更新している
ので，再帰的な方法（recursive method）である．この再帰的on-line学習方式では，次の 2 事実（＄1），
（＄2）が成立しており，より良い学習曲線（learning curve；訓練時刻�を横軸に縦軸に学習性能とし
ての期待値学習誤差をプロットしたもので，学習達成度，収束速度を表現しており，理想的な場合で
は次第に零に減少してゆく曲線；本付録Cでは，次第に増加してゆく曲線）が得られる：
����������� ���������������� ����������
�������������
������ ���������������� �����������
であり，もし，���������
であれば，�������に応じ，同順に �������である
ことに注意すれば，
（＄1）�� �������������で，��が第 ���番目のカテゴリ ��に帰属する訓練パターンならば，�� ������������� ���������（C.10）
（＄2）�� �������������で，��が第 ���番目のカテゴリ ��に帰属しない訓練パターンならば，�� ������������� ���������（C.11）
文教大学情報学部『情報研究』第33号2005年 7 月
このようにして，上述の（＄1），（＄2）が成立し，�����������������������が������������
�����������������へと望ましい方向に更新されていることがわかる．
������������ ������������ � �� �������（C.12）
と定義される式（A.8）の関数�� を考えよう．
定理C1で登場しているaxiom 2の（�）（正規直交性）は次の式（C.13）が成り立つことで表される．
定理C1での正規直交性�� ��������� �������� �������� �����（C.13）
を満たすことは，
���������� � �������������������������������（C.14）
���������������� � ��������������������������������（C.15）
で保証される． 2 式（C.14），（C.15）は 2 事実（＄1），（＄2）から期待されるてよい．ここに，���
はクロネッカーの�記号である．
付録D.モデル構成作用素�のon-line再帰学習方式
本付録Dでは，axiom1，（�），（�），（�）の 3 後半，並びに，（�）を満たす 3 値化モデル構成作
用素�を構成し，その後，構造パラメータである閾値 �����を再帰的に，on-line学習する手法が研究
D1.3 値パターンモデル��
パターン������������を考える. 2 つの閾値関数 �����������は，不等式�������������������（D.1）
を満たすとする．例えば，平均化パターン（average pattern）
�������������������（D.2）
を導入して，
������������������ ������（D.3）
������� ������������ ������（D.4）
と，設定できる．��������
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
のとき�������� ��������
������������ ������������� ��������
��������
�������のとき
と定義された写像���� �（D.6）
を導入する．��������� �� ���������（D.7）
に注意する．��������
のとき�������������������
���������������������
�������������������
�������
������
のとき（D.8）
と定義される式（A.1）の写像�を考えよう．
このとき，次の定理D1が成立し，axiom 1の（�），（�），（�）の 3 後半，並びに，（�）を満たす
式（A.1）のモデル構成作用素�が得られたことがわかる．
［定理D1］（ 3 値モデル��の構成定理）
（�＃）（不動点定理）
�������������������であれば，�����（D.9）
（�＃）式（D.8）で定義された式（A.1）の写像�は，axiom 1の（�），（�），（�）の 3 後半，並
びに，（�）を満たす．
（�＃の証明）
（�＃－1）���であれば，式（D.5）より，����が得られ，よって，式（D.7）より，�����
（�－＃－2）��������������������������であれば，
������ ��������であり，式（D.5）より，����を得，よって，式（D.8）より，�����
（�＃の証明）
（�＃－1）axiom 1，（�）の後半の成立：（�＃－1）で示されている．
（�＃－2）axiom 1，（�）の後半の成立：�を正定数とする．
（�＃－2－1）���とする．
（�＃－1）より，����である．
明らかに，�����である．（�＃－1）より，��������である．
よって，������������
（�＃－2－2）����とする．
������ ��������に注意して，
文教大学情報学部『情報研究』第33号2005年 7 月
������������������� ��������������������� ������
��������������������（D.10）
であるから，�������������������������（D.11）
（�＃－3）axiom 1，（�）の後半の成立：
����������������������
であるから，（�＃）を適用して，�������������
（�＃－4）axiom 1，（�）の成立：（�－＃－2）で示されている．□
D2.閾値関数 �����������のon-line再帰学習
例えば，���のときの初期値
�������������������（D.12）
と選んで，���をそのパターンモデルとする第 ���番目のカテゴリ ��に帰属す る パ タ ー ン
��������のモデル���を用いて，訓練時刻�����������での閾値関数 ������を ��������へと次の
方法①～⑧で更新する：
����� � ��������（D.13）
を満たす正値関数 ������を選んでおく．第 ���番目のカテゴリ ��に帰属することが判明している
訓練パターン ��������からなる式（B.24）のパターン訓練系列が周期 �����を持っている場合，��の商を�として，簡単には，�������
のとき��������������������������������
������������
�������
������のとき
（D.14）
と，設定すればよい．
以後，説明のため，���������������を用いた式（D.8）の�を各々，�������と表す．��������� とする．
①����������������������������（D.15）
のとき，�������������������������������（D.16）
とする．このとき，��������������������������（D.17）
が成立する．
②�������������������������������（D.18）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
�������������������������������（D.19）
が成立するように，������を����������������������（D.20）
と，増加させる．そうすると，�������������について，�����������������������（D.21）
が成立する方向に，������は ��������へと変更されている．
③�������������������������������（D.22）
のとき，�������������������������������（D.23）
が成立するように，������を����������������������（D.24）
と，減少させる．そうすると，�������������について，�����������������������（D.25）
が成立する方向に，������は ��������へと変更されている．
④ ������������������������������（D.26）
のとき，�������������������������������（D.27）
とする．このとき，�������������について，�����������������������（D.28）
が成立している．
⑤ ������������������������������（D.29）
のとき，�������������������������������（D.30）
とする．このとき，�������������について，�����������������������（D.31）
が成立している．
⑥ �������������������������������（D.32）
のとき，�������������������������������（D.33）
が成立するように，������を����������������������（D.34）
と，増加させる．そうすると，��������������について，�����������������������（D.35）
が成立する方向に，������は ��������へと変更されている．
⑦ �������������������������������（D.36）
のとき，���������������（D.37）
が成立するように，������を��������������������������������������（D.38）
と，減少させる．そうすると，
文教大学情報学部『情報研究』第33号2005年 7 月
�������������について，�����������������������（D.39）
が成立する方向に，������は ��������へと変更されている．
⑧����������������������������（D.40）
のとき，�������������������������������（D.41）
とする．このとき，��������������������������（D.42）
が成立する．
このとき，次の定理D2が成立し，式（D.8）の 3 値モデル構成作用素�がその構造パラメータ�����を再帰的にon-line学習することを介し，改良されることを明らかにしている．つまり，第 ���
番目のカテゴリ ��に帰属する�のモデル��は第 ���番目のカテゴリ ��の代表パターン ��のモデ
ル���に似ているように，閾値関数 �����が得られることがわかる．
［定理D2］（ 3 値モデル��のon-line再帰学習定理）
訓練時刻�に第 ���番目のカテゴリ ��に帰属することが判明している式（B.24）内の訓練パター
ン ��������が入力されるとしよう．任意の ��� について，
�����������������������（D.43）
であれば，不等式
�����������������������������������������������（D.44）
が成立する．
（証明）明らかである．□
式（B.24）の訓練パターン列は第 ���番目のカテゴリ ��に帰属する各パターン ��������のみか
らなっていることに注意する．式（B.24）の訓練パターン列を ���にわたって用意するすることに
なるが，この場合，��������の出現度合いは，��の出現確率 �����に比例していなければならな
先ず，���とし，式（D.12）の初期値の下で，訓練時刻�で得られているモデル構成作用素 ��の系
列������������� を使って，���������� � ��を求め，次に，���とし，����を初期値とし，���������� � �����
を求める．以後，同様に，����を初期値とし，訓練時刻�で得られているモデル構成作用素 �����の
系列���������������� を使って，
������������ � �����（D.45）
を求める．目的の 3 値モデル構成作用素�は，
�������������� � �������（D.46）
と，求まったを使い，
����������（D.47）
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
付録E.2 次・ 1 次特徴量による“axiom 2を満たす類似度関数��”の構成
2 次・ 1 次特徴量によって，“axiom 2を満たす式（A.8）の類似度関数��”を構成してみよう．
E1.2 つのヒルベルト空間の直積
内積，ノルムを各々，� � ���� ��� � � ���������とする 2 つのヒルベルト空間 ��������
の 2 点 ��������の順序対���������の全体 �������は，算法�����������������������������
�����������������������は複素定数�����������������������������������
によって，ヒルベルト空間を形成する．何故ならば，�����のノルム���������は，
���������� ��������������（E.2）
であるから，��，��が完備なことから，�����完備なことが証明されるからである．得られた
ヒルベルト空間 �����を ��，��との直積（direct product），または，積空間（product space）と
定義域，値域共に，���������であるような作用素を扱う場合の，�����が以下の興味の
対象である．
以上のヒルベルト空間 �����を参考にして，次章以降では，パターンから抽出される特徴量の
組のなすヒルベルト空間の直積を考える．
E2.2 次・ 1 次特徴量の作るヒルベルト空間
パターンから抽出される特徴量というものは，そのパターンが表すカテゴリをできるだけ反映し，
それ以外のすべてのカテゴリを排除するような性質を備えた識別特徴（distinguishing feature）である
ことを要求されるものである．
或る 1 つのヒルベルト空間 � の元���を考える．
5 式（B.12）～（B.16）などで示されている 2 次特徴量��������の全体を
�����������������������（E.3）
と表現し，その内積を
��������������������� �����������������������������（E.4）
������������������������ �������������（E.5）
とし，そのノルムを
���������� �����������������（E.6）
とする．同様に， 1 次特徴量 ������を
�������������������（E.7）
文教大学情報学部『情報研究』第33号2005年 7 月
とし，その内積を
����������������������������������������（E.8）
��������������������������（E.9）
とし，そのノルムを
���������� �����������������（E.10）
ここで， 2 式（E.4），（E.8）の 2 つの内積を結合して， 2 次・ 1 次特徴量の内積を，
�����������������������������������������������（E.11）
とし，そのノルムを
�������� �������������� ����������������������������������（E.12）
とする．式（E.4）の内積を持つヒルベルト空間 ��と，式（E.8）の内積を持つヒルベルト空間 ��
との直積 �����の内積が，式（E.11）の内積である．
E3.特徴量を入力とするニューラルネットによる，“包含情報量を採用したaxiom 2を満たす類似度
関数��”の構成
前章でのヒルベルト空間 �����において，規格化内積（normalized inner product）��������を，���������
���������������������������� �� �����������������
� �� �����������������
������
�����（E.13）
と定義する．��������
��������������������������
������������������������������������������������
����������������
����������������������������������������������
�����������
����������
のとき（E.14）
�� �������������������������（E.15）
を定義する．
2 次・ 1 次特徴量を抽出する特徴抽出写像
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
��������� �（実数全体の集合）（E.16）������� �（E.17）
を��が���に含まれている程度を表すという意味で包含情報量と称されてよい式（E.14）の�������を使用して得られる式（E.15）のように定義される式（A.8）の関数�� は，次の定理E.1の
如く，axiom 2を満たし，類似度関数である．
［定理E.1］（類似度関数�� の，包含情報量�������による構成定理）
分離・非零条件
����������������������������������������������������（E.18）
の下で，式（E.15）のように定義される式（A.8）の関数�� は，axiom 2を満たす．
（証明）axiom 2，（�）の成立：不等式（E.18）を仮定していることから，式（E.14）の�������
において，���������
��� ���
�� ����
����正の有限量（E.19）
を得る．よって，�� の定義式（E.15）を適用すれば，�� ��������
������������������ ����������������
�� ������������������������
��（E.20）
を得る．また，任意の�������について，�� ��������
������������������ ����������������
��（E.21）
が得られる．
axiom 2，（�）の成立：�の定義式（E.14）を考慮すれば，�� の定義式（E.15）から明らかである．
axiom 2，（�）の成立：axiom 1，（�）の後半�����を適用すれば，�の下での不変性���������������������������式（E.14）（E.22）������������� ���������� ������（E.23）
が成立し，式（E.15）の類似度関数�� がaxiom 2，（�）を満たすことがわかった．□
文教大学情報学部『情報研究』第33号2005年 7 月
付録F.構造受精作用素 ����の形式
更新作用素（updating operator），或いは，構造受精作用素（structural-fertilization operator）と呼ばれ
る写像������� �，ここに，����（F.1）
は，付録Aで用意された 3 構成要素
①式（A.1）のモデル構成作用素�
②式（A.8）の類似度関数��
③式（A.14）の大分類関数 ���
を使用する形式で，次のように定義される：
（�）�������の場合��������（F.3）
（�）���������の場合������
（F.4）������ ��������������������������
������ �����������������������������������
������
�����（F.5）
先ず，�����は，次の定理F1に示す如く，式（A.1）のモデル構成作用素�の下で不変である．
［定理F1］（構造受精作用素 ����の��不変定理）������������������������
［定理F1の系 1 ］（ ����の��不変性，正定数倍不変性）
式（A.10）のパターン変換� ��� �について，モデル構成作用素�の��不変式（A.11）が成立
するようなパターン���に関し，�����������������������
が成立する．同様に，����������������������������������
（証明）文献［B4］，付録 5 の定理A5.1である．系 1 については， 2 定理A2，A3が成り立っている
ことを 3 式（F.3），（F.4），（F.5）に考慮すれば，明らか．□
次に，�����は，定理A4のカテゴリ選択関数���を使用すれば，次の定理F2のように簡単に表
［定理F2］（構造受精作用素 ����の表現定理）
������������������������������ �����������
（証明）文献［B3］の定理G1である．□
最後に，カテゴリ帰属知識������������を一意的に特徴付ける表象は，パターン�を 2 式
（F.4），（F.5）で定義される構造受精作用素 ����で変換して得られるパターン �����であることを
指摘している定理F3に注目する．
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
［定理F3］（カテゴリ帰属知識������������の，表象 �����による一意的に特徴定理）�������は 1 次独立である（F.6）
とする．��������������������（F.7）
ならば，������������ ������������（F.8）
（証明）文献［B3］の定理G2である．□
付録G.カテゴリ帰属知識空間������上の 2 つの2 元関係である等形式関係��，等構造関係�の定義
2 つのカテゴリ帰属知識������������������間の等形式関係 ��，等構造関係�の定義を
先ず，カテゴリ帰属知識間の， 1 つの 2 元関係（a binary relation on ������）としての，等形式
関係（equi-form relation）��を，次の定義G1で導入しよう．
［定義G1］（カテゴリ帰属知識間の等形式関係）������������（恒等的に等しい）� ��������□
次に，今 1 つの 2 元関係としての等構造関係（a equi-structure relation）�を次の定義G2で導入する．
［定義G2］（カテゴリ帰属知識間の等構造関係）�����������（G.1）
【������������������（G.2）
������������������������� ��������� �������】．（G.3）
注意すべきことは，������������� �����������（G.4）
が成り立つが，逆命題������������ ������������（G.5）
は必ずしも成り立たないという意味で，定義G2が，定義G1の等形式関係 ��より弱い等構造関係�
を設定していることである．形式が同じであれば，構造も同じであるが，構造が同じだからいって，
形式が同じとは限らないカテゴリ帰属知識������������が存在する事実は，文献［B4］，付録9
の 3 定理A9.1～A9.3から明らかである．
文教大学情報学部『情報研究』第33号2005年 7 月
付録H.カテゴリ帰属知識空間������上の構造受精変換������の定義
付録Fで説明されている式（F.1）の構造受精作用素 ����の両側に付録 1 のaxiom 1を満たすモデル
構成作用素�を配置して得られ，構造受精変換（structural-fertilization transformation）と呼ばれる写像������������������������������（H.1）
は，その定義域，値域が�である場合の写像��������� �����������（H.2）
を拡張して，以下のように定義される．
カテゴリ帰属知識空間������上の 2 変数状態遷移関数
��������� ����������������（H.3）
を使って得られる表現������� �����������������（H.4）
は，次のように読まれる：
記憶状態�����は， 記憶状態�����において，operator ����を適用した後の記憶状態である．
実は，式（H.4）の�����は，具体的に，������������������� ������������（H.6）
と設定され，カテゴリ帰属知識������������を，式（H.1）の������で変換して得られるカ
テゴリ帰属知識������������は，������� ������������
�� �����������������������������（H.7）
where�����������（H.8）������������（H.9）
と定義される．
このようにして，任意のカテゴリ番号リスト ����を助変数に持つ式（H.1）の構造受精変換��������������������（H.10）
が 3 式（H.7）～（H.9）で定義された．
付録I.カテゴリ帰属知識�����のポテンシャルエネルギー ������
本付録Hでは，カテゴリ帰属知識������������がどの程度複雑な構造を備えているかの 1 つ
の指標として，そのポテンシャルエネルギー（potential energy）���������（非負実数の集合）が
定義される．������はS. Suzukiが発見したものであり，�����のSSポテンシャル（SS-potential）と
も呼ばれる．
［定義I.1］（カテゴリ帰属知識�����のポテンシャルエネルギー ������）
カテゴリ帰属知識������������に付随するポテンシャルエネルギー ������は次の様に定義
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
（�）�������の場合���������（I.1）
（�）���������の場合
����������������� ������（I.2）
ここに，���は �内の要素の総数の意であって，
�����（I.3）
ポテンシャルエネルギー ������と，パターン���の認識過程とのつながりについて次の意味が
ある：不動点探索形構造受精に関する多段階変換帰納推論を使った式（2.13）の連想形パターン認識
過程において，候補カテゴリの集合
������������������（I.4）
にわたる類似度�� �������の総和
������� �������（I.5）
が増加し，候補カテゴリ数����が認識段階番号�の増加に伴い減少すれば，��������が減少するか
ら，式（2.13）の連想形パターン認識過程がどの程度，収束しているかの指標が��ポテンシャル��������である．□
帰属知識������������の変換像である今 1 つの， 3 式（H.7）～（H.9）のカテゴリ帰属知識�����について，エネルギー不等式�������������（I.6）
が通常，成立するという意味で，式（H.7）に登場する変換������は，帰属知識������������
の精密化作用素（refinement operator）とも称されることがある．
付録J.カテゴリ帰属知識空間������上の同値関係���，半順序関係���と上限���
本付録 J では，カテゴリ帰属知識空間������上の同値関係 �����，半順序関係 ���，並びに，上
限 ���が説明される．
J1.半順序を与える 2 元関係 ���
2 元関係 ���の有限な，式（J.3）の鎖（chain）を用い，次の定義J1のように，カテゴリ帰属知識空
間������上の 2 元関係 ���が定義される．
［定義J1］（ 2 つの 2 元関係 ������）������������
�【 �������������
�������������������������������������������
と定義される 2 元関係 ��を用いて，�������������（J.1）
文教大学情報学部『情報研究』第33号2005年 7 月
�【������������（J.2）
���������������
����������������������������� ��������������������（J.3）
�����������������������������������
】（J.4）
次の定理J1によれば，定義J1の 2 元関係 ���は実は，半順序関係である．つまり，次の定理J1が成
り立つ．この事実が ���を導入する理由である．
［定理J1］（ 2 元関係 ���の半順序定理）
付録Kの直交条件を満たしている類似度関数（直交性類似度関数）�� を採用していれば（�� 直
交仮定），カテゴリ知識空間������上の 2 元関係 ���は，次の 3 性質（�），（�），（�）を満たし，
半順序関係である：
（�）（反射律；reflexive law）��������������
（�）（反対称律；antisymmetric law）�������������かつ�������������
ならば，���������������������������
（�）（推移律；transitive law）
〈�������������かつ�������������
ならば，��������������
（証明）文献［B4］の定理3.1である．□
J2.半順序 ���を含む最小の同値関係 ���
半順序関係 ���を含む最小の同値関係として， 2 元関係 ���がカテゴリ帰属知識空間������上に
導入できることが指摘される．
次の定義J 2 で，構造受精変換による多段階変換先が同一のカテゴリ帰属知識になることで定義さ
れる 2 元関係 ���を定義する．
［定義J2］（ 2 元関係 ���の定義）
2 つの知識，������������������について， 2 元関係�������������が成り立つとは，
次の（�），（�）の何れかが成立することである：
（�）��������������
（�）����������������������������������������������
このとき， 2 元関係 ���が半順序関係 ���を含む最小の同値関係であることを指摘する次の定理J2が
［定理J2］（ 2 元関係 ���の最小同値関係定理）
付録Kの直交条件を満たしている類似度関数（直交性類似度関数）�� を採用していれば（�� 直
交仮定），カテゴリ知識空間������上の 2 元関係 ���は，次の（1＃），（2＃），（3＃）を満たし，同
値関係（equivalence relation）であり，然も，
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
�������������（J.5）�������������（J.6）��������������（J.7）
を満たす“半順序関係 ��”が 1 つも存在しないという意味で，���を含む“最小の”同値関係である：
（1＃）（反射律；reflexive law）��������������
（2＃）（対称律；symmetric law）�������������ならば，��������������
（3＃）（推移律；transitive law）�������������かつ�������������ならば，��������������
（証明）文献［B4］の定理3.3である．□������の任意の 2 元������������������の間に，同値関係 ���が成立するかしないかを
必ず決めることができ，この意味で，�������������は，�����が�����と（ポテンシャル
エネルギー＆構造受精に関し）同値であると読む．�����と 同 値 な������の 元 全 体 を�����を 含 む������の 同 値 類（the equivalence class
containing �����）といい，
���������
������������������������������������（J.8）
と表す．任意にとった 2 つの同値類は，全く一致するか，または共通の元を 1 つも持たない．同値類
����������������内 の 1 つ の 要 素 を���������の 代 表 元（representative）と い う．同 値 関 係
（equivalence relation）���による������の商集合（quotient set）����������とは，������の同
値類全体の集合
�����������������������������������（J.9）
のことである．
J3.半順序関係���から定まるカテゴリ帰属知識の部分集合�����上の上限 ��������
カテゴリ帰属知識集合������上の同値関係 ���と，半順序関係 ���とから定まる上限 ���につい
て，説明しよう．
処理の対象とする問題のカテゴリ帰属知識集合������の部分集合�����を考える．半順序関
係 ���の下での，知識集合��������������の上限（supremum），即ち，最小上界（least upper bound）��������を次のように定義する．
［定義J3］（����������������の最小上界 ��������の定義）������を半順序関係 ���の定義された半順序集合（partially ordered set）とするとき，������
の部分集合��������������の上限�����とは，次の 2 条件（�），（�）を満たす������
の要素であり（�����の要素とは限らない），����������������������（J.10）
（�）（上界性；�������������）���������������������������
（�）（最小性；���������������ならば，���������������）����������������������������������������
文教大学情報学部『情報研究』第33号2005年 7 月
ならば，��������������□
特に，��������������������を，�����������������（J.11）
と表すことがある．式（J.11）の�����������������は�������と�������とを併合して得ら
れた帰属知識（���������������双方に共通な情報を備えている帰属知識）であるという．
次の命題J1の成立は，�������������が 2 つの元からなる有限集合�������������に関する
半順序関係 ���の上限であることから，明らかである．
［命題J1］（上限 ���の性質）�������������
������������������������□
J4.式（2.13）の不動点探索形構造受精多段階帰納推論過程に基づくパターン認識の働きの特徴付け
先ず，不動点探索形構造受精に関する多段階変換帰納推論を使った式（2.13）の連想形パターン認
識過程には，最大認識段階番号 ��������が有限値で存在するという“認識過程の有限停止性”を仮
定していることに注目しておく：
式（2.13）の連想形パターン認識過程について考えよう．
ある 1 つのカテゴリのみに帰属しているという意味で異常でない“処理の対象となる問題の入力パ
ターン���”についてのパターン認識の働きとは，連想形認識方程式（2.14）を解く働きであり，
式（2.13）の連想形パターン認識過程で表されるその求解過程は逐次近似法で解くものとすれば，以
下の式（J.12）で表される．つまり，
処理の対象とする問題のパターン���についての，�������
������������������������������������������������
����� ����������（J.12）
で表される“不動点探索形構造受精多段階帰納推論に基づくパターン認識過程（認識計算）”の一般
化とは，次の有限停止性を備えた認識過程を生成することである：
［認識過程の有限停止性（finite termination）］
��������������������������
����������������������������������������（J.13）
����������������������
����������������������
�����������������������������������������
（J.14）
という具合に，上限 �����������������を求める�����回の操作を介し，包含条件
���������������������������������������������������
を満たす式（J.13）を満たす 1 つの�������を探索することである．
このとき，入力パターン�について，
A pattern ���is classified into the jth category ��（the recognition）, and ��� is reproduced as model
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
�������（the association）
という連想形認識結果（a conclusion of the associative recognition）を，認識システムRECONITRONは
得ることができる．□
このとき，次の定理J3が成立し，式（J.12）の不動点多段階認識の働きが如何なる諸性質を備えて
いるかが判明する．
［定理J3］（不動点多段階認識の働きの特徴付け定理）
処理の対象とする問題の入力パターン���についての，式（J.12）のパターン認識過程（認識（不
動点の）計算）”について，考えよう．
（�）（不動点性と零ポテンシャルエネルギー性との同値定理）
付録Kのミックスチュア条件を満たす類似度関数�� を採用していれば，
（�－1）（不動点方程式から零��-potentialへの移行定理）不動点方程式�������������������������������（J.15）
が成立する�
【������������������������������】（J.16）
������������（J.17）�
�����������（J.18）
（�－2）（零��-potentialから不動点方程式への移行定理）
�����������������������（J.19）�
����������������（J.20）
が存在するならば，
不動点方程式（J.15）が成立し，
������������������（J.21）
が成立する．
（�）（�� －ミックスチュア条件の下での不動認識結果の分類定理）
不動点方程式（J.15）を満たす結果��������������について，��������������
（�－1）（認識確定；認識処理可能）
�������������� ��������������������（J.22）
（�－2）（認識不能；認識処理不能）����������������������� ����������������（J.23）
（�－3）（認識不定；認識処理不定）��������������������������������
������������� ��� ������（J.24）
のいずれかが成り立つと分類表現されるが，付録Kのミックスチュア条件を満たす類似度関数�� を
採用していれば，最後の（�－3）の場合は排除される．
（�）（���ミックスチュア・直交条件の下での不動認識の有限停止認識定理）
文教大学情報学部『情報研究』第33号2005年 7 月
付録Kのミックスチュア条件，直交条件を共に満たす類似度関数�� を採用しているとしよう．（�
－2）が生じないような式（J.12）で表される認識過程では，式（J.19）が成立するような有限の認識
段階番号���が存在し，よって，不動点方程式（J.15）が成立する有限の認識段階番号�が存在する．
つまり，認識計算の有限停止性は保証され，然も，
��������������������������������������������������������
（エネルギー不等式）（J.25）�����������������������������������
, selecting ����according to ������� for any ���������
（不動点方程式）（J.26）
が成立している．
［定理J3の系 1 ］（�� ミックスチュアの下での不動点認識の，候補カテゴリ数の減少に伴う有限停
止認識定理）
付録Kのミックスチュア条件を満たす類似度関数�� を採用しているとき，式（J.12）で得た候補
カテゴリ番号リストの列
������������������
に関し，その候補カテゴリ数の減少性
���������������（J.27）
が成立していれば，（�）が成立する．
（証明）文献［B4］の定理3.4と，その系 1 である．□
次の定理J4は定理J3の焼き直しに過ぎないが，不動点帰納認識論理を説明しているともいえよう．
［定理J4］（不動点多段階認識の働きによる商集合�����������の決定定理）
処理の対象とする問題のパターン���についての，式（J.12）で表される“不動点探索形構造受
精多段階帰納推論に基づくパターン認識過程（認識計算）”について，考えよう．
類似度関数�� が，付録Kの直交条件，並びに，ミックスチュア条件を満たしていれば，式（J.9）
の商集合�����������は，次のように各代表パターンモデル���のカテゴリ帰属知識���������
を ���にわたり寄せ集め，且つ，零パターン�のカテゴリ帰属知識�����をも加えた要素からな
る集合として，表される：
�����������������������������������（J.28）
（証明）文献［B4］の定理3.4である．□
付録K.モデル構成作用素�，類似度関数�� のミックスチュア条件と，直交条件
本付録Kでは，モデル構成作用素�，類似度関数�� のミックスチュア条件と，�� の直交条件と
が説明される．
先ず，axiom 1を満たす式（A.1）のモデル構成作用素�のミックスチュア（mixture）条件は，次の
ように述べられる．
【モデル構成作用素�の��ミックスチュア条件】］
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価
������������������������（K.1）
を満たす実定数 ��の組�������について，
�������������（K.2）
が成り立つような �����が少なくとも存在する任意の ����に対し，
�����������������������（K.3）
次に，�� のミックスチュア条件は，次のように述べられる．
【類似度関数�� に関する���ミックスチュア条件】
������������������������（K.4）
を満たす実定数 ��の組�������について，
�������������（K.5）
が成り立つような �����が少なくとも存在する任意の ����に対し，
������� ��������������������（K.6）
最後に，axiom 2を満たす式（A2.5）の類似度関数�� の直交条件は，次のように述べられる．
【類似度関数�� に関する���直交条件】
任意の ����についての，実定数 ��の組�������が，正条件���������（K.7）
を満たすとしよう．このとき，
��������� ��������������������（K.8）
が成立しているような式（A.8）の類似度関数�� は直交性類似度関数（直交条件を満たす類似度関
数）であるという．□
次の定理K1は，���� のミックスチュア条件の何れか 1 つが成り立てば，他は成り立たないこと
を指摘したものである．
［定理K1］（���� のミックスチュア条件の対立定理）
式（A.1）のモデル構成作用素�が��ミックスチュア条件を満たさないとすれば，
������������������� �������������������（K.9）
が成り立ち，式（A.8）の類似度関数�� の�� ミックスチュア条件式（K.6）が少なくとも，満足さ
［定理K1の系 1 ］（ミックスチュア条件を満たすモデル構成作用素�の無数存在定理）
式（A.8）の類似度関数�� が���ミックスチュア条件を満足しないのなら，式（A.1）のモデル
構成作用素�は��ミックスチュア条件を満たす．
（証明）文献［B4］の定理7.6，並びに，その系 1 である．□
文教大学情報学部『情報研究』第33号2005年 7 月
（著者鈴木昇一，論文題目知識工学におけるcertainty factorによる多段階認識過程の評価，文教大
学情報学部情報研究no.33投稿論文，投稿年月日2005年3月22日（火））
鈴木昇一：知識工学におけるcertainty factorによる多段階認識過程の評価