国内外の研究動向

ニューラルネットワークとは脳情報処理機構をモデル化したものであり，音声・画像処理や逆問題，経済予測など様々な分野で利用されている．最初にMcCulloch とPitts によって脳の神経細胞（ニューロン）モデル提案され，Hebb により現在も広く応用されているネットワーク学習則が提案された．さらに，Rosenblatt により多層パーセプトロンが提案され現代のニューラルネットワークの構造的基礎が築かれた[21]．その後、ニューラルネットワークの研究は学習理論等の数理解析系研究と、時系列予測や音声信号処理のような応用系研究という2つの方向性を持って進められている。学習理論の数理解析については甘利らの研究成果が目立っており、情報幾何の観点から解析が行われ、新たな学習方法も提案されている[18][19][20]。応用分野では非線形モデルの同定から音声・画像信号処理まで非常に多岐に渡る研究が行われている[21]。本研究のベースとしたTime-Delay Neural Networkも、音声データのパターン認識を行うために提案された多層ニューラルネットワークモデルである。

ウェーブレット理論は1980年代に始まったとされているが、その基礎概念は数学・物理・信号処理等の様々な分野で知られていた。現在でも音響信号や画像の特徴解析手法として広く研究されている[13][14]。また、最近ではノイズ生成[5]やリアルタイムレンダリング[4]といった三次元画像の生成手法としても光が当てられている。工学的応用としてのウェーブレット研究の主流は音声・音響信号処理と画像処理であり、信号の不連続点の検出[15]、多重解像度表現を用いた画像圧縮[25]等の研究が行われている。また、音声信号処理においては入野らによる聴覚フィルタモデルの研究[6]、画像処理においては新井らによるフレームレットを用いた視覚系の数理モデルの研究[27]など、人間の聴覚・視覚系の数理モデルを構築する試みにも利用されている。

本研究の対象となるウェーブレットネットワークは1992年にZhangらにより提案され[8]、主に非線形システムのモデリングを行う単層ネットワークモデルとして研究が行われてきた。その後は同様のシステムモデリングに関する実証研究[9][10]-[11]が行われ続けている。一部、ネットワークの初期化・学習アルゴリズムを扱う研究[12]もあるが数は僅かであり、またネットワークの特性に関する数理解析の研究も殆ど行われていない。