数理情報科学セミナー 2021


11 月 17 日 16:30-17:30 (※対面でのみ行います.)
石川 勲 (愛媛大学)

可逆ニューラルネットワークの表現力について

可逆ニューラルネットワーク(Invertible Neural Network, INN)は、逆写像が計算可能なニューラルネットワークアーキテクチャである。 可逆性とヤコビアンの取り扱いが容易という特性があり、INNは確率的モデリングや特徴抽出などの様々な機械学習に応用されている。 しかし、INNのその特性は、各層の関数の形を限定的なものにすることで実現されているため、INNが十分な表現力を持つか、すなわち、 ターゲットとなる分布や関数を十分に近似することが可能かという問題を実際の応用をしていく上では考える必要がある。本研究では、 微分幾何学の構造定理に基づいて、INNの表現力を調べるための一般的な理論的枠組みを構築した。具体的には、この枠組みによって、 大規模なクラスの微分同相写像を近似するためのINNの近似性能を示すことができる。本研究では、 代表的なINNであるCoupling-Flow-based INN(CF-INN)とNeural Ordinary Differential Equations(NODE)にこの枠組みを適用し、 多くの既存のニューラルネットワークアーキテクチャが高い表現力を持つことを明らかにした。 本講演ではINNの基本事項から始めて、結果の詳細を紹介する。時間が許せば証明についても説明したい。


数理情報科学セミナー