第30回統計科学セミナー（2025年8月20日開催）「現代的データ科学技術の数理構築に向けた深層ニューラルにネット精密動力学とトランスフォーマー理論解析 」のご案内

講演概要：

　大規模ニューラルネットワークを活用した現代的データ科学技術の発展が著しく、結果として人工知能の技術開発が着々と進展している。これらの技術的な発展を支えるように、その内部を理解し改善するための理論的研究も並行して大きく進展している。本講演ではそれに関連した複数の研究の流れと成果を報告する。第一には、深層ニューラルネットワークの精密な動力学解析である。深層ニューラルネットワークが学習によって更新される過程は、深層性に由来するモデルの複雑性・合成関数構造からブラックボックスであり、2層よりも多いニューラネットの解析は困難とされてきた。本研究では、統計物理や情報理論の発想を用いた理論を用いた、深層ニューラルネットワークの精密な動力学理論の背景と成果を紹介する。第二は、人工知能に不可欠なニューラルネットワークであるトランスフォーマーの理論解析である。トランスフォーマーはアテンション構造を用いたデータ間の関係性の相互参照によって、従来のニューラルネットより高い性能を発揮することが知られている。本講演では、そのトランスフォーマーの理論的な利点について、データセット構造に即した関数近似能力・メタ学習器としての汎化性能・粒子相互作用系としての性質という複数の側面から研究成果を紹介する。