日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 第39回研究会
日本応用数理学会「行列・固有値問題の解法とその応用」研究部会では,第39回研究会を開催致します.本研究会は「2025年並列/分散/協調処理に関するサマー・ワークショップ (SWoPP2025)」において,電子情報通信学会の3研究会,情報処理学会の4研究会,およびxSIGとの連携により開催されます.
- SWoPP2025 開催日: 2025年8月4日(月)~ 6日(水)
- 会場:サンポートホール高松(香川県高松市)およびオンラインのハイブリッド開催を予定
- SWoPP2025のWebページ:https://sites.google.com/site/swoppweb/
- 本研究会での発表には,JSIAM Letters 誌への投稿権が付与されます.(著者に日本応用数理学会会員が含まれていなくても JSIAM Letters 誌への投稿機会が与えられます.)
- 1件当たりの発表時間は25分(質疑応答込み)の予定です.
- 現地発表および遠隔発表のどちらも受け付けます.しかしながら十分な通信環境を準備できない可能性があり,ご発表の方にはできるだけ現地参加をお願いする予定です.
- 注意:研究会の実施に関しては,SWoPP2025の方針に準ずるため,必要に応じて,上記のSWoPP2025のWebページを適宜ご確認ください.
- 問い合わせ先:mepa-kanji-ml [at] ml.jsiam.org (担当:幹事 廣田悠輔)
発表申込
発表申込期間:2025年5月13日(火)~5月19日(月)終了しました追加発表申込期間:2025年5月21日(水)~5月26日(月)23:59(申込み多数の場合には原則として先着順とさせていただき,早期に募集を締め切る可能性があります)終了しました- 発表申込の際は,講演題目,著者(所属),登壇者(所属),連絡先メールアドレス,講演概要(200字程度),発表方法(現地 or オンライン,現時点の予定で構わない),備考を以下のフォームから登録してください.
講演申し込みフォーム:https://forms.gle/iQ9HYPNkNTaG7cyo7(終了しました)
参加申込
プログラム ※SWoPP2025全体プログラムはこちら。
8月5日(火) 現地会場:62会議室(6F)
セッション MEPA-1:高性能計算と機械学習 座長:相原研輔(東京都市大学)
講演 (1)(15:10 – 15:35):〇尾崎克久(芝浦工業大学), 内野佑基(理化学研究所), 今村俊幸(理化学研究所)
Ozaki Scheme II: 剰余系を活用したGEMM-basedな行列積のエミュレーション
低精度演算環境の高速化により,混合精度計算は重要な研究となっている.行列積に対する混合精度計算については,行列を複数の和に分解し,それぞれの積を無誤差で計算して,その総和を計算するOzaki Schemeが知られている.本発表では,中国式剰余定理と無誤差行列積を組み合わせた手法について紹介し,従来のOzaki Schemeとのパフォーマンスの違いについて考察する.GPUとCPUで,どのように互いに素な数を選ぶかが手法のポイントになっている.
講演 (2)(15:35 – 16:00):〇内野佑基(理化学研究所), 尾崎克久(芝浦工業大学), 今村俊幸(理化学研究所)
INT8行列乗算器を用いた高性能・高効率な単精度・倍精度行列乗算法
今日,AIの計算のために低精度行列乗算器の高性能化・高効率化が目覚ましい.一方で単精度・倍精度演算の性能は停滞しており,低精度乗算器の活用が停滞解消の鍵となる.本講演では,INT8乗算器を活用した行列乗算法とそのライブラリを紹介する.GH200上の実験では,cuBLASの単精度・倍精度行列乗算ルーチンと比較して3.4倍,1.3倍の性能向上を達成し,cuBLASルーチン以上の性能を得た.
講演 (3)(16:00 – 16:25):〇阿部龍仁(北海道大学), 佐竹祐樹(北海道大学), 深谷猛(北海道大学)
最小二乗問題に対するDCTを利用した乱択アルゴリズムのGPU実装及び性能評価
近年、数値線形代数の分野で乱択アルゴリズムの研究が活発に行われているが、一方で、GPU環境での実装や性能評価の報告は限られている。そこで本研究では、最小二乗問題に対するDCT(離散コサイン変換)を用いたスケッチングに基づく乱択アルゴリズムに関して、GPU上で利用可能なFFTライブラリを応用して実装を行った。また、スーパーコンピュータMiyabiのGPUノード上で既存解法を含めた性能評価を行い、GPU環境での乱択アルゴリズムの有効性を検証した。
講演 (4)(16:25 – 16:50):〇假屋園北斗(筑波大学), 二村保徳(筑波大学), 今倉暁(筑波大学), 櫻井鉄也(筑波大学)
Nystrom近似型Transformerモデルの効率的学習アルゴリズム
本講演では、大規模言語モデルで広く用いられる深層学習モデルTransformerの効率的な学習アルゴリズムを提案する。TransformerにはAttention機構において、系列長の2乗に比例して計算量が増大するという課題がある。これに対処するため、forward計算にNystrom近似を用いて計算量を線形に抑える手法が提案されている。本講演では、さらにbackward計算に着目し、反復法により求めた擬似逆行列の勾配を直接計算することで学習を効率化する手法を提案し、その有効性を数値実験で示す。
セッション MEPA-2:行列計算の理論と応用 座長:深谷猛(北海道大学)
講演 (5)(17:00 – 17:25):〇相島健助(法政大学)
クリロフ列に関する統計モデルの一致推定量の構成とその推定精度について
時系列データ解析等において,クリロフ列に対応する行列データを基に,必要な情報を得るための行列計算を行うことは多い.ただし,行列データはランダムノイズを含むため,ノイズに対してロバストな計算手法を用いることになる.このような統計的な問題設定に対して,本研究では,サンプルサイズに関する漸近論により一致推定量をいくつか構成する.さらに,その中で有限のサンプルサイズに対し,推定量の精度を数値的に検証する.
講演 (6)(17:25 – 17:50):〇今井快(東京都市大学), 相原研輔(東京都市大学)
複数の探索方向ベクトルを用いるCG法とその改良
大規模かつ疎な正定値対称行列を係数とする連立一次方程式に対して,CG法は有効な反復法である.従来研究において,単独の右辺ベクトルをもつ方程式に対して探索方向ベクトルを複数本に拡張する手法が提案されているが,その効率性や数値的振る舞いなどはほとんど議論されていない.そこで本研究では,複数の探索方向を用いるCG法について,計算効率や数値的安定性の向上を目的とした実装法を複数提案し,数値実験によりそれらの性能評価を行う.
講演 (7)(17:50 – 18:15):〇宮島信也(岩手大学)
行列Mittag-Leffler関数に対する摂動理論
行列 Mittag-Leffler 関数は非整数階微分方程式系への応用をもつ. A, Δを正方行列とする. 講演者は A + Δ に対する行列 Mittag-Leffler 関数の値と A に対する行列 Mittag-Leffler 関数の値の差のノルムの上界を導出した. 本講演では, この上界を紹介する. この上界は数列の形をしている. 講演者はこの数列が Cauchy 列をなすことも証明したため, これも併せて報告する. 数値実験結果を通じて, 導出した上界が上記のノルムの値をどれくらい過大評価しているのかを観察する.
講演 (8)(18:15 – 18:40):〇村上弘(東京都立大学)
添字の置換による行列同士の一致可能性について
添字の置換で行列同士が一致可能かを判定し,可能な場合には置換の例を求める問題を考える.行列要素は等価判定が可能ならば良く,実数の場合に帰着できる.対称な添字の置換による対称行列の一致性判定は,固有値分解を経由して置換に対する必要条件を作り,それを満たす置換の候補が少なければ,一致させるものを探すことで問題が解ける.行と列の置換による一般行列同士の一致可能性は,特異値分解を経由して同様の手順になる.