Rchr
J-GLOBAL ID:201801000756734383
Update date: Jul. 31, 2024
Ryo Karakida
カラキダ リョウ | Ryo Karakida
Affiliation and department:
Job title:
Senior Researcher
Homepage URL (1):
https://sites.google.com/view/ryokarakida/
Research field (2):
Soft computing
, Intelligent informatics
Research keywords (5):
Neural Networks
, Machine Learning
, 統計物理
, 数理工学
, 力学系
Research theme for competitive and other funds (7):
- 2023 - 2028 線形性と非線形性の協同による可解なランダム神経回路の深化
- 2023 - 2027 Development of an sEMG-based Human-Computer Interface Utilizing Deep Transfer Learning and Continual Learning
- 2022 - 2027 Mathematics and application of deep learning
- 2019 - 2023 ランダム深層ニューラルネットの数理的基盤の構築とその学習への応用
- 2019 - 2022 大自由度ニューラルネットワークの学習に潜む幾何学的構造の解析と信頼性評価への展開
- 2017 - 2019 Theoretical construction and control of deep learning based on the geometry of hierarchical models
- 2014 - 2017 感覚神経回路における同期発火の神経機構とその情報科学的意義の解明
Show all
Papers (44):
-
Han Bao 0002, Ryuichiro Hataya, Ryo Karakida. Self-attention Networks Localize When QK-eigenspectrum Concentrates. CoRR. 2024. abs/2402.02098
-
Toshihiro Ota, Ryo Karakida. Attention in a Family of Boltzmann Machines Emerging From Modern Hopfield Networks. Neural Computation. 2023. 35. 8. 1463-1480
-
Kaito Watanabe, Kotaro Sakamoto, Ryo Karakida, Sho Sonoda, Shun-ichi Amari. Deep learning in random neural fields: Numerical experiments via neural tangent kernel. Neural Networks. 2023. 160. 148-163
-
Ryo Karakida, Tomoumi Takase, Tomohiro Hayase, Kazuki Osawa. Understanding Gradient Regularization in Deep Learning: Efficient Finite-Difference Computation and Implicit Bias. ICML. 2023. 15809-15827
-
Tomohiro Hayase, Ryo Karakida. MLP-Mixer as a Wide and Sparse MLP. CoRR. 2023. abs/2306.01470
more...
MISC (16):
-
Ryo Karakida, Toshihiro Ota, Masato Taki. Hierarchical Associative Memory, Parallelized MLP-Mixer, and Symmetry Breaking. 2024
-
唐木田亮, 大沢和樹. NTK dynamics of approximate natural gradient in infinite-width deep neural networks. 日本物理学会講演概要集(CD-ROM). 2021. 76. 1
-
唐木田亮, 赤穂昭太郎, 甘利俊一. Generating functional analysis of macroscopic dynamics in random backpropagation. 日本物理学会講演概要集(CD-ROM). 2020. 75. 1
-
唐木田亮. 深層神経回路網の幾何II ~統計神経力学とのつながり~. 数理科学. 2020. 58. 11
-
唐木田亮, 赤穂昭太郎, 甘利俊一. ランダム深層ニューラルネットの摂動に対する応答の普遍性. 日本物理学会講演概要集(CD-ROM). 2019. 74. 1
more...
Lectures and oral presentations (50):
-
継続学習における自己知識転移と忘却
(第51回統計的機械学習セミナ- (オンライン) 2022)
-
Neural tangent kernel regimeにおける継続学習の学習曲線
(日本応用数理学会2022年度年会 2022)
-
カーネル法の統計力学的解析とそれによる継続学習の評価
(統計物理と統計科学のセミナー 2022)
-
統計神経力学による深層学習の解析
(2021)
-
Improving the trainability of deep neural networks: A perspective from the infinite width limit
(4th international conference on econometrics and statistics 2021)
more...
Education (3):
- 2017 - 現在 National Institute of AIST
- 2008 - 2017 University of Tokyo
- 2005 - 2008 長野県長野高等学校
Professional career (1):
Committee career (6):
- 2024/06 - 現在 電子情報通信学会 会誌編集委員
- 2022 - 現在 神経回路学会 選考委員
- 2023/10 - 2024/10 日本物理学会 領域11運営委員
- 2024/03 - Program Committee of Machine Learning Summer School (MLSS) 2024
- 2022 - IBIS2022 プログラム委員
- 2020 - IBIS2020 プログラム委員
Show all
Awards (6):
- 2017 - 神経回路学会 論文賞
- 2016/06 - 人工知能学会全国大会 学生奨励賞
- 2016/04 - 24th European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning(ESANN2016) Best Student Paper Award
- 2015/11 - IBIS2015 学生最優秀プレゼンテーション賞
- 2015/03 - IEEE CISJ Young Researcher Award
- 2014/08 - 日本神経回路学会大会 奨励賞
Show all
Return to Previous Page