トピックスのお知らせ

2025 APAC HPC-AI Competition出場プロジェクトFinal interview(学生取材記事)

 10月28日に2025 APAC HPC-AI Competition Final interviewが行われました。
 2025 APAC HPC-AI CompetitionはHPC-AI Advisory Council、NSCC SingaporeとNCI Australiaが開催するHPC、 HPCとAI分野に関する高速化、最適化を競う大会です。 木更津高専からは5人の学生が「Kisarazu Big Branch w/ RIKEN」チームとして理化学研究所のサポートを受けて出場しています。
 1月8日の理化学研究所のキックオフミーティング(*1)、 8月4日にタスクルールが公開され、 2ヶ月以上の最適化を試み、 我々の最適化手法や手段を英語でプレゼンテーションと質疑応答を行いました。

 私たちの取り組んだ課題はシンガポールのNSCCが管理するスーパーコンピューター Aspire2a+を2ノード用いてSGLangというLLM推論フレームワークを使いDeepSeek-R1のスループットを向上させることです。 我々の環境では16台のH100 GPU、224個のCPUコアを使ったLLM推論の並列計算のボトルネックの特定と解消のサイクルをし、 合計で300以上の実験を行いベースラインからおよそ2倍のスループットを達成することができました。

 プレゼンテーションの質疑応答では、 NVIDIA、 オーストラリアのNCI、 シンガポールのNSCCなどから成る審査員から私達の最適化手段について興味を持っていただき、特に最適化戦略やスーパーコンピューター特有のノード間、GPU間通信の最適化について様々な講評やポジティブなアドバイスをいただきました。

 本コンペティションで我々のチームは理化学研究所のサポートを頂き、九州大学のスーパーコンピューター玄界をトレーニング目的で使用しましたことを心より感謝申し上げます。

Final interview発表時の様子

発表スライドの一部

(*1) https://www.kisarazu.ac.jp/news/2025-apac-hpc-ai-competition%e5%87%ba%e5%a0%b4%e3%83%97%e3%83%ad%e3…

 

情報工学科4年 常木 丈鳳、秋本 蒼空
情報工学科5年 Isaac Yap Zhen Khai、 内藤 正浩
Nanyang Technological University Yuma Ochi
指導教員 大枝 真一