学生の活躍のお知らせ

8th APAC HPC-AI CompetitionにおいてExcellent AI Performance賞受賞 (学生取材記事)

## 概要
 木更津高専チームが8th APAC HPC-AI CompetitionにおいてExcellent AI Performance賞を受賞しました。
 APAC HPC-AI CompetitionはHPC-AI Advisory Council、NSCC SingaporeとNCI Australia、Firmus AI Cloudが開催するハイパフォーマンスコンピューティング(HPC)とAI分野に関するアプリケーションの高速化、最適化を競う大会です。 今年度は、世界各国から48大学が出場し木更津高専からは5人の学生が「National Institute of Technology、 Kisarazu College w/RIKEN」チームとして理化学研究所のサポートを受けて出場しました。
 我々が取り組んだタスクはNSCC Aspire 2A+とFirmus SMC H200のGPUクラスターを用い、AIモデルの一つのDeepSeek-R1の推論ベンチマークのスループット(1秒間で生成できる文字、トークンの量)を最大化することを目的としていました。パラメータ調整から通信最適化などの様々な取り組みにより、初期スコアから約2倍の高速化を達成しました。
 本大会で使用したNVIDIA H100やH200 GPUは、最新世代のAIアクセラレータで、1台あたり数百万円、クラスタ全体では数千万円以上に達する非常に高価な設備です。実機を通じて最適化を行う機会は極めて珍しく、貴重な経験となりました。
 本大会の授賞式は2026年1月25日から1月29日まで大阪にて開催される国際会議、SupercomputingAsia (SCA)のプログラム内で行われる予定です。

## チームメンバーの感想
 情報工学科4年の常木丈鳳です。 コンペティション期間中、私達は最初にNvidia Nsight Systemsによるプロファイリングに取り組みました。 しかし、 SGLang、 DeepSeekアーキテクチャの巨大化/複雑化したシステムには多くのファクターが存在し、 ボトルネックの特定には困難を極めました。 そこで、プロファイリングによってボトルネックを見つけ、それを解消するアプローチから、理論としての最適化を様々なプロファイリングによって裏付けていくアプローチへと変更しました。
 また、私はコンテスト開始当初からSGLangのパラメータチューニングのみではなく、SGLangそのものにパッチをあてることがチームごとの特色が出てスループットの差を多くつけることだと推測していました。 プロファイリングから特定したSGLangのパラメータでは調整出来ない最適化の余地を膨大なソースコードリーディングを通し適用したパッチはキャッシュのヒット率を改善し、特にH200クラスタでの顕著なスループットの向上を確認できました。

 情報工学科5年のアイザックです。このような規模の国際的な大会に参加するのは初めてでした。参加当初はHPCなどの専門知識がほとんどなく、不安も多かったですが、チームメイトに支えられながら勉強に励み、少しずつ理解を深めていきました。この大会を通して、AIの仕組みや内部的な働き、スーパーコンピュータ上での実行やその高速化手法などの技術的な知識だけでなく、チームで協力して一つの目標に取り組むことの大切さや、問題に直面したときの考え方、役割分担の重要性など、多くのことを学びました。技術的なサポートに加え、英語が得意であることを活かし、主にスライド作成や発表の準備、英語でのプレゼンテーションや質疑応答などを担当し、チームに貢献できたことをとても嬉しく思っています。

 チーム全員がHPC未経験という状況での挑戦でしたが、その中で「Excellent AI Performance Award」を受賞できたことは、驚きと同時に達成感に溢れました。この成果は、共に最後まで取り組んだチームメンバー、指導教員の大枝先生、運営の方々、理化学研究所の方々のおかげだと強く感じています。今回の経験で得た知識や考え方、そして国際的な場で挑戦した経験を、今後の学業や研究、将来の進路にしっかりと活かしていきたいと思います。

参照:HPC-AI Advisory Councilのプレスリリース
https://www.hpcadvisorycouncil.com/pdf/8th-apac-hpc-ai-competition.pdf