募集中 【Kubernetes】AIインフラ事業のOSS/Local LLM基盤における機械学習エンジニア支援(基本リモート)
社名：非公開
職種：機械学習エンジニア/アルゴリズムエンジニア
稼働日数：週5日新日本橋
報酬：〜112万円／月
| 業務内容 | ・最新のOSS LLM／ローカルLLMを複数ベンダーのAI半導体上で動作させる、学習・推論性能の評価およびベンチマーク設計 ・商用規模の推論フレームワークの動向把握、およびスループット・レイテンシ最大化に向けたチューニング ・GPUスケジューリング技術やLLM評価指標の検討・実装など、実運用を見据えたインフラ・基盤技術の研究開発 ・社内R&Dチームとの連携を通じた、自社プロダクトへのフィードバックおよびプロダクト反映 ■募集背景 AI向けインフラ関連事業において、多様な最新AI半導体上でOSS LLM／ローカルLLMを動作させ、性能評価・ベンチマーク設計・最適化を担うため。 ■その他歓迎スキル ・LLMの評価指標設計（品質評価・安全性評価）や、NIST等の標準化動向への興味・知識 ・OSSプロジェクトへのコントリビューション経験（Issue / PR / 自作ライブラリの公開など） ・英語での技術文書の読解や、海外ベンダーとのコミュニケーション経験 |
|---|---|
| 勤務地 |
新日本橋 |
| 必須要件 | ・PyTorchを用いたモデル学習・推論パイプラインの構築・運用経験 ・LLMもしくは大規模モデル（Vision/言語問わず）の学習または推論基盤の開発・運用経験 ・GPUを用いた高速化（CUDA / ROCm / cuDNNなど）に関する基礎知識 ・Kubernetes等を用いたコンテナベースの分散実行環境の利用・運用経験 ・Linux環境での開発スキル（シェル、基本的なオペレーション、リソースモニタリングなど） ・ベンチマーク結果やログを元に、ボトルネックを特定し改善方針を立てられる分析力 ・技術的な議論を日本語で行えるコミュニケーション能力 |
| 歓迎要件 | ・vLLM / SGLang / TensorRT-LLMなど、LLM向け推論フレームワークの実運用・チューニング経験 ・GPUクラスタ上での大規模学習・分散学習（Data Parallel / Model Parallel / Pipeline Parallelなど）の設計・運用経験 ・CUDA等を用いた低レイヤーでの性能最適化経験、あるいはC++による高パフォーマンスな実装経験 ・AIアクセラレータ（TPU, IPU, 専用AIチップなど）におけるモデル移植・ベンチマーク経験 など |
担当者コメント
・個人では入手が難しい最先端AI半導体（NVIDIAの最新世代GPU、AMD GPU、Cerebras、SambaNova等）を含む多様な計算資源にアクセスして開発可能
・「ポスト5G情報通信システム基盤強化研究開発事業」等のプロジェクトを通じて国家レベルの研究開発や標準化にも参画可能
・LLM / Local LLMの実運用に直結する現実的なベンチマークや評価指標を自ら設計・実装し発信できる環境
担当者の詳細を見る