募集中 【Python】オンプレAI基盤構築・チャットbot開発支援（基本リモート）
社名：非公開
職種：その他エンジニア
稼働日数：週5日豊洲 or 三鷹 or 新宿
報酬：〜70万円／月
| 業務内容 | オンプレ環境におけるLLM推論基盤（GPUサーバ×3台想定）の構築と、併せてAIチャットボット開発をご支援いただくポジションです。 具体的な業務内容としては下記がございます。 ・ハイエンドGPUを搭載したオンプレサーバ3台による LLM推論環境（vLLM想定）の構築 ・AIコーディング支援ツールをオンプレ環境で利用するための LLM推論基盤の整備 ・GPU調達待ち期間における、プロンプトエンジニアリング中心の事前検証 ・将来的なRAG構築／ファインチューニングの検討・実装 ・LLM活用によるAIチャットボット開発支援 （会話設計・意図判定・プロンプト整備） ・物理サーバ作業に伴う都内近郊拠点での初期セットアップ対応 ■募集背景 人員不足のため。 |
|---|---|
| 勤務地 |
豊洲 or 三鷹 or 新宿 |
| 必須要件 | ・LLMを活用したシステム開発または検証経験（プロンプトエンジニアリング、RAG、モデル評価 など） ・Linuxサーバ構築・運用スキル ・Pythonによる開発経験（規模不問） ・新技術のキャッチアップに前向きに取り組める方 ・公共系システムのセキュリティ要件・制約下での開発に前向きに取り組める方 |
| 歓迎要件 | ・GitLab（CI/CD）の利用経験 ・オンプレ環境でのサーバ構築・NW・ストレージに関する基本知識 ・vLLMによるオンプレLLM推論基盤の構築・運用経験 ・LLMベースのチャットボット開発経験 |
担当者コメント
オンプレGPUとvLLMを用いた最先端のLLM推論環境構築とチャットボット開発に携われます。
セキュリティ制約下での設計・運用経験を積めます。
ご自身の経験を活かしてご活躍いただけます。