基盤を支える / AI Platform Engineer

AIプラットフォームエンジニア

複数のモデルやAI機能を製品チームが安全に使えるよう、推論ルーティング、ジョブ実行、評価、可観測性を整える領域です。モデルを作ることより、モデルを選び、測り、切り替えられる基盤を作る仕事に重心があります。

乗り換え元になる経験

  • クラウド
  • バックエンド
クラウドまたはSREの設計・運用分散システムやイベント駆動処理データ基盤、MLOps、LLMOps

掲載出典の確認日

掲載している各出典の確認日(ページの更新日とは別)を示していますので、最新の募集状況と給与は公式の掲載元で確認してください。

公開求人に記載された給与

以下は2026-10-07に確認した、国内企業が自社の採用ページに掲載している求人です。年額で示す求人と月額で示す求人が混在するため、単位をそろえず求人ページの表記をそのまま載せています。タイミーの求人は金額の記載がないため載せていません。職種名は求人ページ上の表記です。

企業・掲載元職種名給与の記載経験年数の記載
株式会社ビズリーチ 自社採用ページ(HRMOS)/確認日 2026-10-07MLOpsエンジニア/ビズリーチプロダクト基本給/月:253,968円〜609,523円、固定残業代/月:79,366円〜190,477円AWSまたはGoogle CloudでのAIシステム構築・運用1年以上、Terraformの実装経験など
株式会社HERP 自社採用ページ(HERP)/確認日 2026-10-07LLMOpsエンジニア(Tech Lead)年収600万円〜1,080万円(30時間分のみなし残業代を含む)Webアプリ開発の実務3年以上、LLMを組み込んだアプリ開発の経験など
株式会社アトム 自社採用ページ(HERP)/確認日 2026-10-07MLOpsエンジニアエンジニア:500万〜1,000万円(基本給308,531〜617,063円+みなし残業代)/シニアエンジニア:1,000〜3,000万円機械学習基盤またはMLOpsの実務経験、大規模なシステムの設計・運用経験など
株式会社NTTデータ・ニューソン 自社採用ページ(HRMOS)/確認日 2026-10-07AI基盤エンジニア月給:39万5000円-54万3000円(みなし残業手当を含む)、年間賞与基準額:135万5000円-162万1000円クラウドの設計・構築の経験
ソフトバンク株式会社 自社採用ページ/確認日 2026-10-07AI/MLソリューション開発エンジニア【次世代クラウド基盤】月給:399,500円〜688,000円、想定理論年収:6,458,000円〜14,114,400円Pythonでの開発3年以上、AIエージェントを使うシステムの開発経験など

給与は求人ページの表記をそのまま載せたもので、当サイトが推定・換算した数値は含みません。提示額は経験や選考の結果で決まります。

給与とあわせて、経験と相談先を確認する

給与の記載は個別の求人例です。自分の経験を整理し、希望する職種の求人を扱っているか、相談先の対象や条件を確認しましょう。

求人を掲載している企業の例

企業が公開した求人の確認例です。最新の募集状況と応募条件は、リンク先で確認してください。

ビズリーチ

MLOpsエンジニア/ビズリーチプロダクト

仕事内容の抜粋
機械学習の処理基盤や、LLMの品質と可用性を管理する基盤を開発、運用する。
必須経験の抜粋
AWSまたはGoogle CloudでのAIシステム構築、運用1年以上。TerraformとDockerの経験など。

企業の採用ページ掲載を確認確認日

求人ページを見る

HERP

LLMOpsエンジニア(Tech Lead)

仕事内容の抜粋
HERP AI Recruiterの生成AI機能、品質評価、ログや監視の基盤を設計する。
必須経験の抜粋
Webアプリ開発3年以上。LLMアプリの開発やAIの品質、運用に関わる経験など。

企業の採用ページ掲載を確認確認日

求人ページを見る

タイミー

MLOpsエンジニア

仕事内容の抜粋
機械学習とLLMの推論基盤を整備し、評価、監視、共通化と運用を担当する。
必須経験の抜粋
Pythonによる機械学習基盤などの開発3年以上。CI/CD、IaC、クラウド、商用MLOps基盤の運用経験など。

企業の採用ページ掲載を確認確認日

求人ページを見る

SYSLEA

AI Platform Engineer(LLM推論・評価基盤担当)

仕事内容の抜粋
複数モデルの推論を振り分ける基盤、品質評価の基盤、ジョブ制御を設計し運用する。
必須経験の抜粋
分散システムまたはデータ基盤の設計、運用3年以上。Python、SQL、コンテナ運用など。

求人サービスの掲載ページ掲載を確認確認日

求人ページを見る

MLOpsは、機械学習のモデルを作って終わりにせず、本番で動かし続けるための開発と運用の進め方です。Google Cloudは、DevOpsの原則を機械学習のシステムに当てはめたものと説明しています。

LLMOpsは、その考え方を大規模言語モデル(LLM)を使う製品へ広げたものです。モデルを一から学習するより、既存のモデルを選び、プロンプトや検索(RAG)を組み合わせ、出力の品質と費用を見続ける仕事の比重が大きくなります。

このページは、こうした仕組みを複数の製品チームが使える共通基盤として作る職種を扱います。2026-10-07に確認した国内の公式求人では、MLOps、LLMOps、AI基盤を職種名に含む募集を6件確認しました。

MLOpsとは

Google Cloudのアーキテクチャ文書(2024-08-28更新)は、MLOpsを、DevOpsの原則を機械学習のシステムに当てはめ、開発(Dev)と運用(Ops)を一体にする実践と説明しています。同文書は、本番の機械学習システムのうち、モデルを作るコードはごく一部にすぎないとも述べています。

この見方の元になったのが、Googleの研究者らが2015年にNeurIPSで発表した論文「Hidden Technical Debt in Machine Learning Systems」です。機械学習のシステムは最初の開発が速い一方、データへの依存や、モデルの出力が次の学習データに影響する隠れたループなどによって、後から保守の負担が積み上がると指摘しています。

同じGoogle Cloudの文書は、自動化の進み具合を3つのレベルに分けています。

レベル0(手動)
データの分析からモデルの公開まで人が手で行います。作る人と運用する人が分かれ、本番での性能の監視も手薄です。
レベル1(学習の自動化)
データとモデルの検証を自動化し、新しいデータで再学習を続ける仕組み(継続的トレーニング)を回します。
レベル2(CI/CDの自動化)
学習の仕組みそのものの変更も、ソース管理、自動テスト、自動デプロイでまとめて扱います。

LLMOpsはMLOpsと何が違うか

Databricksは用語集で、LLMOpsを、本番環境でLLMを運用・管理するための実践、手法、ツールと説明しています。MLOpsとの違いとして、GPUなどの計算資源、既存の基盤モデルの微調整、プロンプトエンジニアリング、人からのフィードバック、評価の指標、費用を挙げています。

AWSも、MLOpsが従来の機械学習を扱うのに対し、LLMOpsは基盤モデルを調整して製品に組み込み、運用することを扱うと説明しています。対象には微調整、RAG、プロンプトエンジニアリング、継続的な監視が入ります。

当サイトの整理では、違いの中心は「モデルを作る」か「モデルを使う」かの比重です。製品の挙動を変える手段が、データと再学習から、プロンプト、検索、モデルの選択へ移ります。そのため、変更のたびに品質を測る評価の仕組み(AI評価エンジニアの領域)と、呼び出しごとの遅延と費用を追う監視が、基盤の中心になります。

LLMアプリの監視データの形式は、OpenTelemetry(監視データの共通規格を作るオープンソースのプロジェクト)で標準化が進められています。2026-10-07時点で、生成AI向けの規約は専用のリポジトリに移って作業が続いています。

AIプラットフォームエンジニアの仕事

AIプラットフォームエンジニアは、MLOpsとLLMOpsの仕組みを、各製品チームが個別に作らずに済む共通基盤として整えます。今回確認した求人の仕事内容は、次の4つに分けられます。

学習と推論の基盤
機械学習の学習の流れ、オンライン推論とバッチ推論、特徴量の保管庫(Feature Store)、モデルの管理を整えます。タイミーやNTTデータ・ニューソンの求人が挙げています。
LLMを使う基盤
推論APIや生成AIの基盤を設計し、プロンプトや検索を含む機能を支えます。ビズリーチ、NTTデータ・ニューソン、ソフトバンクの求人が挙げています。
品質と運用の監視
監視の仕組みを整え、AIの出力の品質評価の仕組みを作ります。HERPやタイミーの求人が挙げています。
標準化とガバナンス
各チームが同じ手順で安全に使えるよう、標準の型や利用のルールを整えます。タイミーの求人が挙げています。

国内の公式求人が求めるもの

2026-10-07に確認した6件のうち4件(ビズリーチ、タイミー、アトム、NTTデータ・ニューソン)は、クラウドの設計・構築か、DockerやKubernetesなどのコンテナの実務経験を必須に挙げていました。機械学習の研究より、本番で安定して動かす経験が問われています。

一方で、タイミーはPythonでの機械学習の処理基盤の開発3年以上、アトムは機械学習基盤またはMLOpsの実務経験を必須にしています。HERPとソフトバンクは、LLMやAIエージェントを組み込んだ開発経験を必須にしています。

企業・出典職種名担当範囲(公式の記述の要約)
ビズリーチ 確認日 2026-10-07MLOpsエンジニア/ビズリーチプロダクトAIシステムとCI/CDの実装、機械学習の基盤とLLMの基盤の開発・運用を担う。
HERP 確認日 2026-10-07LLMOpsエンジニア(Tech Lead)プロンプト設計、RAG設計、AIの出力の品質評価の仕組みづくりと、LLMOps領域の技術リードを担う。
タイミー 確認日 2026-10-07MLOpsエンジニア機械学習の基盤と推論基盤、LLMOpsの基盤、AIガバナンス、監視の整備を担う。
アトム 確認日 2026-10-07MLOpsエンジニアヒューマノイドロボット開発に向けて、大規模なデータの学習基盤とデータの流れを、オンプレミスとクラウドで設計・運用する。
NTTデータ・ニューソン 確認日 2026-10-07AI基盤エンジニアAIの実行基盤、GPUの管理、モデル管理、MLOps・LLMOpsの基盤、推論API、生成AIの基盤を担う。
ソフトバンク 確認日 2026-10-07AI/MLソリューション開発エンジニア【次世代クラウド基盤】国内で管理するクラウド環境で、AIプラットフォーム、AIエージェントの仕組み、LLMOps・MLOpsの基盤を開発し、顧客への導入を支える。

担当範囲は公式求人の記述を当サイトで要約したものです。募集の継続は保証しないため、最新の内容は各求人で確認してください。

クラウド・SRE・データ基盤の経験のどこが接点になるか

求人の必須要件の多くは、クラウド、IaC(Terraformなどでインフラをコードで管理すること)、コンテナ、CI/CDといった、インフラやSREの経験です。こうした経験は、AI基盤の土台にそのまま使えます。

足りなくなりやすいのは、モデルの出力の良し悪しを測る評価と、推論1回ごとの費用と遅延の見方です。身につけたい技術は学習ロードマップの「キャッチアップすべき4つの技術」で整理しています。

ただし、これらは応募資格ではありません。機械学習の基盤そのものの実務経験を必須にする求人もあります。

仕事内容と成果

  • 複数モデルを扱う推論ゲートウェイとルーティングを設計する。
  • 実行ログから評価データを作り、変更時の回帰を検知する。
  • 速度、コスト、品質を同じ観測基盤で追い、運用を自動化する。

目指す状態:製品チームがAI機能を変更しても、品質と運用を継続して管理できる。

経験の接点

以下は経験を整理するための軸であり、採用要件ではありません。

クラウドバックエンドデータ機械学習生成AI品質

ある求人例の要件

職種全体の要件ではなく、公開情報で確認した個別の例です。

  • ビズリーチのMLOpsエンジニア求人は、Feature StoreやMLパイプライン実行基盤の構築に加え、生成品質の管理と可用性の確保を目的としたLLMプラットフォームの開発・運用を仕事内容としている。必須要件はAWSまたはGoogle CloudでのAIシステム構築・運用経験1年以上とTerraformによる実装経験である。
  • HERPのLLMOpsエンジニア求人は、ログとフィードバックの基盤整備、モニタリング設計、AI出力の品質評価(Evals)の仕組みづくりを挙げている。必須要件はWebアプリケーション開発の実務経験3年以上である。
  • タイミーのMLOpsエンジニア求人は、ML/LLM基盤と推論基盤の設計・開発・運用に加えて、標準化、セルフサービス化、ガバナンスを担当範囲としている。

応募前に準備すること

  1. 01

    運用する仕組みを作る

    推論呼び出しのログ、失敗、遅延、コストを観測できる小さな基盤を実装する。

  2. 02

    変更前後を比較する

    モデルやプロンプトの変更を、固定したデータセットと指標で比較する。

  3. 03

    分散処理の判断を整理する

    再試行、冪等性、キュー、障害時の回復をどう設計したかを説明できるようにする。

学ぶ順番と課題を見る

面談で確認する質問

  • モデル選定とコスト最適化は、どの指標で意思決定しますか。
  • 評価データはどこから作り、誰が妥当性を確認しますか。
  • 製品チームと基盤チームの責任範囲はどこで分かれますか。

よくある質問

MLOpsとは何ですか?

機械学習のモデルを本番で動かし続けるための開発と運用の進め方です。Google Cloudは、DevOpsの原則を機械学習のシステムに当てはめ、データとモデルの検証、再学習、デプロイを段階的に自動化していくものと説明しています。

LLMOpsとMLOpsの違いは何ですか?

MLOpsは主に自社でモデルを学習して運用することを扱い、LLMOpsは既存の大規模言語モデルを選び、プロンプトや検索(RAG)と組み合わせて運用することを扱います。そのため、LLMOpsでは出力の評価と費用の管理の比重が大きくなります。

機械学習が未経験でもAIプラットフォームエンジニアを目指せますか?

今回確認した6件は、どれも開発や基盤の実務経験を前提にしています。ただし、6件のうち4件はクラウドやコンテナの実務経験を必須に挙げており、機械学習の研究経験より本番運用の経験が問われています。インフラやSREの経験がある場合は、LLMの呼び出しの遅延、費用、品質を監視する小さな基盤を作ると、要件に照らして説明できる材料になります。

このページの出典

本文で引用した公開情報です。掲載内容は確認日時点のもので、以後の変更は反映していません。