はじめに

Google Cloud Next Tokyo 26に初参加中の伊波です！

スポンサーセッション「SRE は AI に何を任せるべきか。プレイドが Datadog で出した答え」を聴講しました。

DatadogのBits AIやプレイド社の導入事例などが気になる方はぜひご覧ください。

1. Bits AIについて

セッションの導入では、Datadog の Bits AI について紹介がありました。

Bits AIには様々な機能がありますが、今回は「Bits Investigation」にフォーカスして紹介されていました。

レイテンシーのアラートを例に、SRE がどう対処していくかを見ていきます。

従来の方法

一次対処、二次対処をすべて人の手でやる必要がありました。

とくにクリティカルなアラートほど、一次対処は時間との勝負になります。

Bits Investigationの場合

Bits Investigationを使用すると30分〜数時間かかる作業を、自動かつ数分で完了します。

以下画像のように、人がやっているプロセスを自動かつ迅速に実行してくれます。

課題となる暗黙知

従来であれば「なぜこの設計にしたのか」は書いた本人の頭の中にありました。しかし AI が書いたコードでは、その設計意図がどこにも残っていません。

調査に必要な暗黙知が、そもそも誰の中にも存在しない状態になってしまいます。

だからこそ、SRE Agent 側で暗黙知を扱う仕組みが必要になります。

この課題に対して用意されているのがbits.mdです

Bits Investigationへプラットフォームのルールやサービス特有のルールをコンテキストとして共有ができます。

Datadog内の過去のナレッジもコンテキストとして使用できます。

Bits Investigationを自分のプラットフォームやサービスに合わせて育てていく感覚で面白いと思いました。

Bits Investigationを導入したけど、想定通りの挙動で動いてくれないといったお悩みがある方には参考になりそうです。

2. プレイド社が作るSRE Agent

※かなりボリュームの多い発表でしたので気になった箇所をピックアップしています

プレイド社はBits Investigationを使いながらも、自社でSRE Agentを自作していました。

理由としては 運用の Control を自分たちで持ちたいという3つの観点を挙げられていました。

私はとくに Cost の部分が気になりました。

安定していない環境ほどアラートは頻繁に鳴るため、そのたびに Investigations を走らせるとコストが積み上がっていく、という構造的な課題です。

自作といってもすべての機能をもたせるのではなく、スコープを決めて人とAgentの領域をうまく分けていました。

最近私も実感していますが、作って動かすのは簡単でも、本番運用するとなると話は別です

いくつもの壁があって「任せられるAgent」まで持っていくのは至難の業ですよね、、

 そして、このセッションで最も大事だと思ったポイントがこちらです。

どちらが優れているか？ではなく、どこで使い分けるか。

コストを試算し、自分たちのフェーズと照らし合わせて使い分けることが重要です。

まとめ

Bits Investigation は、運用現場の苦しみを解決してくれる可能性のある機能だと感じました。

とくに休日や深夜のオンコール対応は、孤独で緊張感もあります。そんな場面で数分のうちに調査から対応の方向性まで示してくれるのは、非常に心強いですね。

「自社サービスの運用にも SRE Agent を入れて楽にしたい」というニーズは、日々多くのお客様から感じています。

その反面、コストが高い、想定した挙動をしてくれないといった課題があるのも事実です。

そうした課題に対して、自作 Agent と Bits Investigation をうまく併用しているプレイド社の実例は、大きなヒントになりました。

私もまずは Bits Investigation の理解を深め、お客様の運用課題を解決できるよう尽力していきます！