AWS Summit Japan 2025セッションレポート（AIによってシステム障害が増える!? 〜AIエージェント時代だからこそ必要な、インシデントとの向き合い方〜）

はじめに

こんにちは！スタイル・エッジで自社プロダクトの開発エンジニアをしておりますchunです。
AWS Summit Japan 2025に参加してきました！
この記事では、私が参加した中で特に印象に残っているセッション、「AIによってシステム障害が増える!? 〜AIエージェント時代だからこそ必要な、インシデントとの向き合い方〜」を紹介します！

セッション概要

スピーカー：PagerDuty株式会社プロダクトエバンジェリスト草間一人氏

AI エージェント時代、開発も運用も大きく変化すると言われています。生産性向上というメリットの反面、考慮すべきは『AI によるシステム障害の増加』です。デプロイ回数が増えることで障害に繋がるきっかけが増えますし、人手を介さないコードで予期せぬトラブルが生じる可能性もあります。だからこそ必要なのは、しっかりとしたインシデント管理の体制です。本セッションでは、AI エージェント時代にあるべきインシデントからの学び方、そして AI による障害を AI で防ぐ考え方について解説します。

セッション内容のまとめ

AIエージェントとシステム障害

2025年は「AIエージェント元年」と呼ばれるほど、AIエージェントは多くの人の注目を集めました。
PagerDuty社の調査によると、今後1~2年以内にAIエージェントを導入予定と回答した企業の割合は88%もあるそうです。

AIエージェントの登場により、AIを活用して人が仕事をする時代から、人がAIに指示を出して仕事をしてもらう時代になりつつあります。
すでに、コーディングや複雑なリサーチ、業務プロセスの自動化やカスタマーサポートの自動化にAIエージェントは活用されています。

AIエージェントの登場により今後のアプリケーション開発では、次のようなことが起こるとのことです。

開発が高速化し、必要な時に必要なものが素早く生み出されるようになる
アプリケーション開発に必要な人数が減り、開発チームが少数精鋭のチーム構成になる
AIエージェントに作りたいものを伝えるだけで開発ができるようになり、非エンジニアにまで作り手の範囲が広がる

このようにAIエージェントに対する期待が高まる一方で、AIエージェント時代のアプリケーション開発には次のような懸念があると語られました。

「エレガントパズル　エンジニアのマネジメントという難問にあなたはどう立ち向かうのか」によると、システム障害のほとんどはデプロイによって引き起こされます。
AIエージェントによって開発が高速化すると、その分デプロイの回数も増えるためインシデントが増えます。

また、少数でもサービスが生み出せるようになり、それぞれのサービスがマイクロサービスアーキテクチャのようにAPI等で連携するようになります。
スケーラビリティのためには必要なことですが、結果として複雑性が増加しインシデントが発生しやすくなります。

さらに、エンジニア、非エンジニアのどちらが開発する場合においても人の目を通さないコードが増加します。
その結果予期せぬ障害やセキュリティ侵害が起きてインシデントになります。

つまり、AIエージェント時代になるとインシデントが増えるということになります。

どうすればいいのか？

インシデントが増えるとしても、AIエージェントを使わないという選択をすることは現実的ではありません。
AIエージェントによる恩恵は最大限受けるべきで、そのためにはインシデント管理、軽減策、ポストモーテムが必要になると語られました。

まずは

オブザーバビリティ
インシデント対応プロセス構築
情報共有と連絡手段

のように基本をしっかりと整えることが大切であるとのことでした。

また、AIエージェント時代だからこそ、起きてしまったインシデントはきちんと分析して改善に繋げることが重要であると語られました。

さらに、開発・運用において「フルサービスオーナーシップ」の適用が必要とのことです。
これは「コードを書いたものが、その責任を負う」という考え方で、開発と運用でチームを分けるのではなく、
設計や実装において最も精通している人が、製品開発のライフサイクルを回すことに対して責任を引き受けるという運用モデルです。
これによってインシデント発生から復旧までの時間が短縮されます。また、開発者は品質に対して責任感を持つようになります。

感想

AIエージェントを活用するメリットに注目が集まる中で、AIによって起こるインシデントとその向き合い方についてお話しされているのが印象的でした。
AIエージェントの恩恵を受けつつ、安定したシステムの運用をするためにはインシデントに備えた体制を作っていくことが重要であると学びました。
今後は弊社でもAIエージェントを活用した開発が活発になると思われますが、メリットばかりに目を向けるのではなく、運用を見据えた活用をしていきます。