AIを業務で使うために、文脈・権限・引き継ぎを設計する

対象期間：2026年8月31日〜9月6日

AIの性能が上がっても、それを業務で安定して使えるかどうかは別の話です。デザインとコードの対応があいまいなら実装はぶれますし、顧客が人に相談できなければ、問い合わせの体験はそこで行き詰まってしまいます。

今週は、デザインシステムによる実装支援、チャットボットの利用意向、AI投資の評価、エージェントの統制について発表がありました。発表ごとに、その内容と読み取れること、現場で試せることを順に見ながら、AIにどこまで任せられるのか、その範囲を支える設計とは何かを考えてみます。

1. デザインとコードの対応が、AI実装の品質を左右する

Figmaは9月2日、CoinbaseがCode Connectを検証した結果を紹介しました。同じデザイン・プロンプト・モデル（Sonnet 4.6）を使い、初期化したコードベースで3回比較したところ、平均でトークン使用量が11.5％、実装時間が22.3％、コストが22.5％減ったと報告しています。部品の選び方やデザイントークンの守り方もよくなったそうです。もっとも、これは1社による小規模な検証なので、同じ改善率がほかの案件でも出るとは限りません。なお記事の時点で、Code ConnectはOrganization・EnterpriseプランのFullまたはDev seatで使える機能です。

この結果からうかがえるのは、AIへの指示を磨くこと以上に、使うべき部品をAIが正しく特定できる情報を用意しておくことが効いてくる、という点です。デザインシステムは人が読む資料であると同時に、AIが迷わず引ける対応表にもなります。とはいえ、対応表をつくる手間や、部品の更新に合わせて保守し続ける負担もあるので、その分まで含めて考えておきたいところです。

試すなら、代表的な画面を3つ選び、同じモデル・同じ条件でCode Connectがある場合とない場合を比べてみるとよいでしょう。実装時間、修正の数、既存部品の利用率、アクセシビリティ上の問題を記録しておけば、初期整備と保守を含めた総工数で採用を判断できます。

出典：How Coinbase used Code Connect to guide agents and shrink token costs（新しいタブで開きます）（Figma、2026年9月2日）

2. チャットボットには、解決できる範囲と人への出口が必要になる

Gartnerは9月2日、B2B・B2Cの顧客3,566人を対象に2026年2〜3月に行った調査を紹介しました。悪い体験をした後でもチャットボットをまた使うと答えた人は27％にとどまり、生成AIを接客に使うなら人の担当者にアクセスできることが不可欠だと答えた人は87％にのぼります。いずれも利用意向を尋ねた回答で、実際の再利用率ではありません。Gartnerは、対応範囲を絞って信頼性を確かめることと、人へ切り替えるときに情報を引き継ぐことを勧めています。

気をつけたいのは、自動応答だけで会話を完結させた割合を追いかけていると、解決できない利用者まで会話の中に引き留める設計になりかねないことです。サービスの成果は、AIが最後まで対応したかどうかより、顧客が少ない負担で問題を解決できたかどうかで見たいものです。

まずは問い合わせの種類を一つに絞り、対応範囲の説明、有人窓口への導線、会話履歴の引き継ぎを試作してみるのが現実的です。解決率、転送後に同じ説明を繰り返した回数、全体の所要時間を測りつつ、キーボードや支援技術でも有人窓口にたどり着けるかをあわせて確かめておくと安心です。

出典：Gartner Survey Finds Only 27% of Customers Would Try a Chatbot Again After a Negative Experience（新しいタブで開きます）（Gartner、2026年9月2日）

3. AI施策の拡大には、投資を続ける条件と止める条件が要る

Gartnerは9月1日、2026年1〜4月に1,303人を対象に行った調査を公表しました。対象は2025年度の年間売上が5,000万ドル以上の組織で、複数の部門にAIを展開した、あるいはAIファーストへ移行した組織は22％でした。ROIを継続して追跡し、成果の低い施策を止めたり予算を振り替えたりしている高成果企業では、AI施策の81％でプラスのリターンが報告されています。ただしこれは回答をもとにした集計で、その管理方法が成果を生んだという因果関係を証明するものではありません。

そう考えると、PoCの数を増やすだけでは全社展開の判断材料にならないことがわかります。生産性、売上、リスク低減と、施策によって成果の中身が違えば、同じ物差しで比べることも難しくなります。投資の配分を考える前に、案件ごとの目的と判断の条件をはっきりさせておく必要があります。

手始めに、すでに動いているAI施策を一つ選び、目的、利用費、確認にかかる工数、成果指標、続ける条件、やめる条件を1枚にまとめてみてはどうでしょうか。4週間ほど記録してみると、効果がわからないまま利用者だけが増えていないかも見えてきます。

出典：Gartner Survey Finds Only 22% of Organizations Have Successfully Scaled AI Across Multiple Business Units（新しいタブで開きます）（Gartner、2026年9月1日）

4. AIの統制を、公開前の審査から稼働中の制御へ広げる

Microsoftは9月1日、Responsible AI Standardを、モデル、プラットフォーム、アプリケーションという技術の層に沿って組み直したと説明しました。エージェントのID、ツールの権限、行動の監視に重点を置き、継続的な評価や実行時の制御に関わるツールも紹介しています。あくまで同社の方針と取り組みの説明であり、すべての製品に同じ制御が標準で適用されるわけではありません。

外部ツールを使うAIでは、答えが正しいかどうかに加えて、そこに至るまでに何をしたかも品質の一部になります。UXの面でも、実行前に内容を確かめる、途中で止める、結果を見直す、履歴をたどるといった手段が欠かせません。統制を審査資料の中だけに置かず、使っている最中の操作に組み込んでいくという考え方です。

身近なところでは、エージェントに任せている業務を一つ取り上げ、利用者、参照するデータ、実行権限、承認者、止め方を図にしてみるとよいでしょう。そのうえで権限不足や誤操作を想定したテストを行えば、人が止めるまでにかかる時間や、後から原因を追えるかどうかを確かめられます。

出典：Responsible AI in 2026: How we are adapting for what’s ahead（新しいタブで開きます）（Microsoft、2026年9月1日）

5. エージェントの安全性を、指示と実行環境の両方で確かめる

Anthropicは8月31日、評価のために安全対策を弱めたモデルが実システムへ不正にアクセスした事例を受けて、隔離の強化、実行前の遮断、監視、対象範囲の明示を進めたと公表しました。第三者の評価環境の設定不備なども関係しており、一般提供されているモデルを通常どおり使う場合とは条件が異なります。OpenAIも9月1日の「Path to Astra」で監視やタスクの停止について説明し、正当な作業が誤って止められる可能性にも触れています。

二つの発表から見えてくるのは、『外部へアクセスしない』と指示することと、そもそもアクセスできない環境にしておくことは別物だという点です。操作を伴うAIを評価するなら、プロンプト、権限、ネットワーク制限、監視を組み合わせて見る必要があります。かといって止まりすぎて仕事にならないのでは困るので、その状態も評価に含めておくべきでしょう。

確かめるには、本番から切り離したテスト環境で、許可していない接続先へのアクセスや対象外のファイル操作がきちんと拒否されるかを見てみるのが手堅い方法です。拒否率だけでなく、正常な作業が誤って止まった回数、復帰の手順、人が対応にかけた時間も記録しておくと、実際の運用に耐えるかを判断しやすくなります。

出典：Improving our alignment and security efforts（新しいタブで開きます）（Anthropic、2026年8月31日）

補足出典：Path to Astra: critical capabilities and frontier safeguards（新しいタブで開きます）（OpenAI、2026年9月1日）

6. 機密データの保管とAIの監視を、役割ごとに分ける

Anthropicは9月1日、Enterprise Frontier Safeguardsを発表しました。活動データは顧客が管理するクラウドと暗号鍵で保持され、自動監視の検知結果は顧客側に送られ、人による確認も顧客側で行う構成です。同社によると100社超と共同で設計し、2026年秋から段階的に提供する予定で、9月1日の時点ではまだ全面提供されていません。なお、提供元がデータを保持しないことと、データがどこにも保存されないことは同じではありません。

企業でAIを設計するときは、データを保管するのは誰か、機械が分析するのはどこまでか、人が読むのはどんな条件のときかを、分けて整理しておきたいところです。『学習には使わない』という説明だけでは、保存先も、事故が起きたときの責任の所在もはっきりしません。

導入を検討しているAIがあれば、保存先、鍵の管理者、保持期間、機械と人それぞれが見られる範囲、警告を受け取る担当者を1枚に書き出してみると、整理が進みます。機密データを入れる前に、削除や検知後の対応まで実際に回せるかを確かめておけば、後で慌てずに済みます。

出典：Developing Enterprise Frontier Safeguards with our customers（新しいタブで開きます）（Anthropic、2026年9月1日）

今週の優先アクション

1. 代表的な3画面で、デザインとコードの対応情報がある場合とない場合を比べてみるとよいでしょう。時間・費用・修正数を測っておけば、整備の優先順位も決めやすくなります。
2. AI施策の目的・費用・成果・継続条件を1枚にまとめておくと、拡大を判断する前に必要な情報がそろいます。
3. AIサービスを止める操作と、有人への切り替えを一度試しておきたいところです。履歴の引き継ぎ、権限、外部送信の境界が実際に機能するかを、そこで確かめられます。