概要
■テーマ：フロントヤードとバックヤードを同時に叶える生成AI×人（BPO）で実現する「全庁最適型・共通窓口基盤」
■実施日：2026/03/17（火）
■参加費：無料
■申込者数：108名
第1部に登壇したのは横須賀市の太田氏。ハルシネーションリスクを前提に、完全な正確性を目指すのではなく「間違えても許容できる領域」での活用へと発想を転換。チャットボットの実証を通じて利用者や用途ごとにリスクと効果のバランスで導入を判断するフレームワークについてお話いただいた。
【講師】
太田 耕平 氏
神奈川県 横須賀市
経営企画部 デジタル・ガバメント推進室 部長
・化学メーカーに勤務後、現在の横須賀市役所に転職
・都市部、市民部、財政部を経て2019年に市役所内のシンクタンク 組織である都市政策研究所（現：都市戦略課）に異動
・2023年4月：デジタル・ガバメント推進室に異動
・2024年4月：室長※セミナー開催時点
・2026年4月：現職
我々がこれまで2年半ほど取り組んできたRAGというもの、またそれと連動したチャットボットの実証の結果と、その使いどころについてお伝えしていきます。
ハルシネーションリスクを起点に活用の前提を捉える
まず、我々が行ってきたことの出口の1つでもあるチャットボットについてご紹介いたします。横須賀市ではこれまで、4つのチャットボットを実験的に運用・実装してきました。
1：にゃんぺい
これは絶対にハルシネーションを起こさないチャットボットを作るための検証です。自治体が運営するチャットボットである以上、誤った回答は許されないため、まずは知識を入れる前の「器」として、完璧なものを作ることを目指した取り組みです。
2：横須賀市長ボット（AIかっちゃん）
これは横須賀市長の上地勝明の名前から、親しみを込めて「かっちゃん」と呼んでいるものです。もともと市長のアバターを使った英語版の情報発信を行っており、その延長でこの名前になっています。
3：他自治体向けの問い合わせボット
横須賀市のAIの取り組みに関して多くの問い合わせをいただいており、それに対応するために作ったものです。
4：市民向け傾聴ボット
最近の取り組みで、24時間365日、市民の悩みに寄り添うチャットボットの実証です。
完全な正確性ではなく許容できる範囲から活用を考える
まず「にゃんぺい」の取り組みです。行政向けのチャットボットとして、間違ったことを言わないことを絶対条件とし、ハルシネーションゼロを目指しました。誤回答を完全になくす「器」を作ることを目的としています。
どのように作ったかというと、まず絶対にハルシネーションをしないチャットボットを構築し、その上で機能検証として、市役所内部で「このチャットボットから失言を引き出したら表彰する」というホワイトハッカーコンテストを実施しました。その後、全国公開で再度検証を行いました。
結果として、市役所内部では4,608回の攻撃に対して101件の失言、約2.2%の発生率でした。中には爆弾の作り方を答えてしまうなど、行政としては非常に問題のある回答もありました。その後修正し、全国公開では36,042回の検証で41件まで減少しました。
ただし、完全にゼロにすることはできませんでした。その理由として、生成AIの基盤となるモデルが日々進化しているため、今日の時点で制御できても、明日にはその制御を突破される可能性があるという点があります。独自のLLMで固定すれば制御は可能かもしれませんが、それでは進化の恩恵を受けられなくなります。
そのため、当時の結論としては、完全な制御は難しいという判断になりました。そこで出した解決策が、「間違えないAIを作るのではなく、間違えても許容できる領域で使う」という考え方です。
つまり、100点を目指すのではなく、80点でも使える運用に舵を切るということです。
利用者と用途に応じてリスクと効果のバランスで整理する
この考え方のもとで生まれたのが「横須賀市長ボット（AIかっちゃん）」です。これは市長の思想や施政方針、議会答弁などを学習させたチャットボットです。さらに、市長に約50問の質問を行い、その回答をもとにペルソナを作り、追加のQ&Aを生成し、それを再度市長に確認してもらうという形で精度を高めました。
この横須賀市長ボット（AIかっちゃん）は、新規採用職員への市長の考えの共有や、若手職員の相談対応に活用されています。市長と直接接する機会が少ない職員にとって、気軽に考え方を知る手段として機能しています。ここでのポイントは、事実確認ではなく、多少間違っても問題ない領域で使っているという点です。
最近では、市長の挨拶文作成などにも活用されています。また、あえて全庁に公開せず、必要な部署に限定して提供することで希少性を持たせる運用もしています。
次に、他自治体向け問い合わせボットです。生成AI活用の初期段階では、電話やメールでの問い合わせが非常に多く、年間100件以上の対応がありました。その中でよくある質問を学習させ、チャットボット化しました。
これにより、他自治体は気軽に情報を得られ、横須賀市側も対応負担が減りました。実際、担当者の電話対応は大きく減少しました。ここでもポイントは、相手が自治体職員であるため、多少の誤りがあっても検証できる前提で運用している点です。
次に、市民向け傾聴ボットです。これは24時間365日対応可能なAIの特性を活かし、夜間などに一次対応として寄り添う役割を持たせました。回答するのではなく、傾聴することに特化しています。
さらに、必要に応じて職員へつなぐ仕組みも設けましたが、実証の結果としては、よりスムーズに人へつなぐ必要があるという意見が多く、完全にAI任せにすることの難しさも見えてきました。
これらを整理したのがマトリックス図です。
影響範囲（内部・外部）とリスク（低・高）で整理し、「間違えても問題ない」「利用者が検証可能」という領域に配置することが、80点運用の条件だと結論づけています。
精度・速度・コストの制約から活用の見極めを行う
続いて内部業務でのRAG活用についてです。契約関連の規則やマニュアルなど20以上のデータを学習させ、職員の質問に答えるチャットボットを実証しましたが、結果としてはあまり良いものではありませんでした。
課題は大きく3つです。まず正確性を高めると、処理時間が長くなり、1回答に15分かかる場合がありました。次にコストが増大し、複数のAIを組み合わせることでAPIコストが跳ね上がりました。つまり、精度・速度・コストのトレードオフが存在します。
さらに、データ整形、回答の正確性評価、データ更新といった運用面の課題もありました。その結果、現時点では無理に作り込むよりも、技術の進化を待つという判断をしました。
まとめとして、横須賀市のフレームワークは、まず「間違えても許容できるか」で判断し、問題なければ80点でも導入する。人の介入でカバーできるなら進める。それが難しければ、技術進化を待つという考え方です。
最後に、スタンスとしてお伝えしたいのは、完璧なAIを作るのではなく、不完全さを前提に使いこなすということです。80点の回答を前提に、人間が残りの20点を補う。その上で現場から使い始め、フィードバックを得ながら育てていく。この考え方で進めています。
本日の内容が少しでも皆様の業務の参考になれば幸いです。
第2部に登壇したのは伊藤忠テクノソリューションズ株式会社の渥美氏。生成AIを業務で扱う技術として位置づけ、従来型チャットボットとの違いを「運用性」と「対応範囲」に置きながら、RAGによるハルシネーション抑制とAIと人の役割分担による住民対応の最適化についてお話いただいた。
【講師】
渥美 秀彦 氏
伊藤忠テクノソリューションズ株式会社
マーケティング企画部 サービス開発課 課長
生成AIを業務で扱う技術として位置づける
生成AIの定義について簡単に整理します。生成AIは「何かを作ってください」という指示に対して、文章や画像、最近では動画まで生成できる技術です。従来のAIは、質問の意味を理解することはできても、回答そのものを文章として作ることができませんでした。つまり、理解はできるが作文はできない状態だったということです。それに対して生成AIは文章を生成できるため、初めて会話として成立するようになりました。
人間で例えると、最初は読めるようになり、その後書けるようになり、最終的に会話できるようになるという成長に近く、この「文章を作れるようになった」という点が非常に大きな進化です。一方で注意点として、いわゆるハルシネーション、つまり誤った情報を出してしまうことや、画像・動画生成における著作権の問題などは意識しておく必要があります。
チャットボットを運用負荷と対応範囲から考える
次に、生成AIをチャットボットに使うと何がすごいのかという点ですが、よく「回答精度が上がるのではないか」と聞かれます。ただ、実際には精度そのものは大きく変わりません。しっかりチューニングされた従来型のチャットボットと、生成AIを使ったチャットボットの正答率はどちらも85〜90％程度です。
では何が違うのかというと、大きくは「運用性」と「回答範囲」です。特に運用面が大きく変わります。従来型のチャットボットは、あらかじめ人が回答文を用意し、それに対応する質問パターンも複数登録しておく必要がありました。質問の言い方が人によって異なるため、5〜10パターンほどの類似表現を用意する必要があり、準備とメンテナンスの負担が非常に大きいのが実態です。
一方で生成AI型は、入力された文章の意味さえ理解できれば、その場で回答を生成します。つまり、事前に大量の回答を用意しておく必要がありません。ただし、回答はモデルが持っている知識だけではなく、対象となるデータを参照して生成されます。例えば、ごみの出し方についての問い合わせであれば、その情報をデータとして用意しておけば、そこから回答を作ることができます。
この違いは運用コストに大きく影響します。従来型では全庁対応のチャットボットを構築する場合、約2000件のQAが必要になり、データ更新や再学習を含めると5年間で3500時間程度の運用コストがかかるケースもあります。それに対して生成AI型では、回答は自動生成されるため、データを更新するだけで対応でき、同じ期間で約800時間程度に抑えられます。理論値ではありますが、約78％の削減になります。
ハルシネーションをデータと仕組みで抑える前提に置く
次に、ハルシネーションについてです。AIが誤った回答をする理由は、人間と似ています。間違った知識を持っていたり、情報が古かったり、会話の流れを優先することで誤った回答をしてしまうことがあります。AIの場合は意図的に嘘をつくわけではなく、モデルの性質として発生します。
その原因の1つが、学習データです。AIは世界中の膨大なデータを学習していますが、その中には正確でない情報も含まれています。また、学習には時間がかかるため、どうしても情報が古くなるという問題もあります。
これに対する対策として重要なのが、RAGという仕組みです。必要なデータだけを参照して回答させることで、誤回答を抑えることができます。
住民対応をAIと人の役割分担で組み立てる
ここからは、弊社の住民向け応答サービスについてご紹介します。これは生成AIチャットボットをベースにしつつ、チャットボット単体ではなく、有人対応も含めたハイブリッド型のサービスです。チャットボットで対応できる80％の問い合わせは自動対応し、残り20％は有人チャットや職員に引き継ぐ仕組みになっています。
システム構成としては、パブリッククラウド上にアプリケーションを置き、その中で生成AIを利用します。回答に使用するデータは、自治体のホームページをクローリングして取得します。つまり、既存のホームページをそのまま活用して回答を生成する仕組みです。
この仕組みの大きなポイントは2つあります。1つは、ホームページに存在する情報だけを使って回答するため、ハルシネーションを大幅に抑えられる点です。もう1つは、ホームページを更新すれば、翌日からその内容がチャットボットの回答に反映されるため、運用負荷が非常に低い点です。
さらに特徴的なのが、全庁対応型である点です。分野ごとにチャットボットを分けるのではなく、すべての問い合わせを1つの窓口で受け付け、内容に応じて内部で振り分けます。例えば、ごみの問い合わせはAIが回答し、福祉の問い合わせは有人対応に切り替えるといった運用が可能です。
最後に、この仕組みをファミリーレストランに例えてご説明します。昔はすべて店員が対応していましたが、現在はタブレットで注文し、セルフレジで会計するなど、セルフサービス化が進んでいます。ただし、何かトラブルがあれば店員を呼べる仕組みがあるからこそ成立しています。
AIチャットボットも同様で、セルフサービスだけでは不十分であり、必要なときに人が対応できる仕組みがあって初めて価値が生まれます。弊社のサービスは、その両方を一体として提供することで、効率化と安心感の両立を目指しています。
第3部に登壇したのは株式会社ベルシステム24の前田氏。住民対応と職員負担の双方にある窓口業務の課題を踏まえ、オムニチャネル化とワンストップ対応を軸に、人とAIを組み合わせて住民サービスの品質向上と職員負担の軽減を両立する次世代BPOサービスについてお話いただいた。
【講師】
前田 英伺 氏
株式会社ベルシステム24
CX第2事業本部 第6事業部 事業部長
住民対応と職員負担の両面から課題を整理する
まず、行政サービスにおける課題について、住民目線と職員目線の双方から整理しております。住民の方からすると、「窓口が多くてどこに問い合わせればよいか分からない」「部門をまたぐと同じ説明を何度もしなければならない」「手続きが分かりにくい」「そもそも利用できる行政サービスを知らない」といった課題があります。
一方で職員の皆様からすると、「問い合わせ対応のための専任人員を配置しなければならない」「担当をまたぐ際に最初から説明を聞き直す必要がある」「電話や窓口に加え、フォームやチャットなど対応チャネルが増えて複雑化している」「対応が属人化し、引き継ぎ負担が大きい」といった課題が挙げられます。
窓口サービスのあり方をオムニチャネルで捉える
こうした課題に対して、当社が目指すべき姿として4つのポイントを掲げております。
1つ目は、利用者一人ひとりの環境に応じた窓口サービス、つまりオムニチャネル化です。スマートフォンやPCに加え、従来の電話や紙申請にも対応することで、住民の方が自分のペースで手段を選べる環境を整えます。
2つ目は、問い合わせ対応の合理化です。セルフサービスで解決できる仕組みを整えることで、問い合わせ件数そのものを抑制します。
3つ目は、いつでも簡単につながる環境です。必要なときに行政サービスへアクセスでき、要件に応じて適切な部門へスムーズに連携される仕組み、さらにマイページによる情報保持なども含めて設計します。
4つ目は、職員業務の効率化と標準化です。デジタルワークフローを活用し、業務の流れを標準化するとともに、ナレッジを蓄積・共有することで対応品質の平準化を図ります。
ワンストップ対応を支える運営と仕組みから考える
こうした考え方のもと、コンタクトセンターのコンセプトとしては大きく2点ございます。1つは、可能な限りワンストップで回答する運営体制です。もう1つは、問い合わせ受付をオムニチャネル化することです。また、システム面ではノーコード・ローコード開発プラットフォームであるServiceNowを活用した構築を行っております。
全体の仕組みとしては、電話の場合は交換機を通じてオペレーターに接続し、その場で回答、または担当部門へ連携します。チャットやAIチャットボットについても同様に、AIで対応できない内容についてはオペレーターが対応するハイブリッド型の運用を行っております。
導入効果を実績から捉え、今後の高度化につなげる
ここで具体的な事例として、神奈川県藤沢市様の取り組みをご紹介いたします。藤沢市様では、ブルーシップ様と共同で、デジタル市役所の実現に向けたコンタクトセンターを構築・運用しております。
導入前の課題としては、「窓口が多く問い合わせ先が分かりにくい」「職員が問い合わせ対応に追われ、本来業務に集中できない」といった点がありました。これに対して、オムニチャネルによる窓口の一元化、オペレーターによる原則ワンストップ対応、問い合わせ内容のナレッジ化とFAQの高度化といった施策を実施しております。
その結果として、いくつかの成果が出ております。まず、窓口の一元化とFAQ整備により問い合わせ数を約10％削減できました。次に、取り次ぎを除いたオペレーター対応の完結率は97.7％を達成しています。また、業務開始から1年間で職員の工数を5,901時間削減しております。さらに、FAQの検索ヒット率も約70％まで向上しております。
現在はさらに、オペレーター向けに生成AIを活用した実証実験も進めており、今後のさらなる高度化を目指しております。
最後にまとめとなりますが、住民向けサービスの品質向上においては、生成AIだけで完結するのではなく、人とAIを組み合わせたハイブリッドな対応が重要だと考えております。BPOとデジタルの融合によって、より良い住民サービスの実現をご支援できればと思っております。
本日はご清聴いただき、誠にありがとうございました。
質疑応答
司会：全庁のホームページを自動学習させているとのことですが、住民からの問い合わせに対して回答を生成する際、ホームページを都度クロールしているのでしょうか。
伊藤忠テクノソリューションズ：問い合わせが来るたびに都度クローリングをしているわけではありません。都度クロールしてしまうと回答までに時間がかかってしまうため、基本的には夜間に定期的なクローリングを行っています。例えば、夜の12時にホームページの更新状況を確認するクローリング処理を実行する、といった設定が可能です。
クローリングにかかる時間はサイトの規模にもよりますが、おおよそ1時間から2時間程度です。その中で、更新されたページや削除されたページの情報を取得し、内容をアプリケーション内に保持します。そして、チャットボットはその保持された情報をもとに回答を生成する仕組みになっています。あらかじめデータを収集しておくことで、チャットボットはおおよそ5秒から6秒程度で回答することができます。この処理を毎晩実行することで、翌日には最新の情報に基づいた回答が可能になります。このような仕組みで運用しております。
司会：ベルシステム24様のBPOサービスについて、他社との違いを教えてほしいです。
ベルシステム24：私どもの特徴についてですが、まず総合窓口の運営を通じて、さまざまな自治体領域に関する知見と実績を蓄積している点が挙げられます。幅広い分野での対応経験があるため、実務に即した運用が可能です。また、その知見を持ったメンバーが運用にあたることで、安定したサービス提供ができる点も強みです。さらに、人に依存する運用だけでなく、システムを含めた仕組み化を行っているため、再現性と品質の高い運用をご提供できると考えております。
本レポートをより深く理解するための用語解説
本レポートに登場した、自治体DXを推進する上で鍵となる3つの主要用語について解説します。
■ LLM（大規模言語モデル）
イメージ：AIの「脳」
人間が話す言葉を学習し、自然な文章を作成・理解できるAIエンジンです（ChatGPTなどが代表例です）。膨大な知識を持っていますが、あくまで「一般的な知識」に基づいているため、特定の自治体の独自ルールや最新情報には詳しくないという特性があります。
■ RAG（検索拡張生成）
イメージ：AIに「資料」を渡して答えさせる仕組み
AI（LLM）が回答する前に、関連する資料（自治体HPや例規集など）を自動で探し出し、その内容を読み取ってから回答を生成する技術です。これまでのAIは「自分の記憶」だけで答えていましたが、RAGは「手元のマニュアルを確認してから答える」ため、情報の正確性が劇的に向上し、自治体実務への適用を可能にしました。
■ API（アプリケーション・プログラミング・インターフェース）
イメージ：システム同士の「窓口（コネクター）」
異なるシステムやサービスを繋ぎ、情報をやり取りするための接点です。本セミナーの例では、住民が使う「チャットボット」と、裏側で動く「AIの脳」を繋ぐ役割を果たしています。APIを活用することで、既存のシステムを活かしながら最新のAI機能を組み込むことが可能になります。
お問い合わせ
ジチタイワークス セミナー運営事務局
TEL：092-716-1480
E-mail：seminar@jichitai.works
関連記事
関連セミナー
