公開日：2024-01-15

【セミナーレポート】ChatGPT活用のガイドラインを作成した東京都、安全かつ効果的な活用事例とは？

読了まで：13分

OpenAIが令和4年11月に公開した生成AI「ChatGPT」。リリース直後からユーザーを爆発的に増やし、社会現象にもなりました。その自然言語処理能力の高さから、官民問わず多方面で業務への活用が検討されています。

しかし、生成AIについては未知数の部分もあり、導入を迷う自治体も多数。今回は、GPT活用を推進している東京都の担当者と、この領域に知見を持つ「アルサーガパートナーズ」の代表が登壇。生成AIに関する情報共有と意見交換を行いました。

概要

□タイトル：ChatGPTを安全かつ効果的に利用する方法とは～東京都の活用事例からポイントを探る～
□実施日：2023年12月1日（金）
□参加対象：自治体職員
□開催形式：オンライン(Zoom)
□申込者数：210人
□プログラム：
　第１部：ChatGPTとは何か？
　第２部：東京都における文章生成AIの活用と今後の展望
　第３部：パネルディスカッション～行政×ChatGPT/生成AI 新技術にどう向き合うか～

ChatGPTとは何か？

ChatGPTを活用する自治体や企業が増えていく中、今後の導入を検討する自治体は何に注意し、どのように利用すればいいのか。第1部では、DX最前線で活動を続けるアルサーガパートナーズの小俣氏より、ChatGPTの基礎知識から活用方法に至るまで、同社が持つノウハウをもとに解説してもらった。

＜講師＞

小俣泰明氏
アルサーガパートナーズ株式会社
代表取締役CEO/CTO

プロフィール

日本ヒューレット・パッカードやNTTコミュニケーションズなどの大手ITベンダーで技術職を担当し、システム運用やネットワーク構築などのノウハウを習得。現在は代表取締役でありながら自ら企業へ赴き、エンジニアの経験を活かし、ITトレンドとIT技術ノウハウの両側面を加味した「勝率をあげる開発」の提案で様々なプロジェクトのアドバイザーとして活躍。

GPT導入前の課題・懸念について

自治体における導入前の課題として、「セキュリティ」や「回答の信頼性」への懸念があると思われます。セキュリティの観点でいうと、大手企業の多くでは、社内のGPTシステムを使う形でリリースしています。つまり、スマホアプリやWebブラウザでChatGPTにアクセスした場合、入力した情報はOpenAIが解析するリスクがあるため、そのまま利用するのは禁止するという対策です。

この懸念に対しては、API通信で解消することが可能。自治体の場合は省庁管理サーバーというクラウドがありますが、このようなクラウドサーバーを立て、ここからAPI通信で生成AI技術を利用します。こうした場合については、OpenAIが「AIに学習させない」という利用規約を表明しています。サーバーを間に挟むことで、職員が行政内の情報をテキスト入力しても問題ない状況が実現できるのです。

もう1点、セキュリティポリシーの問題があります。規約の中に「国内にデータセンターがあること」という項目を設けているケースがあると思いますが、OpenAIのAPIはアメリカに直接アクセスしている状況です。それを解決するのが、例えばマイクロソフトのAzure OpenAI Serviceのようなサービスです。国内にデータセンター環境を用意しているので、これによりセキュリティポリシーへの抵触が回避できます。

検索ポータルと比較して分かるGPTの優位性

ここで、GPTとGoogleを比較してみます。

回答の精度という点では、両サービスとも正しさの判断は必要ですが、GPTは対話を進めることにより深掘りができ、より的確な回答が得られます。対してGoogleは、複数の検索結果から目的の情報を探す必要があります。

作業時間については、Googleの場合、目的の情報が掲載されているサイトをいくつかチェックし、その中から必要な情報を見つけるという工程が生じるので時間がかかります。GPTは目的の情報だけを瞬時に導き出せるので、こちらの方が上まわっているといえます。

ちなみに、「GPTは最新の情報を収集できないのでは」という指摘もありますが、これをクリアした生成AIも多く存在しています。当社もそうした技術を持っていますし、マイクロソフトのBingなども同様です。この点についてはGoogleも最新情報にアクセスできるので同等といえます。

これらを総合して考えると、今後の情報収集はGPTを経由して行うという文化になっていくのではないかと考えられます。

費用対効果で見るGPT導入のメリット

その他、導入前の課題としては、OpenAIがエンタープライズ版の対応を正式に進めているので「導入を急がなくてもいいのでは」という声もありますが、同社の動きは英語圏での対応が優先なので、日本語の対応は数年先。それまで国内では使いづらい状況が続くと想定されます。

もう1点は費用対効果です。以下は大ざっぱな算定ですが、「チャットボット」「人力」「GPT」それぞれで運用した場合の比較表です。

この評価で見ると、GPTは質問と回答を対で持たせる必要がないため、作業コストが不要。チャットボットの場合はQA表をテキストでつくらなくてはなりません。しかも質問を少し間違えると回答にたどり着けない。GPTの場合は対話を続けることで回答に到達できます。人とのコミュニケーションに近い形で目的を実現できるのです。

導入後の課題と、生成AIがもたらす未来について

続いて、GPTサービス導入後の課題について。「GPTを導入したが具体的な活用イメージができていない」という企業・団体も多くあります。ではどう使っていくか。当社が考える方向性は、組織内・組織外を問わず同じインターフェースで管理ができるという仕組みです。

従来のケースでは、組織内で書類などを検索する際にはファイルサーバーを検索し、組織外のデータはインターネットから検索して探すという流れでした。それに対して我々が目指すのは、こうした一連の作業が1つのUIの中でできるというものです。これが業務改革につながると考えています。

また、GPTに指示を与える“プロンプト”が使いづらいという課題を抱えている企業・団体もあります。これについては、業務課題に寄せた具体的な目的設定をすることが重要です。フェーズ1として、まずは社内情報を取り込んで、社内FAQや各部門の問い合わせ内容などを全てGPTで回答できる状況をつくります。そしてフェーズ2では、“頻度が高い・効果がある”という業務課題を具体的に落とし込む。例えば教育の週報や申請書類の自動作成などを課題に落とし込み、その部分の機能を追加していくことで改善するという考え方です。

最後に生成AIの未来について。プロンプトの領域はいずれ民主化されるでしょう。例えばGPTsや、プロンプトパークといったサービスがすでに存在し、これらには最初から優秀な質問文がセットされている。それを使うことにより、求める結果が迅速に得られるようになる。質問力の向上は、ツールの力で改善されるだろうと考えられます。

その上で、組織内外のデータを統合すれば、1つのブラウザで回答が得られるようになる。サイトへのアクセスによる感染リスクを気にすることなく、インターネット、行政内を問わず求めている情報を全て得られるサービスになるということが、ChatGPTを使う未来像だと我々は考えています。

東京都における文章生成AIの活用と今後の展望

第2部は、全職員5万人を対象にChatGPTの活用を推進する東京都から、プロジェクトリーダーの尾関氏が登壇。都が作成した文章生成AI活用のガイドラインに関する説明を軸に、検討から運用までのステップ、そして今後の展望までを語ってもらった。

＜講師＞

尾関元氏
東京都デジタルサービス局企画調整担当部長
（生成AI検討プロジェクトチームリーダー）

プロフィール

平成7年入都。水道局、健康局（現保健医療局）、知事本局（現政策企画局）にて計画・調整などの業務に従事。特に水道局に長く携わり、営業所や本庁各部での管理職経験を持つ。令和5年4月より現職。東京都生成AI検討プロジェクトチームのリーダーを務める。

東京都がGPT導入時に検討した様々な事項

東京都では、令和5年8月から都庁の全職員5万人を対象として、文章生成AIであるChatGPTを利用できるようにしました。まずは、活用を目指した経緯から伝えます。

令和4年末から、ChatGPTが非常に大きな話題となりました。東京都は令和5年2月に日本マイクロソフト社と連携協定を締結したこともあり、直接同社から都知事を始めとする幹部にChatGPTの紹介がありました。そうした経緯があり、デジタルサービス局で情報収集を始めたのです。

生成AIは、業務のあり方を大きく変革する可能性を秘めています。しかし一方で、情報漏えいや、俗に“うそをつく”と言われるハルシネーションを起こすなど、様々なリスクが指摘されています。4～5月の状況では、業務利用を禁じる自治体も出ており、我々も慎重に検討を重ねました。検討の視点は主に下図左の3つです。これらをガイドラインに盛り込んでいくことにしました。

また、文章生成AIの活用方法については、文献やネットの調査だけでなく、職員自らChatGPTを使ってみた上で、“アイデアソン”という手法により活用事例を蓄積しました。アイデアソンは、アイデアとマラソンを掛け合わせた造語で、グループごとにアイデアを出し合い、マラソンをするようにアイデアをブラッシュアップしていく手法です。

8月のガイドライン作成までに全3回のアイデアソンを実施し、どのような分野での活用が向いているのか、また不向きな分野は何かと検証しました。そして8月23日に、利用ルールや活用のコツ、今後の展望までをまとめた文章生成AI利活用ガイドラインを職員向けに展開すると共に、オンラインでも一般公開しました。以下、抜粋で紹介すると共に昨今の都庁の状況についても報告します。

安全に利用を拡大するため、庁内で実施した対策

まず東京都における生成AIの利用環境について。都庁ではマイクロソフトのAzure OpenAI Serviceを利用し、クローズで安全な共通基盤として整備しました。これはデジタルサービス局の職員がkintoneのプラグインであるFormBridgeを用いて内製したインターフェースです。

ChatGPTを直接使わずに、Azure OpenAI Serviceを利用することにしたのは、当該サービスが日本の法律を準拠法として、万一訴訟などになった場合でも管轄裁判所は日本国内になる、といった判断もありました。入力データについては、opt out申請を行うことにより、入力データが学習目的で利用されないようにした上で、入力データの保存はMS側のサーバーでは行われないことを確認し、データの漏えいリスクを可能な限り低減しています。利用上のルールは、大きく以下の4点です。

また、ガイドラインではプロンプトのコツについても言及しています。ここでは、SNSでの発信文を作成した事例を紹介します。

作成の例は、都心からも近い登山スポットで多くの観光客が訪れる高尾山での取り組みの発信を取り上げています。高尾山には山中に看板が置いてあり、そこに載っている二次元コードを読み取ると高尾山に生息している動物の動画がスマホの中にあらわれて一緒に自撮り写真が撮れる機能があるのですが、こうした説明を正確に知らせる文面を文章生成AIに頼むとどうなるのか、というものです。

プロンプトは上図の左側にあります。まずは発信者の立場を明確にし、目的や背景を指示した上で、求めている出力形式を指定すると、生成AIの回答が出てきます。その後は続けてAIにブラッシュアップのための指示を与える。例えば「ARという言葉が分かりやすい文面に」と入力すると、ARの説明を加えたSNSの投稿文が出てきます。ガイドラインではこうしたコツを掲載して、職員に生成AIの特性を踏まえた利用を促しています。

GPT導入における現時点の振り返りと今後の展望

最後に、生成AIの活用検証で見えてきた課題と、今後の展望について話します。取り組みの中では、利用する職員が限られたり、どう活用していいか分からない職員もいたりすることから、活用を広めるために“職員アイデアソン”として、外部の有識者を招いた勉強会とプロンプトのブラッシュアップを行っています。これらの成果はプロンプト集としてまとめて、今後庁内で共有していく予定です。

また、活用検証として職員アンケートも実施しました。集計結果によると、業務における主な用途としては、アイデアだしや文章の作成、考えの整理といった場面で活用されています。生成AIは、つい検索に使ってしまいがちですが、普通のインターフェースで使う場合は向いていないといえるので、よりAIの特性を踏まえた利用が重要だと考えています。

また、業務時間の短縮効果は上図の通りです。全ての業務に生成AIが対応できる訳ではなく、使える業務もあって、内容によっては業務時間が短縮されたと分析しています。ただし、業務の質が向上したという回答も多いので、効率化だけで見ていくのもどうか、という面もあります。

ここで伝えた内容は、あくまでも東京都における文章生成AI活用の取り組みですが、我々も今ちょうど課題が見えてきている、というところにいます。今後は、さらにどう使っていくのが効果的なのかという点を追求し、インターフェースも改善し、様々なしかけも導入していって、より高度な業務利用へ進化させていきたいと考えています。

パネルディスカッション
～行政×ChatGPT/生成AI 新技術にどう向き合うか～

第3部は、本セミナーに登壇いただいた2人によるパネルディスカッション。今後の導入を検討する自治体が抱えがちな悩み・疑問に対する答えを、それぞれの立場から語っていただいた。

【パネリスト】

尾関元氏（東京都デジタルサービス局企画調整担当部長）
小俣泰明氏（アルサーガパートナーズ株式会社代表取締役CEO/CTO）

-自治体におけるGPTの導入にあたって、必要なルールや制度は何でしょうか。

尾関：やはり情報漏えいに対する懸念が大きいので、東京都としては利用環境の制限を設けて、プロンプトが保存されない、それから学習されない「opt out」環境だということをしっかり定めています。それらに加え、個人情報や機密性の高い情報は入力しないとか、著作権に対する配慮、あとはハルシネーションへの注意、そういったものをしっかり定めていくことが必要だと思います。

-導入後、業務改善につなげていくためのポイントを教えてください。

小俣：生成AIがはやっているから導入する、ということが目的になってしまい、導入後はほぼ使われていない企業・団体も多くあります。これに対する当社の取り組みは、社内の情報が回答できるという環境の構築です。ChatGPTで、社内事務に関し「○○の申請方法はどうやるのか」「□□の入力項目には何を入れればいいのか」といった質問をすると的確に返ってくるので、自然に利用者数が増えていきます。目的を業務に絡めるような導入の仕方をすると利用が拡大し、業務改善も進むのです。

-都庁では約5万人の職員が使えるように導入したということですが、大規模な人数に対して理解を進めるコツはありますか。

尾関： ChatGPTの挙動は癖があるので、プロンプトの技術はある程度必要です。それを5万人に分かってもらうには地道な努力しかありません。食わず嫌いの職員もいるので、各部署をまわってのアイデアソンや勉強会などを積み重ね、部署ごとのエバンジェリストが広めていくような形で浸透を図っています。

あとは、単語やキーワードを入れ替えていくと精度の高い回答が生成されるプロンプト集をつくる、といった工夫をして、着実に広げていくことが大切だと考えています。

-生成AIに関する今後の構想などがあればお聞かせください。

尾関：例えば独自のデータベースのものをつくるとか、「GPT-4 Turbo」を導入するなど構想はあるのですが、コストの問題が切り離せません。今までは低廉で使えていたものにコストがかかってくると、行政ではどうしても費用対効果の議論になるので、効果測定をどうするのか考える必要があります。そこを明確にして説明責任を果たしつつ、コストをかけても使っていけるようにしたいと考えています。

-生成AIをこれから導入して活用していく自治体に向けてメッセージをお願いします。

小俣：当社は国内の生成AI領域、特にGPTの領域では進歩的だと自負しています。Japan IT Week【秋】という5万社が集まるイベントが先日行われたのですが、他社よりも高い技術を実現することに成功しています。インターネットの情報と組織内の情報を統合して回答する技術などはOpenAIでもまだ実現できていないのです。そういった最新の技術を、SaaS版では無料で試せる環境を用意しています。最初は使い方が分からないと思うので、まずは当社に問い合わせの上、サポートのメンバーとコミュニケーションしながら使っていただければと思います。

尾関：このセミナーで、聴衆の約半数はこれから導入、残りの半数はすでに使っていると聞いています。国内では東京都庁が一番先進的という訳ではなく、もっと先進的な自治体はたくさんあります。ただ、東京都は泥臭く取り組みを進めてきたので、これから導入しようという自治体があれば、共通の悩みなどが追体験できるはず。お声かけいただければ経験を共有し、一緒に悩みながら前に進んでいくことができると思うので、気軽にご一報いただければと思います。