社内生成AI活用で業務の課題を解決〜Dify〜
近年、ChatGPTをはじめとした生成AIの活用が広がり、企業でもAIを業務に取り入れたいというニーズが急速に高まっています。例えば、社内問い合わせへの自動回答や社内文書・マニュアルの検索、契約書の確認業務などで生成AIの活用が期待されています。一方で、単にAIに質問するだけではなく、業務に合わせた仕組みを整えたり、運用面に配慮したりするためには、AIアプリケーションを運用・管理するための基盤の構築が必要不可欠となります。この記事では、LLM（大規模言語モデル）を活用した生成AIアプリを開発・運用ができるプラットフォーム「Dify」を紹介します。
- ＋
目次
LLMとは
LLM（大規模言語モデル：Large Language Model）とは、膨大なテキストデータを学習して、文章の生成や理解、要約、翻訳、質問応答などの自然言語処理を高精度で行う人工知能モデルのことです。LLMは文章の統計的パターンや文脈を学習することで、人間が書く文章に近い形で意味のある出力を生成できます。LLMは大きくクラウド型とローカル型に分けられます。
- クラウドLLM
インターネット経由で提供されるLLM。学習済みの大規模データセットや提供元が持つ最新のナレッジを参照して回答を生成。外部のインターネット上の情報やAPIを組み合わせることもできる。
- ローカルLLM
組織内のサーバやオンプレ環境で直接動作させるLLM。社内のドキュメントやデータベースなど、自社環境内の情報を優先的に参照して回答を生成可能。外部にデータを送信せずに処理することができる。
なお、LLMによってはAPIキーの発行および利用量に応じた従量課金が必要となるケースがあります。例えば、GoogleのGeminiは一定の利用上限に達するまでは無償で利用可能ですが、OpenAI（ChatGPT）やAnthropic（Claude）等のクラウドLLMは従量課金がかかる可能性があります。
| メリット | デメリット | 代表例 | |
|---|---|---|---|
| クラウドLLM |
|
|
|
| ローカルLLM |
|
|
|
Difyとは
Dify（ディーフィー）とは、LLM（大規模言語モデル）を活用した生成AIアプリケーションの開発・運用を効率化するプラットフォームです。LangGenius社によって提供され、Dify Open Source License（Apache License 2.0 ベース）でオープンソースとして公開されています。Difyを利用することで、プロンプト設計や外部データ連携、ワークフロー構築など、LLMを活用した各種処理を統合的に管理・実行できます。
Difyでできること
Difyを利用することで、生成AIを活用した業務アプリケーションをGUIから作成できます。専門的なプログラミングの知識がなくても、AIを自社の業務へ組み込めることが特徴です。例えば、次のようなことができます。
- 社内問い合わせに対応するAIチャットボットの作成
- 社内規程や業務マニュアルをナレッジとして登録し、文書に基づいた回答を生成
- ファイルのアップロード、テキスト抽出、ナレッジ検索、LLMによる解析などを組み合わせた業務ワークフローの自動化
また、Difyはプラグインに対応しており、NotionやAmazon S3などの外部サービスと連携できます。社内で管理している文書をナレッジとして活用できるほか、Emailプラグインを利用すれば、AIの処理結果をメールで関係者へ通知することも可能です。これにより、文書確認や問い合わせ対応などの業務を効率化できます。
Difyの内部構成は以下の図のようになっています。
Difyの機能
以下では、Difyの主な機能を紹介します。
チャットボット機能
Difyのチャットボットでは、ユーザからの入力に対して自然言語で応答するだけでなく、プロンプト設計により応答内容を柔軟に制御することが可能です。例えば、文章の要約、特定条件に基づく回答生成、指定フォーマットでの出力など、多様な用途に対応可能です。なお、プロンプト設計における条件の指定は慎重に行い、LLMによる回答が毎回適切となるよう設定を工夫することが重要です。
ナレッジ検索機能
LLMは単体で使用することもできますが、外部データやナレッジベースと組み合わせることで、特定の業務や分野に特化した応答や分析が可能になります。このような仕組みはRAG（Retrieval-Augmented Generation）と呼ばれます。
Difyでは、蓄積されたマニュアルなどの文書や社内資料をナレッジベースとして登録し、ユーザからの質問に対して関連性の高い情報を検索・参照することが可能です。ローカル環境からファイル（txt、PDF、docx、Excelなど）をアップロードしたり、Notionのようなクラウド型の情報管理アプリケーションと連携したりすることで、資料をナレッジとして取り込むことができます。
社内ルールに関する質問への回答イメージ
ワークフロー機能
Difyのワークフロー機能を活用では、複数の処理を組み合わせた業務フローを構築し、一連の作業を自動化することが可能です。具体的には、アップロードした各種ファイルからのテキスト抽出、データの加工・整形、LLMによる高度な解析、結果の出力といった一連の流れを、単一のワークフローとして統合することができます。これにより、従来は手作業で実施していた確認作業や分析業務の効率化および標準化が期待できます。
実行結果のメール通知
Difyでは、Emailプラグインを利用することで、ワークフローやチャットフローの中からメールを送信できます。契約書チェック結果やログ点検結果など、ワークフローの実行結果を関係者へ共有したい場合に有効です。
受信メール画面
メンバー管理機能
Difyでは、複数ユーザによる共同利用を前提としているため、管理画面よりメンバーの招待や登録が可能です。メンバー登録はメールアドレスを指定して招待を行う形式となっており、招待されたユーザが承認することでワークスペースへの参加が可能となります。
なお、Enterprise版を利用することでSSO（シングルサインオン）連携を利用することもできます。SSO連携を利用することで、Dify側で個別にユーザID・パスワードを管理するのではなく、社内で利用している認証基盤にユーザ管理を集約できます。
Difyのプラグイン
Difyには、外部サービスや外部データソースと連携するためのプラグイン機能があります。プラグインには、外部ストレージと連携するもの、データを抽出・加工するもの、検索や外部APIを利用するものなどがあります。これらのプラグインを組み合わせることで、外部に保存されている社内文書やマニュアルなどのファイルをDifyへ取り込み、AIによる情報検索や問い合わせ対応に利用することができるようになります。
なお、Difyのプラグインはインストール自体は基本的に無料ですが、プラグイン経由で利用する外部サービスやAPIの料金が発生する場合があります。
- ＋
モデルプロバイダー系プラグイン
- ★
OpenAI、Gemini、Anthropic Claude、Ollama などのLLMとDifyを連携させるためのプラグインです。これらを利用することで、Dify上で使用するモデルを追加し、チャットボットやワークフロー内で利用できるようになります。クラウドLLMだけでなく、Ollamaなどを利用したローカルLLM との連携にも使用できます。
- ＋
データソース系プラグイン
- ★
外部ストレージや外部サービス上に保存されているファイルをDifyのナレッジとして取り込むためのプラグインです。Google Drive、Notion、Amazon S3、Dropbox、OneDriveなどとの連携が該当します。これらを利用することで、Difyの画面から外部サービス上のファイルを参照し、ナレッジベースへ登録できるようになります。
- ＋
ツール系プラグイン
- ★
ワークフローやチャットボット内で、外部APIの呼び出し、検索、データ取得、計算、変換処理などを実行するためのプラグインです。例えば、Web検索、外部システムへの問い合わせ、特定サービスのAPI 実行などをDifyの処理フローに組み込むことができます。
- ＋
データ処理系プラグイン
- ★
ファイルからのテキスト抽出、チャンク分割、OCR、データ整形など、ナレッジ化やワークフロー処理の前処理に利用するプラグインです。文書ファイルをナレッジとして登録する場合、ファイルの内容を抽出し、検索しやすい単位に分割する処理が必要になるため、これらのプラグインが利用されます。
Difyの利用メリット
Difyを利用することで次のようなメリットがあります。
AIアプリケーションを短期間で構築できる
Difyは、GUIベースで操作できるため、専門的なプログラミング知識やスキルがない場合でも、チャットボットの作成、外部データの取り込み、ナレッジ検索、ワークフロー構築などを行うことができます。そのため、比較的短い期間で自社の業務に合わせた専用のAIアプリケーションの導入を実現することができます。
社内ナレッジを有効活用できる
Difyのナレッジ共有機能を活用することで、従来は担当者が個別に資料を探して確認していた作業を効率化し、社内文書や業務資料に基づいた回答を迅速に得やすくなります。また、複数の保存先に分散している情報をDify上で検索対象として扱うことで、情報活用の利便性向上にもつながります。
業務効率化・生産性向上
Difyのワークフロー機能を利用して複数の処理をワークフローとして組み合わせることで、従来は手作業で行っていた確認作業の効率化や標準化が期待できます。例えば、文書確認やデータ分析などの処理をワークフローで自動化すれば、問い合わせ対応や資料を探す手間や負担を軽減でき、業務改善につながります。
既存システムと連携しやすい
社内ナレッジを有効活用するためには、既存システムと連携できるかどうかも重要です。DifyはNotionやAmazon S3などの外部サービスと連携できるため、既存の情報資産を活用しながら、業務へ生成AIを導入できます。
Difyの活用例
例えば、社内の以下のようなシーンでDifyを活用することができます。
- 社内問い合わせやFAQ対応
Difyに社内規程や手順書、マニュアル資料などをナレッジとして取り込んでおくことで、チャットボット形式で社員からの疑問や質問にスムーズに回答することができます。これにより、社員が持つ課題の早期解決だけでなく、それまで問い合わせ対応をしていた従業員の負担削減にも効果が期待できます。
- データ分析やログ点検
クラウド型・ローカル型のLLMとRAG、ワークフロー機能を活用することで、AIを使った高度なデータ解析を行うBIツールとしても利用可能です。分析した結果を用いて会社の経営判断や意思決定の際に役立てることができます。また、社内のログなどの情報を集めて解析をし、ある一定の条件になった際にメールで通知することもできるため、データの状況をリアルタイムに把握することができます。
- 契約書チェック
契約書の差分検出、契約書が正当性のあるものであるかを判断するワークフローを構築することで、契約書の法務チェック業務を効率化することができます。Emailプラグインを利用すれば、契約書のチェック結果を関係者へ共有する際も便利です。なお「Dify調査報告書」では、実際にDifyを活用した契約書チェックの検証結果についても解説しています。
Dify導入時のポイント
Difyを導入する際に考慮すべきポイントを説明します。
LLMの選定
導入時は、まず利用するLLMを選定する必要があります。選び方の基準として、クラウドLLMは導入しやすい一方で、API利用料などのコスト面やデータの外部送信に注意が必要です。ローカルLLMは、データを自社環境内に留めやすい一方で、サーバリソースやモデル運用の負担が発生します。また、Google DriveなどOAuth認証を使用する外部ストレージと連携する場合は、正式なドメインや証明書が必要になる場合があるため、検証環境や閉域環境で利用する際には事前確認が不可欠です。
プロンプト設計やナレッジ整理の事前準備
LLMで期待した回答を得るためには、プロンプト設計やナレッジの整理、検索設定を十分に検討しておくことが重要です。文書の分割方法や検索設定によって回答精度が変わるため、実際の業務に近いデータを使って調整する必要があります。なお、LLMの回答は常に正しいとは限りません。契約書や機密情報を確認する際など、重要な業務に利用する場合は、AIの出力をそのまま最終判断に使うのではなく、担当者や専門家が確認する運用が必要です。
AI利用の教育・運用体制の整備
LLMを利用する際の注意点として、出力される結果は常に100%正確で信頼できるとは限らないため、回答を過信しないことが重要です。特に契約書確認や法務判断などの重要な業務では、最終的な判断は必ず担当者や専門家が行うことが必須です。また、LLMやRAGの活用は一度導入すればOKというわけではなく、条件設定の見直しやナレッジの定期的な更新も必要です。そのため、継続して運用していくための方針決めや体制づくりも重要となります。
デージーネットの取り組み
デージーネットでは、Difyのインストール方法、初期設定、LLMとの連携、各種機能の使い方について調査・検証し、その詳細を調査報告書としてまとめました。本調査報告書は以下より無料でダウンロードできます。
またデージーネットでは、お客様の業務内容やセキュリティ要件に合わせて、生成AIを活用したシステムの導入をご提案できます。Difyのような生成AIアプリケーション基盤を利用することで、社内文書を活用した問い合わせ対応、業務手順の検索、文書確認の支援、ワークフローによる業務効率化などにAIを活用できます。実際に業務で利用するためには、LLMの選定、サーバ構成、セキュリティ設計、ナレッジベースの作成、プロンプト設計、運用ルールの整備などが必要です。社内ナレッジの活用や、AIによる業務効率化をご検討中の場合は、ぜひお気軽にお問い合わせください。
情報の一覧
Dify調査報告書
Difyとは、LLM（大規模言語モデル）を活用した生成AIアプリケーションの開発・運用を効率化するプラットフォームです。Difyを利用することで、プロンプト設計や外部データ連携、ワークフロー構築など、LLMを活用した各種処理を統合的に管理・実行できます。
デモのお申込み
もっと使い方が知りたい方へ
操作方法や操作性をデモにてご確認いただけます。使い方のイメージを把握したい、使えるか判断したい場合にご活用下さい。デモをご希望の方は、下記よりお申込みいただけます。
