Difyとは

Dify v0.8.1アップデートの概要

Dify v0.8.1へのアップデート方法

​# 1.docker-compose.yamlファイルのバックアップ (任意)
cd docker
cp docker-compose.yaml docker-compose.yaml.$(date +%s).bak

# 2.最新コードの取得
git checkout main
git pull origin main

# 3.サービスの停止 (dockerディレクトリで実行)
docker compose down

# 4.データのバックアップ
tar -cvf volumes-$(date +%s).tgz volumes

# 5.サービスのアップグレード
docker compose up -d

DifyでOpenAI o1モデルを使用する方法

Difyでo1-previewを使ってみる

第一問

長さLcmの竿の上をn匹のアリが毎秒1cmのスピードで歩いています。アリが竿の箸に到達すると竿のしたに落ちていきます。また、竿の上は狭くてすれ違えないので、に匹のアリが出会うと、それぞれの反対を向いて戻っていきます。各アリについて、現在の竿の左端からの距離xiはわかりますが、どちらの方向を向いているのかはわかりません。全てのアリが竿から落ちるまでにかかる最小の時間と最大の時間をそれぞれ求めなさい。 制約： 1≦L≦10^6、1≦n≦10^6、1≦xi≦L

​L = 10
n = 3
x_list = [2, 6, 7]

t_min = 0
t_max = 0

for xi in x_list:
    t_min_i = min(xi, L - xi)
    t_max_i = max(xi, L - xi)

    t_min = max(t_min, t_min_i)
    t_max = max(t_max, t_max_i)

print(t_min)
print(t_max)

​def calculate_time(L, n, positions):
    min_time = 0
    max_time = 0
    
    for pos in positions:
        # 各アリについて最小到達時間を計算（近い方の端までの距離）
        min_time = max(min_time, min(pos, L - pos))
        # 各アリについて最大到達時間を計算（遠い方の端までの距離）
        max_time = max(max_time, max(pos, L - pos))
    
    return min_time, max_time

# 与えられた入力
L = 10
n = 3
positions = {2, 6, 7}

# 結果を計算
min_time, max_time = calculate_time(L, n, positions)

print(f"最小時間: {min_time}")
print(f"最大時間: {max_time}")

第二問

​重さと価値がそれぞれwi, viであるようなn個の品物があります。これらの品物から、重さの総和がWを超えないように選んだときの、価値の総和の最大を求めなさい。 制約：1≦n≦100、1≦wi,vi≦100、1≦W≦10000

n = 4
items = [(2, 3), (1, 2), (3, 4), (2, 2)]
W = 5

# DPテーブルの初期化
dp = [0] * (W + 1)

# 各品物についてDPテーブルを更新
for wi, vi in items:
    for w in range(W, wi - 1, -1):
        if dp[w - wi] + vi > dp[w]:
            dp[w] = dp[w - wi] + vi

# 結果の出力
print("最大の価値の総和:", max(dp))

​def knapsack(n, items, W):
    # DPテーブルを作成
    dp = [[0] * (W + 1) for _ in range(n + 1)]

    # DPテーブルを埋める
    for i in range(1, n + 1):
        weight, value = items[i - 1]
        for w in range(W + 1):
            if w >= weight:
                # アイテムを選ぶ場合と選ばない場合の価値の最大を選択
                dp[i][w] = max(dp[i - 1][w], dp[i - 1][w - weight] + value)
            else:
                # アイテムを選ばない場合
                dp[i][w] = dp[i - 1][w]

    # 最大価値を返す
    return dp[n][W]

# 入力
n = 4
items = [(2, 3), (1, 2), (3, 4), (2, 2)]
W = 5

# 実行
max_value = knapsack(n, items, W)
print("最大価値:", max_value)

​​​生成AIを使用したシステム開発のご要望はこちらから

​記事の投稿者：掛谷知秀 株式会社スクーティー代表取締役 デジタル一眼レフカメラのファームウェア開発、広告システムの設計、実装、管理などを経て、2012年にベトナムに渡航。2015年に株式会社スクーティー創業。ベトナムのオフショア開発事業を展開中。直近ではChatGPTとのシステム連携や、生成AIを使用したプロダクト開発など、生成AI領域に注力している。また、個人でもOpenAI APIやDifyを使用したアプリケーション開発を趣味としてやっている。​

​​​その他の生成AI関連サービス

​安全な環境でChatGPT「セキュアGAI for enterprise」 セキュアGAI for enterprise で、安全にChatGPTを使用できます。Azure OpenAI API Serviceを使用して、Azureのプライベートな環境内で完結するChatGPTと同様の機能を提供します。

AIが接客「バーチャルアシスタント」 接客ができる人材の確保にお困りではありませんか？バーチャルアシスタントが人材不足の課題を解決します！多言語も対応可能です。

Llama 3.2 の全体像

ライセンス

​Llama 3.2 Vision: マルチモーダル機能の詳細

​Llama 3.2 Visionの​主な特徴

推論例

ベンチマーク結果

出典：https://ai.meta.com/blog/llama-3-2-connect-2024-vision-edge-mobile-devices/

Llama 3.2 1B・3B：オンデバイス実行に特化した軽量モデル

​Llama 3.2 1B・3Bの主な特徴

オンデバイスだからこそ効果的なユースケース

ベンチマーク結果

出典：https://ai.meta.com/blog/llama-3-2-connect-2024-vision-edge-mobile-devices/

​Llama 3.2 の利用方法

Hugging Faceでのデモ

​まとめ

​​生成AIを使用したシステム開発のご要望はこちらから

​記事の投稿者：掛谷知秀 株式会社スクーティー代表取締役 デジタル一眼レフカメラのファームウェア開発、広告システムの設計、実装、管理などを経て、2012年にベトナムに渡航。2015年に株式会社スクーティー創業。ベトナムのオフショア開発事業を展開中。直近ではChatGPTとのシステム連携や、生成AIを使用したプロダクト開発など、生成AI領域に注力している。また、個人でもOpenAI APIやDifyを使用したアプリケーション開発を趣味としてやっている。​

その他の生成AI関連サービス

安全な環境でChatGPT「セキュアGAI for enterprise」 セキュアGAI for enterprise で、安全にChatGPTを使用できます。Azure OpenAI API Serviceを使用して、Azureのプライベートな環境内で完結するChatGPTと同様の機能を提供します。

AIが接客「バーチャルアシスタント」 ​​​接客ができる人材の確保にお困りではありませんか？バーチャルアシスタントが人材不足の課題を解決します！多言語も対応可能です。

Contextual Retrievalとは

Contextual Retrievalの動作メカニズム

従来のRAGにおけるチャンク分割とContextual Retrievalを用いたチャンク分割の例

従来のRAGとの違い

​Contextual Retrievalにおける情報検索の仕組み

従来のRAGの仕組み　出典：https://www.anthropic.com/news/contextual-retrieval　に掲載されている図を筆者が編集

Contextual Retrievalの前処理　出典：https://www.anthropic.com/news/contextual-retrieval　に掲載されている図を筆者が編集

Contextual EmbeddingsとContextual BM25

Contextual EmbeddingsとContextual BM25の連携

BM25とTF-IDF

​ベンチマーク結果

Contextual Embeddings単体とContextual BM25との組み合わせにおける検索失敗率の比較　出典：https://www.anthropic.com/news/contextual-retrieval

再ランクありの場合の検索失敗率の比較　出典：https://www.anthropic.com/news/contextual-retrieval

Contextual Retrievalの実装例

プロンプト設計の例

<document>
{{ドキュメント全体の内容}}
</document>
ドキュメント全体の中に配置したいチャンクは次のとおりです。
<chunk>
{{チャンクの内容}}
</chunk>
このチャンクの検索性を向上させるために、このチャンクを文書全体の中に位置づけるための簡潔なコンテキストを記述してください。簡潔な文脈のみを答え、それ以外は答えないでください。

Contextual Retrievalの実装例

from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import Chroma
from langchain.llms import OpenAI
from langchain.chains import RetrievalQA

# OpenAIのAPIキーを設定
import os
os.environ["OPENAI_API_KEY"] = "YOUR_OPENAI_API_KEY"

# 埋め込みモデルとLLMを初期化
embeddings = OpenAIEmbeddings()
llm = OpenAI(temperature=0)

# ドキュメントをロードし、チャンクに分割
with open("document.txt", "r") as f:
    document = f.read()
chunks = document.split("\n\n")  # 空行でチャンクを分割

# 各チャンクに対して文脈情報を生成
contextualized_chunks = []
for chunk in chunks:
    context = llm(f"""
    <document>
    {{ドキュメント全体の内容}}
    </document>
    ドキュメント全体の中に配置したいチャンクは次のとおりです。
    <chunk>
    {{チャンクの内容}}
    </chunk>
    このチャンクの検索性を向上させるために、このチャンクを文書全体の中に位置づけるための簡潔なコンテキストを記述してください。簡潔な文脈のみを答え、それ以外は答えないでください。
    """)
    contextualized_chunks.append(f"{context} {chunk}")

# 文脈情報が付加されたチャンクをベクトルデータベースに保存
db = Chroma.from_texts(contextualized_chunks, embeddings)

# RetrievalQAチェーンを作成
retriever = db.as_retriever()
qa = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=retriever)

# クエリを入力して回答を取得
query = "会社の第2四半期の業績はどうでしたか？"
answer = qa.run(query)

# 回答を出力
print(answer)

​Contextual Retrievalの応用事例と今後の展望

生成AIを使用したシステム開発のご要望はこちらから

​記事の投稿者：掛谷知秀 株式会社スクーティー代表取締役 デジタル一眼レフカメラのファームウェア開発、広告システムの設計、実装、管理などを経て、2012年にベトナムに渡航。2015年に株式会社スクーティー創業。ベトナムのオフショア開発事業を展開中。直近ではChatGPTとのシステム連携や、生成AIを使用したプロダクト開発など、生成AI領域に注力している。また、個人でもOpenAI APIやDifyを使用したアプリケーション開発を趣味としてやっている。​

​​​その他の生成AI関連サービス

​安全な環境でChatGPT「セキュアGAI for enterprise」 セキュアGAI for enterprise で、安全にChatGPTを使用できます。Azure OpenAI API Serviceを使用して、Azureのプライベートな環境内で完結するChatGPTと同様の機能を提供します。

AIが接客「バーチャルアシスタント」 接客ができる人材の確保にお困りではありませんか？バーチャルアシスタントが人材不足の課題を解決します！多言語も対応可能です。