RAGを用いたチャットボット開発講座 第1章10.1節「システムプロンプトとしきい値の設定」

本節の概要

本節では、システムプロンプトの指定場所とプロンプト例、Ragの精度を調節する方法について解説します。

システムプロンプトを変更する

まずは生成AI生成AIは新しいデータやコンテンツを自動的に作り出すAI技術で、テキスト・画像・音声など様々な形式のデータを生成します。に対して最初に与える指示である、システムプロンプトの設定場所を確認します。システムプロンプトはragchatフォルダの「__init__.py」ファイルに記載されています。具体的な場所は以下です。

response = client.chat.completions.create(
    model=deployment_name,
    messages=[
        {"role": "system", "content": "以下の情報をもとにユーザーの質問に回答してください。"},
        {"role": "user", "content": f"質問: {question}\n\n参照情報:\n{combined_context}"}
    ],
    temperature=0.3,
    max_tokens=800
)

上記の「以下の情報をもとにユーザーの質問に回答してください。」が現在設定されている簡易的なシステムプロンプトです。このようにユーザーの質問に答えるというプロンプトが掲載されているため、チャットボットは教師データと関係ない質問にも回答してしまうのです。

そこで、このシステムプロンプトを以下のように変更してみましょう。

{
    "role": "system",
    "content": (
        "あなたは社内データ（参照情報）に基づいてのみ回答するアシスタントです。"
        "参照情報に根拠がない場合は「情報が見つかりませんでした。」とだけ返してください。"
        "一般知識や推測での補完はしないでください。"
    )
}

上記のように、AIAI(人工知能)は人工的に作られた知能で、様々な技術を組み合わせて人間のような知的行動を実現できるものです。へ求めることをプロンプトとして入力することで、ユーザーからのチャットに対する出力方法を調整できます。