QEUR23_PHI2SFT18: Reasoningを使って回答の品質を改善できるかを検証する

コメント

コメントを投稿

このブログの人気の投稿

QEUR23_PHI2SFT26: 生成された質問文の類似度を計測する

イメージ
～ 注：別にAGIを開発するつもりはないです ～ QEU:FOUNDER ： “前回までで、STEP1がおわりました。ここで、初期の質問(STEP1)に対する回答と、次の質問(STEP2)が生成されたわけです。” D先生： “STEP2の質問は、5つづつ生成されています。適当に「（意味のない質問を）刈り取り」をしなければなりません。” （前回に見出された、課題の一覧） Reasoningが出てこない。 質問が深堀されない。 質問がトートロジー（循環論法）になる。 タスクの自動化が必要（わかりやすい「まとめ」が必要） QEU:FOUNDER ： “いろいろな対策が考えられますよ。ただし、今回は「多くの質問を絞り込む方法」だけにしたいと思います。それでは、プログラムをドン！！” # ----- # 大量に生成された質問を類似度で評価する # ----- import os import re # --- import pandas as pd import numpy as np import matplotlib.pyplot as plt import json import spacy # spaCyをimport # --- #from langchain_core.prompts import ChatPromptTemplate #from langchain_groq import ChatGroq # ----- # Excelファイルからデータフレームを作成する df = pd . read_excel ( 'qq_for_UR_step1_output.xlsx' ) df QEU:FOUNDER ： “能書きはもうなし、プログラムで動かしてみましょう。初期の質問（Step1）から、さらに一歩進んだ質問(Step2)を生成しましょう。” D先生（設定年齢65歳） ： “あれ？生成された質問（５つづつ）が、分離されていますよ？どうやったんですか？” QEU:FOUNDER（設定年齢65歳） ： “前回紹介したプログラムを改造してください。ヒントは、プロンプトエンジアリングと正...
続きを読む

QEUR23_PHI2SFT10: コンテンツにCategoryを付けてSFT学習する

イメージ
～ BONSAIから、未来の世界が見える(つづき) ～ D先生（設定年齢65歳） ： “我々高齢者による、「ゆるいLLMモデル構築の試み」はつづきます。さて、前回のタスクはデータセットに分類属性を加えました。” QEU:FOUNDER（設定年齢65歳） ： “その中でも、最も重要なのが 「Category」コラムの追加 でした。この属性を加えることにより、LLM学習のレベルアップができるのではないかというのが前回の考え方でした。じゃあ、SFT学習プログラムにいきましょう。ここで、今回はプロンプト変換だけですよね。大きく変わるのは・・・。” # ------ # プロンプト変換用の関数(Batch: For Reasoning) def formatting_prompts_func ( examples ): # --- sys_message = "You are AI assistant who is good at multilingual support. Switch the answer lan-guage depending on the user." #sys_message = "あなたは多言語対応が得意なAIアシスタントです。ユーザーに応じて回答する言語を切り替えます。" # --- output_text = [] for i in range ( len ( examples [ "instruction" ])): instruction = examples [ "instruction" ][ i ] input_text = examples [ "input" ][ i ] reasoning = examples [ "reasoning" ][ i ] response = examples [ "output" ][ i ] category = examples [ ...
続きを読む

QEUR23_PHI2SFT23: 閑話休題～結論から話します（自律型AIについて）

イメージ
～ AGI、こうやればイケる！（と思うよ） ～ QEU:FOUNDER（設定年齢65歳） ： “さて、前回で序盤のマイルストーンを達成しました。一応は、たたき台になるモデルができましたし。次は、なにをしようかな・・・？” D先生（設定年齢65歳） ： “はい！質問があります！察するに、FOUNDERが考えていることは、このシステム（↓）になっちゃうんじゃないんですか？” QEU:FOUNDER（設定年齢65歳） ： “（CrewAIの事例を）やってみたの？” D先生（設定年齢65歳） ： “一応はやってみましたよ。OpenAIはお金がかかるので、Groqに変えてみました・・・。かなり時間がかかるが、かなり面白い結果がでてきました。大御所（↓）も、よさげなソルーションだと言っていることだし、将来的には世の中はこうなるんじゃないんですか？” QEU:FOUNDER（設定年齢65歳） ： “やってみた実例なんですが。Githubの例によって、Researcher(Web searchする係)とWriter（文章を制作する係）のキャラ設定でやってみたんですか？” D先生： “そうです。まさしく、（CrewAI作者の）例題の通りですが・・・。” QEU:FOUNDER（設定年齢65歳） ： “う～ん・・・。OpenAIのモデルって、すごい言語情報をすでに学習しているはずでしょ？それに上乗せしてWeb searchの結果をインポートすることって、意味あるのかな？ほとんど学習済みのはずでしょ？” D先生： “まあ・・・、断定はできないが、そうだとも言えます。” QEU:FOUNDER ： “もしも、CrewAIでよい結果が出たとしたら、ただ単にOpenAIのモデルに与えるプロンプトの質が悪かったんじゃないの？AGIプロセスの初めの間のプロンプトが悪いだけなのだけど・・・。つまり、この議論は以前JH(Jeremy Howard)がコメントした、 「補間」なのか「補外」なのか ということです。” D先生： “JHは、LLMって創造的なことをしているようで、実は学習した結果の「補間処理しかしていない」のだと意見でしたね。” QEU:FOUNDER ： “そうです。だから、AGIを補外に使...
続きを読む