QEU_ROUND2-3： 小規模(大規模)言語モデル(SLM)で遊んでみる

～ 今回は「閑話休題」ながら、「結論」も含む ～ ・・・ 前回のつづきです ・・・ D先生 ： “あれ？ 「Reasoning is all you need（推論は万能である）」 って？” QEU:FOUNDER ： “このReasoningって、ひょっとしたらスゴイかもしれんでぇ・・・。なんか、小規模のプロジェクトのようですが、かなり真剣にやっているっぽい。まずは彼らのHFコメントを読んでみましょう。” Introduction This paper explores a novel approach to finetuning AI Language Models (LLMs) by emphasizing the crucial aspect of 'Reasoning.' While existing LLMs excel in generating text, they often fall short in tasks involving mathematics, logic, or complexity. The primary objective of integrating reasoning capabilities is to enhance LLM performance in these specific domains. Traditionally, Chat Completion relies on the input template of System, Prompt, and Response. This paper introduces an innovative template for Chat Completion: System, Prompt, Reasoning, and Re-sponse. This modification encourages the model to engage in thoughtful deliberation before generat-ing a response. The advantages of this strategic shift are manifold and continuously evolving with the in...

～ 価値の源泉は「質問力」！！（中） ～ D先生（設定年齢65歳） ： “我々、現在の社会の主流である老人様による「老人によるLLM開発」をつづけましょう。これは我々老人が最先端のLLM（自然言語モデル）をゆるーく使って遊ぶというイベントです。前回は、単純な推論のプログラムでしたが、もうちょっとレベルアップをさせたいですね。” （重要：MITライセンスへのリンク：これからは、ず～っと使うよ） ページをみたら、クリックしてね！ QEU:FOUNDER（設定年齢65歳） ： “前回の話題でためになったのは、 「MITライセンス」 だけですね。何しろ、前回に紹介したpythonコードはとても使いづらいし・・・。” D先生 ： “じゃあ、改造していきます？” QEU:FOUNDER ： “まずは「一問一答」方式に改造していきたいね。それは 「prompt engineering」 だけでやれるよ。プロンプトエンジニアリングの威力を理解するためにも、ちょっと動かしてみましょう。第一弾、プログラムをドン！” # Inference Microsoft-Phi2(INSTRUCTION) # --- ! pip install -U transformers ! pip install -U peft ! pip install -U accelerate # ---- import os from huggingface_hub import login login ( "hf_XXXX " ) # ----- # 普通の推論(1) # ----- import torch from transformers import AutoModelForCausalLM , AutoTokenizer torch . set_default_device ( "cuda" ) model = AutoModelForCausalLM . from_pretrained ( "microsoft/phi-2" , torch_dtype = "auto" , trust_remote_code = True ...

～ 価値の源泉は「質問力」！！（上） ～ D先生（設定年齢65歳） ： “じゃあ、我々のような 「老人によるLLM開発」 を始めましょう。言い換えれば、本シリーズは、老人が最先端のLLM（自然言語モデル）をゆるーく使って遊ぶというイベントです。・・・で、何(のモデル)を使って遊びますか？” QEU:FOUNDER（設定年齢65歳） ： “巷で、ひそかに話題になっている 「microsoftのphi-2」 でいきましょう。コレ（↑）、知ってる？このモデルのコピーライトはなんと、あの 「MIT」 なんだ・・・。” D先生 ： “なんです？それ(MITライセンス)？” QEU:FOUNDER ： “MITライセンスは、オープンソースの成果物の配布スキームの中でも、かなり「緩い」ほうです。商用利用も可能だし、制約としてあるのは 「配布時にMITライセンスの条文もしくはリンクを貼りつけることだけ」 です！もうユルユルでしょ？正直、現在のように徹底的にレベルアップしたLLMの世界では、phi2は大して目立った存在ではないが、なにしろ配布基準がゆるいのが歓迎されています。” D先生 ： “パラメータの数が2B(20億)程度でしょ？まあ、客観的に見ても大したことはできないですね。” QEU:FOUNDER ： “そうそう・・・。このように「ゆるく」考えて始めるのが「健康的」ですよ。・・・でもね、軽量モデルだからこそ Tesla-T4レベルの軽いGPUで動く可能性がある んだから・・・。ちなみに、いましがた「（T4でも動く）可能性」と言ったのはロジック次第ではA100クラスのGPUでないと動かなくなります。もちろん、それは学習の話だけどね。何はともあれ、T4で動くのはメリットがあるでしょ？” D先生 ： “もちろん！Google Colabでは8USD/Mで使える！？少なくとも個人で使う分には、とてもありがたいわ・・・。” QEU:FOUNDER ： “じゃあ、Phi-2による推論実験からはじめましょう。プログラムをドン！” # Inference Microsoft-Phi2 # --- ! pip install -U transformers ! pip install -U peft ! pip install -U accele...