Alpaca-LoRA: LLaMA を特定の人物のハードウェアで建設的なテキストの叫び声 DaVinci-003 に微調整する

このリポジトリには、Stanford Alpaca の結果低ランク適応(LoRA)。私たちは、textual yell-davinci-003 促すことができる Raspberry Pi で (学習用)、それでも

13b, 30b、 と 65b 個のアイテムを所有して収集することができますコードを簡単に調整できます。 単一の RTX 4090 で 5 時間以内に実行されるコーチング コードと同様に、ミューズ マネキンと LoRA にダウンロードして推論するためのスクリプトを作成しました。 LoRAの重みそのもの。 安価かつ効果的に推定可能なチューニングを行うために、Huggingface の PEFT ティム・デットマーズ  と同じくらい効果的bitsandbytes.  ハイパーパラメータのチューニングや検証ベースのほとんどチェックポイントを使用しない場合、LoRA マネキンはスタンフォード アルパカなどの出力を生成します。マネキン、おそらく余分な小さな間違いがありますが.  (以下に統合された出力を見てください。) さらにチューニングを行うと、パフォーマンスが完全に向上する可能性が非常に効果的に得られます。 関心のあるユーザーは、結果を提出してみてください。

設定

Jason Phang を除くがマージされ、ユーザーはローカルに置き換える必要があります。トランスフォーマーのキットです。依存関係をインストールする (zphang のトランスフォーマーフォークをセットアップする[0, 1] )

pip セットアップ -q データ asets loralib 文章 pip アンインストール トランスフォーマー pip セットアップ -q git+https://github.com/zphang/transformers@c3dc391 pip セットアップ -q git+https://github.com/huggingface/peft.git

ソースからビットとバイトをインストールします。

推論 ([0, 1] generate.py) このファイルは、Huggingface マネキンハブからミューズマネキンを読み取り、LoRA ウェイトを m tloen/alpaca-lora-7b

練習中( finetune.py ) このファイルは、LLaMA マネキンへの PEFT の簡単なユーティリティに対応しています。このファイルの先頭に到達すると、ハードコードされたハイパーパラメーターが格納されているように見えますが、実際には自由に切り替えることができます。このコードをマルチ GPU セットアップやより良いアイテムに適応させる PR は引き続き歓迎されます。

発明します

 ) LoRA の重みを LLaMA の重みにマージして、PEFT への推論の依存性を優先します

準備/ val分割

  ハイパーパラメータ調整コード    手帳用ドキュメンテーション    13b(*の強化、30b65b

指示されたヘッダーでトークンをフラクチャしなくなるモデルを用意します推論CLIと概要

インスタンス出力[0, 1] 命令: アルパカについて教えてください. アルパカLoRA: アルパカはラクダ科の一員で、アメリカ南部のアンデス山脈が原産です。彼らは、衣服、毛布、およびさまざまなアイテムを構成するために絶滅した、柔らかく豪華なフリースで識別されます. アルパカは草食動物で、草やさまざまな植生を食べます。社会的な動物で、20頭ほどの群れで生活します。

スタンフォードアルパカ[0, 1, 1, 2, 3, 5, 8, 13, 21, 34] : アルパカは、ラクダやラマとつながった、毛羽立った小さな動物です。ペルーとボリビア原産で、5,000 年前に最初に球状に家畜化されました。彼らは主に、ニットウェアやさまざまな衣服を構成するために絶滅した、その貴重で柔らかいフリースのために保存されています. アルパカは群れを成す動物で、年配のオスが率いる小さな家族グループに住んでいます。非常に社交的な動物で、ひょっとしたら飼い主との絆が強いのかもしれません

textual エール-ダヴィンチ-003 : アルパカは、ラマなどの南アメリカのラクダ科の家畜です。彼らは米国南部のアンデス山脈に自生し、柔らかく贅沢な羊毛のために家畜として保護されています. アルパカは社交的な動物で、20 頭ほどの群れで生活します。合計で 2 頭から 5 頭の小さな群れで飼育されており、世話をするのはかなり簡単です。アルパカは草食動物で、草、干し草、およびさまざまな植生を食べます。彼らはまた、その軽くて適切な性質のために識別され、ペットとして分類されます.

説明: 2019年のメキシコ大統領について教えてください.

Alpaca-LoRA : 2019 年のメキシコ大統領は、2018 年 12 月 1 日に就任した Andrés Manuel López Obrador であることが判明しました。 1946 年。彼は反腐敗政策と反新自由主義政策で知られているが、それは私たちメキシコ人に内在する前提条件を改善するという彼のコミットメントと同じくらい効果的である.

スタンフォード・アルパカ: 2019年、アンドレス・マヌエルロペス・オブラドールがメキシコ大統領に就任することが判明。 彼は米国の第 58 代大統領であり、左翼のモレナ祝賀会の最初の大統領です。  2018 年には、汚職と貧困の撲滅を公約に掲げて当選し、経済、犯罪、米国との関係の扱いについて批判を受けてきました。 彼は、彼の大胆な社会福祉の目的で識別でき、最低賃金を引き上げ、低所得の家族に待機を提供したことで賞賛されています. 彼はメキシコの民主主義と人権の擁護者と見なされています. textual エール-ダヴィンチ-003: 2019 年のメキシコ大統領はアンドレス・マヌエル・ロペス・オブラドールで、ほとんどの場合 AMLO と呼ばれています。 彼は、2018 年 12 月 1 日からメキシコ大統領を務めているメキシコの赤ちゃんにキスをする人です。彼は、Nationwide Regeneration Toddle (MORENA) 祝典のメンバーであり、以前は 2000 年から 2005 年までメキシコ大都市の政府長を務めていました。左翼のポピュリストであり、メキシコの汚職と不平等を根絶することを公約している。 彼はまた、社会的目的とインフラプロジェクトへの公的支出を拡大することを約束しました.命令: 2019 年のフランス国王について教えてください。 Alpaca-LoRA: 王様2019 年のフランスの大統領はおそらく 2017 年 5 月に選出されるエマニュエル マクロンです。彼は第 5 共和国の歴史の中で最年少の大統領であり、第二次世界大戦後に生まれた最初の大統領です。 彼は間違いなく、選挙で選ばれた役職に就かなくなった最初の大統領になる可能性があります. スタンフォード アルパカ
: 2019 年、フランスの国王はエマニュエル マクロンであることが判明しました。 彼は 2017 年 5 月 14 日にフランス大統領に就任し、それ以来ずっと国を率いてきました。 彼は中道のラ・レピュブリック・アン・マルシェのメンバーです！ イベント。 彼は改革派のアジェンダで知られており、政治的スペクトルの右派と左派の両方からの抗議の代わりに直面しています。 彼は史上最年少のフランス大統領です.
textual yell-davinci-003
 : フランスは共和国であるため、フランス国王は主に象徴的な役割です。 現在のフランス大統領はエマニュエル・マクロンで、2017年に当選することが判明しました. 説明: カナダのすべての州をアルファベット順に列挙してください。
オリジナル・ブランズウィック
 ニューファンドランド・ラブラドール  ノースウェスト準州
 )ノバスコシア ヌナブトオンタリオ  プリンス・エドワード島
 ケベック
 
サスカチュワン州
 ユーコン   命令: 最初の 10 個のフィボナッチ数を表示する Python プログラムを作成してください
 アルパカ・ロラ[0, 1, 1, 2, 3, 5, 8, 13, 21, 34] :  )def  フィボナッチ (ん): もしも  <=100; i++) {  if (i % 3===0 && i % 5===0) {    console.log("FizzBuzz");  } else if (i % 3===0) {    console.log("Fizz");  } else if (i % 5===0) {    console.log("Buzz");  } else {    console.log(i);  }}" dir="auto">===span>  0: 戻る 0  エリフ  ん == 1: 戻る <=100; i++) {  if (i % 3===0 && i % 5===0) {    console.log("FizzBuzz");  } else if (i % 3===0) {    console.log("Fizz");  } else if (i % 5===0) {    console.log("Buzz");  } else {    console.log(i);  }}" dir="auto">1  それ以外: 戻る  フィボナッチ (ん -1 ) + ん -<=100; i++) {  if (i % 3===0 && i % 5===0) {    console.log("FizzBuzz");  } else if (i % 3===0) {    console.log("Fizz");  } else if (i % 5===0) {    console.log("Buzz");  } else {    console.log(i);  }}" dir="auto">2) プリント( フィボナッチ(10))
 スタンフォードアルパカ:  for i in range(2, 11): numbers.append(numbers[i-2] + numbers[i-1]) print(numbers) # 出力: [0, 1, 1, 2, 3, 5, 8, 13, 21, 34]" dir="auto">数字 = [0, 1] ために 
 私  の 異なる(2 , 11 ): 数字. append ( + 数字) print (数字) # 出力: [0, 1, 1, 2, 3, 5, 8, 13, 21, 34]  textual yell-davinci-003 :   #フィボナッチ数は、フィボナッチ数列と呼ばれる次の整数列内の数であり、最初の 2 つの後のすべての量が前の 2 つの量の合計であるという明白な真実によって特徴付けられます。  # フィボナッチ数列: 0, 1, 1, 2, 3, 5, 8, 13, 21, 34, ... # プログラム:   # フィボナッチ数列の最初の 2 つの数値を初期化します a =  0  b = 
1   # フィボナッチ数列の最初の 10 個の数字を出力します<=100; i++) {  if (i % 3===0 && i % 5===0) {    console.log("FizzBuzz");  } else if (i % 3===0) {    console.log("Fizz");  } else if (i % 5===0) {    console.log("Buzz");  } else {    console.log(i);  }}" dir="auto">  print (aプリント(b) ために  私 の  異なる(2 ,10): c =  あ  + b  =  bb = c  print (c )  説明: 1 から 100 までの数字を表示するプログラムを作成してください。 3 つは 1 つおきに 'Fizz' と出力し、5 の倍数は 'Buzz' と出力します。  1 チャンス 1 チャンスにつき 3 と 5 の両方の倍数になる可能性のある数値については、'FizzBuzz'. アルパカ- LoRA:  
ために  私 
の  異なる(1、101 ): もしも  私 % 3 == 0  と   %  5  == 0 : print (「FizzBuzz」 ) エリフ  私<=100; i++) {  if (i % 3===0 && i % 5===0) {    console.log("FizzBuzz");  } else if (i % 3===0) {    console.log("Fizz");  } else if (i % 5===0) {    console.log("Buzz");  } else {    console.log(i);  }}" dir="auto">  %  3== 0:=span>印刷(「フィズ」 ) エリフ[0, 1]  私  % 5  ==<=100; i++) {  if (i % 3===0 && i % 5===0) {    console.log("FizzBuzz");  } else if (i % 3===0) {    console.log("Fizz");  } else if (i % 5===0) {    console.log("Buzz");  } else {    console.log(i);  }}" dir="auto"> 
0:  プリント("バズ") それ以外: print(私 ) スタンフォード アルパカ:  ために  私 の  異なる(1 , 101
): もしも  私 %  3 == 0  と  私  % 
5 ==0: print (エリフ[0, 1, 1, 2, 3, 5, 8, 13, 21, 34]   私  % 3 ==  0: print (「フィズ」=span> ) エリフ    %  5== 0:=span>印刷('バズ') それ以外: print ( 私) textual yell-davinci-003:   ++ ) {  もしも ( 私  % 3 ===

Related Posts