sonoisa commited on
Commit
3209604
·
1 Parent(s): de1730f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +96 -2
README.md CHANGED
@@ -27,8 +27,102 @@ This is a T5 (Text-to-Text Transfer Transformer) Prefix Language Model fine-tune
27
 
28
  # サンプルコード
29
 
30
- 準備中
31
-
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
32
 
33
  # 免責事項
34
 
 
27
 
28
  # サンプルコード
29
 
30
+ ```python
31
+ import torch
32
+ from torch.utils.data import Dataset, DataLoader
33
+ from transformers import T5ForConditionalGeneration, T5Tokenizer
34
+ import textwrap
35
+
36
+ tokenizer = T5Tokenizer.from_pretrained("sonoisa/t5-prefixlm-base-japanese", is_fast=False)
37
+ trained_model = T5ForConditionalGeneration.from_pretrained("sonoisa/t5-prefixlm-base-japanese")
38
+
39
+ # GPUの利用有無
40
+ USE_GPU = torch.cuda.is_available()
41
+ if USE_GPU:
42
+ trained_model.cuda()
43
+
44
+ # 推論モード設定
45
+ trained_model.eval()
46
+
47
+ # 前処理とトークナイズを行う
48
+ inputs = [normalize_text("深層学習(ディープラーニング)とは、")]
49
+ batch = tokenizer.batch_encode_plus(
50
+ inputs, max_length=1024, truncation=True,
51
+ padding="longest", return_tensors="pt")
52
+
53
+ input_ids = batch['input_ids']
54
+ input_mask = batch['attention_mask']
55
+ if USE_GPU:
56
+ input_ids = input_ids.cuda()
57
+ input_mask = input_mask.cuda()
58
+
59
+ # 生成処理を行う
60
+ outputs = trained_model.generate(
61
+ input_ids=input_ids, attention_mask=input_mask,
62
+ max_length=256,
63
+ temperature=1.0, # 生成にランダム性を入れる温度パラメータ
64
+ num_beams=10, # ビームサーチの探索幅
65
+ diversity_penalty=1.0, # 生成結果の多様性を生み出すためのペナルティパラメータ
66
+ num_beam_groups=10, # ビームサーチのグループ
67
+ num_return_sequences=10, # 生成する文の数
68
+ repetition_penalty=2.0, # 同じ文の繰り返し(モード崩壊)へのペナルティ
69
+ )
70
+
71
+ # 生成されたトークン列を文字列に変換する
72
+ generated_bodies = [tokenizer.decode(ids, skip_special_tokens=True,
73
+ clean_up_tokenization_spaces=False)
74
+ for ids in outputs]
75
+
76
+ # 生成された文章を表示する
77
+ for i, body in enumerate(generated_bodies):
78
+ print("\n".join(textwrap.wrap(f"{i+1:2}. {body}")))
79
+
80
+ ```
81
+
82
+ 実行結果:
83
+ ```
84
+ 1. 様々なデータから、そのデータを抽出し、解析する技術です。深層学習とは、ディープラーニングの手法の一つです。ディープラーニングは、コン
85
+ ピュータが行う処理を機械学習で実現する技術です。ディープラーニングは、コンピュータが行う処理を機械学習で実現する技術です。ディープラーニング
86
+ は、コンピュータが行う処理を機械学習で実現する技術です。ディープラーニングは、コンピュータが行う処理を機械学習で実現する技術です。
87
+
88
+ 2. 様々なデータから、そのデータを抽出し、解析する技術です。深層学習とは、ディープラーニングの手法の一つです。ディープラーニングは、コン
89
+ ピュータが行う処理を機械学習で実現する技術です。
90
+
91
+ 3. ディープラーニングの手法のひとつで、人間の脳をモデル化し、そのデータを解析する手法である。深層学習は、コンピュータが処理するデータの
92
+ 量や質を予測し、それを機械学習に応用するものである。この手法は、人工知能(ai)の分野において広く用いられている。
93
+
94
+ 4. 深層学習(deep learning)の手法の一つ。ディープラーニングとは、人間の脳に蓄積されたデータを解析し、そのデータから得られ
95
+ た情報を分析して、それを機械学習や人工知能などの機械学習に応用する手法である。ディープラーニングは、コンピュータが処理するデータの量と質を測
96
+ 定し、その結果を機械学習で表現する手法である。ディープラーニングは、人間が行う作業を機械学習で表現する手法である。ディープラーニングは、人間
97
+ にとって最も身近な技術であり、多くの人が利用している。ディープラーニングは、コンピューターの処理能力を向上させるために開発された。
98
+
99
+ 5. 人間の脳の深層学習を応用した人工知能(ai)である。ディープラーニングは、コンピュータが処理するデータを解析し、そのデータから得られ
100
+ た結果を分析して、それを機械学習やディープラーニングに変換して学習するものである。ディープラーニングは、人間が行う作業を機械学習で再現するこ
101
+ とを可能にする。
102
+
103
+ 6. 人間の脳の深層学習を応用した人工知能(ai)である。ディープラーニングは、コンピュータが処理するデータを解析し、そのデータから得られ
104
+ た結果を分析して、それを機械学習やディープラーニングに変換して学習するものである。ディープラーニングは、人間が行う作業を機械学習で再現するこ
105
+ とを可能にする。ディープラーニングは、人間と機械との対話を通じて、人間の脳の仕組みを理解することができる。
106
+
107
+ 7. 深層学習によって、人間の脳の神経細胞や神経細胞を活性化し、その働きを解明する手法です。ディープラーニングは、コンピュータが処理するデ
108
+ ータの量と質を測定することで、人間が行う作業の効率化を図る手法です。また、機械学習では、人間に与えられたデータを解析して、それを機械学習で処
109
+ 理する技術です。このため、機械学習では、機械学習のアルゴリズムを組み合わせることで、より精度の高い処理を実現します。さらに、機械学習では、機
110
+ 械学習のアルゴリズムを組み合わせることで、より精度の高い処理を実現します。
111
+
112
+ 8. 学習したデータを解析し、そのデータの分析を行う手法。ディープラーニングは、コンピュータが人間の脳に与える影響を予測する技術である。深
113
+ 層学習は、人間が脳に与える影響を予測する技術である。ディープラーニングは、人間と機械との相互作用によって行われる。例えば、ロボットが物体を分
114
+ 解して、それを検出したり、物体を分解して、その物体を別の物体として認識したりする。また、物体を分解して、その物体を別の物体として認識する。こ
115
+ のプロセスは、コンピューターが行う処理よりもはるかに高速である。ディープラーニングは、コンピュータが行う処理よりも速く、より効率的な処理が可
116
+ 能である。
117
+
118
+ 9. 深層学習によって、人間の脳の神経細胞や神経細胞を活性化し、その働きを解明する手法です。ディープラーニングは、コンピュータが処理するデ
119
+ ータの量と質を測定することで、人間が行う作業の効率化を図る手法です。
120
+
121
+ 10. 学習したデータを解析し、そのデータの分析を行う手法。ディープラーニングは、コンピュータが人間の脳に与える影響を予測する技術である。深
122
+ 層学習は、人間が脳に与える影響を予測する技術である。ディープラーニングは、人間と機械との相互作用によって行われる。例えば、ロボットが物体を分
123
+ 解して、それを検出したり、物体を分解して、その物体を別の物体として認識したりする。また、物体を分解して、その物体を別の物体として認識する。こ
124
+ のプロセスは、コンピューターが行う処理よりもはるかに高速である。
125
+ ```
126
 
127
  # 免責事項
128