松尾研のLLM使うサンプルプログラム、色々削ったらトゥートできるくらい短くなった。
pythonでtorchとtransformesセットアップすれば最新のLLMが自宅で動かせるとか凄い時代た。
import torch, transformers
u="matsuo-lab/weblab-10b-instruction-sft"
m=transformers.AutoModelForCausalLM.from_pretrained(u,torch_dtype=torch.float16)
t=transformers.AutoTokenizer.from_pretrained(u,use_fast=False)
p=transformers.pipeline("text-generation",model=m,tokenizer=t,device=0)
print(p("プロンプト",max_length=160,pad_token_id=t.pad_token_id)[0]['generated_text'])
松尾研のLLMを試してみたところ、Lineよりかなり自然な会話が生成できる模様です。
ただLineの方が面白い会話になりやすい傾向があるかも。
日本特化LLMの流れがすごい。今度は松尾研の10 billion
https://x.com/matsuo_lab/status/1692343390858600655?s=12&t=o8BynjbGKRWxQB_mh1VAhQ
さっそく聴いてみた。シャコーって遮光だったのね。松尾さんが静かに怒っているのが何ともw
しかしこの頃からタイジさんにはお世話になりっぱなしの
全面的にPixel使いなんですね。
https://www.techno-edge.net/article/2023/08/14/1746.html
Pixel Tabletは体が弱っているとき、味方になってくれる? コロナ自主隔離中のPixelファミリー再配置(Google特別対策室改めGoogle Tales)
好きな人も多いみたいだけど、修正はするわけだからまあフィクションということで。
「担当編集の松尾氏も名前を聞いただけで喜んでいたから」w
XMOSはINMOSの末裔だったか?
あれも消えていきそう
人知れず消えていったマイナーCPUを語ろう(第8回):並列CGレンダリングの夢を抱かせたINMOS Transputer
https://www.techno-edge.net/article/2023/08/14/1748.html
今日も10時からグループライドやります。これ。
https://www.zwift.com/ja/events/view/3798717
Zwiftのアカウントがあれば誰でも参加できるのでぜひどうぞ。5分前ですが途中参加も可能です。
音声をZoomでつないで走ります。ZoomのURLは松尾さんのこのトゥートをご参照ください
https://mstdn.guru/@mazzo/110839234370338864
超愛妻家