2024.12.23

LLM(大規模言語モデル)をローカルで簡単に実行出来るオープンソースツールOllama。ショボいPCでも(遅いけど)動いて画像認識やOCRやエ口い画像生成やエ□い画像認識も可能らしい

Metaの公開しているllama3.2-visionが画像認識出来るらしい。

• お手軽ローカルLLMソフトOllamaで画像認識モデル llama3.2-vision 11b/90bが使えるようになったのでいくつか試し使い所を考察｜秋葉原IT戦略研究所 1 users

• 

  Ollama 28 users159イイネ

• Ollamaとは？Pythonでの使い方やダウンロードできる言語モデルについて丁寧に解説！
• ローカル環境でAIを動かす: ollamaのインストールと使い方ガイド｜tamo

Windows用とかインストーラーまである。

やっぱり自宅にメモリ100GBぐらいのGPU搭載のPCを常時稼働させて上位自宅VPNでスマホとかPCから使いたい世の中になるんじゃないだろうか。「倫理！倫理！」言って秘密保持の危ういクラウドベースのLLMは優秀だろうけど、少しアホでもローカルLLMの方が使える気がする。

個人的メモ

• マルチモーダル・・・・複数の種類のデータを扱える。テキストだけじゃなく、画像入力可能など
• 量子化・・・・機械学習を軽量化する手法
• 90B・・・・900億パラメーターのこと。Llama3.2の405BはGPT-4と同等らしい。

Category:#AIが止まらない

　Keyword:量子/18

Follow @fetuin

■　■　■　コメント　■　■　■

いいっすね！=23

名前 ↑Ｂ

ツイート

[Xの該当記事にコメントを付ける]
コメント(※改行は省略されます）

※３回以上の連続書き込み不可

この記事のアクセス数:
量子

本カテゴリーで直近コメントが書かれた記事


→カテゴリー：#AIが止まらない(記事数:246)
本カテゴリーの最近の記事(コメント数)