ダウンロードしたのはFormatはGGUF、量子化はQ4_K_S、データサイズは7.66GB
勉強中でよくわかってないが130億パラメータのモデルを量子化で4分の1の4ビットにしてある。GGUFに変換するとLM Studioで読み込めるらしい。
ここまで超簡単。4クリックぐらい。返答のレスポンスも早い。
日本語はダメっぽい。インターネットアクセスは出来ないけど英語に違和感はない。なるほど
Category:#AIが止まらない
Keyword:量子/48
■ ■ ■ コメント ■ ■ ■
この記事のアクセス数:量子
本カテゴリーで直近コメントが書かれた記事
→カテゴリー：#AIが止まらない(記事数:450)
本カテゴリーの最近の記事(コメント数)
