AMDがGPUの最新ファームウェアに仮想VRAM機能「iGPU」、システムメモリーを使って128BのLLMも動作 /usePocket.com

AMDがGPUの最新ファームウェアに仮想VRAM機能「iGPU」、システムメモリーを使って128BのLLMも動作

カテゴリー：#AIが止まらない(記事数:424)

since 1999.04.24今日

。昨日

クラウド上のLLMの性能が高すぎてすっかりローカルLLMで遊ぶ気が失せつつあるのですが、ローカルで128B(1280億パラメータ)が動くならまた楽しくなるかも。

■　■　■　コメント　■　■　■

この記事のアクセス数:

本カテゴリーで直近コメントが書かれた記事

→カテゴリー：#AIが止まらない(記事数:424)
本カテゴリーの最近の記事(コメント数)

アクセス数の多い記事(過去3ヶ月)