これまでローカルPCでは、ビデオカードのVRAM(ビデオメモリ)容量の関係から本連載で試せたのは34Bクラスまでだった。ところが最近、遅くなるものの、不足分はメインメモリを使って補うこと、104BクラスのCommand R+が動くようになったので、2つの環境でご紹介する。 加えて、MicrosoftがマルチモーダルLLM「Phi-3-Vision-128K-Instruct」をリリースしたので、そ …
これまでローカルPCでは、ビデオカードのVRAM(ビデオメモリ)容量の関係から本連載で試せたのは34Bクラスまでだった。ところが最近、遅くなるものの、不足分はメインメモリを使って補うこと、104BクラスのCommand R+が動くようになったので、2つの環境でご紹介する。 加えて、MicrosoftがマルチモーダルLLM「Phi-3-Vision-128K-Instruct」をリリースしたので、そ …