ローカルLLMのcommand-r-plus:104b-q4_0にひっかけ質問してみた。
モデルサイズ：104b
モデル名：command-r-plus:104b-q4_0
実行コマンド：ollama run command-r-plus:104b-q4_0
実行時のVRAM消費量：約60GB
GPU環境：RTX4090×2 RTX3090×1
感想：まだまだ思考能力が低い。GPT4相当ではない。
モデルサイズ：104b
モデル名：command-r-plus:104b-q4_0
実行コマンド：ollama run command-r-plus:104b-q4_0
実行時のVRAM消費量：約60GB
GPU環境：RTX4090×2 RTX3090×1
感想：まだまだ思考能力が低い。GPT4相当ではない。