koboldがなかなかcommand-rに対応してくれないから、我慢できずに自前でビルドしてみた
(command-rは、このスレでも有名はcohereと同じモデルね)

https://imgur.com/a/DcSK6WH

小説等はkarakuriベースのマージモデルには少し劣る感じだったが、チャットなら十分使える印象だ
なんせ、karakuri Q6_k だと動画でも分かるように0.5t/s程度だったのが、
こっちは同じQ6_kで1.05t/sと、倍以上のスピード出てる。ワイのような化石PCじゃなければ、もっと出るだろう