なんJLLM部 避難所 ★8
すでに書かれてるけどQwen3-14Bの日本語エロ特化
ggufありがたい
https://huggingface.co/puwaer/Doujinshi-14b-chat-gguf
データセット見ると説明文とか注意書きとかのノイズが多すぎな気もするね
これならエロ小説とかを元にしたほうが良かったのではと思ってしまう データセット用意してくれたのは素晴らしいのでは
これ自分で絞り込んで学習するためのノウハウってどの辺参考にすればいいんだろう Amaterasuは自分の使い方だとかなり良い感じなんだが流石にデカすぎて推論遅くて常用にはきつい
やっぱでかいモデルはMoEじゃないと一般人的にはきついわ
ただMoEは推論は軽いけど学習のコストはデカさ相応なんだよな、日本の個人勢がMoEの学習あんまりやってないのもコスト関係な気がする 