なんJLLM部 避難所 ★5
レス数が1000を超えています。これ以上書き込みはできません。
AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで
自薦・他薦のモデルやツールは>>2以降
本スレ(避難中)
なんJLLM部 ★7
https://fate.5ch.net/test/read.cgi/liveuranus/1710561010/
前スレ(実質本スレ)
なんJLLM部 避難所 ★4
https://mercury.bbspink.com/test/read.cgi/onatech/1725931151/ >>983
いっぱいあるんだけどどれを入れたの？Q8？ >>985は>>984への安価ミス
>>983
今気づいたけど>>974この人がまとめてるっぽいので余計な事しないほうがいい気がしてきた。。。 テンプレとか弄りたいなら次スレの最初の方でやっといた方がいいんじゃねーの
このタイミングでやってもすぐ埋まるで スレ立て乙！
Zonosで同じく格闘してたんだが
docker-compose.ymlを
version: '3.8'
services:
zonos:
build:
context: .
dockerfile: Dockerfile
container_name: zonos_container
runtime: nvidia
ports:
- "7860:7860"
stdin_open: true
tty: true
command: ["python3", "gradio_interface.py"]
environment:
- NVIDIA_VISIBLE_DEVICES=0
- GRADIO_SHARE=False
に書き換えて
DockerDesktopの7860:7860のリンクをクリックしたらいけた >>985
メモリ足りるならQ8でいいじゃない？
速度重視なら下の使えばいい てか、rinnaも新しいの出してるな
deepseek蒸留版もあるし、今から試してみるわ >>991
おめでと、ポートを出せばうまくいくよね
>>958 は諦めたのかな？ もしこっちとのやりとりに行き違いがあって
gradio_interface.py の末尾をserver_name="127.0.0.1" に書き換えたままなら、コンテナ外からはアクセスできないし……まあもういいんだけど rinnaのbakeneko deepseek版使ってみたけど、日本語でしっかり考えてくれてすごい良い感触や
ワイの環境やとQ2までしか動かせんからそれなりに破綻してしまうけど、それでもええ感じや。Q4とかならかなり良さそうな気がするで >>991
>>994
これも駄目だあ
そもそもdocker desktopにその7860:7860が出ないんよねえ
何時間待っても-のまま dockerは脇に置いといて、WSL経由でUbuntu起動してマニュアルでインストールしたほうが早そう このスレッドは１０００を超えました。
もう書けないので、新しいスレッドを立ててくださいです。。。
life time: 49日 21時間 5分 52秒 レス数が1000を超えています。これ以上書き込みはできません。
