0087名無しさん@ピンキー (ワッチョイ 3f7e-KB/z)2025/05/12(月) 22:03:20.50ID:fBtqwjV90 https://cohere.com/research/papers/how-does-quantization-affect-multilingual-llms-2024-07-05 (1)量子化の有害な影響は人間の評価で明らかであり、自動指標はその悪影響を大幅に過小評価していることを発見しました。自動タスク全体での日本語の平均1.7%の低下は、現実的なプロンプトで人間の評価者が報告した16.0%の低下に相当します。 (2)言語は量子化によって異なる影響を受け、非ラテン文字言語への影響が最も大きいです。 (3)数学的推論などの難しいタスクは最も急速に低下します。