Index of /ggml/src/ggml-cuda/template-instances/

(drwxr-xr-x)20-Nov-2024 17:52../
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f16-instance-hs128-f16-f16.cu
(-rw-r--r--)20-Nov-2024 17:522.3Mfattn-vec-f16-instance-hs128-f16-f16.o
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-f16-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-f16-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-f16-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-f16-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-f16-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-q4_0-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_0-q4_0.cu
(-rw-r--r--)20-Nov-2024 17:522.0Mfattn-vec-f16-instance-hs128-q4_0-q4_0.o
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_0-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_0-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_0-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_0-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-q4_1-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_1-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_1-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_1-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_1-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q4_1-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-q5_0-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_0-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_0-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_0-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_0-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_0-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-q5_1-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_1-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_1-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_1-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_1-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q5_1-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f16-instance-hs128-q8_0-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q8_0-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q8_0-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q8_0-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q8_0-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f16-instance-hs128-q8_0-q8_0.cu
(-rw-r--r--)20-Nov-2024 17:521.9Mfattn-vec-f16-instance-hs128-q8_0-q8_0.o
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f16-instance-hs256-f16-f16.cu
(-rw-r--r--)20-Nov-2024 17:522.5Mfattn-vec-f16-instance-hs256-f16-f16.o
(-rw-r--r--)13-Nov-2024 15:12176Bfattn-vec-f16-instance-hs64-f16-f16.cu
(-rw-r--r--)20-Nov-2024 17:511.3Mfattn-vec-f16-instance-hs64-f16-f16.o
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f16-instance-hs64-f16-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f16-instance-hs64-f16-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f16-instance-hs64-f16-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f16-instance-hs64-f16-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f16-instance-hs64-f16-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f32-instance-hs128-f16-f16.cu
(-rw-r--r--)20-Nov-2024 17:522.1Mfattn-vec-f32-instance-hs128-f16-f16.o
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-f16-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-f16-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-f16-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-f16-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-f16-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-q4_0-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_0-q4_0.cu
(-rw-r--r--)20-Nov-2024 17:521.9Mfattn-vec-f32-instance-hs128-q4_0-q4_0.o
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_0-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_0-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_0-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_0-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-q4_1-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_1-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_1-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_1-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_1-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q4_1-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-q5_0-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_0-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_0-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_0-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_0-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_0-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-q5_1-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_1-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_1-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_1-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_1-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q5_1-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12178Bfattn-vec-f32-instance-hs128-q8_0-f16.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q8_0-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q8_0-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q8_0-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q8_0-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12179Bfattn-vec-f32-instance-hs128-q8_0-q8_0.cu
(-rw-r--r--)20-Nov-2024 17:521.8Mfattn-vec-f32-instance-hs128-q8_0-q8_0.o
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f32-instance-hs256-f16-f16.cu
(-rw-r--r--)20-Nov-2024 17:522.5Mfattn-vec-f32-instance-hs256-f16-f16.o
(-rw-r--r--)13-Nov-2024 15:12176Bfattn-vec-f32-instance-hs64-f16-f16.cu
(-rw-r--r--)20-Nov-2024 17:511.2Mfattn-vec-f32-instance-hs64-f16-f16.o
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f32-instance-hs64-f16-q4_0.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f32-instance-hs64-f16-q4_1.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f32-instance-hs64-f16-q5_0.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f32-instance-hs64-f16-q5_1.cu
(-rw-r--r--)13-Nov-2024 15:12177Bfattn-vec-f32-instance-hs64-f16-q8_0.cu
(-rw-r--r--)13-Nov-2024 15:12367Bfattn-wmma-f16-instance-kqfloat-cpb16.cu
(-rw-r--r--)20-Nov-2024 17:512.4Mfattn-wmma-f16-instance-kqfloat-cpb16.o
(-rw-r--r--)13-Nov-2024 15:12325Bfattn-wmma-f16-instance-kqfloat-cpb32.cu
(-rw-r--r--)20-Nov-2024 17:512.3Mfattn-wmma-f16-instance-kqfloat-cpb32.o
(-rw-r--r--)13-Nov-2024 15:12361Bfattn-wmma-f16-instance-kqhalf-cpb16.cu
(-rw-r--r--)20-Nov-2024 17:512.2Mfattn-wmma-f16-instance-kqhalf-cpb16.o
(-rw-r--r--)13-Nov-2024 15:12361Bfattn-wmma-f16-instance-kqhalf-cpb32.cu
(-rw-r--r--)20-Nov-2024 17:522.6Mfattn-wmma-f16-instance-kqhalf-cpb32.o
(-rw-r--r--)13-Nov-2024 15:12276Bfattn-wmma-f16-instance-kqhalf-cpb8.cu
(-rw-r--r--)20-Nov-2024 17:511.5Mfattn-wmma-f16-instance-kqhalf-cpb8.o
(-rwxr-xr-x)13-Nov-2024 15:122.8kgenerate_cu_files.py
(-rw-r--r--)13-Nov-2024 15:12139Bmmq-instance-iq1_s.cu
(-rw-r--r--)20-Nov-2024 17:522.7Mmmq-instance-iq1_s.o
(-rw-r--r--)13-Nov-2024 15:12139Bmmq-instance-iq2_s.cu
(-rw-r--r--)20-Nov-2024 17:523.0Mmmq-instance-iq2_s.o
(-rw-r--r--)13-Nov-2024 15:12140Bmmq-instance-iq2_xs.cu
(-rw-r--r--)20-Nov-2024 17:522.9Mmmq-instance-iq2_xs.o
(-rw-r--r--)13-Nov-2024 15:12141Bmmq-instance-iq2_xxs.cu
(-rw-r--r--)20-Nov-2024 17:522.7Mmmq-instance-iq2_xxs.o
(-rw-r--r--)13-Nov-2024 15:12139Bmmq-instance-iq3_s.cu
(-rw-r--r--)20-Nov-2024 17:522.7Mmmq-instance-iq3_s.o
(-rw-r--r--)13-Nov-2024 15:12141Bmmq-instance-iq3_xxs.cu
(-rw-r--r--)20-Nov-2024 17:522.6Mmmq-instance-iq3_xxs.o
(-rw-r--r--)13-Nov-2024 15:12140Bmmq-instance-iq4_nl.cu
(-rw-r--r--)20-Nov-2024 17:522.7Mmmq-instance-iq4_nl.o
(-rw-r--r--)13-Nov-2024 15:12140Bmmq-instance-iq4_xs.cu
(-rw-r--r--)20-Nov-2024 17:522.7Mmmq-instance-iq4_xs.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q2_k.cu
(-rw-r--r--)20-Nov-2024 17:523.3Mmmq-instance-q2_k.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q3_k.cu
(-rw-r--r--)20-Nov-2024 17:522.9Mmmq-instance-q3_k.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q4_0.cu
(-rw-r--r--)20-Nov-2024 17:522.5Mmmq-instance-q4_0.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q4_1.cu
(-rw-r--r--)20-Nov-2024 17:522.6Mmmq-instance-q4_1.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q4_k.cu
(-rw-r--r--)20-Nov-2024 17:522.6Mmmq-instance-q4_k.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q5_0.cu
(-rw-r--r--)20-Nov-2024 17:522.7Mmmq-instance-q5_0.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q5_1.cu
(-rw-r--r--)20-Nov-2024 17:522.8Mmmq-instance-q5_1.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q5_k.cu
(-rw-r--r--)20-Nov-2024 17:522.7Mmmq-instance-q5_k.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q6_k.cu
(-rw-r--r--)20-Nov-2024 17:532.8Mmmq-instance-q6_k.o
(-rw-r--r--)13-Nov-2024 15:12138Bmmq-instance-q8_0.cu
(-rw-r--r--)20-Nov-2024 17:522.4Mmmq-instance-q8_0.o

Node.js v22.11.0/ http-server server running @ ngxson-llamacpp-builder.hf.space