llama.cpp/llama_cpp
Eric Liu b50166500e
Add validation for tensor_split size exceeding LLAMA_MAX_DEVICES (#820)
* Add validation for tensor_split size exceeding LLAMA_MAX_DEVICES

* reword
2023-10-15 13:51:51 -04:00
..
server Print traceback on server error 2023-10-10 15:56:04 -04:00
__init__.py Bump version 2023-09-30 16:04:46 -04:00
llama.py Add validation for tensor_split size exceeding LLAMA_MAX_DEVICES (#820) 2023-10-15 13:51:51 -04:00
llama_chat_format.py Add chatml chat format 2023-09-30 21:01:34 -04:00
llama_cpp.py Update llama.cpp 2023-10-05 16:07:49 -04:00
llama_grammar.py Fix typos in llama_grammar 2023-08-17 21:00:44 +09:00
llama_types.py Update llama_types and names to match openai api 2023-09-20 15:38:26 -04:00
py.typed Add py.typed 2023-08-11 09:58:48 +02:00
utils.py Suppress llama.cpp output when loading model. 2023-07-28 14:45:18 -04:00