b50166500e
* Add validation for tensor_split size exceeding LLAMA_MAX_DEVICES * reword |
||
---|---|---|
.. | ||
server | ||
__init__.py | ||
llama.py | ||
llama_chat_format.py | ||
llama_cpp.py | ||
llama_grammar.py | ||
llama_types.py | ||
py.typed | ||
utils.py |