]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
llava : update surgery script to not remove tensors (#5536)
authorDaniel Bevenius <redacted>
Sun, 18 Feb 2024 16:19:23 +0000 (17:19 +0100)
committerGitHub <redacted>
Sun, 18 Feb 2024 16:19:23 +0000 (18:19 +0200)
commitfc0c8d286a533363a9a663510b62af85ffad58b3
tree900a2210a71c7600acd0f8ea50847293bc4d2c3e
parentbd2d4e393b2b7d2a1b2e201058e26017c9728ead
llava : update surgery script to not remove tensors (#5536)

This commit updates the surgery script to not remove the tensors from the
model file. For this to work the `--skip-unknown` flag is added as an
argument to the convert.py script in README.md.

The motivation for this change is that the surgery script currently
removes the projector tensors from the model file. If the model was
checked out from a repository, the model file will have been updated
and have to be checked out again to reset this effect. If this can be
avoided I think it would be preferable.

I did not perform this change for BakLLaVA models as I am not sure
how that part works.
examples/llava/README.md
examples/llava/llava-surgery.py