vLLM で、リクエストの指定により別リビジョンのプロセッサコードを実行される

何が起きたか

マルチモーダルのリクエストで mm_processor_kwargs.code_revision を指定でき、その値が AutoProcessor.from_pretrained に届きます。--trust-remote-code を有効にし、プロセッサが auto_map の動的コードを使うモデルを提供している場合、運用者が確認したものとは別のリビジョンの Python コードが API プロセス内で実行されます。