如何使用“预测”Sgature Def 在 Java 中加载 Tensorflow

Question

我正在训练 Tensorflow Estimator 并用于export_saved_model以 SavedModel 格式保存模型。现在我想用 Tensorflow Java API 加载这个模型（我不想使用模型服务器，我需要直接用 Java 加载它）。现在的问题是，Estimator.export_saved_model仅导出“predict”signature_def，而SavedModelBundleJava中的似乎仅支持具有“serving_default”签名def的模型。所以问题是：有没有办法Estimator.export_saved_model包含“serving_default”签名 def？或者是否可以使用 java 中的“预测”签名 def 加载模型？或者还有其他我可以尝试的选择吗？这是导出模型的代码：feature_cols = [        tf.feature_column.numeric_column('numeric_feature'),        tf.feature_column.indicator_column( tf.feature_column.categorical_column_with_vocabulary_list('categorial_text_feature', vocabulary_list=['WORD1', 'WORD1']))]estimator = tf.estimator.LinearRegressor(    feature_columns=feature_cols,    model_dir=model_dir,    label_dimension=1)    estimator.train(input_fn=input_fn)serving_input_receiver_fn = tf.estimator.export.build_raw_serving_input_receiver_fn({        'numeric_feature': tf.placeholder(tf.float32, shape=(None,)),        'categorial_text_feature': tf.placeholder(tf.string, shape=(None,))})estimator.export_saved_model(    export_dir_base=model_dir,    serving_input_receiver_fn=serving_input_receiver_fn)如果我检查模型，saved_model_cli show --tag_set serve我会得到：The given SavedModel MetaGraphDef contains SignatureDefs with the following keys:SignatureDef key: "predict"并与saved_model_cli show --tag_set serve --signature_def predict：The given SavedModel SignatureDef contains the following input(s):  inputs['numeric_feature'] tensor_info:      dtype: DT_FLOAT      shape: (-1)      name: Placeholder:0  inputs['categorial_text_feature'] tensor_info:      dtype: DT_STRING      shape: (-1)      name: Placeholder_1:0The given SavedModel SignatureDef contains the following output(s):  outputs['predictions'] tensor_info:      dtype: DT_FLOAT      shape: (-1)      name: linear/linear_model/linear_model/linear_model/weighted_sum:0Method name is: tensorflow/serving/predict

Answer 1

找到了一个（不完美，但简单）的解决方法：

我刚刚导出模型as_text=True：

estimator.export_saved_model(
        export_dir_base=model_dir,
        serving_input_receiver_fn=serving_input_receiver_fn,
        as_text=True)

然后手动更改 .pbtxt 文件，使签名 def 称为“serving_default”