Question

我正在使用以下代码将经过预训练的ResNet50 keras模型导出到tensorflow，以进行tensorflow服务：

import tensorflow as tf
sess = tf.Session()
from keras import backend as K
K.set_session(sess)
K.set_learning_phase(0)

# Modelo resnet con pesos entrenados en imagenet
from keras.applications.resnet50 import ResNet50
model = ResNet50(weights='imagenet')

# exportar en tensorflow
import os
version_number = max([ int(x) for x in os.listdir('./resnet-classifier') ]) + 1
export_path = './resnet-classifier/{}'.format(version_number)
with tf.keras.backend.get_session() as sess:
    init_op = tf.global_variables_initializer()
    sess.run(init_op)
    tf.saved_model.simple_save(sess, export_path,
            inputs=dict(input_image=model.input),
            outputs={t.name:t for t in model.outputs}
    )

我尝试了上述方法的一些变体，所有这些都具有相同的结果（在张量流服务中，预测相同）。

然后我像这样运行tensorflow-serving

docker run -p 8501:8501 \
  -v ./resnet-classifier:/models/resnet-classifier \
  -e MODEL_NAME=resnet-classifier -e MODEL_BASE_PATH=/models \
  -t tensorflow/serving

最后，我正在使用以下功能对张量流服务进行预测：

def imagepath_to_tfserving_payload(img_path):
    import numpy as np
    from keras.preprocessing import image
    from keras.applications.resnet50 import preprocess_input
    img = image.img_to_array(image.load_img(img_path, target_size=(224, 224)))
    X = np.expand_dims(img, axis=0).astype('float32')
    X = preprocess_input(X)
    payload = dict(instances=X.tolist())
    payload = json.dumps(payload)
    return payload

def tfserving_predict(image_payload, url=None):
    import requests
    if url is None:
        url = 'http://localhost:8501/v1/models/resnet-classifier:predict'
    r = requests.post(url, data=image_payload)
    pred_json = json.loads(r.content.decode('utf-8'))
    from keras.applications.resnet50 import decode_predictions
    predictions = decode_predictions(np.asarray(pred_json['predictions']), top=3)[0]
    return predictions

然后，我在ipython shell中使用以上两个函数，从imagenet的val集中选择随机imagenes，我已将其存储在本地。问题在于，tensorflow服务始终对我发送的所有图像返回相同的预测。

每次我使用上面的第一个脚本导出模型时，我得到的类都会稍有不同，例如，第一类的置信度为'1'，其他类的置信度为'0'，例如：

# Serialization 1, in ./resnet-classifier/1 always returning:
[
  [
    "n07745940",
    "strawberry",
    1.0
  ],
  [
    "n02104029",
    "kuvasz",
    1.4013e-36
  ],
  [
    "n15075141",
    "toilet_tissue",
    0.0
  ]
]

# Serialization 2, in ./resnet-classifier/2 always returning:
[
  [
    "n01530575",
    "brambling",
    1.0
  ],
  [
    "n15075141",
    "toilet_tissue",
    0.0
  ],
  [
    "n02319095",
    "sea_urchin",
    0.0
  ]
]

这可能与Tensorflow : serving model return always the same prediction有关，但是我不知道那里的答案（没有被接受的答案）可能会有帮助。

任何人都知道上面有什么问题，以及如何解决？

Answer 1

我发现调用sess.run（tf.global_variables_initializer（））会覆盖预训练的权重，这是在http://zachmoshe.com/2017/11/11/use-keras-models-with-tf.html上找到的线索。

对我来说，解决方案非常简单，只需在以下问题中更改原始问题中的第一段代码，即调用tf.global_variables_initializer（）之前模型实例化/权重负载：

for(Object item : ItemList)
  if(item.id == your id)
     ItemList.remove(item);

Answer 2

当我忘记标准化图像时，有时会遇到这类问题。我认为resnet接受的图像的浮点数介于0和1之间（或者可能是-1至1）。我不知道preprocess_input函数是做什么的，但是您可以检查它是否以期望的格式返回数组。

预训练的Keras ResNet50模型上的Tensorflow Serving总是返回相同的预测

2 个答案: