一、输入数据

1、获取输入tensor

/**
 * @brief get input tensor for given name.
 * @param session   given session.
 * @param name      given name. if NULL, return first input.
 * @return tensor if found, NULL otherwise.
 */
Tensor* getSessionInput(const Session* session, const char* name);
/**
 * @brief get all input tensors.
 * @param session   given session.
 * @return all output tensors mapped with name.
 */
const std::map<std::string, Tensor*>& getSessionInputAll(const Session* session) const;

Interpreter上提供了两个用于获取输入Tensor的方法：getSessionInput用于获取单个输入tensor，
getSessionInputAll用于获取输入tensor映射。

在只有一个输入tensor时，可以在调用getSessionInput时传入NULL/0以获取tensor。

2、直接填充数据

auto inputTensor = interpreter->getSessionInput(session, NULL);
inputTensor->host<float>()[0] = 1.f;

Tensor上最简洁的输入方式是直接利用host填充数据，但这种使用方式仅限于CPU后端，其他后端需要通过deviceid来输入。另一方面，用户需要自行处理NC4HW4、NHWC数据格式上的差异。

对于非CPU后端，或不熟悉数据布局的用户，宜使用拷贝数据接口。

3、拷贝数据

3.1、NHWC: TensorFlow、0

auto inputTensor = interpreter->getSessionInput(session, NULL);
auto nhwcTensor = new Tensor(inputTensor, Tensor::TENSORFLOW);
// nhwcTensor-host<float>()[x] = ...
// host到device的输入数据拷贝
inputTensor->copyFromHostTensor(nhwcTensor);
delete nhwcTensor;

3.2、NCHW: Caffe、1

auto inputTensor = interpreter->getSessionInput(session, NULL);
auto nchwTensor = new Tensor(inputTensor, Tensor::CAFFE);
// nchwTensor-host<float>()[x] = ...
inputTensor->copyFromHostTensor(nchwTensor);
delete nchwTensor;

3.3、NC4HW4: Caffe_C4、2

auto inputTensor = interpreter->getSessionInput(session, NULL);
auto nc4hw4Tensor = new Tensor(inputTensor, Tensor::CAFFE_C4);
// nc4hw4Tensor-host<float>()[x] = ...
inputTensor->copyFromHostTensor(nc4hw4Tensor);
delete nc4hw4Tensor;

二、输出数据

1、获取输出tensor

/**
 * @brief get output tensor for given name.
 * @param session   given session.
 * @param name      given name. if NULL, return first output.
 * @return tensor if found, NULL otherwise.
 */
Tensor* getSessionOutput(const Session* session, const char* name);
/**
 * @brief get all output tensors.
 * @param session   given session.
 * @return all output tensors mapped with name.
 */
const std::map<std::string, Tensor*>& getSessionOutputAll(const Session* session) const;

Interpreter上提供了两个用于获取输入Tensor的方法：getSessionInput用于获取单个输入tensor，
getSessionInputAll用于获取输入tensor映射。

在只有一个输入tensor时，可以在调用getSessionInput时传入NULL/0以获取tensor。

2、直接读取数据

由于绝大多数用户都不熟悉MNN底层数据布局，所以**不要使用这种方式！！！**

auto outputTensor = interpreter->getSessionOutput(session, NULL);
auto score = outputTensor->host<float>()[0];
auto index = outputTensor->host<float>()[1];

3、拷贝数据

不熟悉MNN源码的用户，**必须使用这种方式获取输出！！！**

3.1、NHWC: TensorFlow、0

auto outputTensor = interpreter->getSessionOutput(session, NULL);
auto nhwcTensor = new Tensor(outputTensor, Tensor::TENSORFLOW);
// device到host的数据拷贝
outputTensor->copyToHostTensor(nhwcTensor);
// memcpy((void *)data, (void *)nhwcTensor->host<float>(), tensor->size);
auto score = nhwcTensor->host<float>()[0];
auto index = nhwcTensor->host<float>()[1];
// ...
delete nhwcTensor;

3.2、NCHW: Caffe、1

auto outputTensor = interpreter->getSessionOutput(session, NULL);
auto nchwTensor = new Tensor(outputTensor, Tensor::CAFFE);
outputTensor->copyToHostTensor(nchwTensor);
auto score = nchwTensor->host<float>()[0];
auto index = nchwTensor->host<float>()[1];
// ...
delete nchwTensor;

3.3、NC4HW4: Caffe_C4、2

auto outputTensor = interpreter->getSessionOutput(session, NULL);
auto nc4hw4Tensor = new Tensor(outputTensor, Tensor::CAFFE_C4);
outputTensor->copyToHostTensor(nc4hw4Tensor);
auto score = nc4hw4Tensor->host<float>()[0];
auto index = nc4hw4Tensor->host<float>()[1];
// ...
delete nc4hw4Tensor;