【tensorflow&flutter&web】机器学习模型怎样用到前端上（未写完）

书接上回

????????在上一章 我们谈了怎么根据项目需求构建一个简单的机器学习模型。

? ? ??????? ??????【tensorflow&flutter】自己写个机器学习模型用在项目上？-CSDN博客文章浏览阅读852次，点赞22次，收藏15次。【tensorflow&flutter】自己写个机器学习模型用在项目上？ 拍摄APP项目上线有一阵了，每天的拍摄数据呈现波动上升状态、业务方需要对数据进行加工，如果能有对未来的数据量的预测就好了 。https://blog.csdn.net/qq_36544007/article/details/135404222?spm=1001.2014.3001.5502????????其实上期的项目完全可以用tensorflow serving去获取数据,或者是一个web 页面去加载tensorflow js去计算更加方便部署。

????????哦，至于你说什么是tensorflow serving、什么是tensorflow js,本期咱们说一下机器学习模型用在前端的几种方式。

部署机器学习模型的方式

????????咱们还是继续以tensorflow为例子（大家也可以了解一下PyTorch）

先说总结

?????????TensorFlow 可提供强大的功能，以便您在任何环境（包括服务器、边缘设备、浏览器、移动设备、微控制器、CPU、GPU、FPGA）中部署模型。TensorFlow Serving?可以在先进的处理器（包括 Google 的自定义张量处理单元 [TPU]）上以生产规模运行机器学习模型。
????????如果您需要在靠近数据源的位置分析数据，以缩短延迟时间并更好地保护数据隐私，可以借助?TensorFlow Lite?框架在移动设备、边缘计算设备甚至微控制器上运行模型，还可以借助?TensorFlow.js?框架仅使用网络浏览器就能运行机器学习模型

? 就是如上所说的一样 可以在设备上、浏览器中、本地或云端都可以部署模型。

1.Tensorflow Serving

????????先说一下tensorflow serving这种常规后端,直接返回推断好的数据。?比如千人千面的淘宝推荐,头条不同的广告，又或者是这种与前端相对交互更多的：交互式推荐在外卖场景的探索与应用。

简易使用

? ????????很简单 大家可以试一试。先下载Docker，然后遵循以下步骤：

# Download the TensorFlow Serving Docker image and repo 下载TensorFlow Serving Docker镜像
docker pull tensorflow/serving
# 获取模型
git clone https://github.com/tensorflow/serving
# 定义模型
TESTDATA="$(pwd)/serving/tensorflow_serving/servables/tensorflow/testdata"

# Start TensorFlow Serving container and open the REST API port 启动TensorFlow Serving容器并打开REST API端口
docker run -t --rm -p 8501:8501 \
    -v "$TESTDATA/saved_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &

# Query the model using the predict API  本地就可以请求了
curl -d '{"instances": [1.0, 2.0, 5.0]}' \
    -X POST http://localhost:8501/v1/models/half_plus_two:predict

# Returns => { "predictions": [2.5, 3.0, 4.5] }

介绍?

?????????使用docker 实现了：只需要传递参数请求就可以输出推断结果的最简单节点。遇到问题可以参考官方链接或者网上查询。?

? ? ? ? 比如大家制作好的模型/网上更有实力的模型/针对项目强化学习的模型 都可以通过这样的情况进行部署，然后通过后端包装一下、或者直接调用。

????????适用的场景就如上面所说,还包括我上篇文章的数据推断、票房预测、一次推断多处使用，或者计算量数据、资源来自服务器。

? ? ? ??

结语

? ? ? 我一开始学习机器学习 大家都是介绍其中的部分 比如就介绍了怎么建模，具体技术细节,没有说从前端、或是其他角度说介绍这件事。在我学习的前期有一种盲人摸象的感觉，希望我写的文章对你有帮助。?

参考文档

docker安装&tensorflow serving使用

tensorflow 官网 部署模型