问题描述
我正在使用 BentoML 为 BERT 模型构建 docker 容器,然后在 GKE 上使用 Seldon 进行部署。该模型的 REST API 端点工作正常。在与 Seldon 的兼容性方面,Prometheus 正在抓取这些指标并在 Grafana 上进行可视化。唯一似乎不起作用的 Seldon 组件是请求日志记录,我为部署在 Seldon 上的其他应用程序工作。我正在使用 here 的弹性堆栈。根据我的理解,请求日志记录应该仍然是兼容的,唯一丢失的功能应该是 Seldon 的模型元数据。关于如何使集中请求日志记录工作的任何见解?没有显示错误;只是日志没有被捕获并发送到 ElasticSearch。
解决方法
暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!
如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@)