Triton 进入 Gitlab CI

编程问答 2022-04-21

问题描述

在将 triton 服务实施到 gitlab CI 时遇到问题。正如我在 triton github https://github.com/triton-inference-server/server 中注意到的那样，默认情况下，它们在 Dockerfile 中没有任何暴露的端口，而且我真的无法以任何方式访问该服务？是否有访问 Triton 服务的解决方法？

谢谢！

.triton_service: &triton_service
  name: nvcr.io/nvidia/tritonserver:21.06-py3
  command: ['tritonserver','--model-repository=$(S3_TRITON_BUCKET)','--model-control-mode=explicit','--allow-http=true','--allow-metrics=false','--allow-gpu-metrics=false','--log-verbose=true','--log-info=true','--log-warning=true','--log-error=true']
  alias: triton
services:
  - *triton_service

script:
  - curl -v http://triton:8000/v2/health/ready

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）

gitlabgitlabgitlab-citritontritonserver