【Ubuntu】DockerのCLIだけを入れて、RemoteDockerを指定する。

こちらを参考に docker-ce-cli だけを入れます。
https://docs.docker.com/engine/install/ubuntu/

DOCKER_HOSTを指定します。

export DOCKER_HOST=0.0.0.0:2375

docker version を実行して Server: が表示されればOKです。