SpringBoot在k8s中的配置
验证码报错
- github解决
容器中打包指定maven配置文件
Maven缓存路径
前端打包缓存
Maven打包缓存
发布镜像到私服harbor
Pod之间通信
spring boot admin部署问题
- 解决
devops

SpringBoot在k8s中的配置

springboot项目配置文件.properties或者.yml配置文件默认放置的位置是:

classpath:/
classpath:/config/
file:./
file:./config/

只要我们编译后的文件位于这4个位置，springboot就可以加载配置文件。

1. Dockerfile中设置启动命令

FROM openjdk:8-jre-alpine
MAINTAINER songyinyin@dhcc.com.cn
ENV TZ=PRC RUN ln -snf /usr/share/zoneinfo/$TZ /etc/localtime && echo $TZ > /etc/timezone 
RUN mkdir -p /gits WORKDIR /gits 
EXPOSE 8200 
ADD target/gits-single-1.0.0-SNAPSHOT.jar ./ 
ENTRYPOINT ["sh","-c","java -jar $JAVA_OPTS /gits/gits-single-1.0.0-SNAPSHOT.jar $PARAMS"]

$JAVA_OPTS和$PARAMS使用格式

使用$JAVA_OPTS：-Dspring.profiles.active=dev
使用$PARAMS：--spring.profiles.active=dev
2. kubersphere中配置环境变量
JAVA_OPTS：-Dspring.profiles.active=kubernetes

使用ConfigMap：

3. 使用ConfigMap

使用ConfigMap将配置以application-kubernetes.yml文件的形式，挂载到容器内的/aml/config下

4. 日志策略

日志滚动策略，容器内日志满了怎么办？

容器化应用程序写入到 stdout 和 stderr 中的任何信息，都将被容器引擎重定向到某个地方。例如，Docker 容器引擎将 stdout 和 stderr 这两个输出流重定向到 logging driver，Kubernetes的默认配置中，最终 logging driver 最终把日志写入了一个 json 格式的文件。

docker中日志的介绍：https://docs.docker.com/config/containers/logging/configure/

kubeshpere中日志收集：https://kubesphere.com.cn/docs/zh-CN/platform-settings/log-gathering/

健康检查：/actuator/health

maven构建指定私服地址 setting.xml文件，
maven本地仓库地址缓存

验证码报错

-Djava.awt.headless=true

openjdk:8-jre-alpine

powerjob使用的基础镜像

# 基础镜像（支持 amd64 & arm64），based on Ubuntu 18.04.4 LTS
FROM adoptopenjdk:8-jdk-hotspot

github解决

https://github.com/whvcse/EasyCaptcha/issues/24

FROM openjdk:8-jdk-alpine
VOLUME /tmp
VOLUME /logs
COPY ./actionj.ttf /usr/share/fonts/ttf-dejavu/actionj.ttf
ENV LANG en_US.UTF-8
RUN echo -e "https://mirror.tuna.tsinghua.edu.cn/alpine/v3.9/main\n\
https://mirror.tuna.tsinghua.edu.cn/alpine/v3.9/community" > /etc/apk/repositories
RUN rm -rf /var/cache/apk/* && rm -rf /tmp/*
RUN apk update
RUN apk add --update --no-cache --wait 10 ttf-dejavu fontconfig && rm -rf /var/cache/apk/*
ADD /admin-rbac.jar //
ENV JAVA_OPTS -Duser.timezone=GMT+08 -Xms128m -Xmx128m
ENTRYPOINT ["sh","-c","java $JAVA_OPTS -Djava.security.egd=file:/dev/./urandom -jar /admin-rbac.jar"]

容器中打包指定maven配置文件

https://help.coding.net/docs/devops/artifacts/problem.html

mvn clean package --settings settings.xml

在终端执行 mvn 相关命令时，settings.xml 配置生效的优先级：指定路径 > 用户配置 > 全局配置。

Maven缓存路径

 ls -a /root
.
..
anaconda-ks.cfg
.bash_logout
.bash_profile
.bashrc
.cshrc
.m2
.pki
.sonar
.tcshrc

前端打包缓存

运行yarn install 则每次devops时都需要重新下载？

在流水线中，我们已经考虑到 nodejs 构建缓存的情况。

请选择 nodejs 这个 node 进行构建
内置默认的缓存目录是 /root/.yarn ，如果你的项目中不是此目录，请手动指定。

此外，相关的配置文件在系统 jenkins 组件的 jenkins-casc-config 中，可以定制缓存目录。

Maven打包缓存

Commands:
  create      创建一个数据卷
  inspect     打印一个或多个数据卷的详细信息
  ls          列出所有数据卷
  prune       删除所有未使用的数据卷
  rm          删除一个或多个数据卷

# 查看数据卷
docker volume ls

# maven仓库缓存路径
/root/.m2

发布镜像到私服harbor

需要修改node节点的hosts

vim /etc/hosts

# add by songyinyin
172.28.30.93 harbor.dhcc.cloud
# add by songyinyin

service network restart

docker login harbor.dhcc.cloud -u devops -p Ld87g6Q6fsGfd

Pod之间通信

Pod是一个容器组

每一个 Pod 被分配一个独立的 IP 地址。Pod 中的所有容器共享一个网络名称空间：

同一个 Pod 中的所有容器 IP 地址都相同
同一个 Pod 中的不同容器不能使用相同的端口，否则会导致端口冲突
同一个 Pod 中的不同容器可以通过 localhost:port 进行通信
同一个 Pod 中的不同容器可以通过使用常规的进程间通信手段，例如 SystemV semaphores 或者 POSIX 共享内存

Pod之间，通过service通信

spring boot admin部署问题

admin报错：

io.fabric8.kubernetes.client.KubernetesClientException: Failure executing: 
GET at: https://10.233.0.1/api/v1/services?labelSelector=spring-boot%3Dtrue. 
Message: Forbidden!Configured service account doesn't have access. Service account may have been revoked. 
services is forbidden: User "system:serviceaccount:aml-single:default" cannot list resource "services" in API group "" 
at the cluster scope.

解决

# 给namespace=aml-single的default用户，赋予查看权限
/ # kubectl create rolebinding aml-single-default-view-binding \
--clusterrole=view --serviceaccount=aml-single:default \
--namespace=aml-single
rolebinding.rbac.authorization.k8s.io/aml-single-default-view-binding created

# 给namespace=aml-single的default用户，赋予集群的查看权限
/ # kubectl create clusterrolebinding aml-cluster-default-view-binding \
--clusterrole=view --serviceaccount=aml-single:default
clusterrolebinding.rbac.authorization.k8s.io/aml-cluster-default-view-binding created

aml-platform-single指定admin地址

JAVA_OPTS -Dspring.boot.admin.client.url=http://csv-aml-platform-admin-sjk51l:8300

devops

每天清理N天之前的镜像 `` docker rmidocker images | grep admin | awk ‘{print $3}’`

docker rmi docker images | grep none | awk '{print $3}'


2. 持续构建可以使用`latest`版本，减少node节点镜像
2. admin:
   1. tag=SNAPSHOT-15: springboot2.2.6.RELEASE
   1. tag=SNAPSHOT-14: springboot2.3.1.RELEASE
4. 在流水线中，可以使用`$BUILD_NUMBER`获取运行id
<a name="m68OW"></a>
# k8s yaml
```yaml
# yaml格式的pod定义文件完整内容：
apiVersion: v1       #必选，版本号，例如v1
kind: Pod       #必选，Pod
metadata:       #必选，元数据
  name: string       #必选，Pod名称
  namespace: string    #必选，Pod所属的命名空间
  labels:      #自定义标签
    - name: string     #自定义标签名字
  annotations:       #自定义注释列表
    - name: string
spec:         #必选，Pod中容器的详细定义
  containers:      #必选，Pod中容器列表
  - name: string     #必选，容器名称
    image: string    #必选，容器的镜像名称
    imagePullPolicy: [Always | Never | IfNotPresent] #获取镜像的策略 Alawys表示下载镜像 IfnotPresent表示优先使用本地镜像，否则下载镜像，Nerver表示仅使用本地镜像
    command: [string]    #容器的启动命令列表，如不指定，使用打包时使用的启动命令
    args: [string]     #容器的启动命令参数列表
    workingDir: string     #容器的工作目录
    volumeMounts:    #挂载到容器内部的存储卷配置
    - name: string     #引用pod定义的共享存储卷的名称，需用volumes[]部分定义的的卷名
      mountPath: string    #存储卷在容器内mount的绝对路径，应少于512字符
      readOnly: boolean    #是否为只读模式
    ports:       #需要暴露的端口库号列表
    - name: string     #端口号名称
      containerPort: int   #容器需要监听的端口号
      hostPort: int    #容器所在主机需要监听的端口号，默认与Container相同
      protocol: string     #端口协议，支持TCP和UDP，默认TCP
    env:       #容器运行前需设置的环境变量列表
    - name: string     #环境变量名称
      value: string    #环境变量的值
    resources:       #资源限制和请求的设置
      limits:      #资源限制的设置
        cpu: string    #Cpu的限制，单位为core数，将用于docker run --cpu-shares参数
        memory: string     #内存限制，单位可以为Mib/Gib，将用于docker run --memory参数
      requests:      #资源请求的设置
        cpu: string    #Cpu请求，容器启动的初始可用数量
        memory: string     #内存清楚，容器启动的初始可用数量
    livenessProbe:     #对Pod内个容器健康检查的设置，当探测无响应几次后将自动重启该容器，检查方法有exec、httpGet和tcpSocket，对一个容器只需设置其中一种方法即可
      exec:      #对Pod容器内检查方式设置为exec方式
        command: [string]  #exec方式需要制定的命令或脚本
      httpGet:       #对Pod内个容器健康检查方法设置为HttpGet，需要制定Path、port
        path: string
        port: number
        host: string
        scheme: string
        HttpHeaders:
        - name: string
          value: string
      tcpSocket:     #对Pod内个容器健康检查方式设置为tcpSocket方式
         port: number
       initialDelaySeconds: 0  #容器启动完成后首次探测的时间，单位为秒
       timeoutSeconds: 0   #对容器健康检查探测等待响应的超时时间，单位秒，默认1秒
       periodSeconds: 0    #对容器监控检查的定期探测时间设置，单位秒，默认10秒一次
       successThreshold: 0
       failureThreshold: 0
       securityContext:
         privileged:false
    restartPolicy: [Always | Never | OnFailure]#Pod的重启策略，Always表示一旦不管以何种方式终止运行，kubelet都将重启，OnFailure表示只有Pod以非0退出码退出才重启，Nerver表示不再重启该Pod
    nodeSelector: obeject  #设置NodeSelector表示将该Pod调度到包含这个label的node上，以key：value的格式指定
    imagePullSecrets:    #Pull镜像时使用的secret名称，以key：secretkey格式指定
    - name: string
    hostNetwork:false      #是否使用主机网络模式，默认为false，如果设置为true，表示使用宿主机网络
    volumes:       #在该pod上定义共享存储卷列表
    - name: string     #共享存储卷名称 （volumes类型有很多种）
      emptyDir: {}     #类型为emtyDir的存储卷，与Pod同生命周期的一个临时目录。为空值
      hostPath: string     #类型为hostPath的存储卷，表示挂载Pod所在宿主机的目录
        path: string     #Pod所在宿主机的目录，将被用于同期中mount的目录
      secret:      #类型为secret的存储卷，挂载集群与定义的secre对象到容器内部
        scretname: string  
        items:     
        - key: string
          path: string
      configMap:     #类型为configMap的存储卷，挂载预定义的configMap对象到容器内部
        name: string
        items:
        - key: string
          path: string

读钓的YY

SpringBoot-Docker-k8s思路及问题记录