5
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

Codebuildのローカルキャッシュでハマった話

Posted at

実現したいこと

前回の記事 で構築したCIパイプラインの実行時間を短縮したい
具体的には,CodeBuildでDockerイメージを作成する際のgoモジュールを予めキャッシュしておき,ビルド毎に発生するダウンロード時間を短縮したい.

#環境

  • Golang 1.13.5
  • Docker 18
  • AWS 東京リージョン

やったこと/ハマったこと

やったこと1

  • CodeBuildの設定変更
    CodeBuildのアーティファクト設定からキャッシュタイプを"ローカルキャッシュ"に変更
    オプションは"CustomCache"を選択

  • buildspec.yamlの編集
    前回作成したbuildspec.ymlに cache項目を追加


version: 0.2

phases:
  install:
    runtime-versions:
      docker: 18
    commands:
    - $(aws ecr get-login --no-include-email --region ap-northeast-1)

  pre_build:
    commands:
    - make test

  build:
    commands:
    - make build

  post_build:
    commands:
    - make push-image

#キャッシュ対象にするディレクトリを指定
cache:
  paths:
  # goモジュールの保存先
  - '/go/pkg/mod/**/*'

ハマったこと1

  • goモジュールが /go/pkg/mod/ に保存されていない
    go buildをDockerbuildの中で行っていたため ダウンロードしたモジュールは
    CodeBuild上で作成されたDockerコンテナの /go/pkg/mod/ に保存されていた

当然Dockerコンテナ自体をキャッシュすることは出来ないのでこの方法は破綻

go buildをCodeBuildのコンテナ上で行い,Docker build時にコピーすることに変更
これにより,goモジュールはCodeBuildコンテナの /go/pkg/mod/ に保存される

やったこと2

  • buildspec.ymlを編集
version: 0.2

phases:
  install:
    runtime-versions:
      docker: 18
      # goのランタイムが必要になったので追加
      golang: 1.13
    commands:
     - $(aws ecr get-login --no-include-email --region ap-northeast-1)

  pre_build:
    commands:
    - make test

  build:
    commands:
    # CodeBuildコンテナ上でbuildするため make buildから変更
    - CGO_ENABLED=0 go build -ldflags '-d -w -s' -o app
    - make build

  post_build:
    commands:
    - make push-image

cache:
  paths:
  - '/go/pkg/mod/**/*'

# go buildで必要になる環境変数の指定
env:
  variables:
    GOOS: linux
    GOARCH: amd64

  • DockerFileを編集
    元々はgo buildもdocker build内で行っていたので
    docker buildでは既に作成されたgoアプリの実行ファイルを使用してイメージを作成するようにDockerFileを編集

ハマったこと2

  • なぜかローカルキャッシュが機能していない

キャッシュの設定は上手くいっているようでログ上もローカルキャッシュを読み込んでいる(シンボリックリンクを作成している)
が,肝心のリンク先にキャッシュされているはずのファイルが存在しない.

AWSの仕様ページ を見るにローカルキャッシュが利用できない場合もあるとのことだが,今回の設定は該当していないように思える.

今回は原因調査まで行う余裕がなかったため 一旦ローカルキャッシュを諦め
S3にキャッシュさせることにした.

(課題は残るものの)完成

キャッシュ設定前後ではビルド時間が 3min43sec -> 3min09sec と多少なりキャッシュの恩恵を確認できた.
ただ,S3キャッシュはS3からキャッシュデータをダウンロードし,ビルド後にS3へアップロードするため,予めコンテナ内にデータを保持しておき,シンボリックリンクを作成するのみのローカルキャッシュと比べると時間がかかってしまう.
(今回はキャッシュデータが50MBを超えていたのでダウンロード/アップロードに時間がかかっているのが実感としてあった)

5
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
5
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?