運用練度を高め本番リリースに臨むためのアプローチ | メルカリエンジニアリング
はじめに こんにちは、メルペイのバックエンドエンジニアの cowsys です。 「どうすれば決済サービスで必要となる最高レベルの運用練度を有することができるのか」 メルペイという決済サービスを開発/運用するにあたって、向き合わざるを得ないテーマの1つです。 今回このテーマにあらためて向き合い、目指す運用練度に近づけた手応えを持てたので詳細についてお伝えしたいと思います。 取り組みの経緯 メルペイをリリースしてから1年がたち、新しいmicroserviceの開発をしています。 開発に取りかかるにあたって、新たに取り組むべきテーマを探していました。テーマを探すにあたって、まずはこれまでの、メルペイローンチ前の開発に目を向け、当時の課題を振り返ってみました。 メルペイリリース前に直面していた最大の課題。それは「どうすれば決済サービスで必要となる最高レベルの運用練度を有することができるのか」という
GitLab上でよしなに自動実行してくれるTerraformのCIを目指して - エムスリーテックブログ
こんにちは、エムスリー エンジニアリンググループ の鳥山 (@to_lz1)です。製薬企業向けプラットフォームチームでチームSREとして活動しています。 この記事はエムスリー Advent Calendar 2021 22日目の記事です。 Googleの実践から生まれたSREという職種は決してインフラ "だけ" を見る存在ではありませんが、インフラの構築・維持管理は依然として主要な仕事の1つです。 ここ数年のエムスリーのインフラの変遷やその全体像については14日目の記事「エムスリーの IaC 3年史」に譲りますが、私の所属する製薬企業向けプラットフォームチームも、 多くの本番プロダクトがAWS上で稼働 データ基盤はBigQuery上に整備 他のチームが開発するGCP上の機械学習システムとも連携 ...といった具合で日々クラウド上での開発と運用をしています。また、AWS上の構成はほぼ全て T
障害対応の心構え | Wantedly Engineering Handbook
このドキュメントはインシデント発生前に予防として読んでおくことを想定しています。 緊急時は Incident Response (internal) 及び #war_room (internal) を確認してください。 インシデント対応について Incident Response (internal) がより網羅的かつ真とするドキュメントです。 このドキュメントでは上記のドキュメントの内容を補足する内容として特に new joiner が認識しておくべき情報を抽出/加筆したものです。 もし上のドキュメントとこの章に食い違いが生じる場合は上のドキュメントを真としてこの章を編集してください。 各チームで new joiner を受け入れるときにこのドキュメントを一律に共有することで共通認識を得ることを目的にします。 このため主に障害対応経験が少ない人に向けた最低限の心構えを共有するものであり障
DaggerでPythonのCIを実装してGitHub Actionsで動かしてみる - け日記
今回の投稿では、ポータブルなCI/CDワークフローとして注目されている Dagger について紹介します。 例として、簡単なPythonアプリケーションのCI/CDをDaggerで実装してみました。 フォーマットチェック (black) 、静的チェック (flake8) 、テスト (pytest) を実行する イメージをビルドしてコンテナイメージリポジトリ (Docker Hub) にプッシュする GitHub ActionsでDaggerを実行する コードを以下のリポジトリにあります。 github.com Daggerとは 2022年3月にパブリックローンチされた可搬性のあるCI/CDパイプラインのツールキットです。開発にはDockerの開発者が関わっているそうです。 dagger.io Daggerが着目しているのは、CI/CDワークフローのメンテナンスの大変さです。 実行環境が多様
TerraformのAWS Providerのバージョンアップで S3の破壊的変更と向き合った話
スターフェスティバル株式会社 の バックエンドエンジニアの @ikkitang です。 今回はタイトルの通り、Terraform のバージョンアップに伴って変更になった Terraform の新しい S3 の管理方法を既存のリポジトリに適用してみた話を書いてみたいと思います。意外と情報を集めるのに困ったりしたので、このドキュメントが誰かの役に立てば幸いです。 AWS Provider のバージョンアップと向き合う Terraform で AWS のリソースを管理する際は AWS Providerを使用するかと思います。 弊社では執筆時現在、v3.x のバージョンが使われておりますが、AWS Provider のメジャーバージョンは v4.x がリリースされています。弊社のインフラチーム全体として v3.x の最新バージョンへの追従も中々実現出来ていなくて、バージョンアップの課題感を感じてい
Terraform moduleは何が嬉しいのか - chroju.dev
Terraformの「module」を最近使うようになった。moduleは複数のクラウドリソースをまとめてテンプレート化して、呼び出すときに必要な引数だけ与えてあげれば発動可能になるというもので、要するにリソースの抽象化に使われる。Ansibleで言うところのRoleに近い。 Terraform自体は1年ぐらい前から使っていたので、結構長いことmoduleには触れていなかったんだけど、理由としては結構複雑化しそうというのがあった。今回改めて触れてみて、メリットは確かに感じられるがやっぱり複雑だなという気持ちが強くて、一旦まとめてみる。 宣言地獄 moduleはクラウドリソースの枠を作り、各種設定値は変数として空けておいて、呼び出されるときに変数を埋めてもらう、という形を取るので、変数宣言をそこここに書くことになる。これがあまりDRYではないというか、何度も同じものを書く必要があったりする。
GitLab CIのテンプレート基盤を構築した - エムスリーテックブログ
エムスリーエンジニアリンググループ AI・機械学習チームでソフトウェアエンジニアをしている中村(po3rin) です。検索とGoが好きです。 今回はチームで利用するGitLab CIのテンプレート基盤を構築してGitLab CIの運用改善を行ったのでご紹介します。 抱えていた課題 GitLab CI テンプレート テストの実装 弊チームでGitLab CIテンプレート化したJOB まとめ We're hiring !!! 抱えていた課題 エムスリーのAI・機械学習チームではGitLab CIを使ったKubernetesへのデプロイや脆弱性のスキャンを行っています。これらの処理はcookiecutter templateを利用してプロジェクト作成時に組み込まれるため、これらの処理を0から準備しなくてもすぐに開発が可能です。 cookiecutterを使ったプロジェクトテンプレートの作成に関し
AI時代に向けたクラウドにおける信頼性エンジニアリングの未来構想 / DICOMO2022 6A-1
DICOMO2022 6A 統一セッション：クラウド 招待講演 https://tsys.jp/dicomo/2022/program/program_abst.html#6A-1 情報サービスの利用者に必要な機能を頻繁に加え続けながらも、いかに必要十分な信頼性を継続させるかが従前より課題となっている。この課題に対するひとつの回答とも言える、Googleが提唱した情報サービスの新しい運用形態であるSite Reliability Engineering（SRE）の普及が進んでいます。本発表では、SREの中核概念を整理した上で、AI時代に向けて、AIとの対話を軸にした未来の運用のあり方を構想します。
CI・CD界隈期待の星!!Daggerに入門してローカルとGithubActionsでCIを動かしてみた | DevelopersIO
CI・CD界隈期待の星!!Daggerに入門してローカルとGithubActionsでCIを動かしてみた こんにちは、AWS事業本部コンサルティング部に所属している今泉(@bun76235104)です。 みなさん、CI・CDのプラットフォームは何を利用されていますか？ AWS CodePipeline AWS CodeDeploy AWS CodeBuild GitHub Actions CirleCI GitLab CI/CD など、沢山の魅力的なサービスがありますね。 一方で以下のような悩みを抱えていらっしゃいませんか？ CI/CDサービスの移行が必要になり、設定ファイルを大きく書き換える必要がある ↑が大変だったので、SaaSの製品を使うようにしたら割と費用がかかるようになった CI/CDの設定をyamlで書いているが、ローカルでの開発が大変 書いた設定ファイルをCI/CDのサービス
Terraform で Snowflake の何を管理するべきか
本記事は、Snowflake Advent Calendar 2021 の 25 日目です。 この記事の背景 以前、Terraform（インフラの構成管理ツール）を使って Snowflake のリソースを管理し始めたことを書きました。 Snwoflake のユーザコミュニティである SnowVillage でも、Terraform について発表しました。 Terraform はプラグインアーキテクチャを採用しており、 Snowflake プラグイン もコミュニティベースで開発されています。この Snowflake プラグインを使うと、Snowflake のリソースの構成を Terraform の設定ファイルとして記述し、デプロイを自動化することができます。 記事やコミュニティでの発表をした後、SnowVillage 内のコメントを見ていると、コミュニティでも使っている方がいらっしゃるようで
退屈な監視はPrometheusにやらせよう――アプリケーションエンジニアのためのcustom metrics入門 - LIFULL Creators Blog
エンジニアの島です。AI戦略室でバックエンドシステムの開発をしています。 本記事ではPrometheusを利用して、独自のメトリクスを計測することで監視を効率よく行えることを紹介します。 背景 チームで作っているもの 社内共通基盤の活用 効果的な監視で得られるもの 問題の予兆に気付けるようになる 問題の原因特定につながる 時系列での傾向を把握できる Prometheusとは 思想 メトリクスの公開 custom metricsを追加しよう Prometheusで監視しよう custom metricsで計測すると嬉しいもの 外部IOに関して 内部状態に関して 外部起因ではないアプリケーションのエラーの数 有効データのうち、モデルが値を返せている割合 機械学習モデルのスコア(histogramを利用) そのほか 終わりに 最後に宣伝 背景 チームで作っているもの LIFULLのAIチームでは
Infrastructure as Code に最低限求めること - tech.guitarrapc.cóm
Infrastructure as Code (以降 IaC) で組むときに IaC ツールを選ぶ基準はいろいろあります。 IaCの言語がチームとって扱いやすいか、クラウドやサービスへのIaCの対応状況は早い/十分か、コミュニティの大きさは十分でググれば情報を入手できるか、実装がオープンソースで公開されているか、利用事例が欲しいか、など様々な理由で選ぶことでしょう。 しかし、こういった基準よりまず 「IaC というからには最低限出来ていないと困ること」というのが個人的にあります。 最近、Bicep で組んでいた Azure の環境を Pulumi に移行したのですが、その理由は Bicep では IaC が維持できないと判断したためでした。 IaC ツールを使っていて IaC が維持できないと判断したのは初めてだったので、いい機会ですし IaC に最低限求めることを言語化しようと思います。
GCPリソースを CDK for Terraform で作成する - RareJob Tech Blog
はじめまして、DMP (データマネジメントプラットフォーム) グループの すぎみつ です。 最近はスキルアップ手当*1で昇降デスクの購入を検討しています。電動式昇降デスクのすゝめによると自分に最適なデスクの高さは74cmでした。 さて、DMP グループでは現在 GCP のリソース管理に CDK for Terraform を利用していまして、CDK for Terraform の利用例についてご紹介します。 はじめに CDK for Terraformとは サンプルの紹介 プロジェクトの作成 実装 デプロイ 結果確認 懸念するところ おわりに はじめに DMP グループはレアジョブグループのデータ基盤の整備をメイン業務の一つとしています。 現在は既にあるデータ基盤を新たに BigQuery を中心とした Google Cloud Platform に移行しています。 レアジョブ英会話を始め
「ソフト版トヨタ生産方式」、クルマに広がるDevOps
自動車メーカーが「DevOps（デブオプス）」と呼ばれるソフトウエア開発手法に力を入れている。「トヨタ生産方式のソフト版」ともいえる取り組みで、“ソフト工場”などとも呼ばれる。IT分野で実績のある効率的なソフト開発手法を取り入れることで、CASE（コネクテッド、自動運転、シェアリング、電動化）への対応力を高める。 「ソフトウエアファーストのものづくりに転換する」――。トヨタ自動車社長の豊田章男氏はソフト優先の考え方をこう表現する。同社は2018年以降、モビリティーカンパニーへの変革を掲げ、ソフト開発力を強化してきた。18年3月にトヨタ、デンソー、アイシン精機の共同出資で自動運転ソフトの開発を担うTRI-AD（トヨタ・リサーチ・インスティテュート・アドバンスト・デベロップメント）を設立。TRI-ADは21年1月から持ち株会社のウーブン・プラネット・ホールディングス、事業会社のウーブン・コア、
CodeGuruによるレビューをCI/CDパイプラインに組み込む CodePipeline＋CodeBuild編 - Qiita
モチベーション DevOpsサイクルを素早く回し、柔軟で高速なフィードバック&リリースを進めるなかで、ときにセキュリティの観点が後回しになってしまうかもしれません。 そうなるとリリースまでにリスクを除去しきれない、リスクの発見が遅れるといったことが発生し、結果的に新機能のリリースが遅れてしまいます。 DevSecOps DevOpsサイクルにセキュリティの自動化を組み込んだDevSecOpsという考え方があります。 サイクルの中にセキュリティを組み込み、できるだけ早い段階で問題・リスクを発見し対応することで安定したリリースにつなげます。（セキュリティのシフトレフト） セキュリティについては専門知識も必要な部分がありますが、AWSでは様々なセキュリティ関連サービスが存在します。 参考：AWSクラウドセキュリティ、AWSアカウントのセキュリティ対策(iret.media) セキュリティも専門チ
新しくクラウドサービスを学ぶ時Infrastructure as Codeから始めてる話 - YOMON8.NET
背景 クラウドサービスのキャッチアップにおける課題 サービス間連携が多い 新機能追加のスピードが速い すぐ忘れる 勉強時にインフラコードを書くようにしてみた 以前のステップ 現在のステップ Infrastructure as Codeについて 使っているツール メリット 細部まで整合性の取れた設計がしやすい 抜け漏れが少なくなる 知識の整理・蓄積ができる デメリット さいごに 背景 私は仕事柄複数のプロジェクトに並列で関わらせていただいてます。 プロジェクト毎に利用しているクラウドサービスも様々で、更に最近はマルチクラウドを利用されているお客様も増えてきたことから、結果としてAWSとAzure、GCPを常に並列で触っています。 例えば去年の振り返り記事を見てみても様々なサービスを利用しました。 yomon.hatenablog.com 扱っているサービスの多さから、同僚やお客様に勉強法を聞
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
CDK使いがAWS Adapter for CDKTFでTerraformに入門した話
Yuki Uehara | Profile page
ビッグデータと機械学習の狭間で -データエンジニアに求められる役割-
プロビジョニングツールはMakeで決まりだろ
