タグ

関連タグで絞り込む (315)

タグの絞り込みを解除

*softwareに関するsh19910711のブックマーク (1,727)

  • GitLab Triageでプロジェクトの棚卸しを自動化する

    記事は 富士通クラウドテクノロジーズ Advent Calendar 2021 の2日目の記事です。 1日目は@ktakaaki のTwilioとWindows PowerShellを使って連続で電話を掛けたいでした。Twilioはシステムから電話を掛ける際に非常に便利なサービスで、様々な場面でよく使われますが、PowerShellからでも簡単にコールできるんですね。 さて、富士通クラウドテクノロジーズ社では 全社員が利用するプロジェクト管理ツールとしてGitLabを採用 しています。各チームそれぞれがGitLabを活用しており、様々なGitLab活用ノウハウがあるのですが、今回は最近導入した GitLab Triage を紹介したいと思います。 GitLab Triageとは GitLab Triage はGitLabプロジェクト上のIssue/Merge Request/Epicを

    GitLab Triageでプロジェクトの棚卸しを自動化する
    sh19910711
    sh19910711 2024/05/16
    "GitLab Triage: ポリシーを定めるために YAMLファイルを作成 + conditions で対象となるIssueを定義し、 actions で対象となったIssueに行いたい操作を定義 + forbidden_labels は対象の除外条件" 2021
  • Debeziumで変更データキャプチャを学ぼう #jjug_ccc

    JJUG CCC 2021 Fallの 「15:00 ~ 15:50 Debeziumで変更データキャプチャを学ぼう」の資料です

    Debeziumで変更データキャプチャを学ぼう #jjug_ccc
    sh19910711
    sh19910711 2024/05/14
    "Debezium: RedHatがサポート + データベースの行レベルの変更をキャプチャする分散サービスのセット / Kafkaが嫌ならEmbedded Engineという手もある + お好みのメッセージブローカーに送信することも出来る" 2021
  • terraform plan 結果の検証を自動化するぞ! with Conftest / Testing terraform plan with Conftest

    下記LT会にて発表した資料です。 自動化大好きエンジニアLT会 - vol.5 - connpass https://rakus.connpass.com/event/224448/ スライド内リンク一覧 --- 8ページ - Conftest https://www.conftest.dev/ - Open Policy Agent https://www.openpolicyagent.org/ 12ページ - hashicorp/terraform-json https://github.com/hashicorp/terraform-json 20ページ - Flatten nested JSON using jq https://stackoverflow.com/questions/37540717/flatten-nested-json-using-jq/37555908#3

    terraform plan 結果の検証を自動化するぞ! with Conftest / Testing terraform plan with Conftest
    sh19910711
    sh19910711 2024/05/12
    "Conftest (Open Policy Agent): Terraformに限らずあらゆる構造化された内容をテストできる + ポリシー自体のテストも可能 / plan結果のjsonは `resource_changes` 以外にもさまざまな情報を持っている" 2021
  • Data Wrangler Extension for Visual Studio Code がGAになったよ | DevelopersIO

    はじめに データアナリティクス事業部の大谷(おおや)です。 ついにData Wrangler Extension for Visual Studio Code(以降Data Wrangler)がプレビュー版から正式版になりました! この記事では、前回紹介できなかった、ファイルからData Wranglerを起動する方法についてまとめていきたいと思います。 Data Wrangler とは VSCode および VSCode Jupyter Notebook で、データの表示や分析を直感的に行うことができるようになる VSCode拡張機能です。 セットアップ インストール方法や、ランタイムの設定などは前回記事をご確認ください。 実践 ファイルから Data Wrangler を開く方法は3パターンあります。 それぞれ確認していきましょう。 1. VSCode のエクスプローラー上で右ク

    Data Wrangler Extension for Visual Studio Code がGAになったよ | DevelopersIO
    sh19910711
    sh19910711 2024/05/09
    "Data Wrangler Extension: VSCode の拡張機能 + データの表示や分析を直感的に行うことができる / 一発でParquetファイルの中身を確認 / ワークスペースにないファイルを開きたい場合は、コマンドパレットから開くと便利"
  • MeiliSearchを使ってみる

    MeiliSearchを最近知ったので、使い勝手などを検証するメモです。 環境 OS: Ubuntu 20.04 MeiliSearch: 0.22.0 MeiliSearchとは? meilisearch/MeiliSearch: Powerful, fast, and an easy to use search engine Rustで実装された全文検索エンジン、という認識。 メイリサーチ という読み方でいいのかな? 各プログラミング言語向けのライブラリが公式で提供されていたりしてすごい。 meilisearch/meilisearch-rails: MeiliSearch integration for Ruby on Rails meilisearch/meilisearch-ruby: Ruby SDK for the MeiliSearch API meilisearch/me

    MeiliSearchを使ってみる
    sh19910711
    sh19910711 2024/05/09
    "MeiliSearch: 各プログラミング言語向けのライブラリが公式で提供 + シンプル / API叩いてから非同期でindexing + 100万件なげるとindexがすべて作成されるまでに多少時間がかかる + 1h30m くらい" 2021
  • 構成図を『描く』から『書く』へ:DiagramsでAWS構成図かいてみる - Qiita

    やること "Diagram as Code"ことDiagramsで、AWS構成図をコードでかいてみる Diagramsとは Diagramsは、Pythonモジュール Diagrams使うにはGraphvizも必要 Pythonのコードでクラウドシステムアーキテクチャを描画できる サイトはここ https://diagrams.mingrammer.com/ サイトにあるDiagramsの説明は、英語だけど分量が少ないので一読すべし!(自動翻訳で十分理解できる) このように、構成図をPythonのコードで書ける。このコードを、Pythonスクリプトとして実行すると、構成図が画像として出力される。 良いところ 構成図をコード化できる コード編集で作図編集できるので、画像修正より楽 コードなので、CloudFormationのコードとまとめてGitで管理できる AWS以外のアイコンも用意されて

    構成図を『描く』から『書く』へ:DiagramsでAWS構成図かいてみる - Qiita
    sh19910711
    sh19910711 2024/05/09
    "Diagrams: 構成図をコード化できる + コードなのでCloudFormationのコードとまとめてGitで管理できる + AWS以外のアイコンも用意されている / 代用アイコンを決めておけばチーム内で共有する構成図として十分に使えそう" 2020
  • Deep learning に対応!! Splunk DL Toolkit に触ってみた - Qiita

    概要 Splunkが DeepLearningに対応しました(驚き)。昨年(2018年)の .conf で発表があり beta 版としてアングラで動いてたらしいですが、今回正式に Deep Learning Toolkit もリリースされて追加できるようになりました。 もちろんGPUなどにも対応しており、Tensorflow /Keras / PyTorch そして 複数の NLP ライブラリが利用可能です。 今回はどんな感じで実装できるのか、まずはセットアップしてみたいと思います。 ちなみに Youtubeで概要とセットアップなどが紹介されてますので、こちらも合わせてチェックしてください。 https://www.youtube.com/watch?v=IYCvwABLyh4 マニュアルはなさそうでして、DL Toolkit アプリをインストールすると簡単なセットアップガイドが載ってるた

    Deep learning に対応!! Splunk DL Toolkit に触ってみた - Qiita
    sh19910711
    sh19910711 2024/05/08
    "Splunk DLTK: Tensorflow/Keras/PyTorch + 複数の NLP ライブラリが利用可能 / 苦労するデータ収集や前処理、そして最後の実装部分をSplunkに任せ + いいモデルができてしまえば、後は通常の Splunkの知識さえあれば実装ができます" 2019
  • CockroachDB はどのくらい「しぶとい」のか? / How tough is CockroachDB?

    CockroachDB はどのくらい「しぶとい」のか? / How tough is CockroachDB?

    CockroachDB はどのくらい「しぶとい」のか? / How tough is CockroachDB?
    sh19910711
    sh19910711 2024/05/08
    "CockroachDB: 名前とロゴがヤバい分散SQLデータベース + Node数やReplica数の設定に応じていい感じに障害から生き残る / Split Brain: 障害の原因が「ネットワークの問題」であった場合、通信ができない2匹は問題なく動作していて"
  • Web ブラウザ上で Wasmを使ってOpen Policy Agent (OPA) を実行 - Qiita

    はじめに 汎用ポリシーエンジンである Open Policy Agent では、WebAssembly 形式でポリシーを配布可能です。記事では、WebAssembly 形式で出力された Open Policy Agent のポリシーを Web ブラウザで評価することを試してみた内容を紹介します。 Open Policy Agent とは Open Policy Agent (OPA) は OSS の軽量で汎用的なポリシーエンジンです。開発時や運用時におけるルール(ポリシー)を事前に定義することで、ポリシーに反する情報を検出できます。OPA はポリシーを定義するための宣言型言語 Rego と、ポリシー評価のためのシンプルな API を提供しています。 WebAssembly とは WebAssembly とは、 Web ブラウザ上で実行可能なバイナリコードの仕様です。C/C++, Rust

    Web ブラウザ上で Wasmを使ってOpen Policy Agent (OPA) を実行 - Qiita
    sh19910711
    sh19910711 2024/05/08
    "OPA; Open Policy Agent: 開発時や運用時におけるルールを事前に定義 + ポリシーを WebAssembly 形式で出力する機能があり + さまざまなプラットフォーム上で OPA のポリシーを評価できる" 2021
  • ArgoCD の Config Management Plugin (CMP)を理解し、Plugin でマニフェストの変数置換を行う - kencharosの日記

    概要 前職の同僚がずっと、PullRequest ごとにプレビュー環境でアプリケーションをデプロイしたいと言っていた。 確かにそれができれば便利ではあるけど、たとえ k8s の力を借りても実現するまでの手順は多く、遠い夢かと思っていた。 でも ArgoCD で頑張ればその夢は近くなるかもしれない。 これは、ArgoCDの Config Management Plugin (CMP) と呼ばれる機能を使って、動的なマニフェスト生成を行い、さらにPullRequestごとの固有の情報をマニフェストに柔軟に埋め込むための仕組みを考えてみたという話。 想定読者 k8s にある程度詳しい ArgoCD にもある程度詳しい ArgoCD の ApplicationSet や Generator の機能を知っている、あるいは調べればわかる方 参考資料 GitランチやPullRequestごとにプレビュ

    ArgoCD の Config Management Plugin (CMP)を理解し、Plugin でマニフェストの変数置換を行う - kencharosの日記
    sh19910711
    sh19910711 2024/05/08
    "PullRequestごとの固有の情報をマニフェストに柔軟に埋め込む / ArgoCD: kustomize や Helm などのビルドに対応 + Plugin を使うことで任意の処理でマニフェストのビルドを行うことができる" 2022
  • 「Changelogを読んで自分のエンジニアキャリアを作る」というLTのこぼれ話 - BASEプロダクトチームブログ

    はじめまして!フロントエンドエンジニアのがっちゃん( @gatchan0807 )です。 9月7日にBASE主催で「BASE Engineer 座談会 〜BASEの若手エンジニアがそれぞれの今と未来を語る!〜」というイベントを実施したのですが、その中のLTパートで発表した「Changelogを読んで自分のエンジニアキャリアを作る」でお話しきれなかった部分があったので、そこも含めてお話した内容を記事にまとめなおしました! 当日ご参加いただいてLTを聞かれた方も、そうでない方も、ぜひご覧ください! 「Changelog」と「エンジニアキャリア」がどう繋がるのか 早速この記事でお伝えしたいことから書いてしまうのですが、 Changelogは最新機能だけでなく、未来のビジョンも含めたプロダクトの情報の宝庫で、それらをうまく使えばエンジニアキャリアづくりに活かせる! ということを記事を読んでいただい

    「Changelogを読んで自分のエンジニアキャリアを作る」というLTのこぼれ話 - BASEプロダクトチームブログ
    sh19910711
    sh19910711 2024/05/07
    "dependabotの対応でライブラリのChangelogを読む / Changelog: アップデート対象そのものの知識をつけるのに効率が良い / ChromeのChangelogを読んだ際にDevToolsの知らなかった機能をいくつも発見" 2021
  • VSCode + Zotero + BibTeXによる論文執筆ワークフロー

    はじめに \LaTeXは誰も教えてくれない みなさん、 いつから\LaTeXを使いはじめたでしょうか。 大学一年生でしょうか。 ゼミや研究室に入った時でしょうか。 はたまた卒論や修論を執筆しはじめた時でしょうか。 そのとき、 誰か今節丁寧に教えてくれましたか? 少なくとも、私の周りではそんなことありませんでした。誰も教えてないのに、みんな元から知ってたかのような顔をして、当たり前のように使っている。でも使い方について話題に上がることもないから、みんながなんとなくで使っている。そんな感じじゃないでしょうか。 BibTeXや文献管理ソフトはもっと教えてくれない テンプレートを使いながら、コマンドをググればなんとか\LaTeXで文章を自力で作成することは可能です。しかし、文献引用についてはどうでしょう。世の中にはZoteroやMendeleyといった文献管理ソフトやBibTeXという文献引用のた

    VSCode + Zotero + BibTeXによる論文執筆ワークフロー
    sh19910711
    sh19910711 2024/05/06
    "世の中にはZoteroやMendeleyといった文献管理ソフトやBibTeXという文献引用のために便利なツールがあります。しかし、誰も教えてくれない / 引用する可能性のある文献をZoteroに追加 + 引用する際はBibTeXのキーを使う" 2021
  • Shapefileを簡素化とGeobufで軽量化する - Hirosaji Tech Blog 🍙

    容量の大きい地理情報データは重くてWebに載せられないので、軽量化が必要です。 今回は Shapefile を対象に、簡素化とBuffer(Geobuf)形式を使った軽量化の一連のステップを紹介します。 ちなみに、今回例として取り上げた全国市区町村界データを軽量化した結果(ファイルサイズ)は次の通りです。 Shapefile GeoJSON Buffer(簡素化済) 9MB 25MB 0.6MB ただし簡素化は、やるだけポリゴンが荒くなるので、やりすぎには注意が必要です。 手順 Shapefileを取得 → GeoJSONに変換 → GeoJSONを簡素化 → 自己交差エラーを解決 → Bufferに変換、といった手順で軽量化します。 1. Shapefileを取得 軽量化する Shapefile を用意しましょう。 www.esrij.com 例として、今回はEsriの全国市区町村界デー

    Shapefileを簡素化とGeobufで軽量化する - Hirosaji Tech Blog 🍙
    sh19910711
    sh19910711 2024/05/06
    "容量の大きい地理情報データは重くてWebに載せられない / GeoJSON: 容量の大部分を占めるのがポリゴンデータ / mapshaper: GeoJSONの簡略化 + ポリゴンを荒くする / geo2buf: GeoJSONをさらに軽量なbuffer形式に変換" 2021
  • Proxy-Wasm: エッジでのWasm研究開発最先端

    @ Infra Study Meetup #8 「インフラと研究開発」 https://forkwell.connpass.com/event/193256/

    Proxy-Wasm: エッジでのWasm研究開発最先端
    sh19910711
    sh19910711 2024/05/06
    "Wasm = ブラウザと言う時代は終わり + VMとして優秀&コンパイラ基盤->ブラウザの外でも使いたい / Proxy-Wasm: WasmのVMをEnvoyの中で動かしてWasmのプログラムで拡張 + Envoy/Wasm VM間のABIだけ決めれば任意の言語で拡張できる" 2020
  • Kubernetes Contributor Awards 2023を受賞した/今年のContribution振り返り

    こんにちは。 しずかなインターネットをきっかけに一年近く”ブログを書く”と言うことを忘れていたことに気がつきました。 今日は、タイトルの通りContributor Awardの話と、一年のKubernetes Contributionの振り返りをしようかと思います。 書いてみると、この一年短いようで長かった(?)のだと実感しました。 執筆段階での過去一年のKubernetesレポジトリへのcontribution数は2042だったようです(ref)。 これはKubernetesの全Contributorの内で9位に当たります。 趣味にしてはやり過ぎですね、この順位を見てドン引きしました。 これによって、会社別ランキングを見ると、MercariのKubernetesへの貢献数は全体9位(Independent 入れるなら10位)になっています(ref)。 いや、これ採用の宣伝か何かで使った方

    Kubernetes Contributor Awards 2023を受賞した/今年のContribution振り返り
    sh19910711
    sh19910711 2024/05/05
    "大学生の時になんとなく始めたKubernetesへの貢献 / 過去一年のKubernetesレポジトリへのcontribution数は2042だったようです + 全Contributorの内で9位 / 会社別ランキングを見ると、MercariのKubernetesへの貢献数は全体9位" 2023
  • 関数型言語XQueryで大量のXMLを楽にさばく - Qiita

    まえがき オープンデータ隆盛のこのご時世、意外と XML でデータを公開しているケースは多い。 XML形式で公開されているオープンデータを扱う際に XMLデータベース の一つである BaseX を活用してみた経験についてざっと書いてみる。 公開されている実世界のオープンデータを、事前知識なしで扱うのはなかなか大変だ。ドキュメントが整備されていなかったり、不揃いであったりして、ざっとデータの傾向を見てみないと活用しづらいケースが多々ある。 しかし、 帯域幅の制限もあって一回のアクセスでは十分な量のデータを得られない API があまり作り込まれていないため、欲しい情報をピンポイントで得るための検索ができない などというのは日常茶飯事だ。 そこで試しにちょっとしたスクリプトを書いて、まとまった量のデータをマイルドな周期でダウンロードすることになるけれど、 書き捨てのスクリプト一々書くのは億劫だ。

    関数型言語XQueryで大量のXMLを楽にさばく - Qiita
    sh19910711
    sh19910711 2024/04/29
    "テンポラリーなXMLの格納場所として XMLデータベースを使う / BaseX: XMLデータベース + XQuery が案外リッチで書いていて楽しかったり、同時に大量の XML ファイルを解析できて楽" 2015
  • [Proxmox VE] テンプレートとクローンとCloud-Initを使ってVMをサクサクシュッと生やす (Fedora / Ubuntu) - zaki work log

    Proxmox VEには、VMのテンプレート化とクローン機能があり、さらにCloud-Initを使って初期設定込みで簡単にVMをプロビジョニングできる機能がある。 もうすぐFedora40やUbuntu 24.04がリリースされそうなので、その時にサラサラとテンプレート作成できるように、この機能を使う準備についておさらい。 といっても、ドキュメントの通り順番にコマンド実行していけば作成できる。 pve.proxmox.com ちなみにここではUbuntuの情報はあふれてるので、ここではFedora 40 betaでお試し。 (Ubuntuの場合も参考程度に記載してる) テンプレートの作成 ベースになるCloudイメージの入手 テンプレート元にするVM作成 イメージのセット Cloud-Init CD-ROMドライブの追加 テンプレートへの変換 テンプレートの設定 VM設定 Cloud-In

    [Proxmox VE] テンプレートとクローンとCloud-Initを使ってVMをサクサクシュッと生やす (Fedora / Ubuntu) - zaki work log
    sh19910711
    sh19910711 2024/04/29
    "Proxmox VE: VMのテンプレート化とクローン機能 + Cloud-Initを使って初期設定込みで簡単にVMをプロビジョニング + 使える状態のVMを秒で作成できる / Cloudイメージを使ったVM + Fedora Cloud 40 QEMU (qcow2形式)をダウンロード"
  • サーバ再起動しても cron で Web アプリを雑に立ち上げ

    超楽にRubyで雑に書いたスクリプトをsystemdで管理したい! - 宇宙行きたい で systemd がユーザ権限で使えることを知る。 開発環境用では nohup と cron の @reboot を使っていました。こちらもお手軽なので紹介。 @reboot とは crontab(5) に @reboot があれば使えます。その名の通りリブート時に一回だけ実行。Ubuntu なら利用可能。 $ man 5 crontab (省略) Instead of the first five fields, one of eight special strings may appear: string meaning ------ ------- @reboot Run once, at startup. @yearly Run once a year, "0 0 1 1 *". @annual

    サーバ再起動しても cron で Web アプリを雑に立ち上げ
    sh19910711
    sh19910711 2024/04/29
    "crontab(5) に reboot があれば使えます / その名の通りリブート時に一回だけ実行 + Ubuntu なら利用可能 / これで apt upgrade の OS リブートも気軽に行えるようになり"
  • TH3P4G3(85W版)とTeslaP40をUbuntu22.04でセットアップした【外付けGPU】

    sh19910711
    sh19910711 2024/04/27
    "ローカルLLM: 量子化したモデルでも賢いのを使おうとすると平気で何十ギガも食ってくる / Tesla P40: VRAM24GB + ebayやアリエクでは 2〜3マソで買える(中古) / 多分、データセンターの世代交代による引退品が大量に流れ"
  • Meilisearchを使ってFlutter×Firestoreの全文検索を実現する

    はじめに Firestore は非常に便利で高速な NoSQL データベースですが、一方で検索面があまり得意ではありません。where クエリで単一フィールドもしくは複合フィールド(発行クエリによる)での絞り込みや、文字検索では全文一致・前方一致・後方一致までは何とか実現できますが、SQL の LIKE 検索のような部分一致や、全文検索を Firestore 単体で実現できません。 Google Cloud の公式ドキュメントにも、全文検索についてはサードパーティツールを利用するよう明記されています。 Firestore では、ネイティブ インデックスの作成やドキュメント内のテキスト フィールドの検索をサポートしていません。さらに、コレクション全体をダウンロードして、クライアント側でフィールドを検索することは現実的ではありません。 https://cloud.google.com/fire

    Meilisearchを使ってFlutter×Firestoreの全文検索を実現する
    sh19910711
    sh19910711 2024/04/27
    "Firebase Summit 2022 にて Meilisearch が4つ目の選択肢として追加 / Meilisearch: Algolia にインスパイア + Firebase Extension のおかげで Firestore との面倒な同期処理を行う手間もなく / GUI ツールも公式から mini-dashboard として提供" 2022