タグ

ブックマーク / zenn.dev/cloud_ace (12)

  • Vertex AI の LLM 自動評価ツール AutoSxS(automatic side-by-side) 使ってみた!

    1. はじめに こんにちは、クラウドエース データソリューション部所属の泉澤です。 クラウドエースの IT エンジニアリングを担うシステム統括部の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのがデータソリューション部です。 データソリューション部では活動の一環として、毎週 Google Cloud の新規リリースを調査・発表し、データ領域のプロダクトのキャッチアップをしています。その中でも重要と考えるリリースをページ含め記事として公開しています。 今回紹介するリリースは、Vertex AI に AutoSxS (automatic side-by-side) という 大規模言語モデル (LLM: Large Lanuage Model) の自動評価ツールが追加された、という内容のものです。 このリリースは 2024/01/08 にあり

    Vertex AI の LLM 自動評価ツール AutoSxS(automatic side-by-side) 使ってみた!
    sh19910711
    sh19910711 2024/06/08
    "AutoSxS: Autorater と呼ばれる第三のモデル(おそらく LLM)を使用して、どちらのモデルが質問やコンテキストに対してより適切な回答を提供しているかを判定 / ジョブの成果物は Cloud Storage に保存"
  • BigQuery の SQL Translator の YAML 構成ファイルを試してみた

    こんにちは!クラウドエース株式会社 データソリューション部所属の福家です。 クラウドエースのデータソリューション部は、クラウドエースの IT エンジニアリングを担うシステム開発統括部の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門としています。 データソリューション部では活動の一環として、毎週 Google Cloud の新規リリースを調査・発表し、データ領域のプロダクトのキャッチアップをしています。その中でも重要と考えるリリースをページ含め記事として公開しています。 今回紹介するリリースは、2023/11/30 にプレビュー段階から一般提供(GA)となった BigQuery の YAML 構成ファイルを使用した SQL Translator についてです。 はじめに BigQuery とは BigQuery はビッグデータの蓄積、分析ができ

    BigQuery の SQL Translator の YAML 構成ファイルを試してみた
    sh19910711
    sh19910711 2024/06/07
    "SQL Translator: さまざまなデータベースシステムの SQL 言語(方言)をBigQuery 用の SQL(GoogleSQL)に変換してくれるツール / Cloud Storage バケットにアップロードした複数の SQL ファイルを一括で変換"
  • BigQuery の 履歴ベースの最適化 (History-based Optimizations) を試したかった

    はじめに こんにちは、クラウドエース データソリューション部所属の濱です。 データソリューション部では、Google Cloud が提供しているデータ領域のプロダクトについて、新規リリースをキャッチアップするための調査報告会を毎週実施しています。 新規リリースの中でも、特に重要と考えるリリースを記事としてまとめ、ページのように公開しています。 クラウドエース データソリューション部 について クラウドエースの IT エンジニアリングを担う システム開発統括部 の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのが データソリューション部 です。 弊社では、新たに仲間に加わってくださる方を募集しています。もし、ご興味があれば エントリー をお待ちしております! 今回紹介するリリースは、2024年4月1日にリリースされた「クエリの履歴ベースの

    BigQuery の 履歴ベースの最適化 (History-based Optimizations) を試したかった
    sh19910711
    sh19910711 2024/05/29
    "History-based Optimizations: すでに実行した類似クエリの実行情報を使用して追加の最適化を適用 + ロジックが似ている処理を繰り返し行う場合に本機能が適用 / 類似の定義は公式ドキュメントには記載がありません"
  • Cloud Router で BGP の学習ルートをフィルタリングする新機能の紹介

    はじめに 記事の目的 こんにちは、クラウドエース SRE部 に所属している\textcolor{red}{赤髪}がトレードマークの Shanks です。 好きなプロダクトは Cloud Router です。 日は Cloud Router の新機能である、BGP ルート ポリシーを活用した学習ルートのフィルタリングについてご紹介いたします。 Cloud VPN や Cloud Interconnect でネットワーク空間を相互接続している方、とくに経路制御に悪戦苦闘している方には嬉しい内容をお届けします。 ターゲットとなる読者層 Cloud Interconnect を設計・運用・計画している方 Google Cloud と オンプレミス / 他クラウド を VPN で接続し、経路制御を行っている Cloud VPN を設計・運用・計画している方 Google Cloud と オンプレミ

    Cloud Router で BGP の学習ルートをフィルタリングする新機能の紹介
    sh19910711
    sh19910711 2024/05/28
    "Cloud Router: BGP を使用して対向ルータと Google Cloud との間でルート情報を広報する完全分散型のマネージド サービス + BGP スピーカーおよびレスポンダーとして機能 / BGP ルート ポリシー は CEL を用いて定義"
  • LangChain の BigQuery Vector Search 機能によるベクトル検索

    はじめに こんにちは、クラウドエース データソリューション部の松です。 普段は、データ基盤や MLOps を構築したり、Google Cloud 認定トレーナーとしてトレーニングを提供しております。 クラウドエース データソリューション部 について クラウドエースのITエンジニアリングを担う システム開発統括部 の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのが データソリューション部 です。 弊社では、新たに仲間に加わってくださる方を募集しています。もし、ご興味があれば エントリー をお待ちしております! 今回は、LangChain の BigQuery Vector Search 機能によるベクトル検索についてご紹介します。 この記事はこんな人にオススメ LangChain と BigQuery を組み合わせたベクトル検索方法をご

    LangChain の BigQuery Vector Search 機能によるベクトル検索
    sh19910711
    sh19910711 2024/05/02
    "LangChain から投げたクエリをもとに BigQuery 上でベクトル検索を実行する / 公式ドキュメントを参考 / LangChain: 様々なデータベースとのインテグレーションが強化 / from langchain_community.vectorstores import BigQueryVectorSearch"
  • 拒否ポリシーでBigQueryのテーブル削除を無効にする

    はじめに こんにちは、クラウドエース データ ML ディビジョン所属の疋田(ひきた)です。 珍しい苗字でなかなか覚えづらいと思いますので、是非「ヒッキー」と呼んでいただければ嬉しいです。 クラウドエースの IT エンジニアリングを担うシステム開発部の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのがデータ ML ディビジョンです。 データML ディビジョンでは活動の一環として、毎週 Google Cloud (旧 Google Cloud Platform、以下「GCP」) の新規リリースを調査・発表し、データ領域のプロダクトのキャッチアップをしています。その中でも重要と考えるリリースをページ含め記事として公開しています。 今回ご紹介するリリースは、2023年8月7日にサポートするようになった、拒否ポリシーを介してのアクセス拒否機能です

    拒否ポリシーでBigQueryのテーブル削除を無効にする
    sh19910711
    sh19910711 2024/05/01
    "誤って権限が付与されたアカウントが BigQuery に対して行う操作の一部を阻止できる / テーブルの削除について拒否ポリシーが適用されているプリンシパルは、そのテーブルを含むデータセットも削除できない"
  • BigQuery DataFrames と Vertex AI Pipelines による機械学習パイプライン構築

    はじめに こんにちは、クラウドエース データソリューション部の松です。 普段は、データ基盤や MLOps を構築したり、Google Cloud 認定トレーナーとしてトレーニングを提供しております。 クラウドエース データソリューション部 について クラウドエースのITエンジニアリングを担う システム開発統括部 の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのが データソリューション部 です。 弊社では、新たに仲間に加わってくださる方を募集しています。もし、ご興味があれば エントリー をお待ちしております! 今回は、BigQuery DataFrames と Vertex AI Pipelines による機械学習パイプライン構築方法について、ご紹介いたします。 この記事はこんな人にオススメ 機械学習パイプラインにおける実行基盤を検討さ

    BigQuery DataFrames と Vertex AI Pipelines による機械学習パイプライン構築
    sh19910711
    sh19910711 2024/05/01
    "Vertex AI Pipelines: Vertex ML Metadata を使用してアーティファクトに関するメタデータの追跡が可能 / bigframes.ml の register 関数 により、訓練したモデルを Vertex AI Model Registory に登録"
  • Vertex AI Studio で PaLM2 に対する Grounding が可能になりました

    1. はじめに こんにちは、クラウドエース データソリューション部所属の泉澤です。 クラウドエースの IT エンジニアリングを担うシステム統括部の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのがデータソリューション部です。 データソリューション部では活動の一環として、毎週 Google Cloud の新規リリースを調査・発表し、データ領域のプロダクトのキャッチアップをしています。その中でも重要と考えるリリースをページ含め記事として公開しています。 2. 概要 今回紹介する リリース notes は、Vertex AI Studio で PaLM2 (text-bison と chat-bison) に対して Grounding が GUI で可能になったことについてです(パブリックプレビュー)。 このリリースは 2023年12月5日に

    Vertex AI Studio で PaLM2 に対する Grounding が可能になりました
    sh19910711
    sh19910711 2024/03/29
    "Vertex AI Search and Conversation: 検索アプリ・会話アプリ(チャットボット)・レコメンデーションアプリを作成することができます + 非構造化データストア・構造化データストア・Web ページストアの 3 種類が利用可能"
  • BigQuery における、ベクトル検索とベクトルインデックス機能

    はじめに こんにちは。クラウドエース データソリューション部所属の 髙根 です。 クラウドエースの データソリューション部 では、IT エンジニアリングを担うシステム開発部の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門としています。 データソリューション部の活動の一環として、Google Cloud が提供しているデータ領域のプロダクトについて、新規リリースをキャッチアップするための調査報告会を毎週実施しています。 新規リリースの中で、特に重要と考えるリリースをページ含め記事として公開しています。 今回ご紹介する内容は、2024年 1 月 31 日 にプレビュー段階となった BigQuery における ベクトル検索 と ベクトルインデックス の機能追加についてです。 BigQuery の概要 BigQuery は、Google Cloud

    BigQuery における、ベクトル検索とベクトルインデックス機能
    sh19910711
    sh19910711 2024/03/02
    patents-public-dataに埋め込みが入ってるのか / "CREATE VECTOR INDEX: インデックスが作成されたカラムのみが処理バイト数に含まれます / fraction_lists_to_search: 再現率と検索速度の間のトレードオフを制御"
  • BigQuery で Vertex AI の LLM を使用して SQL のみで RAG を構築する

    はじめに こんにちは、Google Cloud Partner Top Engineer 2024 を受賞いたしました、クラウドエース データソリューション部の松です。 クラウドエース データソリューション部 について クラウドエースのITエンジニアリングを担う システム開発統括部 の中で、特にデータ基盤構築・分析基盤構築からデータ分析までを含む一貫したデータ課題の解決を専門とするのが データソリューション部 です。 弊社では、新たに仲間に加わってくださる方を募集しています。もし、ご興味があれば エントリー をお待ちしております! 今回は、BigQuery で Vertex AI の LLM を使用して SQL のみで RAG を構築する方法についてご紹介します。 この記事はこんな人にオススメ BigQuery の SQL のみで LLM を使った問合せシステムを構築したい BigQue

    BigQuery で Vertex AI の LLM を使用して SQL のみで RAG を構築する
    sh19910711
    sh19910711 2024/01/23
    "RAG: LangChain や LlamaIndex と呼ばれる LLM の機能拡張ライブラリを活用することが多い + 複雑な構成でなければ、今回ご紹介した BigQuery の SQL での実装方法が簡単 / ベクトル距離は ML.DISTANCE 関数 によって算出することが可能"
  • Google Cloud のマネージド Terraform、 Infrastructure Manager 登場!

    こんにちは。クラウドエースの阿部です。 今回はひっそりと一般提供されていた Infrastructure Manager について紹介したいと思います。 Infrastructure Manager とは Infrastructure Manager (以降、Infra Manager と表記) は、 Google Cloud におけるリソースのデプロイや管理を IaC で自動化するためのマネージドサービスです。 内部では Terraform と Cloud Build を使用してリソースの管理を行っています。 Infra Manager の特徴 特徴としては以下の通りです。 GitHub 等と連携した CD (継続的デリバリ) の構築を簡単に実装できます。Cloud Build で同じ事をやる場合は、 cloudbuild.yaml で CI/CD パイプライン設定が必要です。また、ロー

    Google Cloud のマネージド Terraform、 Infrastructure Manager 登場!
    sh19910711
    sh19910711 2023/08/25
    "GitHub 等と連携した CD (継続的デリバリ) の構築を簡単に実装できます / state の保存先は利用者から見えない場所 + 実行ログを参照すると、自動的に http backend 設定を生成して、 state を保存しているようです"
  • Google CloudのIAMの拒否ポリシーがGAになったので試してみる

    ※ポリシーとは、「主体」、「アクション」、「対象」を定義するバインディングをまとめた単位です。ポリシーの集合によって権限を管理します。以下、許可ポリシーの例(公式より引用)です。 { "bindings": [ { "role": "roles/storage.objectAdmin", "members": [ "user:ali@example.com", "serviceAccount:my-other-app@appspot.gserviceaccount.com", "group:admins@example.com", "domain:google.com" ] }, { "role": "roles/storage.objectViewer", "members": [ "user:maria@example.com" ] } ] } 許可ポリシーの継承 ポリシーは継承されま

    Google CloudのIAMの拒否ポリシーがGAになったので試してみる
    sh19910711
    sh19910711 2022/11/04
    おっ / "2022/10/25 にIAM の拒否ポリシーが GA / 名前の通りプリンシパルがある権限を使うのを拒否する機能 / --kind=denypolicies / Cloud Console 上からは確認出来ません + 「なぜ権限が不足しているのか」が分からなくなる"
  • 1