タグ

*softwareとpromptに関するsh19910711のブックマーク (4)

  • Chrome内蔵LLM Gemini Nanoを使ってみた

    はじめに Chrome 126からローカルで使えるLLM Gemini Nanoが使えるようになりました。 記事では実際に使ってみようと思います。 前準備 まずはChrome Release ChannelsにてDev channelのChromeをインストールします。 インストールできたら下記機能を有効にします。 Enables optimization guide on device: Enabled BypassPerfRequirement Prompt API for Gemini Nano: Enabled 次に、LLMのダウンロードが必要のため、 chrome://components/にアクセスし、Optimization Guide On Device Modelのアップデート状況を確認します。 まだダウンロードされていない場合は、アップデートを確認ボタンでダウンロード

    Chrome内蔵LLM Gemini Nanoを使ってみた
    sh19910711
    sh19910711 2024/06/12
    "ローカルLLM使用のChrome拡張機能が増えていくのでは / LLMのダウンロード: chrome://components/にアクセスし、Optimization Guide On Device Modelのアップデート状況を確認 / session.promptStreaming: 結果をストリーミングで受け取る"
  • Chrome の 組み込み AI Gemini Nano を試してみる

    インストールが完了したらアドレスバーに chrome://flags と入力して設定画面を開きます。以下の 2 つのフラグを設定します。 Enables optimization guide on device: Enabled BypassPerfRequirement Prompt API for Gemini Nano: Enabled また、あらかじめ Gemini Nano のモデルをダウンロードしておく必要があります。アドレスバーに chrome://components/ と入力して Optimization Guide On Device Model の「アップデートを確認」をクリックします。 Gemini Nano を使ってみる それでは、Gemini Nano を使ってみましょう。以下のコードをコンソールに貼り付けて実行します。 const canCreate = aw

    Chrome の 組み込み AI Gemini Nano を試してみる
    sh19910711
    sh19910711 2024/06/12
    "Chrome 126 から ~ / Prompt API: JavaScript から Chrome に組み込まれた Gemini Nano にアクセスして生成 AI の機能を実装 / あらかじめ Gemini Nano のモデルをダウンロード"
  • 社内の生成AIチャットとしてLibreChatを使っています - Ateam Tech Blog

    こんにちは。エイチームライフデザイン技術開発室の鈴木です。 弊社ではGPT-4のような高性能な生成AIを社内の業務で利用できるように、Slack用アプリなどいくつかの社内ツールを用意しています。その中でも LibreChat というオープンソースソフトウェアを利用しているので、それについて説明します。 LibreChatとは 構成 バージョンアップ等の運用 LibreChatを使っていて起きた問題 新しいモデルがなかなか使われない Banされる RAGが使えなくなる 画像認識が使えない LibreChatの利用状況 まとめ 画像の出典 LibreChatとは www.librechat.ai LibreChatとは、いわゆるChatGPTクローンです。 OpenAIなどが提供する言語モデルのAPIに接続してチャットできるUIを提供する、オープンソースのWebアプリケーションです。 Libr

    社内の生成AIチャットとしてLibreChatを使っています - Ateam Tech Blog
    sh19910711
    sh19910711 2024/06/07
    "LibreChat: PDFなどの文書ファイルをアップロードするとベクトル化して保存 / 利用料金についても、LibreChatの利用者全員がChatGPTの有料プランを利用したと仮定した場合と比較して大きく削減"
  • Terraformのplan結果をChatGPTに説明してもらう機能をCI/CDに組み込んでみた! - Qiita

    背景 インフラエンジニア 「このterraformコードのPR、レビューお願いします。」 インフラエンジニア 「変更点はplan結果↓を見てください。」 An execution plan has been generated and is shown below. Resource actions are indicated with the following symbols: + create ~ update in-place - destroy -/+ destroy and then create replacement Terraform will perform the following actions: # aws_instance.example1 will be created + resource "aws_instance" "example1" { + ami

    Terraformのplan結果をChatGPTに説明してもらう機能をCI/CDに組み込んでみた! - Qiita
    sh19910711
    sh19910711 2023/07/12
    "変更点はplan結果↓を見てください / レビュアーがTerraformに精通していなくても、この機能により変更点を理解する手助け / レビューの際にChatGPTがどんなことを喋ってくれるのか少し楽しみになる、というメリットも"
  • 1