OpenAIのBatch APIを使ってお得にプロンプトを一括処理してみる - Taste of Tech Topics
はじめに こんにちは。データサイエンスチームYAMALEXのSsk1029Takashiです。 最近はOpenAIに日本支社が出来て、日本語対応が加速するというニュースにわくわくしています。 今回はそんなOpenAIから発表されたBatch APIという機能が便利、かつお得な機能だったのでどのように使えるのか試してみます。 Introducing the Batch API: save costs and get higher rate limits on async tasks (such as summarization, translation, and image classification). Just upload a file of bulk requests, receive results within 24 hours, and get 50% off API pri
GitHub - stas00/ml-engineering: Machine Learning Engineering Open Book
This is an open collection of methodologies, tools and step by step instructions to help with successful training of large language models and multi-modal models. This is a technical material suitable for LLM/VLM training engineers and operators. That is the content here contains lots of scripts and copy-n-paste commands to enable you to quickly address your needs. This repo is an ongoing brain du
[Ignite 2023] Azure AI アップデートまとめ
はじめに Microsoft Ignite 2023でのAzure AIのアップデートをまとめました。 まずは下記ブログの翻訳を中心にしています（ほぼ翻訳です）。 Ignite 2023: What’s new in Azure AI Platforms – Charting the Future with Innovative AI and ML - Microsoft Community Hub 主要なアップデート Azure AI Studioのパブリックプレビュー サティヤ・ナデラの基調講演で、Azure AI Studioのパブリックプレビューが発表されました。これは、生成型AIアプリケーションとコパイロット開発を簡素化する最先端のプラットフォームです。Azure AI Studioは、急速に成長しているモデルカタログ、ツール、サービスをシームレスに統合し、統一された開発体験を提
![[Ignite 2023] Azure AI アップデートまとめ](https://cdn-ak-scissors.b.st-hatena.com/image/square/573822077090aae9b12186c6fbc1ea3d721c9349/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--F2DUXkkA--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%25255BIgnite%2525202023%25255D%252520Azure%252520AI%252520%2525E3%252582%2525A2%2525E3%252583%252583%2525E3%252583%252597%2525E3%252583%252587%2525E3%252583%2525BC%2525E3%252583%252588%2525E3%252581%2525BE%2525E3%252581%2525A8%2525E3%252582%252581%252Cw_1010%252Cx_90%252Cy_100%2Fco_rgb%3A6e7b85%252Cg_south_west%252Cl_text%3Anotosansjp-medium.otf_30%3AMicrosoft%252520%252528%2525E6%25259C%252589%2525E5%2525BF%252597%252529%252Cx_220%252Cy_160%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_34%3AShohei%252520N.%252Cx_220%252Cy_108%2Fbo_3px_solid_rgb%3Ad6e3ed%252Cg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyL2MzZDNiN2I3OGYuanBlZw%3D%3D%252Cr_20%252Cw_90%252Cx_92%252Cy_102%2Fbo_4px_solid_white%252Cg_south_west%252Ch_50%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyLzEzNmNkNzdkYWMuanBlZw%3D%3D%252Cr_max%252Cw_50%252Cx_139%252Cy_84%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)
Microsoft Build 2023のAI/MLアップデート最速まとめ
はじめに Azure OpenAI ServiceとAzure Machine Learningを中心に、Microsoft Build 2023での発表内容を簡単にまとめました！スピード優先でまとめましたので内容についてご容赦頂ければ幸いです。 なお、記事内の[Preview]等の表記は、執筆時点でPreviewになっているものと、ブログ記事等のアナウンス内で「すぐに利用可能に」や「6月にプレビュー開始！」等となっているものもまとめて表記しています。 Azure Machine Learning Prompt Flow [Preview] Prompt flowはAzure Machine Learningのプロンプトエンジニアリングツールです！！ GUIも活用して様々なツールやリソースを組み合わせた形でプロンプトのフローを構築できます。LangChainにも対応しています。 Harne
Azure Machine Learning Prompt flow 評価メトリクス解説
Front-end application development, Symfony-style(s)
Azure Machine Learning の Prompt flow で Azure Cognitive Search をベクトルストアとして RAG を実行する - Qiita
Azure Machine Learning の Prompt flow で Azure Cognitive Search をベクトルストアとして RAG を実行するAzureAzureMachineLearningCognitiveSearchChatGPTGPT-4 Azure Machine Learning に Prompt flow が搭載され、パブリックプレビューが開始されました。Prompt flow は大規模言語モデル (LLM) を利用した AI アプリケーションの開発サイクル全体を合理化するように設計された新時代の開発ツールです。 Azure AI Studio Azure AI Studio は Azure OpenAI Studio の Chat Playground や Azure Machine Learning の Prompt flow を包含するサービスと
Introducing ChatGPT and Whisper APIs
Developers can now integrate ChatGPT and Whisper models into their apps and products through our API. ChatGPT and Whisper models are now available on our API, giving developers access to cutting-edge language (not just chat!) and speech-to-text capabilities. Through a series of system-wide optimizations, we’ve achieved 90% cost reduction for ChatGPT since December; we’re now passing through those
GitHub - Mooler0410/LLMsPracticalGuide: A curated list of practical guide resources of LLMs (LLMs Tree, Examples, Papers)
A curated (still actively updated) list of practical guide resources of LLMs. It's based on our survey paper: Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond and efforts from @xinyadu. The survey is partially based on the second half of this Blog. We also build an evolutionary tree of modern Large Language Models (LLMs) to trace the development of language models in recent
「LINEアプリ」「出前館」などサービス横断でマシンラーニングを担当 LINEに欠かせない技術領域を担う専門部隊の業務内容
LINEで働くエンジニアが、各職種別に日々の業務内容や開発体制、働く環境、今後の展望などについて話す「LINE 新卒採用 技術職 コース別説明会」。Machine Learning組織からはMachine Learning Platform室およびMachine Learning Solution室の室長の菊地悠氏が登壇。Machine Learning Platform室・Machine Learning Solution室のロール、開発環境、募集する人物像について発表しました。 研究領域での経験が豊富な室長 菊地悠氏：メイン領域の説明をします、菊地と申します。よろしくお願いします。 簡単に自己紹介をいたします。肩書はシニアマネージャーで室長をやっています。今はマシンラーニング領域において、プラットフォームを開発している組織とソリューション系の事業貢献をメインにしている組織の2つを見てい
MLOps論文 Machine Learning Operations (MLOps): Overview, Definition, and Architecture の要点まとめ - 肉球でキーボード
MLOpsを体系的にまとめた論文「Machine Learning Operations (MLOps): Overview, Definition, and Architecture」を読んだので、要点をまとめました。 元論文：https://arxiv.org/abs/2205.02302 TL;DR 「MLOpsって何？」に答えた論文 MLOpsに関わる文献調査・ツール調査・専門家インタビューを行った MLOpsに必要な原理・要素・ロール・アーキテクチャをまとめた MLOpsの言葉の意味を定義した MLOpsの課題をまとめた 本文要点 0 Abstract MLOpsは今だに漠然とした言葉であり、研究者と専門家間でMLOpsの定義が曖昧となっている。 本論文では文献調査・ツール調査・専門家へのインタビューを行い、MLOpsを調査した。 調査から以下の結果を体系的にまとめた MLOps
MLOps における機械学習モデルモニタリングについて - Qiita
MLOps（Machine Learning Operations）とは、機械学習モデルのライフサイクル全体を管理するためのフレームワークです。これには、モデルのトレーニング、テスト、デプロイ、モニタリング、および改善が含まれます。 モデルモニタリングとは、機械学習モデルが適切に動作しているかどうかを監視することを指します。これは、モデルが予測の精度を維持しているか、データの特性が変化していないか、そしてその他の問題が発生していないかを確認するために行われます。 モデルモニタリングには、様々な手法があります。例えば、モデルの予測と実際の値を比較することで、モデルの精度を測定することができます。また、モデルの出力として得られる統計量を定期的に収集し、モデルの精度が変化していないかを確認することもできます。 また、モデルのモニタリングは、データの特性が変化していないかを確認するためにも役立ちま
Go from a notebook to a production ML model | Google Cloud Blog
Take your ML models from prototype to production with Vertex AI You’re working on a new machine learning problem, and the first environment you use is a notebook. Your data is stored on your local machine, and you try out different model architectures and configurations, executing the cells of your notebook manually each time. This workflow is great for experimentation, but you quickly hit a wall
画像から描き方を生成する強化学習システムSPIRALの追実装 - Dwango Media Village(ドワンゴメディアヴィレッジ,dmv)
DeepMindから発表された画像から描き方を生成する強化学習システム「SPIRAL」[1]をChainerRLを用いて実装した． 実装はGitHubレポジトリで公開している． SPIRALとは SPIRALは絵の画像から描き方を生成するためのシステムである． 画像生成といえばDeep Convolutional Generative Adversarial Network(DCGAN [2])が主な手法だが，DCGANはラスター画像を生成するのに対して，SPIRALは時系列の描画行動，つまりベクター形式で画像を生成することができる． ベクター形式の画像はラスター形式とは異なり特定の線を取り除くといった編集を簡単に行うことができる． ベクター画像を生成するモデルとしてはSketch-rnn [3]があるが，このモデルは学習に描画過程，つまりベクター形式のデータが大量に必要になる． これらに
KDD 2018 に参加してきました - ABEJA Tech Blog
ABEJAでResearcherをしている白川です。 8/19-23にロンドンで開催されたKDD 2018に参加してきたので、目についた内容をかいつまんで報告させていただこうと思います。 とくに目についたこと 中国系の台頭が目覚ましい。参加者、企業ともに中国系が支配的で、かなりアグレッシブに機械学習・データ分析をビジネスに取り込んでいる印象。 Graph + Deep Learningが着実に使われ始めている。Deep系の発表でGraph CNNの話をちょくちょく聞いた。 Finance / Economics の分野に対する注目。 シェアバイクサービスやAirBnBの部屋貸しサービスような新しいビジネスにおけるデータ分析。 新しく使われ始めたテクニックはあまりなさそう。 特徴量エンジニアリングをして正攻法で攻めるのはやはり大事。 NVIDIA, Intel, Twitter, Apple
CVPR2018 1000本ノック！（なお37本） - ABEJA Arts Blog
はじめまして。ABEJAでリサーチャーをやっている藤本です。 今年もCVPRの季節がやってきました。CVPRとはコンピュータビジョンに関するトップカンファレンスです。毎年規模が大きくなってきており、今年は3300の論文投稿があり、979件がacceptされました。また、21のチュートリアル、48のワークショップ、115以上の企業展示と様々なイベントが行われています。今年度のCVPR2018の開催は6月なのですが、プログラム自体は４月に公開済みですので、今回のブログの記事では、オーラル発表予定の論文のうちarxivで公開されている内容について一気に紹介します。 論文の動向 Deep learningについて Deep Learningに関連する論文は毎年増え続けており、今年度についてはacceptされた論文979件のうちarxivで459件が公開されており、なんと424件（頑張って数えました
LSTMで為替の予測をしてみた
RNN(LSTM)入門2日目。依然として、全然わかりません。 このあたりが自分のスキルの限界なのかもしれない。Udacity DLNDで株の値動きの予測をする動画が紹介された。 llSourcell/How-to-Predict-Stock-Prices-Easily-Demo: How to Predict Stock Prices Easily - Intro to Deep Learning #7 by Siraj Raval on Youtube FXのシステムトレードを以前やっていたので、ディープラーニングで学んだことが生かせればいいなと思い、株を為替に置き換えて、LSTMで為替の値動きの予測をしてみた。 この記事は以下の記事をベースに書いている。 Time Series Prediction with LSTM Recurrent Neural Networks in Pyth
オライリーから「仕事ではじめる機械学習」が出版されます
どういう本なの？まえがきのスクリーンショットを貼りましたが、この本は多くの機械学習の本とは異なり、機械学習の実務で使えるようになるために知りたい、機械学習を含めたシステムのアーキテクチャや機械学習プロジェクトの進め方、効果検証をどうするのかということをまとめました。 めざすところのイメージ既に多く刊行されているTensorFlowやChainerでディープラーニングをしてみようというものでもなければ、機械学習の理論をわかりやすく解説するといった類のものでもありません。ゼロから作るDeep LearningやCourseraのMachine Learningで学んだけど、実際の仕事に活かすにはどうしたら良いだろう？という疑問に答えているつもりです。また、大学の講義などで機械学習は学んだけど、実際仕事で機械学習のプロジェクトを進めるときはどうすればいいんだろう？という人にも得るものがあると思い
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Utilizing Transformer Representations Efficiently
Generative Models for Decision Making
Finetuning Large Language Models