Google、GPU不要でLLMの実行を可能にするツール「localllm」を公開
2月7日、Google Cloudがブログで紹介したところによると、大規模言語モデル（LLM）をGPUなしでローカル実行できる新しいツール「localllm」を発表した。localllmはCPUとメモリでLLMを実行可能にし、特にGPUの不足が課題となる開発者に新たな選択肢を提供する。 このアプローチでは、Google Cloudの完全管理型開発環境であるCloud Workstations内で、GPUなしでLLMを実行できる。具体的には、HuggingFaceの「TheBloke」リポジトリのLLMモデルを使用し、CPUや低消費電力GPUで動作できるように最適化された量子化手法を採用している。 量子化モデルは、制限された計算リソースを持つローカルデバイスで効率的に動作するように最適化されたAIモデルだ。例えば、以下の利点が挙げられる： パフォーマンスの向上: 低精度データ型を使用すること
電通デジタルの「AI活用型コンバージョン率改善サービス」が「BigQuery」に対応 | Web担当者Forum
電通デジタルは、AI(人工知能)を活用してWebサイトのコンバージョン率(CVR)改善を一括支援する「AI活用型コンバージョン率改善サービス」で、米国Googleのクラウドサービス「Google Cloud」のデータウェアハウス(データ倉庫)「BigQuery」に対応したメニューの提供を始めた、と1月22日に発表した。アクセス解析ツール「Googleアナリティクス4(GA4)」による分析やレポーティング作業が数日でできるようになる。 AI活用型コンバージョン率改善サービスは2021年12月から提供。企業のWebサイト内でのユーザーの行動をAIで精緻に分析し、コンバージョン(CV)予兆・離脱予兆の発見とCV起点のクラスターを抽出してCVが高まるゴールデンパス(主要な導線)を発見する。最も効果の高いCVR改善を導出して、パーソナライズのPDCA(計画・実行・評価・改善)と改善策の実行まで一気通
AIドリームチーム「Sakana.ai」が人材募集 AWS・GCPや日本産HPCインフラの利用経験があるエンジニアなど 設立者は元Googleトップ研究者ら
元米Googleの著名な研究者、リオン・ジョーンズ氏とデビッド・ハー氏らが東京で立ち上げたAI企業Sakana.ai（東京都港区）は1月16日、ITエンジニアやビジネスアナリストといった人材の募集を始めた。募集するポジションは「技術スタッフ」「コンピューティングプラットフォームエンジニア」「ビジネスアナリストもしくはアソシエイト」。 技術スタッフは「AIに関する過去のプロジェクトもしくは出版物を証明できる人材」を募る。特に「NeurIPS」「ICLR」「GECCO」といった学会や、他の学術誌などに論文が採択されていたり、高品質のコードを書く能力があり、人気のあるオープンソースソフトウェアに貢献した経験があったりする人材を優遇するという。 雇用期間・形態は4～6カ月のインターンシップ、大学院生を想定したパートタイム勤務、1年間の期限付き、フルタイムなどさまざまな形を想定する。リモート勤務は認
画像を見て質問に答えられるオープンソースなGPT-4レベルのAI「LLaVA-1.5」をGCP上で動作させてみた
Microsoftやウィスコンシン大学マディソン校などの研究チームが開発し、2023年4月17日に公開した「LLaVA」は「視覚」を持つAIで、画像を入力するとその画像に基づいて返答を行うことができます。2023年10月5日に登場したLLaVA-1.5はさらにクオリティが向上しているとのことなので、実際にGoogleのクラウドコンピューティングサービス「Google Cloud Platform(GCP)」上で動作させてみました。 LLaVA/pyproject.toml at main · haotian-liu/LLaVA https://github.com/haotian-liu/LLaVA 2023年4月にリリースされた旧バージョンの性能や、デモサイトの使い方については下記の記事で確認できます。 画像を認識して年齢推測可能＆人名クイズにも正答できる無料の高性能チャットAI「LLa
独自のデータセットでGPTのような大規模言語モデルを簡単にファインチューニングできるライブラリ「Lit-Parrot」をGoogle Cloud Platformで使ってみた
特定の分野についての知識を増やす場合など、大規模言語モデルの出力を特定の方向に寄せる場合に利用されるのがファインチューニングで、これはモデルをゼロから構築するのに比べてはるかに少ないデータセット＆はるかに少ないコストでトレーニングできる手法です。「Lit-Parrot」はファインチューニングを簡単に行えるようにしたライブラリとのことなので、実際に使ってどれくらい簡単なのかを試してみました。 lit-parrot/scripts at main · Lightning-AI/lit-parrot · GitHub https://github.com/Lightning-AI/lit-parrot How To Finetune GPT Like Large Language Models on a Custom Dataset - Lightning AI https://lightnin
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
