ロングコンテキストLLMに対応したRAGの新アーキテクチャ｜npaka
以下の記事が面白かったので、簡単にまとめました。 ・Towards Long Context RAG - LlamaIndex 1. はじめにGoogleは、1Mコンテキストウィンドウを持つ「Gemini 1.5 Pro」をリリースしました。初期ユーザーは、数十もの研究論文や財務報告書を一度に入力した結果を共有しており、膨大な情報を理解する能力という点で印象的な結果を報告しています。 当然のことながら、ここで疑問が生じます。「RAG」は死んだのでしょうか？そう考える人もいますが、そうではない人もいます。 幸運にも「Gemini 1.5 Pro」の機能をプレビューすることができ、それを試してみることで、ロングコンテキストLLMを適切に使用するには、RAGがどのように進化するのかについてのまとめました。 2. Gemini 1.5 Pro の 初期観察「Gemini」の結果は印象的で、テクニカ
アーキテクチャ図だけ描いてTerraformはGoogle Cloud Developer Cheat Sheetに書いてもらおう
初めての方は、初めまして。そうでない方も、初めまして。クラウドエース SRE 部で Professional Cooking Architect をしている zeta です。私はドンドコ島の充実度をオンライン1位(多分)にしましたが皆さんいかがお過ごしでしょうか。 はじめに クラウドエースの SRE 部は Google Cloud のインフラの面倒を見ることが主な業務です。世の中の多くの企業の似たような役割を持つ部署でもそうだと思いますが、インフラの設計・構築・運用といったフェーズを行っていきます。こういったインフラエンジニア的なことをやっていると、みなさんも一度ぐらいは「設計だけやったら勝手にインフラ構築されねーかな〜」なんて思ったことはあるのではないでしょうか。技術の力でコンピュータに働かせてサボるというのは IT エンジニア開闢以来ずっと存在し続けた悲願であり、エンジニアリングのモチ
ヨドバシの中の人が語る、開発中のヨドバシAPIが目指す機能、仕組み、そしてセキュリティ（前編）
ヨドバシカメラは現在、お客様との接点をドメインとして設計する新たなAPIを開発中であることを、クリエーションラインが主催し10月27日に開催されたイベント「Actionable Insights Day 2023」で明らかにしました。 REST APIとして実装される予定のこのAPIについて同社は「ヨドバシスタッフの魂を注入する」としており、厳重なセキュリティやユーザーフレンドリーで高い利便性などが追求されています。 ヨドバシAPIがどのように設計され、開発、実装されていくのか。その中味が紹介されたセッションの内容を見ていきましょう。 本記事は前編と後編の2本の記事で構成されています。いまお読みの記事は前編です。 疎結合なのに一体感、ヨドバシAPIがつなぐ社会 株式会社ヨドバシカメラ 代表取締役社長 藤沢和則氏。 ヨドバシカメラの藤沢と申します。本日はまずこの貴重な機会をいただきありがとう
[Flutter]Flutterでの依存関係図の自動生成が便利だった件について - Qiita
こんにちは。いせりゅーです😃 「視覚的に理解しやすく、効率的にコードの構造や流れを把握する」ということは開発においてとても助けになると思っています。特に複雑なアーキテクチャや多数のコンポーネントを持つフレームワーク、例えばFlutterのようなものを使用する場合、依存関係の把握は必須となりますが、把握をするのが難しかったり、時間がかかったりすると思います。 実際に、社会人になり研修課題をしている中でriverpod_graphを勉強し、それがとても便利だったので、アウトプットのために書いていこうと思いました。 riverpod_graphとは、 ↑こちらから引用しています。 riverpodの作成者が作成したツール providerとwidget間の相互作用のグラフを生成し、可視化できるもの 手順を踏むとと自動生成ファイルが生成される（今回は、graph.mdに生成する） グラフは、d2
![[Flutter]Flutterでの依存関係図の自動生成が便利だった件について - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/47334f2297f1eb470b09bb2985654a212b23f799/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JTVCRmx1dHRlciU1REZsdXR0ZXIlRTMlODElQTclRTMlODElQUUlRTQlQkUlOUQlRTUlQUQlOTglRTklOTYlQTIlRTQlQkYlODIlRTUlOUIlQjMlRTMlODElQUUlRTglODclQUElRTUlOEIlOTUlRTclOTQlOUYlRTYlODglOTAlRTMlODElOEMlRTQlQkUlQkYlRTUlODglQTklRTMlODElQTAlRTMlODElQTMlRTMlODElOUYlRTQlQkIlQjYlRTMlODElQUIlRTMlODElQTQlRTMlODElODQlRTMlODElQTYmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtY2xpcD1lbGxpcHNpcyZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPWU1MDU1ZDhhMTk3NzE2MjZhODA5MDE5MzBmZmRiNzVi%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwaXNla2lyeXUlMjBpbiUyMCVFNiVBMCVBQSVFNSVCQyU4RiVFNCVCQyU5QSVFNyVBNCVCRSVFMyU4MiU4NiVFMyU4MiU4MSVFMyU4MSVCRiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTMyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9OWZlMjgzMjViYjZiMDc2ZGM5NmE3NmU0MzY4YzE1Y2Q%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3Dc3d67a11f04e11fe900b30285e130df2)
ソフトウェア設計・アーキテクチャの学び方 - Qiita
はじめに この記事はHow to Learn Software Design and Architecture | The Full-stack Software Design & Architecture Mapを翻訳したものです。 翻訳がおかしい箇所などあればご指摘頂けるとありがたいです。 元記事の著者: Khalil Stemmler(@stemmlerjs) 設計、アーキテクチャ、フロントエンド、ブロックチェーンに興味ある方是非Twitter(@show_clements)フォローしていただけると嬉しいです！ 設計に関する記事 ソフトウェアデザインとアーキテクチャは、DevOpsやUXデザインのように、コンピューティングの領域の中でも独自の研究分野となっています。ここでは、クリーンコードからマイクロカーネルまで、ソフトウェアデザインとアーキテクチャの幅広さを説明するマップを紹介しま
NVIDIAの次世代GPU「Blackwell」は、NVIDIA史上最大の性能向上になる可能性 | TEXAL
NVIDIAのGPUは、まだRTX 4000シリーズが発売されたばかりだが、既に次世代GPUの気になる噂が出始めている。それによると、同社の次期「Blackwell」アーキテクチャでは、同社初のMult-Chip Module（MCM）が採用され、NVIDIAのGPUの歴史の中で、最大の性能向上を実現する可能性が非常に高いとのことだ。 Blackwellアーキテクチャは、現行のHopperアーキテクチャの後継として開発が進められているものと言われている。Hopperアーキテクチャのコンシューマ向けアーキテクチャが「Ada Lovelace」であった事から、Blackwellにもコンシューマセグメント向けの対応製品が別の名で用意されている可能性がある。あるいは、Blackwellがコンシューマ向けの名前で、データセンター向けが別のコードネームである可能性もある。いずれにせよ、Blackwel
【15分で確認】AWSでクラウド設計する時に覚えておきたい設計原則・アーキテクチャ３選 - Qiita
何となくAWSでクラウド設計をしていませんか AWSを利用する際、多くの方が「設計」というプロセスを簡単に飛ばしてしまう傾向にあります。しかし、クラウド環境の効果的な活用には、適切なアーキテクチャ設計が不可欠です。世の中には、システム設計をする上で指針となる設計原則がいくつかあります。本記事では、以下の３つをピックアップをしてご紹介します。 本記事で取り扱う内容 ■ マイクロサービスアーキテクチャ ■ AWS Well-Architected Framework ■ The Twelve-Factor App 1. マイクロサービスアーキテクチャ マイクロサービスは、独立した小さなサービス群でソフトウェアを構築するアーキテクチャです。これにより、迅速なイノベーションと新機能の迅速な展開が可能となります。一方、モノリシックアーキテクチャは、全てが一つのサービスとして結合され、変更や障害が全体
なぜ、組織のつくりとソフトウェアアーキテクチャは似てしまうのか - Qiita
このエントリーは、Engineering Manager Advent Calendarの25日目、最終日の記事です。 はじめに 拙著「エンジニアリング組織論への招待」では、ソフトウェア自体の構造とソフトウェアを作り上げる組織の構造が似てしまうという「コンウェイの法則」についてたびたび引用しました。 この「コンウェイの法則」は、ある一定規模の組織で働いたことのあるエンジニアであれば、実感を持って捉えることができるのでしょう。 しかし、何故、どのような力が働いて、「組織構造」と「ソフトウェアの構造」が似通ってきてしまうのかと問われると説明の難しいものです。 拙著においては、ロナルド・コースの取引コスト理論をベースに、社内取引においても取引コストが存在し、その取引コストがソフトウェアの構造をも変えていくという説明を行いました。 本記事は、さらに踏み込んで、組織やビジネスに働く力学と、システムで
デジタル庁のデータ分析基盤「sukuna」｜デジタル庁
はじめまして。デジタル庁ファクト＆データユニット所属、データエンジニアの長谷川です。 本記事ではデジタル庁内でデータ活用を推進するための組織と分析基盤についてご紹介します。 これまでのデジタル庁noteと比べると、技術寄りの話題が多い記事となりますが、庁内のデータ活用に興味のある方はぜひご覧ください。 デジタル庁のデータ活用組織「ファクト＆データユニット」ファクト＆データユニットとはデジタル庁の特徴の一つに、デジタル分野において各種の専門性をもつ「民間専門人材」が多く所属していることが挙げられます。 民間の専門人材は、デザイン、プロダクトマネジメント、エンジニアリングなど、領域ごとに「ユニット」と呼ばれる組織を構成しており（参考：デジタル庁 - 組織情報）、必要に応じてさまざまなプロジェクトにアサインされて業務を遂行する、人材プールのような役割を果たしています。 ファクト＆データユニットも
テックリードがどんな活動したらよいのか考えて行動してみた話 - ZOZO TECH BLOG
2022年6月に、Androidテックリードになった いわたん です。最近、某モンスターを育てたり図鑑を埋めたりするゲームで社内大会をやったらフルボッコにされて涙目でした。悔しくて最近は不思議な力でクラフトしたり空飛んだりして王国を救うゲームやってます。 今回はAndroidテックリードとして1年間やってみた施策の紹介と、それぞれの成果や反省点を紹介したいと思います。これからテックリードになろうとしている方やテックリードをしている方の参考になったり、こんな施策もいいよというアドバイスをもらえたら幸いです。 ZOZOのテックリードの役割と責任 実施した施策 テックリード1on1 読書会 歴史的経緯があるアプリのアーキテクチャ整理へのアプローチ ネーミングセンスを鍛える会の取り組み 案件への関わり方 横断的なコードレビュー 横断的に使う機能の実装 まとめ 最後に ZOZOのテックリードの役割と
マイクロサービスをどう切り出すか ～マイクロサービスの凝集性・疎結合性を保つベストプラクティスと最適手法 - アイマガジン｜i Magazine｜IS magazine
マイクロサービス・アーキテクチャで 避けて通れない「切り出し」の話題 マイクロサービス・アーキテクチャに関わる話題は、以下の2つに大別される。 ・「モノリス」と呼ばれる大きなシステムから、どのような指針に基づき、マイクロサービス（注1）を切り出すか。 ・切り出されたマイクロサービスを組み合わせ、どのようにシステムとして機能させるか。 注1：本稿ではマイクロサービスを「十分に絞り込まれた責務が割り当てられた、凝集性・疎結合性に優れるWebサービス」と定義する。 このうち前者は、「なぜ、システムにマイクロサービス・アーキテクチャを適用するのか」という「Why」の話題として捉えられる。 それに対して後者は、「粒度が細かいマイクロサービスを組み合わせてシステムを構成することで生じる課題に、どのように対処すべきか」という「How」の話題と考えられる。 そうした意味では、システムからのマイクロサービス
マイクロサービスではどんな単位でサービスを分割すればいいか - そこに仁義はあるのか(仮)
最近、マイクロサービスアーキテクチャについて耳にすることが増えていますが、サーバレスのコンテンツと共に語られているケースもあり、「そのサービス単位では分割しすぎなのでは？」とたまに思います。 もちろん、何が正しいかはその現場のコンテキストによるとは思いますが、書籍「マイクロサービスアーキテクチャ」の第3章にサービスの分割についての考え方が記載されており、しっくりくるとても良い内容だったので、それをまとめてみました。 サービス単位を適度に適切に分割することでマイクロサービスの利点をより享受できるようになると思います。まずは、サービス分割のために重要になる概念を説明し、その後、サービス単位をどのように定めるのか記載していきます。 マイクロサービスアーキテクチャ 作者:Sam Newman発売日: 2016/02/26メディア: 単行本（ソフトカバー） 2つの重要な概念 マイクロサービスで優れた
エンジニアが「欲しいと選ぶ技術書」20冊、明らかになる
リベロエンジニアは5月6日、「エンジニアが"欲しい"と選んだ技術書ランキングTOP20」を発表した。調査は2020年2月～2023年2月、「エンジニアの自己学習を応援」キャンペーンに参加したエンジニアを対象にSNSで行われた。 調査による1～3位までのランキング結果は以下の通り。 エンジニアが"欲しい"と選んだ技術書ランキングTOP20 1位「リファクタリング(第2版):既存のコードを安全に改善する」、2位「ソフトウェアアーキテクチャの基礎―エンジニアリングに基づく体系的アプローチ」、3位「リーダブルコード ―より良いコードを書くためのシンプルで実践的なテクニック(Theory in practice)」だった。 「『どの技術書を買うべきか』悩まれるエンジニアは、ぜひ技術書選びの参考にしてみてください」と同社。 エンジニアが"欲しい"と選んだ技術書ランキングTOP20
【2024年版】ChatGPT APIを社内利用する時に採用すべきアーキテクチャを考えた - Qiita
結論 社内システム上の多数のアプリケーションがChatGPT APIを活用しているというシチュエーションを想定し、AI共通基盤が持つべき機能とアーキテクチャを検討しました。 ポイントは以下の３つです。 社内システム上のあらゆるアプリケーションにChatGPT APIが組み込まれる未来が想定される アプリケーションごとに必要な実装は重複するため共通化が可能 Proxyサーバを社内に配置しそこで共通的な処理を行い、各アプリケーションはAPI呼び出しのみを行う 背景 -ChatGPT APIの2024年を予想する- 2023年5月現在のChatGPT APIの活用状況 2023年3月1日にChatGPT APIであるGPT3.5-turboがリリースされ、あらゆるプレイヤーによってこぞって活用方法が模索されています。 現在の活用状況について知見を深めたかったため、TwitterにてChatGPT
Transformerアーキテクチャと自然言語処理の発展
1. はじめに はじめまして、この投稿がZennの初投稿となります。 初学者ゆえ至らない点や、不適切な表現があるとは思いますが都度ご指摘していただけると幸いです。 この記事についてですが、先月から自然言語処理を今のトレンドであるTransformerを主軸に勉強し始めており、インプットだけでなくアウトプットのためZennを書こうと思ったのがきっかけです。 (同様にQiitaにてベイズに関するアウトプットも行なっています。) また、参考資料については下にも書いてはいますが「Transformerによる自然言語処理」をメインにしています。 といってもこの本は誤翻訳がひどいので自分で調べながらやる必要があり、二度手間になるかもです。ただ内容としては初学者の自分でも理解でき、GitHubに公開されているJupiter Notebookと同時に進めれば誤翻訳もまあ修正できると感じたので個人的には良い
メタのGalactica炎上事件、原因となった「AIの幻覚（ハルシネーション）」とは
米メタが2022年11月に発表した「AI科学者」が、2日で公開中断に追い込まれた。巨大言語モデルに4800万件の科学論文を学習させた「Galactica」だ。科学的な質問に答えたり、文献調査ができたりするとの触れ込みだった。しかしGalacticaのリポートには、デタラメな内容や人種的偏見が含まれていた。問題がある内容が出力されるのを防ぐ作り込みが不足していたもようだ。 科学的な質問に答えたり文献調査ができたりする科学者のようなAI（人工知能）である「Galactica」を米メタが公開したのは2022年11月15日（米国時間）のこと。メタは1200億パラメーターの巨大言語モデルに4800万件の科学論文や教科書などを学習させることで、科学に関連する様々な問題が解けるようになったと主張していた。 しかし、同社はわずか2日後の11月17日（同）にGalacticaのデモの公開を中止した。Webサ
時系列トランスフォーマーレビュー
3つの要点 ✔️ 近年発表され始めた時系列データ用Transformerの包括的レビュー ✔️ ネットワーク構造と、アプリケーション（予測、異状検知、分類）の両面から分類され、Transformerの強みや限界がレビューされています。 ✔️ 将来の展開として、事前学習、GNN、NASとの組み合わせについて解説されています。 Transformers in Time Series: A Survey written by Qingsong Wen, Tian Zhou, Chaoli Zhang, Weiqi Chen, Ziqing Ma, Junchi Yan, Liang Sun (Submitted on 15 Feb 2022 (v1), last revised 7 Mar 2022 (this version, v3)) Comments: Published on arxiv
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
プログラミングに頼らず自然言語でAIを使いこなす──特集「THE WORLD IN 2023」
ドラえもんを作りたい!!～小学生のぼくが夢中になったこと 全脳アーキテクチャ若手の会!(4) - 日本経済新聞
脳型の認知アーキテクチャによる人工知能は、どのぐらいヒトに近づいたのか
