「Workshop OT 2023 最適輸送とその周辺 – 機械学習から熱力学的最適化まで」で用いたスライドです
タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。
最適輸送問題(Wasserstein 距離)を解く方法についてのさまざまなアプローチ・アルゴリズムを紹介します。 線形計画を使った定式化の基礎からはじめて、以下の五つのアルゴリズムを紹介します。 1. ネットワークシンプレックス法 2. ハンガリアン法 3. Sinkhorn アルゴリズム 4. ニューラルネットワークによる推定 5. スライス法 このスライドは第三回 0x-seminar https://sites.google.com/view/uda-0x-seminar/home/0x03 で使用したものです。自己完結するよう心がけたのでセミナーに参加していない人にも役立つスライドになっています。 『最適輸送の理論とアルゴリズム』好評発売中! https://www.amazon.co.jp/dp/4065305144 Speakerdeck にもアップロードしました: https
数理最適化 Advent Calendar 2022の9日目です。 新緑の頃、新型コロナ流行の合間をぬって、ささやかな結婚披露宴を表参道の式場にて催しました。諸々の準備の中でも席次はこだわるとキリがなく、数理最適化を使って決めました。人間関係をできるだけ保つようなゲスト集合から座席集合への写像を考えます。 ゲスト間人間関係を考慮して良い感じの配席を考えたい tl;dr 披露宴をしました 知り合い関係が複雑かつ長机でゲストの席配置が難しい 組合せ爆発は本物。高々20人の配置に1週間以上悩んだ結果、数理最適化した方が早いと結論 「知り合い同士を近くに配席する」問題は非凸な二次計画になり汎用ソルバでうまく解けない ゲストを席に"輸送"すると考えて最適輸送の一種で解くとうまくいった 本質的に非凸な問題を非凸のまま、しかし性質の良い距離構造を活用するアプローチが奏功したのではないか 再現用Colab
『最適輸送の理論とアルゴリズム』が重版して第 5 刷となりました。皆さまありがとうございます! 漫画家さんやイラストレーターさんが重版したときに重版感謝の描き下ろしイラストを投稿しているのを見ていいなと思ったので、僕も専門書が重版したときに重版感謝の書き下ろし専門記事を投稿します。 本稿では、最近話題の拡散モデルと最適輸送の関係を直観的に解説します。 拡散モデルは画像の生成によく用いられる生成モデルです。モデルはノイズ入りの画像を受け取り、ノイズを除去することを目指します。生成時には、完全なノイズ画像からはじめて、モデルによりノイズを除去することと、微小なノイズを加えることを繰り返して洗練させていき、自然画像を得ます。 拡散モデルの動作の図示 このように、ノイズ から自然画像 までゆらぎながら変化する過程をブラウン橋 (Brownian bridge) と言います。ブラウン運動 (Brow
はじめに Forkwell Libraryという書籍の著者が登壇するイベントにて、最適輸送の理論とアルゴリズム (機械学習プロフェッショナルシリーズ) の佐藤さん(@joisino_)と話す時間を頂いた。 forkwell.connpass.com スライド 動画 その時に事前に学んだメモの公開と、当日のイベントの肌感を残す。 はじめに 最適輸送の理論とアルゴリズム 事前学習 何に使われているか。 何が嬉しくて使われているのか 事前、並行して読むと良いもの 触ってみる イベント当日のQ&A おわりに 最適輸送の理論とアルゴリズム MLPシリーズの書籍 最適輸送の理論とアルゴリズム (機械学習プロフェッショナルシリーズ) 作者:佐藤 竜馬講談社Amazon 最適輸送の理論的な背景から応用まで書かれている。 私個人としては、幾何や統計、測度についてお気持ちレイヤーまで分かる、機械学習、コンピュ
Workshop OT 2023 http://webpark2072.sakura.ne.jp/otworkshop/ での講演スライドです。 最適輸送が重すぎて動かない問題に対する有効な解決策であるスライス法についてと "Fast Unbalanced Optimal Transport on a Tree" (NeurIPS 2020) を紹介します。 論文: https://arxiv.org/abs/2006.02703 コード: https://github.com/joisino/treegkr 『最適輸送の理論とアルゴリズム』好評発売中! https://www.amazon.co.jp/dp/4065305144
NTTは2024年4月5日、実世界のデータに潜む巡回対称性を利用することで、「最適輸送問題」をベースとした大規模データ間の類似度や対応関係を高速かつ高精度に計算する技術を開発したと発表した。 NTTは2024年4月5日、最適輸送問題に対して、巡回対称性を利用することで、従来方法と完全に同等な解を高速に計算できるアルゴリズムを提案し、その効果を理論的/実験的に「世界で初めて」(NTT)示したと発表した。今後、生成AI(人工知能)のリアルタイム処理の高速化などへの応用が期待できるという。 最適輸送問題とは、データ間の輸送コストが最小となる最適経路を求める問題だ。データの類似度や対応関係を高精度に求めるために利用されていて、近年では、画像や音声、生成AIなど広い範囲で用いられている。一方で、解を導き出すために多くの計算時間がかかるという課題がある。また、巡回対称性とは、歯車や雪の結晶など、回転や
最適輸送は面白い! 「最適輸送問題」はもともと数学で注目を集めていた問題で、なんと約250年前の1781年、数学者のモンジュによって提案されました。そんな最適輸送が、今では機械学習への応用として注目を集めています。 「最適輸送」という言葉を聞いたことがないという方も多いかもしれませんが、勉強するにつれて、アイディア自体はシンプルで、それでいて様々な統計学の知識と関連のある面白いトピックだということがわかります。 ぜひ一緒にこの最適輸送を勉強してみませんか? ※アーカイブ講座の動画販売についてお申し込み受付中です。 「最適輸送問題」とは、例えば工場から店舗に対して最小コストで配送する計画を立てる問題です。この講義では、最適輸送問題そのものについても解説しますが、工場と店舗といった具体的な対象ではなく、抽象化して考えることで機械学習のさまざまな課題を最適輸送問題として捉えることができ、機械学習
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く