Roko's basilisk - Wikipedia
Roko's basilisk is a thought experiment which states that an otherwise artificial superintelligence (AI) in the future would be incentivized to create a virtual reality simulation to torture anyone who knew of its potential existence but did not directly contribute to its advancement or development, in order to incentivize said advancement.[1][2] It originated in a 2010 post at discussion board Le
生成 AI: CHATGPT、Dall-E、Midjourney などの背後にあるアイデア
アートの世界、コミュニケーション、そして現実の認識方法は急速に変化しています。 人類のイノベーションの歴史を振り返ると、車輪の発明や電気の発見は記念碑的な飛躍であると考えるかもしれません。 今日、人間の創造性と機械の計算の間の溝を埋める新たな革命が起きています。 それがジェネレーティブAIです。 生成モデルにより、人間と機械の間の境界線があいまいになりました。 変換モジュールを採用した GPT-4 のようなモデルの出現により、私たちは自然でコンテキストに富んだ言語生成に一歩近づきました。 これらの進歩は、文書作成、チャットボット対話システム、さらには合成音楽の作曲におけるアプリケーションを促進してきました。 最近のビッグテックの決定は、その重要性を浮き彫りにしています。 マイクロソフトはすでに Cortanaアプリを終了 今月は、Bing Chat などの新しい生成 AI イノベーションを
マイクロソフト、初心者向け生成AI学習教材「生成AIアプリケーションの開発を始めるために必要な全知識を学べる12講座」を無償公開
マイクロソフト、初心者向け生成AI学習教材「生成AIアプリケーションの開発を始めるために必要な全知識を学べる12講座」を無償公開 コースの内容には、大規模言語モデル（LLM）がどのように動くかを理解する。「生成 AI と大規模言語モデルの紹介」、ユースケースに適したAIモデルを選択できるようにする「様々なLLMの調査と比較」、プロンプトの構造と使用法の理解のための「プロンプト・エンジニアリングの基礎」、埋め込み技術を利用したデータ検索アプリケーションを構築する「Vector Databasesを利用した検索アプリケーションの構築」、外部APIからデータを取得するためFunction Callingを設定する「Function Callingとの統合」など、入門的な内容から高度なアプリケーションの開発まで多岐にわたるレッスンが用意されています。 レッスン内容は日本語による説明と図で構成 各レ
責任あるAI（Responsible AI）とは？
用語「責任あるAI」について説明。倫理的な問題やプライバシー、セキュリティーなどの潜在的なリスクに企業や組織が責任を持って取り組み、作成したAIが安全で信頼できバイアスがないことを保証すること、またはそのための指針として掲げる基本原則やプラクティスのことを指す。 連載目次 用語解説 AI（人工知能）は、倫理的な問題やプライバシー、セキュリティーなどにおいて、意図せずに社会や個人に深刻な影響を与える潜在的なリスクを抱えている。責任あるAI（Responsible Artificial Intelligence）とは、そういったAIの潜在的なリスクに企業や組織が責任を持って取り組み、作成したAIが安全で信頼できバイアス（偏見／偏り）がないことを保証すること、またはそのための指針として掲げる内部ポリシー（方針）や基本原則、プラクティスのことを指す（図1）。 公平性（Fairness）： AI／機
Prompt Engineering Guide – Nextra
Prompt Engineering Guide プロンプトエンジニアリングは、言語モデル（LMs）を効率的に使用するためのプロンプトを開発および最適化する比較的新しい学問分野です。プロンプトエンジニアリングのスキルを身につけることで、大規模言語モデル（LLMs）の能力と限界をより理解することができます。 研究者は、プロンプトエンジニアリングを使用して、質問応答や算術推論などの一般的なおよび複雑なタスクのLLMsの能力を向上させます。開発者は、LLMsやその他のツールとのインタフェースとなる強固で効果的なプロンプテクニックを設計するためにプロンプトエンジニアリングを使用します。 プロンプトエンジニアリングは、プロンプトの設計と開発に限らず、LLMsとのインタラクションおよび開発に役立つ幅広いスキルと技術を含みます。これは、LLMsとインタフェースすること、ビルドすること、能力を理解すること
◆ ＡＩが考えるには？ .1: Open ブログ
パーセプトロンという概念が現れたのは、1958年だった。 心理学者・計算機科学者のフランク・ローゼンブラットが1957年に考案し、1958年に論文を発表した。 パーセプトロンは1943年に発表された形式ニューロンに基づく。 ローゼンブラットはこの形式ニューロンの考え方を基にしてパーセプトロンを開発した。S層（感覚層、入力層）、A層（連合層、中間層）、R層（反応層、出力層）の3つの部分からなる。S層とA層の間はランダムに接続されている。S層には外部から信号が与えられる。A層はS層からの情報を元に反応する。R層はA層の答えに重みづけをして、多数決を行い、答えを出す。 （ → パーセプトロン - Wikipedia ） このあと、「小脳はパーセプトロンである」という仮説に基づいて、伊藤正男が生理学的に大きな成果を出した。 1970年頃、デビッド・マーとジェームズ・アルブスによって小脳はパーセプト
GPTの仕組みと限界についての考察（１） - conceptualization
GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク
Prompt Engineering Guide – Nextra
Prompt Engineering Guide Prompt engineering is a relatively new discipline for developing and optimizing prompts to efficiently use language models (LMs) for a wide variety of applications and research topics. Prompt engineering skills help to better understand the capabilities and limitations of large language models (LLMs). Researchers use prompt engineering to improve the capacity of LLMs on a
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ロコのバジリスクという思考実験 - tkgshn