1/2ページ>AIアライメントとは?AIの暴走を防ぐための重要なステップ用語解説2024.02.27AIアライメントとは、AIシステムの目的と人間の価値観を調和させることです。AIの開発競争が加速する中、AIの性能が向上するにつれ、AIが人間の意図と異なる行動をする問題が生じる可能性があります。このAIの暴走問題を解決するため、AIアラインメントが注目されおり、人間が望む方向にAIが進むように設計することを指します。最近のAIの発展とともに、アライメントの重要性が高まっています。エンベディング】計算機で言葉を扱うってどうゆうこと?用語解説2024.02.27大規模言語モデル(LLM)は、コンピューターの癖に、人の言葉を理解し、使いこなしています。極端な話0と1の電気信号がなぜ言葉を扱えるのかと疑問に思ったので調べました。人間が日常的に使用する言語をコンピュータに理解させる研究は、自然言語処理(NLP)という分野であり、その中で言葉や、文章を計算可能な形に変換することをエンベディングといいます。[...]続きを読む【ガバメントクラウド】ってなに?世界と日本はどんな感じ?用語解説2024.02.27クリスマスの朝にこんな記事が目に入りました。国のシステムをクラウド化するにあたって、自治体とのズレを喚起した記事です。11月にはさくらインターネットが政府のクラウドにというニュースもありました。そもそも「ガバメントクラウド」って何かと思い調べました。[...]続きを読む【ELIZA効果とは?】いろいろな名称とその由来でAI大喜利してみた用語解説2024.02.27Geminiの発表動画を見た際に、AIと人とのコミュニケーションの可能性を見た人は少なくないはずです。マルチモーダルなAIの応答に、自然とこちらもテンションが上がったり、それまでこちらからの指示が整然としたプロンプトであったのに対し、急に会話口調になったりしたことはないでしょうか。いった現象は「ELIZA効果」というらしいです。隠れマルコフモデル(HMM)ってなに?用語解説2024.02.27AIの研究の歴史は古く、今は第3次AIブームと言われています。(70年代中盤と00年代序盤に「冬の時代」があったとのこと)。概念の起源は1950年の著書『計算する機械と人間;アラン・チューリング(英国数学者)』からとのこと。70年近い歴史を俯瞰した際に、よく見られる単語に「隠れマルコフモデル」があります。見かける単語の為どんなものか調べました。Unit)ってなに?用語解説2024.02.27NVIDIAがAI開発の半導体を牛耳り大儲けしている裏で、CPUもAI用にプロセッサが開発され、各ブランドに搭載され始めているのを知りました。Unit)について調べました。Generation)というものが出てきたので調べました。[...]続きを読む【GPT-Turbo】カットオフはステータス?ブラウジングではだめ?用語解説2024.02.27GPT-4Turboの発表の際に、カットオフ日が2023年4月までとのこと。GPT-4のうちでも2021年9月までから2022年1までと確実に学習期間を盛り足しているなかで、とりあえずカットオフについてAIに聞いてみた。カットオフとはモデルのトレーニングデータセットにおいて、モデルが学習するデータの範囲を決める日付のことです。Callingとは?GPTアップデートでの関数呼び出し機能アップ用語解説2024.02.27初めてAIチャットボットに触れた際の優秀さの一つに、「自分で調べてくれる」ことだと思った人は多いのではないでしょうか。その機能について簡単に調べました。callingとは、OpenAIの言語モデルが外部のツールやAPIと連携するために、開発者が定義した関数を自然言語で呼び出すことです。Model)が誤った情報を出力してしまうことがあるという問題があります。これをハルシネーション(幻覚)と呼びます。ハルシネーションは、LLMの実用性や信頼性に影響を与える重大な課題です。そこで、最近、ハルシネーションに関する網羅的な調査報告が発表されました。WordPress.。