產生式人工智慧的文字資料集示例是什麼？
產生式人工智慧或產生式AI是一種能夠根據提示產生文字、影象或其他媒體的AI系統。產生式AI系統使用產生模型，如大型語言模型，根據用於建立它們的訓練資料集統計取樣新資料。

著名的產生式AI系統包括ChatGPT，這是由OpenAI使用GPT-3和GPT-4大型語言模型構建的聊天機器人，以及Bard，這是由Google使用LaMDA模型構建的聊天機器人。其他產生式AI模型包括人工智慧藝術系統，如Stable Diffusion、Midjourney和DALL-E。

產生式AI在軟體開發、營銷和時尚等廣泛的行業中具有潛在的應用。在2020年初，對產生式AI的投資激增，大公司如微軟、谷歌和百度以及許多較小的公司都在開發產生式AI模型。

模態
未來歌劇場景中人物的詳細油畫
Midjourney產生的影象「Théâtre d'Opéra Spatial」
透過將無監督或自監督機器學習應用於資料集，構建了產生式AI系統。產生式AI系統的能力取決於所使用的資料集的模態或型別。

文字：訓練在單詞或單詞標記上的產生式AI系統包括GPT-3、LaMDA、LLaMA、BLOOM、GPT-4等（請參見大型語言模型列表）。它們能夠進行自然語言處理、機器翻譯和自然語言產生，並可用作其他任務的基礎模型。資料集包括BookCorpus、Wikipedia等（請參見文字語料庫列表）。
程式碼：除了自然語言文字外，大型語言模型還可以在程式語言文字上進行訓練，從而使它們能夠為新的計算機程式產生原始碼。例如OpenAI Codex。
影象：訓練在帶有文字標題的影象集上的產生式AI系統包括Imagen、DALL-E、Midjourney、Stable Diffusion等（請參見人工智慧藝術、產生藝術、合成媒體）。它們通常用於文字到影象產生和神經風格轉移。資料集包括LAION-5B等（請參見計算機視覺資料集）。
分子：產生式AI系統可以在氨基酸序列或SMILES等分子表示上進行訓練，用於蛋白質結構預測和藥物發現，例如AlphaFold。資料集包括各種生物資料集。
音樂：產生式AI系統，如MusicLM，可以在記錄音樂的音訊波形和文字註釋上進行訓練，以便根據文字描述產生新的音樂樣本，例如「由失真吉他伴奏的平靜小提琴旋律」。
視訊：訓練有註釋視訊的產生式AI可以產生時間上連貫的視訊片段。例如RunwayML的Gen1和Meta平臺的Make-A-Video。
多模態：可以從多個產生模型或一個模型訓練多種型別的資料構建產生式AI系統。例如，OpenAI的GPT-4的一個版本接受文字和影象輸入。
生成人工智慧的文字資料集示例資料集包括BookCorpus、Wikipedia